Hybrid RAG là gì — và vì sao bài này đáng đọc
Bài này dành cho chủ doanh nghiệp và người quyết. Hybrid RAG được giải bằng ẩn dụ dễ hiểu, kèm khác RAG một cách tìm, cơ chế và cách dùng đúng.
Vì sao đáng quan tâm: đây là cách làm cho RAG bớt sót, để trợ lý AI tìm đúng đoạn ổn định hơn thay vì lúc trúng lúc trượt.
Ẩn dụ dễ hiểu: vừa tra mục lục vừa hỏi thủ thư hiểu ý
Hình dung một người tìm sách trong thư viện. Tra mục lục theo đúng từ thì chắc chắn ra cuốn có tên khớp, nhưng trượt cuốn nói cùng chủ đề mà đặt tên khác. Hỏi thủ thư hiểu ý thì ra cuốn đúng chủ đề dù tên khác, nhưng có khi trượt cuốn có mã số cụ thể đang cần.
Tìm theo từ khoá là tra mục lục. Tìm theo nghĩa là hỏi thủ thư hiểu ý. Mỗi cách bắt được phần cách kia bỏ sót.
Hybrid RAG làm cả hai cùng lúc để chắc tìm ra: vừa tra mục lục theo đúng chữ, vừa hỏi thủ thư hiểu ý, rồi gộp hai danh sách lại lấy đoạn đúng nhất cho AI đọc.
Hybrid RAG dưới góc kỹ thuật
Hybrid RAG là một RAG dùng hybrid search ở khâu truy hồi. Thay vì một cách tìm, hệ chạy nhiều cách tìm song song trên cùng câu hỏi rồi hợp nhất kết quả.
- Tìm theo nghĩa. Dùng tìm ngữ nghĩa qua embedding để bắt ý dù chữ khác.
- Tìm theo từ khoá. Dùng cách chấm như BM25 để bắt đúng từ, mã, tên riêng.
- Trộn và chấm lại. Hợp nhất hai danh sách, thường thêm reranking để xếp đoạn sát ý lên đầu.
Trước cả khâu tìm, tài liệu được chia đoạn cho vừa cỡ. Khâu truy hồi chắc thì đoạn đưa cho mô hình mới đúng, nên câu trả lời mới bám tài liệu.
Vì sao chủ doanh nghiệp nên biết Hybrid RAG
- Ít sót tài liệu. Hai cách tìm bù nhau nên bớt bỏ lọt đoạn đúng.
- Bắt đúng mã và tên riêng. Tìm theo từ khoá giữ được mã sản phẩm, số hợp đồng, tên riêng.
- Bắt đúng ý dù chữ khác. Tìm theo nghĩa hiểu câu hỏi diễn đạt theo cách khác.
- Câu trả lời bám nguồn. Truy hồi đúng đoạn nên mô hình bớt nói chung chung hoặc bịa.
- Ổn định hơn. Bớt cảnh lúc tìm ra lúc không tuỳ cách người dùng đặt câu.
Hybrid RAG là cách nâng độ chắc của khâu tìm, vốn là nơi quyết định trợ lý AI trả lời đúng hay sai. Tìm sai đoạn thì mô hình giỏi đến mấy cũng trả lời lệch.
Cơ chế: từ câu hỏi tới đoạn đúng cho mô hình
Một luồng Hybrid RAG đi qua bốn nhịp:
- Câu hỏi vào. Cùng một câu hỏi được đưa cho cả hai cách tìm.
- Tìm song song. Tìm theo nghĩa và tìm theo từ khoá chạy cùng lúc, mỗi cách trả về một danh sách đoạn.
- Trộn và chấm lại. Hợp nhất hai danh sách, xếp đoạn sát ý nhất lên đầu.
- Đưa cho mô hình. Vài đoạn đầu được đưa vào để mô hình trả lời bám tài liệu.
Bước trộn và chấm lại rất quan trọng. Gộp thô hai danh sách dễ đẩy đoạn kém lên trên, nên cần cách trộn hợp lý, thường có thêm reranking để giữ đoạn đúng ở đầu.
Ví dụ chạy thật: tra một câu hỏi có cả mã lẫn ý
Giả sử khách hỏi về chính sách bảo hành của một mã sản phẩm cụ thể. Nếu chỉ tìm theo nghĩa, hệ bắt được ý bảo hành nhưng có thể trượt đúng mã. Nếu chỉ tìm theo từ khoá, hệ bắt đúng mã nhưng trượt đoạn nói cùng ý mà không nhắc mã.
Với Hybrid RAG, hai cách tìm chạy cùng lúc. Tìm theo từ khoá giữ đoạn chứa đúng mã, tìm theo nghĩa giữ đoạn nói về chính sách bảo hành. Bước trộn và chấm lại đưa đoạn vừa đúng mã vừa đúng ý lên đầu.
Kết quả là mô hình nhận đoạn đúng cho cả mã lẫn ý, nên trả lời sát chính sách thật. Đó là cách Hybrid RAG làm khâu tìm chắc hơn một cách tìm đơn lẻ.
So sánh: RAG một cách tìm vs Hybrid RAG
Hai cách làm khâu tìm cho RAG khác nhau ở độ phủ:
| Tiêu chí | RAG một cách tìm | Hybrid RAG |
|---|---|---|
| Số cách tìm | Một cách duy nhất | Nhiều cách cùng lúc |
| Bắt mã và tên riêng | Yếu nếu chỉ tìm nghĩa | Giữ được nhờ tìm từ khoá |
| Bắt ý diễn đạt khác | Yếu nếu chỉ tìm từ khoá | Giữ được nhờ tìm nghĩa |
| Độ chắc khâu truy hồi | Dễ sót khi câu lệch kiểu | Bù nhau nên ít sót hơn |
Một cách tìm vẫn đủ khi dữ liệu thuần và câu hỏi đồng đều. Hybrid RAG cần khi dữ liệu lẫn mã, tên riêng và cách hỏi đa dạng, nhất là với tiếng Việt nhiều cách diễn đạt.
Trục đánh đổi: độ chắc khâu tìm và chi phí vận hành
Dùng Hybrid RAG cần cân vài điểm:
- Độ chắc khâu tìm. Nhiều cách tìm bù nhau nên ít sót, đoạn đưa cho mô hình đúng hơn.
- Chi phí vận hành. Chạy song song và trộn, chấm lại tốn thêm bước so với một cách tìm.
- Công chỉnh trộn. Cân tỷ trọng hai cách tìm và cấu hình chấm lại cần thử nghiệm theo dữ liệu.
Cách làm đúng là bật Hybrid RAG ở chỗ độ chắc khâu tìm thật sự quan trọng, còn chỗ dữ liệu đơn giản thì một cách tìm gọn nhẹ là đủ, không bật tất cả cho nặng.
Đi sâu một nhịp: các tầng trong Hybrid RAG
Hybrid RAG gồm vài tầng, mỗi tầng lo một việc trong khâu truy hồi:
| Tầng | Lo việc gì | Bắt được phần nào |
|---|---|---|
| Tìm theo nghĩa | Tìm đoạn gần ý qua embedding | Ý dù chữ khác, câu diễn đạt khác |
| Tìm theo từ khoá | Chấm theo từ trùng như BM25 | Mã, số, tên riêng, thuật ngữ đúng chữ |
| Trộn | Hợp nhất hai danh sách thành một | Đoạn được cả hai cách đề cử |
| Chấm lại | Xếp lại theo độ sát ý câu hỏi | Đoạn đúng nhất được đẩy lên đầu |
Thực tế thường bắt đầu từ hai tầng tìm theo nghĩa và tìm theo từ khoá cho chắc, đo độ sót rồi mới thêm tầng chấm lại khi cần độ chính xác cao hơn.
Những hiểu nhầm thường gặp về Hybrid RAG
- Tưởng Hybrid RAG là mô hình mới. Nó vẫn là RAG, chỉ đổi khâu tìm sang nhiều cách cùng lúc.
- Tưởng gộp hai danh sách là xong. Trộn thô dễ đẩy đoạn kém lên đầu, cần cách trộn và chấm lại hợp lý.
- Tưởng luôn cần bật cho mọi việc. Dữ liệu đơn giản thì một cách tìm là đủ, bật Hybrid cho nặng.
- Quên chất lượng chia đoạn. Đoạn chia kém thì cả hai cách tìm đều khó trúng, tìm hay mấy cũng sót.
- Tin tìm chắc là trả lời đúng. Truy hồi đúng đoạn là điều kiện cần, mô hình vẫn cần đọc và diễn đạt đúng.
Phần lớn lỗi với Hybrid RAG đến từ trộn ẩu và bỏ qua chất lượng chia đoạn. Nhiều cách tìm lo độ phủ, cách trộn và chia đoạn lo độ đúng, cần cả ba.
Góc thực chiến MONA khi dùng Hybrid RAG
MONA dùng Hybrid RAG như cách làm khâu tìm của trợ lý AI chắc hơn trên dữ liệu doanh nghiệp:
- Chia đoạn tài liệu. Cắt tài liệu vừa cỡ để cả hai cách tìm đều trúng hơn.
- Bật hai cách tìm. Tìm theo nghĩa cho ý, tìm theo từ khoá cho mã và tên riêng tiếng Việt.
- Trộn và chấm lại. Hợp nhất và xếp đoạn đúng lên đầu trước khi đưa cho mô hình.
- Đo độ sót và tinh chỉnh. Theo dõi tỷ lệ tìm trúng rồi cân tỷ trọng theo dữ liệu thật.
Tài liệu đưa vào hệ tìm có thể chứa thông tin cá nhân và dữ liệu nội bộ. MONA tuân thủ nguyên tắc dữ liệu theo Nghị định 13/2023 trong cả luồng truy hồi và lưu trữ.
Khi nào doanh nghiệp cần Hybrid RAG
Hybrid RAG cần khi một cách tìm hay sót và độ chắc khâu truy hồi quan trọng:
- Dữ liệu lẫn mã và tên riêng. Mã sản phẩm, số hợp đồng, tên riêng cần tìm đúng chữ.
- Cách hỏi đa dạng. Người dùng đặt câu nhiều kiểu, cần bắt cả ý lẫn từ.
- Trợ lý hay tìm trượt. Trả lời lúc trúng lúc trượt tuỳ cách gõ câu hỏi.
- Tài liệu tiếng Việt lớn. Nhiều cách diễn đạt và thuật ngữ cần độ phủ cao ở khâu tìm.
Khi dữ liệu thuần và câu hỏi đồng đều, một cách tìm là đủ. Khi dữ liệu lẫn mã và cách hỏi đa dạng, Hybrid RAG là cách làm khâu tìm chắc và ổn định hơn.
Khi nào nên để MONA đồng hành
Hybrid RAG dễ hiểu nhưng cân tỷ trọng hai cách tìm và chấm lại đúng trên dữ liệu thật cần kinh nghiệm. Doanh nghiệp nên cân nhắc MONA khi:
- Muốn trợ lý AI tìm đúng đoạn ổn định trên tài liệu nội bộ lớn.
- Có dữ liệu lẫn mã, tên riêng cần bắt chính xác lẫn ý cần hiểu sâu.
- Cần đo độ sót khâu tìm và tinh chỉnh tỷ trọng theo dữ liệu của mình.
- Muốn đưa Hybrid RAG vào hệ thống có kiểm soát và tuân thủ dữ liệu.
MONA thiết kế khâu truy hồi nhiều cách tìm và nối vào hệ thống doanh nghiệp có kiểm soát. Tham khảo Sale AI cho trợ lý tra cứu và tư vấn, LMS AI cho tra cứu tài liệu học liệu nội bộ.
Câu hỏi thường gặp
- Hybrid RAG là gì một cách ngắn gọn?
- Hybrid RAG là hệ RAG kết hợp nhiều cách tìm tài liệu cùng lúc, tìm theo nghĩa và tìm theo từ khoá, có thể thêm bước chấm lại, để bước truy hồi chắc hơn và lấy đúng đoạn cho mô hình trả lời.
- Hybrid RAG khác RAG thường ở đâu?
- RAG thường dùng một cách tìm ở khâu truy hồi. Hybrid RAG chạy nhiều cách tìm song song rồi trộn lại, nên bù nhau và ít sót hơn khi câu hỏi lệch kiểu hoặc dữ liệu lẫn mã, tên riêng.
- Tìm theo nghĩa và tìm theo từ khoá khác gì nhau?
- Tìm theo nghĩa bắt ý dù chữ khác, hợp với câu diễn đạt đa dạng. Tìm theo từ khoá bắt đúng chữ, mã, tên riêng. Hybrid RAG dùng cả hai để giữ được cả ý lẫn từ chính xác.
- Tìm chắc đoạn có nghĩa là trả lời đúng không?
- Không. Truy hồi đúng đoạn là điều kiện cần, nhưng mô hình vẫn phải đọc và diễn đạt đúng. Tìm sai đoạn thì chắc chắn lệch, còn tìm đúng đoạn mới mở đường cho câu trả lời bám tài liệu.
- Có nên luôn bật Hybrid RAG không?
- Không. Dữ liệu thuần và câu hỏi đồng đều thì một cách tìm gọn nhẹ là đủ. Bật Hybrid RAG ở chỗ độ chắc khâu tìm quan trọng và dữ liệu lẫn mã, tên riêng cùng cách hỏi đa dạng.
- Reranking có vai trò gì trong Hybrid RAG?
- Reranking là tầng chấm lại, xếp đoạn sát ý câu hỏi lên đầu sau khi trộn hai danh sách. Nó giúp tránh đẩy đoạn kém lên trên khi gộp kết quả từ hai cách tìm khác nhau.
- MONA hỗ trợ gì về Hybrid RAG?
- MONA chia đoạn tài liệu, bật tìm theo nghĩa và tìm theo từ khoá, trộn và chấm lại, đo độ sót rồi tinh chỉnh tỷ trọng theo dữ liệu thật, nối vào hệ thống theo Nghị định 13/2023.
Trải nghiệm thật
MONA Sale AI → Trợ lý tra cứu và tư vấn bám tài liệu doanh nghiệp MONA LMS AI → Tra cứu học liệu nội bộ với khâu tìm chắc hơnNguồn tham khảo
- [object Object]
- [object Object]
- [object Object]
- [object Object]
- [object Object]
Hệ sinh thái MONA
MONA Software xây phần mềm theo yêu cầu và sản phẩm AI cho doanh nghiệp. Trong cùng hệ sinh thái MONA Group: mona.media phụ trách thiết kế website và dịch vụ SEO tổng thể; mona.host lo hosting, VPS, domain.