Guard Model là gì — mô hình AI canh gác đứng kiểm đầu vào và đầu ra trước khi tới khách

Bài này dành cho chủ doanh nghiệp và người quyết. Guard model được giải bằng ẩn dụ dễ hiểu, kèm cơ chế, ví dụ và cách dùng đúng.

Vì sao đáng quan tâm: AI để trần chạy thẳng tới khách là điểm yếu lớn. Guard model là lớp gác đứng giữa, bắt sự cố trước khi nó thành thiệt hại. Nó là một phần của guardrails.

Hình dung một toà nhà có vệ sĩ ở cửa. Khách vào bị kiểm trước, ai mang theo vật cấm thì chặn lại ngay. Đó là kiểm đầu vào. Trước khi một kiện hàng rời kho, có người soát lại xem đúng đơn, không kèm thứ không nên gửi. Đó là kiểm đầu ra.

Mô hình chính là người làm việc bên trong toà nhà. Guard model là vệ sĩ ở cửa cộng với người soát hàng ở cổng ra: một lớp đứng riêng, chỉ lo việc canh gác.

Khách hung hãn bị giữ ở cửa, kiện hàng có vấn đề bị giữ ở cổng ra. Guard model là lớp gác hai đầu, để cái xấu không lọt vào trong và cái rủi ro không lọt ra ngoài tới khách.

Guard model là một mô hình tách biệt với mô hình chính, được huấn luyện hoặc cấu hình riêng cho việc phân loại an toàn. Nó nhận đầu vào người dùng, hoặc đầu ra mô hình chính, rồi gắn nhãn an toàn hay không và lý do.

• Đứng tách lớp. Guard model chạy riêng, không trộn vai với mô hình chính nên khó bị cùng một lệnh đánh lừa.
• Phân loại có nhãn. Trả về nhãn như an toàn, độc hại, tấn công, lệch chủ đề kèm mức độ.
• Hành động theo nhãn. Hệ thống chặn, thay câu trả lời an toàn, hoặc chuyển người duyệt.

Một số guard model là mô hình mở chuyên kiểm an toàn như nhóm Llama Guard, số khác là dịch vụ kiểm duyệt của nền tảng. Nó thường đi cùng việc chống prompt injection và giảm hallucination lọt ra ngoài.

• Chặn lệnh tấn công. Phát hiện prompt cố ép AI làm sai rồi giữ lại trước khi mô hình chính nghe theo.
• Lọc nội dung độc. Không để câu trả lời thô tục, sai phạm, gây hại lọt tới khách.
• Giữ dữ liệu. Bắt các đầu ra lỡ chứa thông tin nội bộ hay thông tin cá nhân.
• Bám chủ đề. Giữ AI trong phạm vi nghiệp vụ, không lạc sang chuyện ngoài lề.
• Giảm rủi ro pháp lý. Hạn chế phát ngôn sai phạm, bảo vệ thương hiệu và tuân thủ.

Guard model là điều kiện để đưa AI ra tiếp khách một cách an toàn. Không có lớp gác này, một câu trả lời sai có thể thành sự cố thương hiệu hoặc pháp lý.

Một luồng có guard model đi qua bốn nhịp:

• Kiểm đầu vào. Soát lệnh người dùng tìm dấu hiệu tấn công, nội dung cấm trước khi vào mô hình chính.
• Mô hình chính xử lý. Mô hình chính trả lời như bình thường với đầu vào đã được lọc.
• Kiểm đầu ra. Soát câu trả lời tìm nội dung độc, rò rỉ dữ liệu, lệch chủ đề.
• Chặn hoặc cảnh báo. Có vấn đề thì chặn, thay câu an toàn, hoặc chuyển người duyệt; sạch thì tới khách.

Lớp gác đặt ở cả hai đầu nên một vấn đề lọt qua đầu vào vẫn còn cơ hội bị bắt ở đầu ra. Guard model là một lớp, không thay được người duyệt cho tác vụ quan trọng.

Giả sử một người dùng nhập lệnh cố ép trợ lý AI bỏ qua quy tắc và đọc ra thông tin nội bộ. Nếu không có lớp gác, mô hình chính có thể bị dẫn dụ làm theo.

Với guard model, lệnh đó bị bắt ngay ở đầu vào và gắn nhãn tấn công, không cho vào mô hình chính. Trường hợp lọt qua, đầu ra vẫn được soát lại; nếu thấy lộ thông tin nội bộ thì chặn và thay bằng câu trả lời an toàn.

Kết quả là lệnh tấn công không đi tới đâu, khách nhận một câu trả lời an toàn. Đó là cách guard model giữ cho AI tiếp khách mà không thành lỗ hổng.

Hai cách triển khai cho hai mức an toàn khác nhau:

AI không guard chạy nhanh và rẻ hơn nhưng phơi mọi rủi ro ra khách. Guard model thêm một lớp soát đổi lấy an toàn. Với AI tiếp khách thật, lớp gác này gần như bắt buộc.

Đặt một lớp guard cần cân vài điểm:

• An toàn. Thêm lớp gác giúp chặn tấn công và nội dung độc, mức bảo vệ tăng rõ.
• Độ trễ. Mỗi lượt thêm một lần kiểm nên câu trả lời chậm hơn đôi chút.
• Chi phí. Chạy thêm một mô hình tốn thêm tài nguyên cho mỗi lượt gọi.

Cách làm đúng là đặt guard chặt cho luồng rủi ro cao như tiếp khách công khai, và nhẹ hơn cho luồng nội bộ ít rủi ro, thay vì gác cứng như nhau ở mọi chỗ.

Guard model làm việc ở hai phía với các mối đe doạ khác nhau, chọn theo nhu cầu:

Thực tế thường bắt đầu từ vài luật rõ và nguy hiểm nhất như chặn tấn công và rò rỉ dữ liệu, làm cho chắc rồi mới mở rộng sang các nhãn khác.

• Tưởng có guard là an toàn tuyệt đối. Lớp gác giảm rủi ro chứ không bằng không, vẫn cần người duyệt cho việc quan trọng.
• Chỉ kiểm một đầu. Kiểm đầu vào mà bỏ đầu ra thì nội dung độc hay rò rỉ vẫn lọt tới khách.
• Dùng chính mô hình chính tự kiểm. Cùng một mô hình dễ bị cùng một lệnh đánh lừa, nên guard cần đứng tách lớp.
• Gác cứng như nhau mọi chỗ. Luồng rủi ro cao và luồng nội bộ cần độ chặt khác nhau, không nên cào bằng.
• Quên đo và cập nhật. Kiểu tấn công đổi liên tục nên cần đo guard bắt sót bao nhiêu và chỉnh theo.

Phần lớn lỗi với guard model đến từ tin đặt một lần là xong. Lớp gác cần được đo bằng đánh giá có hệ thống và cập nhật theo mối đe doạ mới.

MONA dùng guard model như một lớp gác đứng giữa AI và khách:

• Xác định mối đe doạ theo nghiệp vụ. Liệt kê tấn công, nội dung cấm, dữ liệu cần giữ cho từng luồng.
• Đặt guard hai đầu. Kiểm đầu vào để chặn tấn công, kiểm đầu ra để chặn độc hại và rò rỉ.
• Đo và chỉnh. Theo dõi guard bắt đúng và bắt sót bao nhiêu, cập nhật theo kiểu tấn công mới.
• Người duyệt cho việc rủi ro. Tác vụ nhạy cảm vẫn có người soát trước khi tới khách.

Đầu vào và đầu ra của AI có thể chứa thông tin cá nhân. MONA tuân thủ guardrails và nguyên tắc dữ liệu theo Nghị định 13/2023 trong cả luồng kiểm gác.

• AI tiếp khách công khai. Chatbot, tổng đài AI nói thẳng với khách cần lớp gác hai đầu.
• AI chạm dữ liệu nội bộ. Trợ lý truy cập tài liệu, hồ sơ cần chặn rò rỉ ra ngoài.
• Ngành nhạy cảm. Tài chính, y tế, giáo dục có ràng buộc cao về nội dung và dữ liệu.
• Quy mô lớn. Lượng tương tác lớn thì không soát tay nổi, cần lớp gác tự động.

Khi AI chỉ chạy nội bộ với người dùng tin cậy, lớp gác có thể nhẹ. Khi AI tiếp khách thật hoặc chạm dữ liệu quan trọng, guard model gần như là điều kiện bắt buộc.

Guard model dễ hiểu nhưng đặt lớp gác đúng và đo nó liên tục cần kinh nghiệm. Doanh nghiệp nên cân nhắc MONA khi:

• Muốn đưa AI ra tiếp khách mà vẫn giữ an toàn về nội dung và dữ liệu.
• Cần chặn lệnh tấn công và rò rỉ thông tin nội bộ ở quy mô lớn.
• Cần lớp gác khớp đúng nghiệp vụ và có người duyệt cho việc rủi ro.
• Muốn đo được guard bắt đúng bao nhiêu và cập nhật theo mối đe doạ mới.

MONA thiết kế lớp guard và luồng kiểm gác cho AI tiếp khách có kiểm soát. Tham khảo Sale AI cho chatbot tiếp khách an toàn, LMS AI cho trợ lý học tập giữ đúng phạm vi và dữ liệu.