Few-shot là gì — cho AI vài ví dụ mẫu để làm theo đúng kiểu, không cần đào tạo lại

Bài này dành cho chủ doanh nghiệp và người quyết. Few-shot được giải bằng ẩn dụ dễ hiểu, kèm khác zero-shot và đào tạo lại, cơ chế và cách dùng đúng.

Vì sao đáng quan tâm: few-shot là cách rẻ và nhanh nhất để dạy AI làm theo kiểu riêng của doanh nghiệp, thường nên thử trước khi nghĩ tới fine-tuning tốn kém hơn.

Hình dung một nhân viên mới vào, được giao phân loại đơn khiếu nại. Thay vì giảng dài dòng về quy tắc, người quản lý đưa ba bốn đơn đã phân loại sẵn làm mẫu và nói làm tương tự. Nhìn vài mẫu là nhân viên nắm được kiểu phân loại và làm theo cho các đơn mới.

Few-shot làm đúng như vậy với AI. Vài ví dụ mẫu trong yêu cầu là mấy bài mẫu, AI nhìn vào rồi làm theo cho dữ liệu mới.

Khác với việc gửi nhân viên đi học một khoá dài, đưa bài mẫu nhanh và rẻ hơn nhiều. Few-shot là dạy bằng ví dụ ngay tại chỗ, không phải đào tạo lại từ đầu.

Mô hình ngôn ngữ học theo ngữ cảnh trong yêu cầu. Khi đặt vài cặp đầu vào và đầu ra mẫu ngay trước câu thật, mô hình nhận ra khuôn mẫu và áp cùng cách đó cho đầu vào mới. Đây thường gọi là học trong ngữ cảnh.

• Ví dụ là khuôn mẫu. Mỗi cặp đầu vào và đầu ra chỉ cho mô hình cách làm.
• Không đổi mô hình. Trọng số giữ nguyên, chỉ ngữ cảnh thay đổi mỗi lần gọi.
• Chất lượng ví dụ quan trọng. Ví dụ tốt, đa dạng thì mô hình bắt đúng kiểu hơn.

Few-shot khác với viết prompt chung ở chỗ nó dạy bằng ví dụ cụ thể, và khác fine-tuning ở chỗ không cần huấn luyện lại mô hình.

• Dạy nhanh và rẻ. Chỉ cần vài ví dụ tốt là AI làm theo, không tốn huấn luyện.
• Đúng kiểu riêng. Cho AI làm theo cách phân loại, giọng viết của doanh nghiệp.
• Dễ chỉnh. Đổi ví dụ là đổi hành vi, không phải dựng lại mô hình.
• Thử trước khi đào tạo. Dùng few-shot kiểm xem ý tưởng có chạy không trước khi đầu tư fine-tuning.
• Không đòi kỹ thuật sâu. Người am hiểu nghiệp vụ cũng tạo ví dụ tốt được.

Few-shot là cách đáng thử đầu tiên khi muốn AI làm theo kiểu riêng, vì nó rẻ, nhanh và linh hoạt nhất.

Một lần dùng few-shot đi qua bốn nhịp:

• Chọn ví dụ. Lấy vài cặp đầu vào và đầu ra tiêu biểu, đúng kiểu mong muốn.
• Ghép vào yêu cầu. Đặt các ví dụ ngay trước dữ liệu mới cần xử lý.
• Mô hình áp khuôn. Nhận ra cách làm từ ví dụ và áp cho dữ liệu mới.
• Nhận kết quả. Đầu ra theo đúng kiểu các ví dụ đã chỉ.

Vì ví dụ chiếm chỗ trong cửa sổ ngữ cảnh, số lượng ví dụ bị giới hạn. Chọn vài ví dụ tốt thường hơn nhồi nhiều ví dụ tầm thường.

Giả sử doanh nghiệp muốn phân loại phản hồi khách theo ba nhóm riêng của mình, không trùng cách phân loại phổ thông. Yêu cầu suông thì AI dễ phân theo kiểu chung.

Với few-shot, đặt vài phản hồi đã gắn nhãn đúng ba nhóm làm mẫu ngay trong yêu cầu. AI nhìn các mẫu, nắm cách phân của doanh nghiệp rồi áp cho phản hồi mới.

Kết quả là phân loại theo đúng khung riêng mà không phải đào tạo lại mô hình. Đó là cách few-shot uốn AI theo nghiệp vụ chỉ bằng vài ví dụ tốt.

Ba cách làm AI theo ý có mức công sức và chi phí tăng dần:

Thứ tự thường khuyên là thử zero-shot trước, không đủ thì thêm ví dụ thành few-shot, vẫn chưa đủ và khối lượng lớn thì mới tính fine-tuning.

Dùng few-shot cần cân vài điểm:

• Số lượng ví dụ. Thêm ví dụ giúp đúng kiểu hơn tới một mức, sau đó lợi ích giảm dần.
• Chỗ trong ngữ cảnh. Ví dụ chiếm token, ăn vào phần dành cho dữ liệu thật.
• Chi phí mỗi câu. Ví dụ lặp lại mỗi lần gọi nên cộng dồn token đáng kể.

Cách làm đúng là chọn vài ví dụ tiêu biểu và đa dạng, đủ chỉ rõ kiểu, thay vì nhồi thật nhiều ví dụ tốn chỗ và tốn tiền.

Chất lượng ví dụ quyết định hiệu quả few-shot. Một số nguyên tắc chọn:

Một bộ ví dụ tốt thường quan trọng hơn việc thêm thật nhiều ví dụ. Đầu tư vào chọn lọc ví dụ là cách nâng chất lượng few-shot rẻ nhất.

• Tưởng càng nhiều ví dụ càng tốt. Quá nhiều tốn ngữ cảnh và tiền mà lợi ích giảm dần.
• Tưởng few-shot dạy lâu dài cho mô hình. Nó chỉ tác dụng trong lần gọi đó, không nhớ sang lần sau.
• Tưởng ví dụ nào cũng được. Ví dụ lệch hoặc sai làm mô hình học nhầm kiểu.
• Tưởng few-shot thay được fine-tuning. Khối lượng lớn cần ổn định cao thì fine-tuning vẫn hơn.
• Bỏ qua chi phí token. Ví dụ lặp mỗi câu nên với lưu lượng lớn chi phí cộng dồn không nhỏ.

Phần lớn hiệu quả kém của few-shot đến từ chọn ví dụ ẩu và nhồi quá nhiều, không phải từ cách làm. Chọn vài ví dụ tốt là chìa khoá.

MONA dùng few-shot như bước rẻ và nhanh trước khi tính tới đào tạo lại:

• Thử zero-shot trước. Nếu việc đơn giản và kiểu phổ thông, không cần ví dụ.
• Thêm ví dụ tốt. Khi cần đúng kiểu riêng, chọn vài ví dụ đại diện và đa dạng từ dữ liệu thật.
• Đo trên việc thật. So kết quả có và không có ví dụ trên đúng bài toán.
• Cân nhắc fine-tuning. Khi khối lượng lớn và cần ổn định cao, mới tính tới đào tạo lại.

Ví dụ mẫu có thể chứa dữ liệu khách thật. MONA tuân thủ guardrails và nguyên tắc dữ liệu theo Nghị định 13/2023, che thông tin nhạy cảm trong ví dụ khi cần.

Few-shot hợp khi muốn AI làm đúng kiểu riêng mà chưa cần đầu tư lớn:

• Phân loại theo khung riêng. Đơn, phản hồi, hồ sơ theo cách của doanh nghiệp.
• Viết theo giọng thương hiệu. Cho AI vài đoạn mẫu để bắt giọng.
• Rút thông tin theo định dạng riêng. Chỉ rõ định dạng đầu ra bằng ví dụ.
• Thử nghiệm nhanh. Kiểm ý tưởng có chạy không trước khi đầu tư sâu.

Khi việc quá đơn giản, zero-shot là đủ. Khi khối lượng rất lớn và cần ổn định cao, mới nên tính fine-tuning. Few-shot là bước giữa rẻ và linh hoạt.

Few-shot dễ thử nhưng chọn ví dụ tốt và biết khi nào nên chuyển sang fine-tuning cần kinh nghiệm. Doanh nghiệp nên cân nhắc MONA khi:

• Muốn AI làm theo kiểu phân loại hoặc giọng viết riêng mà yêu cầu suông chưa đạt.
• Cần chọn bộ ví dụ tốt từ dữ liệu thật để AI bắt đúng kiểu.
• Phân vân giữa few-shot và fine-tuning cho khối lượng lớn.
• Cần đưa cách làm này vào hệ thống một cách an toàn và đo được.

MONA thiết kế cách dạy AI bằng ví dụ hợp nghiệp vụ và biết điểm chuyển sang đào tạo lại. Tham khảo Sale AI cho phân loại và viết theo kiểu riêng, LMS AI cho xử lý nội dung nội bộ.