Chain-of-Thought là gì — cho AI suy luận từng bước để bớt sai ở bài toán khó

Bài này dành cho chủ doanh nghiệp và người quyết. CoT được giải bằng ẩn dụ dễ hiểu, kèm khác trả lời thẳng, cơ chế, trục đánh đổi và cách dùng đúng.

Vì sao đáng quan tâm: nhiều việc của doanh nghiệp là bài nhiều bước như tính toán, đối chiếu điều kiện, ra quyết định theo quy tắc. CoT giúp AI làm đúng hơn, nhưng đổi lại chậm và tốn token hơn.

Hình dung một học sinh làm toán. Nếu chỉ ghi đáp số, gặp bài khó là dễ sai vì nhẩm trong đầu rồi nhảy thẳng tới kết quả. Nếu bắt trình bày từng bước, em buộc phải đi tuần tự, mỗi bước kiểm được, nên ít sai hơn.

Trả lời thẳng giống ghi đáp số. Chain-of-Thought giống bắt trình bày bài: AI viết ra các bước suy luận rồi mới chốt kết luận.

Lợi ích kép: bài ra đúng hơn, và người đọc thấy được lối suy luận để kiểm. Nhưng trình bày dài thì tốn giấy hơn, tức tốn token và thời gian hơn so với chỉ ghi đáp số.

Mô hình ngôn ngữ sinh chữ tuần tự, mỗi chữ dựa trên những chữ trước. Khi được khuyến khích viết ra các bước trung gian, mô hình tạo thêm ngữ cảnh cho chính nó, nhờ đó bước sau bám vào bước trước thay vì đoán thẳng kết quả.

• Tự tạo ngữ cảnh. Các bước viết ra trở thành điểm tựa cho bước tiếp theo.
• Giảm nhảy cóc. Bài nhiều bước được chia nhỏ nên ít sai hơn.
• Lộ suy luận. Người đọc thấy đường đi tới đáp án, dễ soi chỗ sai.

CoT gắn với mô hình suy luận: nhiều mô hình mới suy luận từng bước bên trong rồi mới trả lời, là dạng CoT được tích hợp sẵn.

• Bớt sai ở bài khó. Việc tính toán, đối chiếu điều kiện nhiều bước ít sai hơn.
• Kiểm được suy luận. Thấy đường đi tới kết quả nên dễ phát hiện chỗ lệch.
• Dùng đúng chỗ. Biết khi nào cần CoT, khi nào trả lời thẳng là đủ.
• Cân chi phí và tốc độ. CoT đúng hơn nhưng chậm và tốn token hơn.
• Tăng độ tin cậy. Với quyết định quan trọng, suy luận lộ ra giúp duyệt dễ hơn.

CoT là kỹ thuật làm AI suy nghĩ kỹ hơn ở đúng chỗ cần, không phải bật cho mọi câu. Hiểu nó giúp dùng AI vừa đúng vừa tiết kiệm.

Một lời giải theo CoT đi qua bốn nhịp:

• Hiểu đề. Xác định bài hỏi gì, có những dữ kiện và ràng buộc nào.
• Chia bước. Tách thành các bước nhỏ tuần tự thay vì nhảy thẳng đáp án.
• Giải từng bước. Mỗi bước dựa vào kết quả bước trước.
• Kết luận. Tổng hợp các bước thành câu trả lời, có thể soát lại.

Trong nhiều ứng dụng, phần suy luận có thể ẩn đi, chỉ trả kết luận cho người dùng. Phần suy luận vẫn diễn ra để tăng độ đúng, dù không hiện ra.

Giả sử một đơn hàng có nhiều quy tắc chiết khấu: theo số lượng, theo khách thân thiết, theo đợt khuyến mãi, và có mức trần. Hỏi thẳng số cuối thì AI dễ áp sót hoặc nhầm thứ tự.

Với CoT, AI áp lần lượt từng quy tắc, ghi rõ sau mỗi bước còn lại bao nhiêu, kiểm mức trần, rồi mới ra số cuối. Mỗi bước nhìn được nên dễ phát hiện nếu áp sai.

Kết quả là số chiết khấu đúng và có đường đi để đối chiếu khi cần. Đó là kiểu bài nhiều điều kiện mà CoT giúp giảm sai rõ rệt so với đoán thẳng.

Hai cách trả lời hợp với hai loại câu hỏi khác nhau:

CoT không phải lúc nào cũng tốt hơn. Với câu đơn giản nó chỉ làm chậm và tốn hơn. Giá trị của nó nằm ở bài khó, nhiều bước, cần độ đúng và cần kiểm.

Bật suy luận từng bước có cái lợi và cái giá:

• Độ đúng bài khó. Tăng rõ vì bài được chia nhỏ, ít nhảy cóc.
• Token và chi phí. Viết ra các bước tốn nhiều token hơn, đắt hơn mỗi câu.
• Tốc độ. Trả lời chậm hơn vì sinh thêm phần suy luận.

Cách làm đúng là bật CoT cho các loại câu khó, nhiều bước, còn câu đơn giản để trả lời thẳng, tránh tốn token và làm chậm vô ích.

CoT phát huy ở những loại việc có nhiều bước hoặc cần lập luận:

Ngược lại, việc tra cứu một dữ kiện, phân loại đơn giản hay chào hỏi thì không cần CoT, trả lời thẳng vừa nhanh vừa rẻ.

• Tưởng CoT luôn tốt hơn. Với câu đơn giản nó chỉ làm chậm và tốn token thừa.
• Tưởng có suy luận là chắc đúng. Suy luận vẫn có thể sai, cần kiểm với việc quan trọng.
• Tưởng phải luôn cho người dùng xem suy luận. Có thể ẩn phần suy luận, chỉ trả kết luận.
• Tưởng CoT thay được kiểm chứng. Với số tiền, pháp lý vẫn cần đối chiếu nguồn và người duyệt.
• Bật CoT cho mọi câu. Làm hệ thống chậm và đắt mà không thêm giá trị ở câu dễ.

Phần lớn lãng phí với CoT đến từ bật tràn lan thay vì đúng chỗ. Dùng cho bài khó, để trả lời thẳng cho bài dễ là cách cân bằng tốt.

MONA dùng CoT có chọn lọc theo loại việc, không bật tràn lan:

• Phân loại câu hỏi. Tách câu dễ trả lời thẳng và câu khó cần suy luận.
• Bật suy luận cho bài khó. Áp CoT cho tính toán, đối chiếu điều kiện, lập luận.
• Chọn ẩn hay hiện. Ẩn suy luận với người dùng cuối, giữ lại để đội ngũ soi khi cần.
• Kiểm việc quan trọng. Với số tiền và pháp lý, vẫn đối chiếu nguồn và có người duyệt.

Suy luận có thể chạm dữ liệu nhạy cảm. MONA tuân thủ guardrails và nguyên tắc dữ liệu theo Nghị định 13/2023 khi xử lý các bài toán có dữ liệu khách.

CoT đáng để ý khi việc của doanh nghiệp có nhiều bước hoặc cần độ đúng cao:

• Tính toán nghiệp vụ. Chiết khấu, công nợ, định giá nhiều điều kiện.
• Xét duyệt theo quy tắc. Áp chính sách, điều kiện cho từng hồ sơ.
• Phân tích tình huống. Cần lập luận tuần tự rồi mới kết luận.
• Quyết định quan trọng. Cần thấy lối suy luận để duyệt và đối chiếu.

Khi việc chỉ là tra cứu hay phân loại đơn giản, không cần CoT. Khi việc nhiều bước và sai thì tốn kém, CoT giúp giảm rủi ro rõ rệt.

CoT dễ hiểu nhưng dùng đúng chỗ và cân chi phí cần kinh nghiệm với bài toán thật. Doanh nghiệp nên cân nhắc MONA khi:

• Có việc tính toán hoặc xét duyệt nhiều bước mà AI hay trả lời sai khi đoán thẳng.
• Cần AI trình bày được lối suy luận để đội ngũ kiểm và duyệt.
• Muốn cân giữa độ đúng và chi phí, không bật suy luận tràn lan tốn token.
• Cần đưa AI vào quyết định nghiệp vụ một cách an toàn và đo được.

MONA thiết kế cách dùng AI có suy luận đúng chỗ, cân chi phí và có kiểm. Tham khảo Sale AI cho tư vấn theo điều kiện và phần mềm nhập hàng cho tính toán nghiệp vụ nhiều bước.