Ảo giác AI là gì và làm sao hạn chế?

Thế nào là ảo giác

Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) gọi đây là bịa chuyện (confabulation): AI tạo sinh đưa ra nội dung sai hoặc không đúng nhưng nêu với vẻ chắc chắn. Ảo giác là tên gọi phổ biến. Khái niệm này cũng bao gồm những câu trả lời mâu thuẫn với tài liệu bạn cung cấp, hoặc mâu thuẫn với điều mô hình đã nói trước đó trong cùng cuộc trò chuyện.

Với hình ảnh và video, những chi tiết kỳ lạ như thừa ngón tay hay vật thể chảy nhão đôi khi cũng được gọi là ảo giác. Đó là vấn đề chất lượng chứ không phải khẳng định sai. Trong sáng tạo, bịa ra những thứ không tồn tại thường chính là mục tiêu. Ảo giác chỉ thành vấn đề khi bạn cần sự thật.

Vì sao mô hình ngôn ngữ bị ảo giác

Mô hình ngôn ngữ viết bằng cách dự đoán token tiếp theo, một mẩu văn bản nhỏ, từ phần văn bản đã có. Nó được huấn luyện để tạo ra văn bản có khả năng xảy ra cao, chứ không phải văn bản đúng. Phần lớn thời gian, cái có khả năng cao và cái đúng trùng nhau, nên mô hình mới hữu ích. Lỗi xuất hiện ở chỗ hai thứ này không trùng nhau.

• Không có bước kiểm chứng sự thật sẵn có. Trong dự đoán token không có gì so đầu ra với thế giới thực.
• Sự kiện hiếm được học yếu. Một sự kiện chỉ xuất hiện vài lần trong dữ liệu huấn luyện rất dễ bị nhòe với các sự kiện tương tự, chẳng hạn năm sinh của một nhân vật công chúng ít tiếng tăm.
• Đoán mò được thưởng. Nghiên cứu công bố năm 2025 lập luận rằng cách huấn luyện và chấm điểm benchmark phổ biến cho điểm khi đoán chắc chắn nhưng không cho điểm khi nói tôi không biết, nên mô hình học cách đoán.
• Bắt chước lỗi phổ biến. Mô hình học từ văn bản của con người có thể lặp lại những quan niệm sai lầm phổ biến, điều mà benchmark TruthfulQA được thiết kế để đo.
• Áp lực từ prompt. Câu hỏi giả định điều sai, chẳng hạn hỏi về phần tiếp theo năm 2019 của một bộ phim không có phần tiếp theo, dễ khiến mô hình diễn theo.
• Ngữ cảnh dài hoặc lộn xộn. Chi tiết ở giữa một đầu vào dài dễ bị bỏ sót hoặc nhầm lẫn.
• Mốc kiến thức. Mô hình không biết gì sau khi dữ liệu huấn luyện kết thúc, trừ khi được thêm tìm kiếm hoặc tài liệu.

Tác vụ nào rủi ro nhất

Rủi ro phụ thuộc vào việc bạn yêu cầu mô hình làm gì nhiều hơn là vào bản thân mô hình.

Nghiên cứu pháp lý là vùng nguy hiểm nổi tiếng. Tòa án đã xử phạt luật sư vì nộp hồ sơ trích dẫn những vụ án do chatbot bịa ra.

Prompt giúp giảm ảo giác

Cách hiệu quả nhất là neo vào nguồn (grounding): đưa tài liệu gốc cho mô hình và yêu cầu chỉ trả lời từ tài liệu đó. Đây cũng là ý tưởng đằng sau RAG (retrieval-augmented generation, tạo sinh có truy xuất), khi hệ thống tìm trong tài liệu trước rồi đặt các đoạn phù hợp nhất vào prompt.

Weak prompt:
What is the refund period in our store policy?

Grounded prompt:
Answer using only the policy text below.
If the answer is not in the text, reply: Not stated in the policy.
Quote the exact sentence you used.

Policy:
<paste the policy text here>

Question: What is the refund period?

Mỗi dòng của prompt có neo nguồn đều có nhiệm vụ. Dòng “Answer using only the policy text below” giới hạn nguồn chỉ còn văn bản chính sách. Câu dự phòng “Not stated in the policy” cho mô hình một đáp án an toàn thay vì đoán. Dòng “Quote the exact sentence you used” giúp bạn kiểm tra câu trả lời trong vài giây.

Những thói quen khác cũng hữu ích:

1. Hỏi hẹp. Mỗi câu hỏi một thông tin dễ đúng hơn một danh sách dài.
2. Cho phép sự không chắc chắn. Thêm một dòng như: Nếu không chắc, hãy nói rõ và giải thích điều gì sẽ xác nhận được.
3. Bật tìm kiếm hoặc duyệt web cho những sự kiện hiện tại, rồi mở các liên kết mà câu trả lời trích dẫn.
4. Yêu cầu nêu lý lẽ hoặc các bước với bài toán nhiều phần, và kiểm tra từng bước.
5. Đừng yêu cầu nguồn từ trí nhớ. Hãy bảo nó tìm nguồn bằng công cụ tìm kiếm, hoặc tự tìm rồi dán vào.
6. Với mã nguồn, hãy nêu phiên bản thư viện và dán tài liệu liên quan, rồi chạy thử mã.

Cách kiểm tra câu trả lời của AI

Dùng danh sách này trước khi dựa vào hoặc đăng bất cứ nội dung nào mang tính sự kiện:

1. Mở mọi liên kết và DOI. Xác nhận trang tồn tại và nói đúng điều câu trả lời khẳng định.
2. Tìm kiếm nguyên văn các câu trích. Nếu không tìm thấy trong nguồn gốc thì đừng dùng.
3. Đối chiếu mọi con số với nguồn gốc, như trang thống kê chính thức, một tiêu chuẩn hoặc bài báo gốc.
4. Chú ý dấu hiệu cảnh báo: số liệu rất chính xác nhưng không có nguồn, danh sách tác giả nghe chung chung, tài liệu tham khảo không tìm ra và câu trả lời thay đổi khi hỏi lại.
5. Tìm nguồn thứ hai độc lập cho mọi nhận định quan trọng, chứ không phải chatbot thứ hai.
6. Với câu hỏi pháp lý, y tế hoặc tài chính, hãy nhờ người có chuyên môn xem lại kết quả.

Giới hạn của các cách khắc phục

Chưa có phương pháp nào hiện nay loại bỏ hoàn toàn ảo giác. Neo nguồn và RAG giảm mạnh tỷ lệ lỗi với những câu hỏi mà tài liệu trả lời được, nhưng mô hình vẫn có thể đọc sai một đoạn, gộp hai đoạn hoặc lấp chỗ trống mà tài liệu để lại. Công cụ tìm kiếm có thể trả về trang kém chất lượng và mô hình có thể tin chúng.

Hạ temperature làm câu trả lời lặp lại được hơn chứ không chính xác hơn. Nếu câu trả lời có khả năng cao nhất là sai, mô hình sẽ lặp lại đúng câu sai đó một cách nhất quán.

Các mô hình mới hơn thường ít ảo giác hơn với câu hỏi phổ biến, và một số được huấn luyện để thừa nhận sự không chắc chắn thường xuyên hơn. Tỷ lệ vẫn khác nhau theo chủ đề và ngôn ngữ, nên hãy thử mô hình trên loại câu hỏi của chính bạn trước khi dựa vào, và giữ một bước kiểm tra của con người ở nơi lỗi gây tốn kém.