Vì sao "không bịa nguồn" là tính năng, không phải khẩu hiệu
Bằng chứng đo được: mô hình ngôn ngữ bịa trích dẫn ở quy mô lớn, và thất bại gần một nửa số lần khi tra cứu y văn. Đây là cách Phở xử lý khác đi.
Với một quyết định lâm sàng, thứ nguy hiểm nhất không phải là AI trả lời “tôi không chắc”. Thứ nguy hiểm là AI trả lời trôi chảy, tự tin, và bịa nguồn. Đây không phải lo ngại lý thuyết — nó đã được đo.
Vấn đề, bằng số thật
Một nghiên cứu so sánh 5 nền tảng LLM miễn phí khi tra cứu dữ liệu tham chiếu y văn cho các bài từ BMJ, JAMA, NEJM. Kết quả: các nền tảng “hoàn toàn thất bại trong việc lấy đúng dữ liệu tham chiếu 47,8% số lần” (Gao và cộng sự, 2026). Gần một nửa.
Ở quy mô lớn hơn, một audit trên 111 triệu tham chiếu ước tính “một con số dè dặt là 146.932 trích dẫn bịa (không tồn tại) chỉ riêng trong năm 2025” (Zhao và cộng sự, 2026), tăng mạnh sau khi LLM được dùng rộng rãi.
Và vấn đề mang tính nền tảng: một benchmark 10.923 câu hỏi trên chín lĩnh vực thấy rằng “kể cả các mô hình tốt nhất cũng đầy ảo giác (đôi khi tới 86% số dữ kiện nguyên tử sinh ra tuỳ lĩnh vực)” (Ravichander và cộng sự, 2025 — HALoGEN).
Vì sao mô hình lại bịa
Không phải vì chúng “cẩu thả”. Một phân tích của OpenAI lập luận rằng “mô hình ngôn ngữ ảo giác vì quy trình huấn luyện và đánh giá thưởng cho việc đoán hơn là thừa nhận sự không chắc chắn” (Kalai và cộng sự, 2025). Dưới cách chấm đúng/sai nhị phân, “tôi không biết” luôn bị phạt, nên mô hình học cách đoán bừa một cách tự tin.
Phở làm khác thế nào
Nếu vấn đề là mô hình được thưởng khi đoán, giải pháp ở tầng sản phẩm là đảo ngược phần thưởng đó:
- Ground trên nội dung có trong tay. Chế độ lâm sàng của Phở trả lời dựa trên abstract thật mà nó thực sự lấy được (PubMed/DOI), không dựa vào trí nhớ của mô hình.
- Cite-or-abstain. Claim nào không được nguồn back thì bị gỡ trích dẫn và gắn nhãn “chưa xác thực” — không bịa, không xoá thông tin.
- Đo và công bố. Chúng tôi đo một chỉ số groundedness riêng trên eval học thuật của mình (~91%, đo trên tác vụ của chúng tôi — khác với các con số per-model ở trên) và công bố nó, theo đúng tinh thần trung thực đó.
Con số 47,8% và 146.932 đo tình trạng của y văn và các nền tảng khác, không phải sản phẩm của chúng tôi. Chúng tôi trích dẫn chúng để chỉ ra vấn đề, không để tự khen.
Với một quyết định như đổi thuốc sau can thiệp mạch vành, “có nguồn để bấm vào kiểm chứng” không phải tính năng cho vui. Đó là điều kiện tối thiểu để tin. Xem một case cụ thể.