AI "Suy Nghĩ" Và Tạo Câu Trả Lời Như Thế Nào?

Level: L1 — AI Foundation (Bài 3/8)

1. Mục tiêu học tập

Sau bài này, bạn có thể:

Giải thích ở mức khái niệm cơ chế dự đoán token tiếp theo (next-token prediction) — nguyên lý lõi khiến một LLM tạo ra được câu trả lời.
Giải thích vì sao cơ chế này không phải là “tra cứu sự thật trong cơ sở dữ liệu” — gốc rễ trực tiếp của hallucination (bài 4).
Hiểu vai trò của temperature trong việc AI trả lời “sáng tạo” hơn hay “an toàn/nhất quán” hơn.
Có mental model đúng để không nhân cách hoá quá mức hoặc đánh giá thấp quá mức khả năng của AI.

2. Khái niệm cốt lõi

Ở mức nền tảng nhất, một LLM “trả lời” bằng cách lặp lại một thao tác rất đơn giản, rất nhiều lần: dự đoán token có khả năng (xác suất) cao nhất sẽ xuất hiện tiếp theo, dựa trên toàn bộ ngữ cảnh đã có tính đến thời điểm đó [S43].

Model nền tảng của Claude — giống mọi LLM autoregressive khác — “được pretrain để dự đoán từ tiếp theo, dựa trên ngữ cảnh của văn bản trước đó trong tài liệu” [S43]. Model sinh ra 1 token, token đó được thêm vào ngữ cảnh, rồi model lại dự đoán token tiếp theo — cứ thế cho tới khi câu trả lời hoàn chỉnh.

Điểm quan trọng nhất: model pretrain thô, chỉ với cơ chế dự đoán token, “không tự nhiên giỏi trả lời câu hỏi hay làm theo hướng dẫn” [S43]. Khả năng trò chuyện hữu ích mà bạn thấy ở Claude/ChatGPT/Gemini đến từ fine-tuning/RLHF (bài 1), không phải từ bản thân cơ chế dự đoán token.

3. Tại sao nội dung này quan trọng

Nếu bạn nghĩ AI “tra cứu” thông tin như công cụ tìm kiếm, bạn sẽ tin tưởng sai chỗ khi AI đưa ra câu trả lời tự tin nhưng sai (hallucination) — vì AI dự đoán chuỗi từ có khả năng cao nhất, không tra cứu sự thật.
Hiểu cơ chế dự đoán từng bước giúp bạn hiểu vì sao AI đôi khi trả lời “vòng vo” nếu ngữ cảnh không rõ ràng — mỗi token sinh dựa trên chuỗi đã có, khởi đầu mơ hồ dễ khiến cả chuỗi sau lệch hướng.
Nền tảng bắt buộc để hiểu bài 4 (Hallucination) sâu sắc, thay vì chỉ nhớ máy móc “AI đôi khi sai”.

4. Cơ chế hoạt động

Quy trình đầy đủ (tổng hợp từ [S43]):

Tokenize input: văn bản gửi (và ngữ cảnh trước đó) được chia thành token (bài 2).
Dự đoán phân phối xác suất: model tính ra một phân phối xác suất cho “token nào có khả năng xuất hiện tiếp theo cao nhất” — kết quả trực tiếp của pretraining [S43].
Chọn 1 token từ phân phối đó: tham số temperature điều khiển việc này — thấp → thiên về token xác suất cao nhất (nhất quán, “an toàn”); cao → chấp nhận token xác suất thấp hơn (đa dạng, “sáng tạo” hơn, khó đoán hơn) [S43].
Lặp lại: token vừa chọn được thêm vào chuỗi, bước 2-3 lặp lại tới khi model quyết định dừng.

Lưu ý hay bị bỏ qua: ngay cả khi temperature = 0, kết quả vẫn không hoàn toàn tất định — cùng input có thể cho output hơi khác nhau giữa các lần gọi, do yếu tố kỹ thuật ở tầng hạ tầng [S43].

5. Mental model

Hãy hình dung LLM như một người chơi trò “đoán từ tiếp theo” cực kỳ giỏi — không phải “đoán mò”: nhờ đã “đọc” lượng văn bản khổng lồ khi huấn luyện, nó nắm được quy luật thống kê về từ nào thường theo sau từ nào. Khi hỏi “Thủ đô của Pháp là”, nó không “tra” 1 bảng dữ kiện — nó tính ra token “Paris” có xác suất theo sau cao hơn hẳn token khác.

Nghịch lý quan trọng: AI trả lời đúng hầu hết câu hỏi phổ biến (mẫu nhất quán trong dữ liệu huấn luyện) nhưng cũng có thể “tự tin” tạo câu trả lời sai khi thiếu mẫu rõ ràng — vì cơ chế sinh câu đúng và câu sai là cùng một cơ chế dự đoán token, không có “công tắc” phân biệt “chắc chắn” với “đang đoán”.

6. Hướng dẫn từng bước

Khi đặt câu hỏi: model dự đoán chuỗi từ hợp lý nhất dựa trên câu hỏi — càng rõ ràng, càng nhiều ngữ cảnh, model càng có “mẫu” tốt để dự đoán đúng hướng.
Với câu hỏi cần độ chính xác cao (số liệu, sự kiện, trích dẫn): đừng coi câu trả lời đầu tiên là “tra cứu được xác nhận” — cần kiểm chứng riêng (bài 4).
Với tác vụ cần sự nhất quán (viết code, tóm tắt chính xác): ưu tiên thiết lập giúp model dự đoán “an toàn” hơn.
Với tác vụ cần đa dạng/sáng tạo (brainstorm): “sáng tạo” thực chất là chấp nhận dự đoán xác suất thấp hơn — không phải AI “tưởng tượng” theo nghĩa con người.

7. Ví dụ thực tế

Gõ “Hôm nay trời rất” — LLM dự đoán token khả năng cao như “đẹp”, “lạnh”, “nóng” dựa trên tần suất trong dữ liệu huấn luyện — nó không “biết” thời tiết hôm nay thật (trừ khi có tool tra cứu).
Hỏi về sự kiện hiếm/quá mới (ngoài dữ liệu huấn luyện) — model vẫn “dự đoán” 1 chuỗi nghe hợp lý — đây là cách hallucination hình thành: cơ chế dự đoán không có bước “tôi không đủ dữ liệu, dừng lại” mặc định (bài 4 sẽ đi sâu kỹ thuật giảm thiểu).

8. Prompt/template/workflow

Trước khi tin một câu trả lời của AI, tự hỏi:
1. Đây có phải loại câu hỏi có RẤT NHIỀU mẫu rõ ràng trong dữ liệu huấn
   luyện không (kiến thức phổ biến, đã ổn định lâu)? → độ tin cậy thường
   cao hơn.
2. Đây có phải câu hỏi về sự kiện hiếm, rất mới, hoặc rất cụ thể (số liệu
   chính xác, trích dẫn, tên riêng ít phổ biến)? → độ tin cậy thấp hơn, CẦN
   kiểm chứng qua nguồn độc lập (xem bài 4).
3. Câu trả lời có "nghe tự tin" không? → Lưu ý: mức độ tự tin trong VĂN
   PHONG không phản ánh mức độ chính xác thực tế.

9. Visual hoặc diagram cần thiết

Hình 1.3 — Vòng lặp dự đoán token: từ input tới output hoàn chỉnh. [S43]

10. Bài tập thực hành

Đặt cùng một câu hỏi mở (ví dụ “Gợi ý cho tôi 3 tên cho một quán cà phê”) cho AI 3 lần liên tiếp trong 3 hội thoại riêng biệt. Quan sát:

Các câu trả lời có giống hệt nhau không, hay có biến thiên?
Dựa vào cơ chế đã học ở mục 4, giải thích vì sao kết quả lại như vậy.
Thử lại với câu hỏi có duy nhất 1 đáp án đúng rõ ràng — so sánh mức độ biến thiên.

11. Checklist

Tôi có thể giải thích cơ chế dự đoán token tiếp theo bằng lời của riêng mình, không cần nhìn lại bài.
Tôi hiểu vì sao AI 'không tra cứu sự thật' mà là 'dự đoán chuỗi từ hợp lý nhất'.
Tôi có thể giải thích vai trò của temperature.
Tôi hiểu vì sao mức độ tự tin trong văn phong của AI không đảm bảo độ chính xác thực tế.

12. Lỗi thường gặp

(Suy luận từ cơ chế được mô tả ở [S43], không phải khảo sát lỗi người dùng đã ghi nhận chính thức.)

Nhân cách hoá quá mức: nghĩ AI “suy nghĩ”, “tin rằng”, hay “biết” điều gì theo nghĩa con người — thực chất là quá trình dự đoán thống kê.
Đánh đồng “trả lời tự tin” với “trả lời đúng” — 2 thứ độc lập nhau về mặt cơ chế.
Tin rằng AI “tra cứu” thông tin như công cụ tìm kiếm mỗi khi trả lời — dẫn tới không kiểm chứng các claim quan trọng.

13. Giới hạn & khi nào KHÔNG nên áp dụng

Mental model “đoán từ tiếp theo” giải thích đúng sinh văn bản thuần tuý, nhưng không mô tả đầy đủ hệ thống có thêm “tool use” hay “extended thinking” — các cơ chế bổ sung này vẫn dựa trên nền tảng dự đoán token ở mỗi bước.
Bài này không đi sâu kiến trúc kỹ thuật (Transformer, attention) — nội dung nâng cao, không cần thiết cho mục tiêu Level 1.
Hiểu cơ chế dự đoán token không có nghĩa bạn dự đoán chính xác khi nào AI sẽ sai — chỉ là khung tư duy nhận biết loại câu hỏi rủi ro cao hơn.

14. An toàn & quản trị (Safety/Governance)

Vì AI không có bước nội tại nào để phân biệt “tôi chắc chắn” với “tôi đang đoán”, trách nhiệm kiểm chứng luôn thuộc về người dùng, đặc biệt với số liệu/trích dẫn/tên riêng/sự kiện cụ thể (bài 4), và các quyết định có hậu quả thực tế (y tế, pháp lý, tài chính). Đây là nền tảng khái niệm cho trụ cột Discernment trong khung AI Fluency 4D (bài 8).

15. Best practices

Luôn nhớ: AI dự đoán chuỗi từ hợp lý nhất, không tra cứu sự thật.
Không đánh giá độ chính xác dựa trên mức độ tự tin trong văn phong.
Câu hỏi có mẫu phổ biến, rõ ràng → tin tưởng ở mức hợp lý hơn; câu hỏi hiếm/cụ thể/mới → luôn kiểm chứng.
Hiểu vai trò temperature để biết khi nào kỳ vọng nhất quán và khi nào đa dạng là bình thường.

16. Nội dung nâng cao (không bắt buộc)

Kiến trúc Transformer và cơ chế attention — nền tảng kỹ thuật giúp model “nhìn” toàn bộ ngữ cảnh khi dự đoán.
Cơ chế “extended thinking” ở model hiện đại — vẫn là dự đoán token, nhưng cho phép model “nháp” trước khi trả lời cuối cùng.

17. Nguồn tham khảo

[S43] Glossary, Claude Platform Docs (Anthropic) — mục Pretraining và Temperature.

18. Ngày kiểm chứng

2026-07-12 — nội dung mô tả cơ chế nền tảng, không gắn số liệu hay tên phiên bản sản phẩm cụ thể, rủi ro lỗi thời thấp.