Context Engineering
Context Engineering
Quản lý toàn bộ 'ngân sách chú ý' của AI qua nhiều lượt, không chỉ 1 câu lệnh — kỹ thuật just-in-time để chủ động phòng tránh context rot.
Nắm vững nguyên lý và khái niệm nền tảng trước khi đi vào công cụ thực tế.
Áp dụng quy trình từng bước, case study thực chiến và template mẫu có sẵn.
Kiểm tra checklist hoàn thành, né tránh các sai lầm kinh điển để vận hành bền vững.
Nắm vững các khái niệm nền tảng, cơ chế hoạt động và mô hình tư duy cốt lõi.
1. Mục tiêu học tập
Sau bài này, bạn có thể:
2. Khái niệm cốt lõi
Context Engineering — theo Anthropic, “tối ưu hoá việc phân bổ token trong context window có hạn của model” — xem xét toàn bộ trạng thái AI có tại bất kỳ thời điểm nào. Không chỉ quan tâm câu lệnh bạn viết mà quan tâm toàn bộ những gì AI “nhìn thấy”.
Khác biệt với Prompt Engineering: prompt engineering tập trung hẹp vào 1 lần yêu cầu; context engineering bao quát hơn — quản lý toàn bộ luồng thông tin qua nhiều lượt tương tác.
“attention budget” — mỗi token “tiêu tốn” 1 phần khả năng tập trung của AI. Context đầy hơn không đồng nghĩa AI hiểu vấn đề tốt hơn — nguyên nhân kỹ thuật đứng sau “context rot” (bài 2, L1). Context Engineering là kỹ năng chủ động để tránh, khác bài 2 chỉ dạy nhận biết.
3. Tại sao nội dung này quan trọng
- Bài “nâng cấp tư duy” của cả level: bài 9-16 dạy viết 1 prompt tốt; bài này dạy quản lý toàn bộ phiên làm việc.
- Thói quen “nhồi càng nhiều thông tin càng an toàn” có thể phản tác dụng — thông tin dư thừa làm loãng “ngân sách chú ý”.
- Cầu nối trực tiếp tới Level 3 và Level 8 — cả 2 xây trên nền quản lý context có chủ đích.
4. Cơ chế hoạt động
- Coi context là tài nguyên hữu hạn — hỏi “thông tin này có thực sự cần thiết” thay vì “tôi có nên thêm không”.
- Bắt đầu tối giản, bổ sung khi cần (just-in-time) — chỉ đưa thông tin cho bước hiện tại [S61, “Just-in-Time Retrieval”].
- Dọn dẹp khi hội thoại dài — tóm tắt điểm quan trọng, bắt đầu hội thoại mới [S61, “compaction” — ở mức cá nhân là mẫu tóm tắt đã học bài 2].
- Ví dụ chất lượng hơn ví dụ đầy đủ — nguyên tắc đã học ở bài 11 [S61 xác nhận chéo S37].
5. Mental model
Nối tiếp mental model “chiếc bàn làm việc” (bài 2, L1): nếu context window là bàn có kích thước cố định, Context Engineering là kỹ năng dọn bàn có chủ đích — chủ động chọn lọc những gì đặt lên bàn, cất đi những gì dùng xong, chỉ lấy thêm khi thực sự cần. Prompt Engineering dạy viết rõ ràng trên tờ giấy đưa ra; Context Engineering dạy quản lý cả chiếc bàn.
Quy trình thực thi từng bước, case study cụ thể và bộ prompt/template áp dụng ngay.
6. Hướng dẫn từng bước
7. Ví dụ thực tế
Soạn 1 báo cáo dự án dài, có 5 tài liệu nguồn (báo cáo tài chính, khảo sát khách hàng, biên bản họp, timeline, ngân sách). Thay vì dán cả 5 vào đầu hội thoại “phòng khi cần”: bắt đầu chỉ với tài liệu cần cho phần đang viết; khi chuyển sang “phân tích ngân sách”, mới dán thêm tài liệu ngân sách; khi hội thoại đã dài, tóm tắt lại quyết định đã thống nhất, bắt đầu hội thoại mới cho phần tiếp theo.
8. Prompt/template/workflow
Trước khi dán thêm tài liệu/thông tin vào hội thoại, tự hỏi:1. Thông tin này có CẦN cho bước hiện tại, hay chỉ "phòng khi cần"?2. Nếu cần, có thể trích phần liên quan thay vì dán toàn bộ không?3. Hội thoại đã dài chưa? Có dấu hiệu context rot chưa (lệch chủ đề, quên chi tiết)?4. Nếu có dấu hiệu ở bước 3: tóm tắt và bắt đầu hội thoại mới, thay vì tiếp tục nhồi thêm.9. Visual hoặc diagram cần thiết
Đây là hình nối tiếp trực tiếp Hình 1.2 (bài 2, L1) — cùng ẩn dụ “bàn làm việc”, nay thêm lớp “chủ động chọn lọc/dọn dẹp” thay vì để chất đống tự nhiên.
10. Bài tập thực hành
Nhớ lại 1 hội thoại AI dài, phức tạp bạn từng có:
- Liệt kê: bạn đã dán bao nhiêu thông tin ngay từ đầu, dù chưa dùng tới ngay?
- Áp dụng khung ở mục 8 cho 1 hội thoại tương tự sắp tới.
- So sánh cảm nhận về chất lượng câu trả lời giữa 2 cách làm.
Checklist kiểm tra mức độ sẵn sàng, nhận diện các bẫy sai lầm và nguyên tắc vàng vận hành.
11. Checklist
12. Lỗi thường gặp
(Suy luận từ nguyên tắc trong, không phải khảo sát lỗi người dùng đã ghi nhận chính thức.)
15. Best practices
16. Nội dung nâng cao (không bắt buộc, thuộc phạm vi kỹ sư xây agent)
- Compaction — cơ chế tự động tóm tắt lịch sử hội thoại khi gần chạm giới hạn context.
- Structured note-taking — agent duy trì bộ nhớ ngoài (file, to-do list).
- Sub-agent architecture — agent chuyên biệt xử lý tác vụ hẹp, trả về bản tóm tắt cho agent điều phối.
Cả 3 là phiên bản tự động hoá của chính nguyên tắc đã học ở bài này — sẽ gặp lại ở Level 8.
⚠️ 13. Giới hạn & khi nào KHÔNG nên áp dụng
- Với hội thoại ngắn, 1-2 lượt, hầu như không cần áp dụng chủ động.
- Bài này hạ tầng nguyên tắc từ tài liệu kỹ sư xuống mức cá nhân — kỹ thuật kỹ sư-cấp (sub-agent, structured note-taking) không thuộc phạm vi bài này (mục 16).
- Không áp dụng máy móc “càng ít context càng tốt” — mục tiêu là chọn lọc đúng.
🔐 14. An toàn & quản trị (Safety/Governance)
Việc chủ động quản lý context không thay đổi nguyên tắc an toàn dữ liệu cơ bản (bài 2, L1). Lưu ý bổ sung: khi thực hành “just-in-time”, dán tài liệu vào giữa hội thoại không “an toàn hơn” so với dán từ đầu — mức độ nhạy cảm của dữ liệu không phụ thuộc thời điểm nó được đưa vào context.
📚 17. Nguồn tham khảo
Effective context engineering for AI agents, Anthropic Engineering Blog (Anthropic).