Context Engineering là gì? Cách cung cấp đúng ngữ cảnh để AI hoạt động hiệu quả
Context Engineering là quá trình thiết kế lựa chọn và quản lý những thông tin được đưa vào ngữ cảnh của mô hình AI để hệ thống có đủ dữ liệu cần thiết cho từng nhiệm vụ.
Context có thể bao gồm system instruction prompt lịch sử hội thoại memory tài liệu được truy xuất dữ liệu người dùng kết quả từ công cụ và thông tin về trạng thái hiện tại của workflow.
Điểm quan trọng của Context Engineering không phải là đưa càng nhiều dữ liệu vào AI càng tốt. Một context quá dài chứa nhiều thông tin không liên quan có thể khiến mô hình mất tập trung tăng chi phí và thậm chí giảm chất lượng kết quả.
Vì vậy một hệ thống tốt cần biết thông tin nào nên được đưa vào lúc này thông tin nào có thể bỏ qua và khi nào cần truy xuất thêm dữ liệu từ bên ngoài.
Ví dụ một AI agent hỗ trợ khách hàng không cần đưa toàn bộ lịch sử của khách vào mọi câu hỏi. Hệ thống có thể chỉ lấy hồ sơ cơ bản đơn hàng liên quan chính sách cần thiết và vài tương tác gần nhất để giải quyết đúng vấn đề hiện tại.
Context Engineering rộng hơn Prompt Engineering. Prompt Engineering chủ yếu tập trung vào cách viết instruction và yêu cầu cho mô hình còn Context Engineering quan tâm đến toàn bộ thông tin mà mô hình nhận được trước và trong quá trình thực hiện nhiệm vụ.
Trong các hệ thống AI agent Context Engineering còn liên quan đến RAG memory tool calling context compression summarization retrieval và cơ chế lựa chọn thông tin theo từng bước. Đây là lý do việc xây dựng AI tốt ngày càng ít phụ thuộc vào một prompt thật dài và phụ thuộc nhiều hơn vào cách hệ thống chuẩn bị đúng context cho mô hình.
Tag Context Engineering tổng hợp các bài viết hướng dẫn và kinh nghiệm về quản lý context memory RAG retrieval system instruction tool output AI agent context window và cách thiết kế hệ thống cung cấp đúng thông tin cho mô hình AI.
