09/10/2026 · VietTechies · Biên tập
Đội ngũ KGMON của NVIDIA đã công bố chi tiết về kiến trúc hệ thống giúp họ giành vị trí á quân tại cuộc thi KDD Cup 2026 Data Agents. Thử thách yêu cầu các hệ thống tự hành phải trả lời những truy vấn bằng ngôn ngữ tự nhiên từ nhiều nguồn dữ liệu hỗn hợp—bao gồm cơ sở dữ liệu, tệp cấu trúc, tài liệu văn bản, tệp PDF và video tóm tắt—bằng việc sử dụng một mô hình ngôn ngữ lớn cố định có quy mô nhỏ. Do khả năng của mô hình bị giới hạn sẵn, đội ngũ đã tập trung toàn bộ việc tối ưu hóa hiệu năng vào việc xây dựng một bộ khung kiểm thử thực thi được kiểm soát chặt chẽ xung quanh mô hình này.
Hợp nhất các bề mặt dữ liệu và tải trước sơ đồ cơ sở dữ liệu
Để chuẩn hóa việc xử lý dữ liệu từ nhiều định dạng khác nhau, KGMON đã chuyển đổi các tệp CSV và JSON thành bảng trong một cơ sở dữ liệu SQLite duy nhất. AI Agent chỉ truy cập dữ liệu có cấu trúc thông qua hai hàm môi trường: schema() và sql(). Việc đưa tất cả dữ liệu về một công cụ truy vấn chung giúp giảm thiểu tình trạng gọi sai công cụ và tiết kiệm không gian ngữ cảnh suy luận.
Trước khi khởi động vòng lặp chính của AI Agent, hệ thống đã thực hiện một bước khám phá sơ đồ cơ sở dữ liệu ở chế độ chỉ đọc. Quy trình kiểm tra sơ bộ này xem xét các bảng, định nghĩa cột, các khóa liên kết tiềm năng, tên trùng lặp, kiểu dữ liệu rỗng và độ chi tiết ở cấp hàng. Việc cung cấp trước ngữ cảnh sơ đồ này cho AI Agent ngay từ đầu đã loại bỏ các lượt khám phá ban đầu và giảm bớt lỗi do định nghĩa cột mơ hồ hoặc liên kết bảng không chính xác.
Giới hạn công cụ và quản lý ngữ cảnh
AI Agent chạy trong một môi trường Python lưu trữ trạng thái với các biến định danh duy trì liên tục và các phần mềm trung gian tự động sửa lỗi cho các lệnh gọi không hợp lệ. KGMON giới hạn các thao tác khả dụng ở những hàm hỗ trợ kiểm tra sơ đồ, truy vấn SQL, ghi kết quả nguyên tử và xử lý tài liệu. Để tránh tình trạng tràn cửa sổ ngữ cảnh, các hàm đọc toàn bộ tệp đều bị chặn.
Đối với văn bản không có cấu trúc, một công cụ trích xuất văn bản đã xử lý từng đoạn tài liệu bằng một lệnh gọi LLM phụ với mức nhiệt độ (temperature) bằng 0 và tắt tính năng suy luận. Lệnh gọi phụ này trích xuất trực tiếp câu trả lời cụ thể hoặc các hàng dữ liệu bảng vào các bảng SQL mà không làm đầy bộ nhớ làm việc của AI Agent chính bằng văn bản thô. Dữ liệu video đầu vào cũng được tiền xử lý tương tự trước khi thực thi bằng cách trích xuất các khung hình chính và căn chỉnh chúng với các đoạn âm thanh đã được ghi chép.
Kiểm toán nhật ký thi hành và lấy mẫu chọn lọc
Nhật ký thực thi đã ghi lại từng gợi ý (prompt), lệnh gọi công cụ, truy vấn SQL, bản sửa lỗi và câu trả lời trung gian. Một AI Agent phụ trách kiểm tra chuyên biệt đã xem xét lại các chuỗi hành trình thất bại để xác định xem lỗi xuất phát từ việc hiểu sai sơ đồ, liên kết bảng sai, thiếu ngữ cảnh văn bản hay định dạng câu trả lời.
Để cải thiện tính ổn định dưới cơ chế chấm điểm bài đo hiệu năng theo giá trị chính xác, KGMON đã nhóm nhiều lượt chạy lại theo giá trị đầu ra nhằm tìm kiếm câu trả lời có độ đồng thuận cao. NVIDIA lưu ý rằng mặc dù việc chạy lặp lại nhiều lần giúp tăng độ chính xác đối với các truy vấn gây tranh cãi, các kiến trúc triển khai thực tế nên áp dụng phương pháp kết hợp lượt chạy (ensembling) một cách chọn lọc do chi phí tính toán và độ trễ gia tăng.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: Building Reliable Data Analytics Agents: Lessons from the KDD Cup