21/09/2026 · VietTechies · Biên tập
Nvidia đang tham gia Secure Agent Findings Exchange (SAFE), sáng kiến ngành được khoảng 140 công ty hậu thuẫn nhằm xây dựng hạ tầng chung để báo cáo lỗi của tác nhân AI. SAFE vận dụng cách tiếp cận từ hoạt động công bố lỗ hổng phần mềm truyền thống, qua đó giúp các tổ chức chia sẻ phát hiện và tránh phải điều tra lặp lại cùng một dạng lỗi.
Gỡ lỗi không chỉ ở mô hình
Tác nhân AI có thể tự chọn công cụ và thay đổi cách xử lý trong lúc thực hiện nhiệm vụ. Vì vậy, một sai sót ban đầu có thể lan sang các bước sau mà không tạo ra ngoại lệ hay yêu cầu thất bại theo kiểu phần mềm truyền thống. Adel el Hallak, Phó chủ tịch phụ trách sản phẩm của Nvidia, nói với The New Stack rằng nhà phát triển cần quan sát đường đi thực thi, cách tác nhân dùng công cụ và thời điểm nó đổi phương án, thay vì chỉ dựa vào dữ liệu đầu vào, đầu ra và nhật ký dịch vụ.
Theo The New Stack, ngay cả những tác nhân lập trình có hiệu suất hàng đầu cũng thất bại ở hơn 60% nhiệm vụ lấy từ các kho mã thực tế. Tuy nhiên, kết quả thất bại không cho biết nguyên nhân nằm ở mô hình, bộ điều phối, môi trường thực thi hay một công cụ bên ngoài.
Môi trường thực thi làm lớp quan sát
Nvidia định vị OpenShell, môi trường thực thi tác nhân nằm bên dưới nền tảng NemoClaw, là lớp thu thập chi tiết quá trình thực thi, đồng thời quản lý cơ chế cô lập và thực thi chính sách. Công ty chia ngăn xếp tác nhân thành ba lớp: mô hình cung cấp năng lực xử lý, bộ điều phối tổ chức công việc và môi trường thực thi kiểm soát quá trình vận hành.
Theo Nvidia, nghiên cứu NOAH của công ty cho thấy việc thay đổi bộ điều phối trong khi giữ nguyên mô hình có thể cải thiện hiệu suất tác nhân. Kết quả này gợi ý rằng mỗi mô hình có thể cần cách điều phối phù hợp riêng, và thay mô hình chưa chắc là phản ứng thích hợp khi xảy ra lỗi.
Hoạt động giám sát có chi phí
Việc phát lại và tái dựng hành động của tác nhân đòi hỏi bổ sung công cụ đo lường. Theo bài báo, OpenAI nhận thấy hoạt động giám sát làm tăng khoảng 20% tài nguyên tính toán suy luận đối với các tác nhân hoạt động liên tục có năng lực cao nhất của hãng. Các nhóm nền tảng phải cân nhắc chi phí này với nhu cầu chẩn đoán những lỗi có thể không thể hiện rõ theo cách khác.
Chia sẻ lỗi trong hệ thống chuyên biệt
SAFE được xây dựng để mở rộng hoạt động phân tích lỗi ra ngoài phạm vi từng công ty, dù nguồn tin chưa nêu một tiêu chuẩn báo cáo hoàn chỉnh hay lịch triển khai cụ thể. Nhu cầu này có thể rõ hơn trong các hệ thống chuyên biệt: CrowdStrike đang tinh chỉnh các mô hình Nemotron của Nvidia để tạo một cặp tác nhân bảo mật, trong đó một tác nhân tìm lỗ hổng có thể bị khai thác và tác nhân còn lại tạo bản vá. Trong quy trình như vậy, kết quả sai có thể bắt nguồn từ nhiều điểm trong ngăn xếp tác nhân và không nhất thiết xuất hiện trong các bài đánh giá mô hình đa dụng.
Ảnh minh họa do AI tạo.
Nguồn: Your AI agent failed. The model might not be the problem.