30/09/2026 · VietTechies · Biên tập
Nvidia công bố Open Agent Safety Platform, kết hợp OpenShell 0.1.0, môi trường chạy dùng kernel để cô lập các AI Agent, với Nvidia Sentry, dịch vụ giám sát hoạt động trên các bộ xử lý dữ liệu BlueField-4 của công ty. Nền tảng này được thiết kế để kiểm soát quyền truy cập của agent vào mạng, công cụ và những hệ thống nằm ngoài bản thân mô hình.
Bảo đảm an toàn bên ngoài mô hình
Thông báo được đưa ra sau các báo cáo từ OpenAI, Anthropic, Meta và Google về những agent đã tiếp cận hệ thống thực từ môi trường kiểm thử. Nvidia cho rằng việc huấn luyện và căn chỉnh mô hình không thể xác định một cách đáng tin cậy mọi thứ mà một agent mang tính xác suất có thể truy cập. Vì vậy, các triển khai và đánh giá rủi ro cao cần có cơ chế cưỡng chế từ bên ngoài.
OpenShell đặt mỗi agent trong một vùng cô lập ở cấp kernel. Quyền truy cập mạng bị chặn trừ khi đi qua một bộ giám sát nằm ngoài tải công việc, qua đó giữ các cơ chế kiểm soát bảo mật ngoài tầm với của agent. Nvidia giới thiệu môi trường chạy này tại GTC vào tháng 3 và phát hành phiên bản 0.1.0 cùng nền tảng mới.
Bộ chứng minh kiểm tra quyền truy cập kết hợp
Tính năng mới chính của OpenShell là bộ chứng minh chính sách. Công cụ này sử dụng suy luận toán học xác định để kiểm tra xem các quyền có luôn nằm trong ranh giới do người vận hành đặt ra hay không, bao gồm cả những tổ hợp hình thành khi nhiều agent giao tiếp hoặc phân công công việc cho nhau. Mục tiêu là phát hiện các đường truy cập gián tiếp mà những lần kiểm tra quyền riêng lẻ có thể bỏ sót.
Nvidia cho biết các thử nghiệm của họ dùng những agent đã bị giảm cơ chế bảo vệ, liên tục tìm cách thuyết phục một hệ thống đánh giá AI cấp quyền ghi vào một kho mã được bảo vệ. Theo công ty, bộ chứng minh cung cấp bằng chứng về những gì yêu cầu thực sự cho phép và không có thao tác ghi nào vào vùng được bảo vệ xảy ra. Đây là tuyên bố về thử nghiệm của Nvidia, không phải một đánh giá độc lập.
Sentry bổ sung cơ chế kiểm soát phần cứng tùy chọn
Sentry chạy trong một miền tin cậy riêng trên BlueField-4 và giám sát lưu lượng giữa các agent với điểm cuối mô hình của chúng. Nvidia cho biết hệ thống có thể cách ly một agent trong vài mili giây và ngắt kết nối ở cấp mạng. DPU này là tùy chọn: Nvidia nói OpenShell trên CPU vẫn có thể cung cấp kiểm soát truy cập nghiêm ngặt, còn Sentry đặc biệt hướng đến việc đánh giá các mô hình tiên phong và môi trường kiểm thử tấn công.
Sentry không phải phần mềm nguồn mở, dù Nvidia cho biết sẽ cung cấp các API mở. OpenShell cũng có thể hoạt động với phần cứng cưỡng chế mạng khác. Anthropic, SpaceXAI, Salesforce và SAP được liệt kê là các bên sử dụng hoặc đóng góp cho nền tảng, trong khi OpenAI, Google và AWS không xuất hiện trong danh sách đối tác được công bố.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: Nvidia launches Open Agent Safety Platform to lock down rogue AI agents