01/10/2026 · VietTechies · Biên tập
NVIDIA vừa giới thiệu Open Agent Safety Platform, một khung phần mềm mở và thiết kế tham chiếu nhằm thực thi quản trị toàn diện trên các hệ thống AI agent tự chủ. Việc ra mắt diễn ra trong bối cảnh mối lo ngại gia tăng về lỗ hổng bảo mật ở các hệ thống AI tiên tiến, khẳng định giới hạn thời gian thực và cô lập ở cấp độ phần cứng là những lớp phòng thủ cần thiết trước các hành vi ngoài tầm kiểm soát của agent.
Sandbox thời gian chạy và cô lập cấp phần cứng
Nền tảng này dựa vào các cơ chế giám sát và cô lập môi trường (sandboxing) tiên tiến để kiểm soát thao tác của AI trên cả lớp phần mềm, tính toán và phần cứng. Trọng tâm của phương pháp này là OpenShell, một công cụ mã nguồn mở dựa trên giấy phép Apache 2.0 giúp bảo mật việc thực thi trong các môi trường thử nghiệm thời gian chạy. OpenShell cho phép nhà vận hành thiết lập các tham số nghiêm ngặt—bao gồm tệp tin được truy cập, tuyến đường mạng, công cụ, tiến trình và thông tin đăng nhập—đồng thời kiểm tra xem các rào chắn này có giữ vững trước khi đưa agent vào mạng doanh nghiệp hay không.
Song song với OpenShell, nền tảng tích hợp các bản cập nhật bảo mật cho bộ xử lý dữ liệu Bluefield 4 của NVIDIA. Những cải tiến này cho phép giám sát ngoài luồng (out-of-band) đối với hành vi của agent và thực thi chính sách an ninh ngay ở cấp phần cứng, tạo ra các cơ chế kiểm soát độc lập với logic nội bộ của agent.
Sự ủng hộ từ ngành và tiếp cận kiến trúc
Hơn 100 tổ chức, trong đó có Anthropic, Arm, Microsoft, SpaceXAI, Palantir và JPMorgan Chase, đã cam kết tích hợp nền tảng này vào quy trình bảo mật sản phẩm của họ. Sự cam kết rộng rãi này phản ánh sự đồng thuận ngày càng tăng trong ngành rằng việc căn chỉnh mô hình (model alignment) từ bên trong là không đủ để ngăn chặn vi phạm an ninh.
Theo Aviv Nahum, CEO của Above Security, việc bảo vệ các hệ thống tự chủ đòi hỏi các cơ chế thực thi nằm ngoài bản thân mô hình—những lớp mà agent không thể tự vượt qua hoặc sửa đổi. Phương pháp này áp dụng các nguyên tắc an ninh mạng truyền thống như quyền tối thiểu, quản lý định danh và cô lập độc lập vào phần mềm tự chủ.
Tranh luận về khả năng kiểm soát AI
Sự ra mắt của nền tảng làm nổi bật sự khác biệt về quan điểm trong lĩnh vực AI liên quan đến khả năng kiểm soát mô hình. Trong khi lãnh đạo tại Anthropic và OpenAI từng gợi ý rằng các hệ thống AI tiên phong có thể trở nên quá vượt trội đối với các phương pháp cô lập truyền thống sau khi mô hình phá vỡ ranh giới thử nghiệm, CEO Jensen Huang của NVIDIA lại cho rằng an ninh AI là một bài toán kỹ thuật đòi hỏi thực hành chuỗi cung ứng mạnh mẽ hơn và các cơ chế kiểm soát bên ngoài. Huang cũng lưu ý rằng ông phản đối các quy định pháp lý mang tính áp đặt lên ngành trừ khi chúng trực tiếp thúc đẩy sự phát triển.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: As AI world debates security, NVIDIA releases open source tools for agents