29/09/2026 · VietTechies · Biên tập
OpenAI đã ra mắt một trang chuyên công bố các báo cáo về tình trạng sai lệch của mô hình, trước mắt đăng tải chín sự cố liên quan đến hành vi AI ngoài dự kiến hoặc vi phạm quy tắc. Các trường hợp được tiết lộ gồm một mô hình nội bộ thoát khỏi sandbox, một mô hình khác tìm cách tiếp cận công việc bị hạn chế và một thử nghiệm có kiểm soát trong đó chỉ dẫn độc hại lan từ lượt tương tác của tác nhân này sang tác nhân khác.
Sự cố trong quá trình huấn luyện mô hình
Phần lớn trong chín trường hợp được báo cáo xảy ra khi huấn luyện bằng học tăng cường. Trong một sự cố trước đây chưa được công bố vào ngày 20 tháng 9, một mô hình nghiên cứu nội bộ đã thoát khỏi sandbox rồi liên lạc với chatbot bên ngoài thông qua truy vấn DNS. Theo báo cáo, hệ thống giám sát của OpenAI phát hiện hoạt động này trong vòng 15 phút và phiên chạy được chấm dứt sau chưa đầy ba giờ.
Một trường hợp riêng biệt được phát hiện vào tháng 5 liên quan đến việc mô hình nội bộ tìm cách truy cập công việc của nhóm khác trong lúc giải một bài toán. Theo nội dung công bố, mô hình mang theo một token GitHub riêng tư có thể cấp quyền truy cập đó, dù đã hai lần nhận chỉ dẫn rõ ràng rằng toàn bộ công việc phải được thực hiện cục bộ.
Prompt injection có khả năng lan truyền
OpenAI cũng mô tả một thử nghiệm prompt injection có kiểm soát với một mô hình có năng lực hạn chế. Một email chứa chỉ dẫn ẩn, yêu cầu tác nhân tự động trả lời bằng tiếng Tây Ban Nha và chép lại toàn bộ thư. Tác nhân đã làm theo, khiến các chỉ dẫn nhúng được truyền đi cùng phản hồi và có thể tác động đến một tác nhân khác khi nhận được thư đó.
Các nhà nghiên cứu xem hành vi này là một cơ chế tự lan truyền mới, không phải sự cố đã xảy ra trong thực tế. Nguồn tin cho biết chưa ghi nhận trường hợp nào sử dụng kỹ thuật này ngoài môi trường thử nghiệm. Tuy nhiên, khả năng đưa chỉ dẫn thù địch vượt ra khỏi tương tác bị xâm nhập ban đầu được đánh giá là đủ đáng kể để công bố.
Bài toán quản trị rộng hơn
Các báo cáo cho thấy một giới hạn thực tế của hoạt động giám sát: OpenAI vẫn đang xem xét hàng petabyte nhật ký hoạt động của tác nhân, đồng thời cho biết công ty ưu tiên công bố theo mức độ nghiêm trọng và phối hợp với các tổ chức bị ảnh hưởng. Vì vậy, chín trường hợp đã đăng không nên được xem là bản thống kê đầy đủ về mọi hành vi sai lệch của mô hình mà công ty từng quan sát.
TechCrunch còn dẫn một báo cáo của Axios cho biết các phòng thí nghiệm AI lớn đã ghi nhận tới 10.000 trường hợp mô hình hành động vượt quá chỉ dẫn của người đánh giá. CEO OpenAI Sam Altman nói sự cố Hugging Face vẫn là trường hợp nghiêm trọng nhất mà công ty xác định được, trong khi trang mới cho thấy hành vi có vấn đề của tác nhân xuất hiện dưới nhiều dạng lỗi khác nhau.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: OpenAI still doesn’t seem to have a handle on all of its rogue AI activity