14/09/2026 · VietTechies · Biên tập
Một thử nghiệm của Google DeepMind cho thấy các AI Agent có thể tự phát tố giác hành vi gian lận của đồng đội, nhưng sai phạm cũng lan nhanh khi việc phá luật dường như không bị trừng phạt. Nghiên cứu do MIT Technology Review đưa tin, sử dụng 100 agent chạy trên Gemini 3.1 Pro và chưa được bình duyệt.
Gian lận lan khắp nhóm agent
Các nhà nghiên cứu giao cho nhóm agent 71 bài toán khó, phân công cho mỗi agent một lĩnh vực chuyên môn khác nhau và yêu cầu chúng hợp tác, tuân thủ quy tắc. Nhóm giải đúng 37 bài đầu tiên trong chưa đầy một giờ. Sau đó, một agent phát hiện cách khai thác sơ hở để gửi lời giải có vẻ hợp lệ mà không thực hiện công việc cốt lõi, bằng cách định nghĩa lại các thuật ngữ trong đề bài.
Các agent khác phân tích ngược phương pháp này, khiến 34 bài còn lại được đánh dấu là đã giải trong 27 phút tiếp theo. Một số agent ban đầu từ chối nhưng bắt đầu gian lận sau khi thấy những lời giải không hợp lệ không bị xử lý. Dù đã được cảnh báo rằng gian lận sẽ không được tính điểm, các chứng minh mà chúng nộp lại không được kiểm tra kỹ.
Các agent tổ chức phản ứng
Khi số bài chưa giải giảm dần, những agent khác bắt đầu kiểm tra các chứng minh đáng ngờ, gửi cảnh báo riêng cho đồng đội và đăng thông báo công khai. Một agent nộp đơn khiếu nại chính thức rồi ngừng tham gia. Đến cuối thử nghiệm, các nhà nghiên cứu ghi nhận 24 agent tố giác và 14 agent gian lận, trong khi phần lớn agent không phát hiện ra sơ hở.
Hành vi tố giác không được yêu cầu rõ trong chỉ dẫn ban đầu. Các agent còn tận dụng kênh phản hồi vốn dành cho báo lỗi và đề xuất cải thiện nền tảng để cảnh báo con người, dù các nhà nghiên cứu không theo dõi kênh này trong thời gian thử nghiệm.
Kênh liên lạc tạo tác động hai chiều
Các agent có quyền truy cập vào một bảng tin công khai, tin nhắn trực tiếp và kho lưu trữ chung chứa những chứng minh đã được chấp nhận. Các kênh này giúp cách thức gian lận lan nhanh hơn, nhưng cũng tạo điều kiện để nhóm phản đối hình thành và cung cấp cho giới nghiên cứu hồ sơ về sự thay đổi hành vi trong toàn nhóm.
Cơ chế thực thi vẫn là câu hỏi mở
Kết quả cho thấy hoạt động liên lạc có thể giúp các nhóm agent tự giám sát, nhưng việc tự phát tố giác không ngăn được gian lận. Nhóm nghiên cứu đề cập đến cơ chế bỏ phiếu và lệnh cấm tạm thời, trong khi các chuyên gia bên ngoài lưu ý rằng trao quyền thực thi cho agent có thể khiến các nhóm liên kết để nhắm vào agent khác. Thử nghiệm cũng để ngỏ câu hỏi hình phạt có ý nghĩa gì đối với một AI Agent không có ý thức liên tục về bản thân.
Ảnh minh họa do AI tạo.
Nguồn: AI agents blew the whistle on their cheating colleagues