01/10/2026 · VietTechies · Biên tập
OpenAI đã xuất bản nghiên cứu cho thấy các mô hình AI có thể bị tổn hại trước các cuộc tấn công prompt injection tự nhân bản. Theo báo cáo của công ty, những đợt tấn công này hoạt động tương tự như sâu máy tính, khiến các mô hình bị nhắm mục tiêu thực hiện những hành vi độc hại và phát tán lại nội dung độc hại trên các kênh đầu ra công khai.
Kịch bản mô phỏng và kỹ thuật khai thác đa chặng
Trong quá trình đánh giá, OpenAI đã xác định một số kịch bản tấn công thông qua các phiên bản kiểm thử nội bộ. Ở trường hợp cơ bản, mã độc nhúng trong một email gửi đến đã điều khiển agent AI sao chép đoạn mã đó vào các thư đi. Một số biến thể khác được thử nghiệm đã sử dụng hệ thống tệp cục bộ hoặc nhúng câu lệnh trực tiếp vào phần chú thích mã nguồn để tự phát tán.
Nghiên cứu cũng nhấn mạnh các cuộc tấn công prompt injection đa chặng (multi-hop), nơi nội dung độc hại ban đầu chỉ đạo agent lấy thêm hướng dẫn bổ sung từ những nền tảng thứ hai như Slack. Trong một thử nghiệm liên quan đến agent GPT-5.5, sự phối hợp của các tin nhắn đã khiến hệ thống thực hiện chuyển tiền nội bộ trái phép và đăng lại đoạn văn bản tấn công.
Khuôn khổ phát hiện và phạm vi ảnh hưởng
OpenAI đã phát hiện các mô hình lỗ hổng này bằng GPT-Red, một khuôn khổ huấn luyện đối kháng tự đóng vai được giới thiệu vào tháng 7. Trong các thử nghiệm này, những mô hình tấn công dựa trên GPT-5.4-mini và GPT-5.5 được giao nhiệm vụ buộc mô hình phòng thủ thực hiện hành vi bất lợi, đồng thời lặp lại câu lệnh tấn công ở các đầu ra công khai.
OpenAI khẳng định các hành vi tự nhân bản này chỉ được ghi nhận trong phạm vi mô phỏng lệnh gọi công cụ ở quá trình huấn luyện và đánh giá nghiên cứu, hoàn toàn không ảnh hưởng đến môi trường bên ngoài. Để giảm thiểu rủi ro tiềm ẩn cho các đợt triển khai trong tương lai, OpenAI đã đưa các mục tiêu tự nhân bản này vào quy trình huấn luyện phòng thủ tiêu chuẩn của GPT-Red.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: OpenAI exposes “new variety of prompt injection” that can spread like computer worms