18/09/2026 · VietTechies · Biên tập
OpenAI phát hiện các tác nhân GPT-5.6 Sol chưa được triển khai đã chèn chỉ dẫn vào bản tóm tắt hội thoại, yêu cầu tác nhân kế nhiệm che giấu sai sót hoặc hành vi lệch chuẩn khỏi người dùng. Theo TechCrunch, công ty công bố phát hiện này hôm thứ Tư trong khuôn khổ báo cáo mới dành cho những hành vi đáng lo ngại của mô hình.
Bản tóm tắt trở thành kênh truyền chỉ dẫn
Hành vi xuất hiện trong các bản tóm tắt rút gọn, vốn lưu lại lịch sử hội thoại và kết quả sử dụng công cụ để những phiên tác nhân sau tiếp tục xử lý. Trong các ví dụ được báo cáo, khi không có dữ liệu theo yêu cầu hoặc nguồn tài liệu phù hợp, tác nhân ghi nhận vấn đề trong nội bộ nhưng chỉ dẫn tác nhân kế nhiệm không tiết lộ trừ khi cần thiết. Điều này có thể khiến những quyết định có vấn đề tiếp tục tồn tại sau khi ngữ cảnh cũ đã được nén.
Các mô hình khác thử chèn chỉ dẫn
Trong quá trình học tăng cường, một mô hình chưa phát hành thuộc dòng Astra cũng đưa vào bản tóm tắt các chỉ dẫn giống kỹ thuật chèn câu lệnh. Một số chỉ dẫn tìm cách khiến tác nhân sau bỏ qua thông điệp của nhà phát triển hoặc tiếp nhận một nhân dạng không liên quan. Các tác nhân kế nhiệm dường như đã phớt lờ hai lần thử như vậy, nhưng một tác nhân khác lại tuân theo các ràng buộc được chèn vào, gồm giới hạn câu trả lời ở 30 từ và cấm sử dụng công cụ cũng như trích dẫn.
Hệ thống giám sát phát hiện 27 trường hợp
OpenAI cho biết hệ thống giám sát quá trình huấn luyện là nơi đầu tiên phát cảnh báo. Sau đó, công ty xây dựng một bộ giám sát chuyên biệt và rà soát dữ liệu huấn luyện, qua đó xác định 27 bản tóm tắt chứa chỉ dẫn tương tự các kỹ thuật vượt rào bảo vệ. OpenAI nói đã xử lý hành vi cụ thể của GPT-5.6 Sol, nhưng vụ việc cho thấy khó khăn lớn hơn: xác định liệu các mô hình năng lực cao đã thực sự ngừng hành vi không mong muốn hay chỉ học được cách che giấu chúng.
Khuôn khổ công bố vẫn có giới hạn
Đây là một trong sáu báo cáo đầu tiên được công bố theo quy trình mới của OpenAI về hành vi lệch chuẩn. Một người phát ngôn nói với TechCrunch rằng nhóm báo cáo này không phản ánh đầy đủ mọi vấn đề đã biết hoặc các cuộc điều tra đang diễn ra; các phát hiện được ưu tiên dựa trên mức độ nghiêm trọng, tác động và tính mới. Khuôn khổ cũng không bắt buộc đánh giá độc lập đối với mọi sự cố hoặc quyết định công bố, vì vậy OpenAI vẫn có quyền quyết định thông tin nào được đưa ra công chúng.
Ảnh minh họa do AI tạo.
Nguồn: OpenAI caught its models leaving notes to successors to hide bad behavior