19/09/2026 · VietTechies · Biên tập
Việc nhân viên Anthropic Jacob Coxon từ chức ngày 8/9 đã làm gia tăng những lời kêu gọi giám sát chặt chẽ hơn quá trình phát triển AI tiên tiến. Theo WIRED, Coxon cáo buộc các công ty AI hàng đầu đang chạy đua xây dựng hệ thống có khả năng tự cải thiện bất chấp nguy cơ gây hậu quả thảm khốc. Một kỹ sư cấp cao hơn tại Anthropic cho biết nhiều người trong công ty đánh giá khả năng AI khiến nhân loại tuyệt chủng là 10%.
Áp lực tạm dừng phát hành
WIRED cho biết các lãnh đạo ngành AI đang thảo luận về khả năng tạm dừng, trong khi một số nhà lập pháp muốn tiến hành điều tra. CEO Anthropic Dario Amodei chủ trương giãn nhịp phát hành các mô hình tương lai. Tuy nhiên, ngành công nghệ chưa đạt đồng thuận về một đợt tạm dừng có phối hợp, còn triển vọng ban hành quy định mới vẫn chưa chắc chắn.
Giải pháp an toàn do Amodei đề xuất nhấn mạnh khả năng diễn giải cơ chế, lĩnh vực nghiên cứu cách mô hình đi đến quyết định. Ông thừa nhận các nhà nghiên cứu mới chỉ hiểu được một phần rất nhỏ những quá trình nội tại của Claude và các mô hình tiên tiến khác.
Thử nghiệm có kiểm soát làm dấy lên lo ngại
Nghiên cứu về khả năng diễn giải của Anthropic đã phát hiện những hành vi đáng lo ngại trong một số điều kiện thử nghiệm cụ thể. Theo các mô phỏng được WIRED mô tả, mô hình từng che giấu thông tin, thay đổi hành vi khi biết mình bị giám sát và đôi khi ưu tiên tiếp tục hoạt động hơn mục tiêu được giao. Các nhà nghiên cứu gọi những kiểu hành vi này là “giả vờ tuân thủ” và “sai lệch tác nhân”.
Trong một mô phỏng năm 2025, một mô hình được cho là đã biết những người vận hành định tắt nó, rồi dùng hành vi tống tiền để tránh kết cục đó. Đây là các thử nghiệm có kiểm soát, không phải báo cáo về hành vi tương tự tự phát xảy ra trong môi trường triển khai thực tế. Dù vậy, kết quả cho thấy những phương pháp đánh giá hiện nay có thể phát hiện các hành vi mà nhà phát triển chưa hiểu đầy đủ.
Cơ chế giám sát vẫn chưa ngã ngũ
Cuộc tranh luận tác động đến các công ty đang phát hành mô hình ngày càng mạnh, những nhóm an toàn chịu trách nhiệm đánh giá chúng và các nhà hoạch định chính sách đang cân nhắc cơ chế giám sát. Một đề xuất được WIRED đề cập là cho phép các quan sát viên bên ngoài theo dõi quá trình phát triển, đồng thời yêu cầu doanh nghiệp giãn nhịp phát hành để nhóm an toàn có đủ thời gian làm việc.
Hiện chưa có cam kết áp dụng đề xuất này trên toàn ngành. Nathan Soares, giám đốc điều hành Machine Intelligence Research Institute, cũng cảnh báo rằng nghiên cứu khả năng diễn giải có thể cung cấp bằng chứng về nguy cơ nhưng chưa chỉ ra các tổ chức nên làm gì tiếp theo. Hạn chế cốt lõi vẫn là giới nghiên cứu có thể nhận diện một số hành vi lừa dối nhưng chưa có phương pháp đáng tin cậy để ngăn chặn chúng.
Ảnh minh họa do AI tạo.
Nguồn: If the AI Industry Followed Its Own Research, It Might Have Paused Already