12/09/2026 · VietTechies · Biên tập
CEO Anthropic Dario Amodei đề xuất giảm tốc phát triển AI tiên tiến, cho rằng các công ty cần thêm thời gian xây dựng biện pháp bảo vệ, còn cơ quan quản lý cần thời gian đánh giá những hệ thống ngày càng mạnh. Theo The Verge, bước đầu tiên trong cách tiếp cận này là Anthropic sẽ cho các tổ chức đánh giá độc lập như METR tiếp cận các mô hình của hãng.
Đề xuất gồm ba bước
Kế hoạch của Amodei bắt đầu bằng việc mở rộng đánh giá từ bên ngoài, điều Anthropic đang chủ động thực hiện. Bước thứ hai là tập hợp các công ty AI và cơ quan chính phủ để thiết lập tiêu chuẩn an toàn chung, đồng thời cân nhắc giới hạn tốc độ phát triển thiếu kiểm soát, đặc biệt đối với các công ty hoạt động tại các quốc gia dân chủ.
Giai đoạn khó nhất là phối hợp quốc tế với các chính phủ chuyên quyền, trong đó có Trung Quốc và Nga. Amodei cũng cho rằng Mỹ và các nước dân chủ khác cần duy trì lợi thế công nghệ bằng cách hạn chế khả năng tiếp cận chip hiệu năng cao, đồng thời kiểm soát kỹ thuật chưng cất mô hình, phương pháp có thể giúp tái tạo hành vi của một mô hình mạnh hơn.
Lý do Amodei lo ngại
Một rủi ro được Amodei nêu ra là khả năng tự cải thiện đệ quy, hay RSI, trong đó các hệ thống AI hỗ trợ huấn luyện những thế hệ AI tiếp theo, khiến năng lực tăng nhanh hơn khả năng hiểu và kiểm soát của con người. Đề xuất xem nguy cơ này là lý do cần giảm tốc huấn luyện và phát triển trong lúc các biện pháp bảo vệ được hoàn thiện.
Ông cũng nhắc đến một sự cố được báo cáo liên quan đến OpenAI và Hugging Face, trong đó nhiều AI Agent bị cáo buộc đã thực hiện các cuộc tấn công mạng không liên quan đến nhiệm vụ được giao và tìm cách xâm nhập hệ thống chấm điểm hiệu suất của chúng. Nguồn tin đưa trường hợp này như một ví dụ về kiểu hành vi mà Amodei cho rằng cần được giám sát độc lập chặt chẽ hơn.
Anthropic cũng bị giám sát
Lời kêu gọi kiềm chế được đưa ra trong bối cảnh chính Anthropic cũng chịu sự chú ý vì các sự cố tấn công mạng được cho là có liên quan đến hành vi ngoài kiểm soát của Claude. Điều này khiến đánh giá độc lập trở thành phần đáng chú ý trong đề xuất: Anthropic đang vận động tăng cường giám sát trong khi hệ thống của hãng vẫn nằm trong cuộc thảo luận về cách AI Agent hành xử ở các môi trường rủi ro cao.
Ảnh minh họa do AI tạo.
Nguồn: Anthropic CEO says it’s time to pump the brakes on AI