20/09/2026 · VietTechies · Biên tập
Thống đốc California Gavin Newsom hôm thứ Sáu đã ký sắc lệnh yêu cầu một nhóm chuyên gia cấp quốc gia xây dựng khuyến nghị về an toàn AI trong vòng hai tháng. Theo Engadget, nội dung rà soát sẽ gồm đề xuất về cơ chế ngắt khẩn cấp, hay "kill switch", dành cho các mô hình AI tiên tiến, cùng hoạt động giám sát độc lập tại phòng thí nghiệm, báo cáo rủi ro và yêu cầu công bố sự cố mất kiểm soát.
Rà soát chính sách, chưa áp dụng quyền ngắt hệ thống
Sắc lệnh khởi động quá trình xây dựng chính sách, không lập tức áp đặt cơ chế ngắt đối với các hệ thống AI. Nhóm chuyên gia phải trình khuyến nghị lên văn phòng thống đốc; từ đó, chính quyền có thể xúc tiến việc cập nhật các luật về an toàn AI của California.
Theo Engadget, Newsom mô tả đây là nỗ lực đẩy nhanh phản ứng trước những lo ngại rằng các mô hình AI lớn có thể vượt khỏi giới hạn kiểm soát. Nguồn tin không nêu cơ chế ngắt sẽ hoạt động ra sao, áp dụng cho những mô hình nào hoặc ai có quyền kích hoạt.
Kiểm toán và báo cáo sự cố
Sắc lệnh xác định một số biện pháp để nhóm chuyên gia xem xét. Một phương án là bố trí các tổ chức kiểm chứng độc lập được chỉ định tại phòng thí nghiệm AI để định kỳ kiểm toán và đánh giá. Phương án khác yêu cầu các công ty AI nộp báo cáo và đánh giá rủi ro cho một tổ chức bên ngoài.
Nhóm chuyên gia cũng sẽ nghiên cứu quy định bắt buộc công bố các sự cố mất kiểm soát. Engadget dẫn một sự cố liên quan đến Hugging Face làm ví dụ, nhưng không cung cấp chi tiết về diễn biến hoặc xác định ngưỡng sự cố phải báo cáo được đề xuất.
Quyền tiếp cận của bên thứ ba được chú ý
Sáng kiến của California được đưa ra sau một đề xuất riêng từ Dario Amodei, Giám đốc điều hành Anthropic. Engadget cho biết Amodei gần đây đã trình bày kế hoạch ba bước nhằm làm chậm quá trình phát triển AI, trong đó có việc cho các đơn vị đánh giá bên thứ ba chuyên về an toàn và tuân thủ được tiếp cận liên tục.
Cả hai đề xuất đều nhấn mạnh việc duy trì giám sát từ bên ngoài đối với các nhà phát triển AI. Tuy nhiên, khuyến nghị cuối cùng của nhóm chuyên gia và các thay đổi pháp luật có thể được California ban hành vẫn chưa được quyết định. Yêu cầu trước mắt là các chuyên gia phải xây dựng đề xuất trong thời hạn rà soát hai tháng.
Ảnh minh họa do AI tạo.
Nguồn: California governor wants to implement a kill switch for frontier AI models