18/09/2026 · VietTechies · Biên tập
Baseten đã khởi động một sáng kiến an toàn AI thông qua bộ phận nghiên cứu Base Labs, hợp tác với Hugging Face và Goodfire AI để phát triển hạ tầng đánh giá, giám sát dành cho các mô hình trọng số mở. Dự án được công bố hôm thứ Tư, hướng đến những phương pháp an toàn minh bạch có thể tích hợp vào quá trình huấn luyện và triển khai mô hình.
Ứng phó nguy cơ gỡ bỏ cơ chế bảo vệ
Quan hệ hợp tác tập trung vào rủi ro của mô hình trọng số mở, vốn có các tham số có thể bị chỉnh sửa sau khi phát hành. Một mối lo là kỹ thuật “abliteration”, được dùng để loại bỏ cơ chế bảo vệ khỏi mô hình. Theo TechCrunch, Hugging Face hiện liệt kê hơn 6.000 mô hình được mô tả là đã qua “abliteration”, cho thấy các phiên bản chỉnh sửa như vậy đang được phân phối rộng rãi.
Đề xuất tiêu chuẩn an toàn
Base Labs dự kiến phát triển và công bố các phương pháp huấn luyện, giám sát mô hình mở. Baseten giới thiệu công trình này như một tiêu chuẩn tiềm năng được tích hợp vào toàn bộ vòng đời mô hình, thay vì một lớp an toàn riêng biệt bổ sung sau khi huấn luyện hoặc triển khai. Công ty cho rằng khả năng tiếp cận cấu trúc bên trong mô hình có thể giúp hành vi của mô hình dễ quan sát hơn, đồng thời chuyển nghiên cứu an toàn thành các biện pháp kiểm soát minh bạch.
Sáng kiến nhắm đến mô hình trọng số mở, một thuật ngữ không nhất thiết có nghĩa là mô hình hoặc phần mềm liên quan đáp ứng các yêu cầu cấp phép nguồn mở. Hugging Face tham gia với vai trò một nền tảng lưu trữ lớn cho các mô hình AI được phân phối công khai, còn Goodfire AI tập trung vào khả năng diễn giải mô hình và tìm hiểu cách mô hình đưa ra quyết định.
Chi tiết kỹ thuật vẫn chưa được công bố
Ba công ty chưa tiết lộ cách hạ tầng này sẽ vận hành, những nội dung đánh giá được áp dụng hoặc thời điểm tiêu chuẩn có thể ra mắt. Goodfire cho rằng các biện pháp kiểm soát an toàn cần được tích hợp vào mô hình mở và do những tổ chức cung cấp mô hình hỗ trợ, nhưng trách nhiệm cụ thể của công ty trong quan hệ hợp tác vẫn chưa được nêu rõ.
Nguồn vốn và lời mời tham gia
Theo TechCrunch, Baseten đã huy động 1,5 tỷ USD trong vòng Series F vào tháng 6, với mức định giá 13 tỷ USD. Trước đó trong năm, Goodfire AI huy động 150 triệu USD ở vòng Series B do B Capital dẫn dắt để phát triển nền tảng diễn giải mô hình. Baseten cũng mời các nhà phát triển ngoài ba công ty tham gia đóng góp cho khuôn khổ được đề xuất.
Ảnh minh họa do AI tạo.
Nguồn: Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire