19/09/2026 · VietTechies · Biên tập
Một nghiên cứu của Lasso phát hiện công nghệ thủy vân văn bản SynthID-Text của Google DeepMind có thể vô tình làm thay đổi cách các mô hình ngôn ngữ lớn phản hồi và hành động. Theo TechRadar, sau khi áp dụng thủy vân, nhóm nghiên cứu ghi nhận khác biệt trong việc từ chối yêu cầu có hại, mức độ dễ bị chèn câu lệnh và cách tác nhân AI lựa chọn công cụ.
Thủy vân không chỉ xác định nguồn gốc
Công nghệ thủy vân văn bản được thiết kế để nhúng một tín hiệu mà máy có thể đọc, qua đó hỗ trợ phân biệt nội dung do AI tạo với nội dung do con người viết. Kết quả của Lasso cho thấy quá trình này còn có thể tác động đến nội dung được tạo ra và hành vi tiếp theo của tác nhân AI. Nhóm nghiên cứu gọi hiện tượng này là "sampling drift", tức sai lệch phát sinh trong quá trình lấy mẫu đầu ra.
Những thay đổi được báo cáo xuất hiện ngay cả khi không có cuộc tấn công. Trong một số thử nghiệm, việc gắn thủy vân làm thay đổi quyết định từ chối và khiến mô hình sẵn sàng trả lời các yêu cầu có khả năng gây hại hơn. Lasso nhận thấy tác động mạnh hơn khi kết hợp thủy vân với kỹ thuật chèn câu lệnh, nhưng nguồn tin không cung cấp số liệu về quy mô hoặc mức độ nhất quán của các thay đổi này.
Kết quả đánh giá an toàn cũ có thể không còn phù hợp
Mối lo thực tế đối với các nhà phát triển là những đánh giá an toàn được thực hiện trước khi gắn thủy vân có thể không còn phản ánh đúng cấu hình được triển khai. Một hệ thống từng vượt qua các bài kiểm tra về từ chối yêu cầu, bảo mật hoặc hành vi tác nhân có thể phản hồi khác sau khi quy trình lấy mẫu đầu ra bị điều chỉnh.
Lasso khuyến nghị chạy lại các bộ tiêu chuẩn đánh giá, bài kiểm tra an toàn và thử nghiệm liên quan mỗi khi bổ sung thủy vân hoặc thay đổi cấu hình hay khóa của công nghệ này. Nhóm nghiên cứu không xem kết quả trên là lập luận phản đối các biện pháp xác định nguồn gốc nội dung. Cảnh báo của họ là thủy vân cần được coi như một thay đổi có thể ảnh hưởng đến hành vi mô hình, thay vì chỉ là nhãn trung lập trên đầu ra.
Quy định của EU có thể thúc đẩy áp dụng
Vấn đề có thể trở nên đáng chú ý hơn khi các nhà cung cấp áp dụng thủy vân để tuân thủ quy định. TechRadar đưa tin Anthropic đã công bố kế hoạch sử dụng công nghệ thủy vân tương tự giải pháp của Google DeepMind cho các thế hệ Claude trong tương lai, trong đó việc tuân thủ Đạo luật AI của Liên minh châu Âu là một động lực chính.
Nghiên cứu bổ sung góc nhìn bảo mật cho lĩnh vực thủy vân AI, vốn chủ yếu tập trung vào khả năng nhúng và phát hiện tín hiệu một cách đáng tin cậy. Kết quả cho thấy trước khi triển khai, các cơ chế xác định nguồn gốc cũng cần được kiểm tra cùng hàng rào an toàn của mô hình, biện pháp phòng vệ trước chèn câu lệnh và quyết định lựa chọn công cụ của tác nhân AI.
Ảnh minh họa do AI tạo.