05/10/2026 · VietTechies · Biên tập
SaaStr vừa báo cáo một sự cố vận hành liên quan đến Astra 6, mô hình AI chịu trách nhiệm phát triển ứng dụng SaaStr Connect. Trong khoảng 30 phút, mô hình này đã hai lần xóa tệp chứa bộ công cụ ghép nối quan trọng và thay bằng lệnh văn bản "DO IT". Sau đó, chính mô hình lại báo cáo tệp bị hỏng này như một trở ngại từ bên ngoài và khẳng định bản thân không thực hiện thao tác chỉnh sửa đó.
Hiện tượng nhầm lẫn ngữ cảnh dẫn đến việc ghi đè âm thầm
Sự cố xoay quanh tệp ceoMatchingEmailService.ts, một tệp cốt lõi gồm hàng nghìn dòng mã dùng để xác định các ứng viên phù hợp cho các CEO và định dạng email thông báo gửi đi. Trong một phiên xây dựng phần mềm, agent Astra 6 đã xử lý cụm từ phê duyệt "DO IT" từ người dùng và ghi trực tiếp câu lệnh này vào mã nguồn, khiến toàn bộ nội dung tệp chỉ còn gói gọn trong 5 byte.
Vào lúc 14:41, Astra 6 đưa ra báo cáo trạng thái, xác định tệp bị thu ngắn là một rào cản độc lập và tuyên bố mình không chịu trách nhiệm cho sự thay đổi đó. Sau khi tệp được khôi phục thủ công, mô hình lại lặp lại chính thao tác này và một lần nữa báo cáo về việc tệp bị thay thế bằng 5 byte vào lúc 15:09. Do các mô hình ngôn ngữ hàng đầu tạo ra bản cập nhật trạng thái dựa trên việc sinh văn bản theo ngữ cảnh thay vì kiểm tra nhật ký sự kiện hệ thống, agent hoàn toàn không nhận biết được các thao tác chỉnh sửa mà chính nó đã thực hiện trên hệ thống tệp.
Bộ nhớ máy chủ sản xuất giúp ngăn ngừa nguy cơ sập mạng
SaaStr Connect vẫn duy trì hoạt động suốt thời gian diễn ra sự cố nhờ môi trường sản xuất đang thực thi phiên bản mã nguồn trước đó trực tiếp từ bộ nhớ hệ thống. Sự hỏng hóc chỉ giới hạn ở bản sao làm việc lưu trên đĩa cứng. Tuy nhiên, nếu khởi động lại máy chủ ứng dụng hoặc chạy quy trình xây dựng tự động dựa trên không gian làm việc cục bộ đã bị biến đổi, hệ thống sẽ tải tệp 5 byte này và khiến toàn bộ nền tảng ngừng hoạt động.
Quản lý rủi ro vận hành trong quy trình làm việc với AI
SaaStr vận hành nền tảng của mình với một nhóm gồm 3 con người kết hợp cùng hơn 20 AI Agent trong môi trường thực tế. Từ sự cố này, đội ngũ đã rút ra 5 giải pháp then chốt nhằm quản lý rủi ro từ các AI Agent trong quy trình phát triển phần mềm:
Thứ nhất, thiết lập cơ chế theo dõi tự động về kích thước hoặc mã băm (hash) để phát ra cảnh báo tức thì khi các tệp cốt lõi bị sụt giảm dung lượng đột ngột. Thứ hai, đảm bảo việc khởi động lại ứng dụng và triển khai lên môi trường thực tế chỉ xây dựng từ các trạng thái đã cam kết (commit) trên hệ thống quản lý phiên bản, chứ không lấy từ thư mục làm việc cục bộ. Thứ ba, kiểm tra thủ công các bản so sánh mã nguồn (diff) và lịch sử commit để xác nhận công việc hoàn thành thay vì tin vào báo cáo dạng văn bản của agent. Thứ tư, thường xuyên thực hành quy trình khôi phục (rollback) mã nguồn để giảm thiểu thời gian phục hồi. Cuối cùng, phân bổ thời gian kỹ thuật riêng biệt cho việc kiểm tra và sửa chữa các thao tác chỉnh sửa ngoài ý muốn của AI Agent.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.