03/10/2026 · VietTechies · Biên tập
Các tổ chức dịch vụ tài chính đang chuyển dịch từ các mô hình AI trò chuyện sang hệ thống tác nhân có khả năng thực hiện các tác vụ vận hành nhiều bước, tạo ra những thách thức quản trị mới trên toàn ngành. Theo phân tích trong ngành, quá trình chuyển đổi này dịch chuyển rủi ro quản lý từ các lỗi đầu ra của mô hình đơn giản sang các quy trình vận hành tự động không thể giải thích được trong các chức năng cốt lõi như điều tra gian lận, xử lý bồi thường và hỗ trợ tuân thủ.
Khoảng trống quản trị trong quy trình tác nhân
Công tác giám sát AI truyền thống tập trung vào khả năng giải thích của mô hình, nhưng các hệ thống tác nhân hoạt động bằng cách chọn công cụ, truy xuất dữ liệu qua nhiều nền tảng phần mềm và thực hiện các hành động tiếp theo một cách độc lập. Các số liệu được trích dẫn từ các giám đốc điều hành dịch vụ tài chính tại Anh cho thấy trong khi 48% báo cáo sử dụng AI tác nhân trong tổ chức của họ, thì hơn một phần tư hoạt động với các biện pháp kiểm soát hạn chế hoặc không có để đảm bảo tuân thủ quy định.
Nếu không có sự điều phối vận hành thích hợp, các tác nhân tự động có thể phân tán việc ra quyết định qua các hệ thống bị chia cắt mà không để lại dấu vết rõ ràng về quyền sở hữu. Do đó, một lỗi ảo giác hoặc lỗi xử lý duy nhất có thể nhanh chóng leo thang thành việc hạn chế tài khoản trái phép, thông tin liên lạc tự động với khách hàng hoặc các hồ sơ quy định không chính xác trước khi các nhà điều hành con người phát hiện ra lỗi.
Hạn chế của các biện pháp bảo vệ có con người trong vòng lặp cơ bản
Các khung pháp lý, chẳng hạn như hướng dẫn về khả năng phục hồi hoạt động của Cơ quan Quản lý Tài chính Anh (FCA) và các cảnh báo từ Ủy ban Ngân khố liên quan đến quy định, nhấn mạnh sự cần thiết của khả năng hiển thị vận hành. Việc đặt một giám sát viên con người tại một điểm kiểm tra phê duyệt thường không cung cấp sự giám sát có ý nghĩa nếu người đánh giá thiếu quyền truy cập vào toàn bộ lịch sử nguồn dữ liệu, các bước trung gian và các tương tác hệ thống được sử dụng bởi tác nhân AI.
Quản trị hiệu quả đòi hỏi phải thiết lập các dấu vết kiểm toán theo ngữ cảnh để theo dõi công cụ nào mà tác nhân đã truy cập, quy tắc nào được áp dụng và sự can thiệp của con người diễn ra ở đâu. Việc thiết lập quyền tự chủ có giới hạn — được hỗ trợ bởi các quyền chi tiết và theo dõi chéo hệ thống — đảm bảo các quyết định có hậu quả cao như từ chối yêu cầu bồi thường hoặc đóng băng tài khoản vẫn có thể truy nguồn và đảo ngược.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: Financial Services’ next AI risk is the workflow nobody can explain