22/09/2026 · VietTechies · Biên tập
Nhà phát triển Jared Palmer đã phát hành thế hệ Kev mới, một họ mô hình quyết định chuyên biệt được thiết kế để xử lý các lựa chọn có ràng buộc của AI agent mà không cần sinh văn bản. Được xây dựng trên Qwen 3.5, bản phát hành gồm các biến thể 0,8 tỷ, 4 tỷ và 9 tỷ tham số theo giấy phép Apache 2.0, kèm mã huấn luyện và công cụ đánh giá.
Một lượt chạy thay cho giải mã
Kev xử lý ngữ cảnh, câu hỏi và các phương án trong một lượt truyền tiến, sau đó lấy quyết định từ một đầu con trỏ (pointer head) thay vì thực hiện vòng lặp giải mã tự hồi quy. Mô hình hỗ trợ quyết định có hoặc không thông qua Noul, chọn phương án thông qua Choice và các cấp độ theo thứ tự thông qua Score. Xác suất trả về chỉ giới hạn trong những phương án được cung cấp, ngăn mô hình đưa ra lựa chọn không có trong danh sách, dù mô hình vẫn có thể chọn sai.
Vai trò hẹp hơn trong hệ thống agent
Các mô hình này hướng đến những bước lặp lại và bị ràng buộc như định tuyến công cụ, xếp hạng, kiểm tra an toàn và chuyển cấp. Nhiều câu hỏi có thể được đánh giá trên cùng một trạng thái trong một lượt chạy, với mặt nạ chú ý nhân quả theo khối (block-causal attention mask) giúp tách biệt chúng. Tài liệu của Palmer cho biết Kev-4B xử lý ba câu hỏi trong 277 mili giây bằng bf16 trên máy M5, nhưng chưa có phép so sánh được kiểm soát với Qwen sinh nội dung tương đương, nên chưa thể định lượng lợi thế tốc độ trong thực tế.
Giới hạn về độ chính xác và hiệu chỉnh
Theo model card của Palmer, Kev-9B đạt độ chính xác 83,7% trên một bài kiểm thử ngoài miền được khóa riêng. Đây là kết quả do nhà phát triển báo cáo, và các đánh giá cho thấy hiện tượng lệch hiệu chỉnh trên những phân phối nguồn chưa từng thấy. Điều này đáng lưu ý khi agent dùng ngưỡng xác suất để thực hiện hành động hoặc chuyển cấp, bởi điểm số cao không bảo đảm lựa chọn là đúng.
Việc tinh chỉnh cũng làm giảm một số năng lực về kiến thức phổ thông và số học được kế thừa, đặc biệt ở các mô hình nhỏ hơn. Vì vậy, Kev được định vị là một thành phần chuyên biệt hoạt động bên cạnh mô hình suy luận đa dụng, không phải sản phẩm thay thế mô hình đó. Với các ứng dụng chỉ thỉnh thoảng đưa ra lựa chọn có ràng buộc, giải mã có ràng buộc bằng một mô hình hiện có có thể đơn giản hơn so với việc vận hành thêm một mô hình.
Tương thích với System One
Kev triển khai định dạng yêu cầu và phản hồi của API System One từ TypeSafe, cho phép các ứng dụng được xây dựng cho giao diện này kết nối tới một máy chủ Kev cục bộ. Trước đó, TypeSafe đã giới thiệu Jev với cùng các thành phần cơ bản Noul, Choice và Score, nhưng trọng số cùng dữ liệu huấn luyện của Jev không được công khai, khiến việc so sánh trực tiếp giữa hai cách triển khai bị hạn chế.
Ảnh minh họa do AI tạo.
Nguồn: Your AI agent is burning tokens on choices that don’t need words