02/10/2026 · VietTechies · Biên tập
Nền tảng suy luận serverless Featherless vừa ra mắt Simple Jev, một thư viện mã nguồn mở được thiết kế để chuyển đổi các mô hình AI mở thành những công cụ phân loại zero-shot tốc độ cao. Công cụ này cho phép các ứng dụng đánh giá dữ liệu đầu vào và đưa ra quyết định nhị phân hoặc phân loại trực tiếp, bỏ qua quá trình tạo văn bản hội thoại truyền thống nhằm giảm độ trễ và tiết kiệm tài nguyên tính toán.
Phân loại dựa trên Logit mà không cần tạo văn bản
Simple Jev được phát triển dựa trên phiên bản mã nguồn đóng Jev của TypeSafe ra mắt trước đó, giúp mở rộng khả năng đưa ra quyết định có cấu trúc sang các mô hình mã nguồn mở. Thay vì tạo câu trả lời dạng văn bản thông qua các mô hình hàng đầu có hàng nghìn tỷ tham số, Simple Jev đánh giá dữ liệu đầu vào theo phương pháp chỉ xử lý prefill và đọc trực tiếp điểm số logit tại điểm lựa chọn. Thiết kế này trả về xác suất phân loại ngay lập tức mà không cần viết ra toàn bộ văn bản phản hồi.
Bên cạnh xử lý văn bản, Featherless còn cung cấp các điểm cuối (endpoint) Simple Jev được lưu trữ sẵn có hỗ trợ thị giác đa phương thức (multi-modal vision). Hiện tại, các endpoint này tương thích với các mô hình Gemma và Qwen, cho phép các nhà phát triển sử dụng dữ liệu hình ảnh làm ngữ cảnh trực tiếp cho các quy trình phân loại tự động.
Mô hình giá và mức độ khả dụng của điểm cuối
Featherless đã phát hành thư viện Simple Jev dưới dạng một kho lưu trữ mã nguồn mở trên GitHub, cho phép các đội ngũ kỹ thuật triển khai hoặc tái tạo khung làm việc phân loại này. Để hỗ trợ quá trình tích hợp, Featherless cũng cung cấp quy trình tinh chất mô hình (distillation workflow), giúp nén các prompt quyết định phức tạp từ những kiến trúc lớn thành các mô hình mở nhỏ gọn, chuyên dụng.
Phục vụ cho mục đích thử nghiệm, Featherless cung cấp các endpoint công khai miễn phí giới hạn ở mức 2 yêu cầu mỗi giây và cửa sổ ngữ cảnh 2.000 token, không yêu cầu đăng nhập hay API key. Đối với khối lượng công việc sản xuất, mức giá của Simple Jev được lưu trữ bắt đầu từ mức sàn thử nghiệm (beta) là 0,03 USD cho mỗi triệu token đầu vào và miễn phí token đầu ra. Danh mục của Featherless cũng hiển thị các bộ phân loại dựa trên Qwen chuyên dụng có giá từ 0,28 USD đến 0,30 USD cho mỗi triệu token đầu vào.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: Why Featherless says you don’t need a tank to deliver a pizza