12/10/2026 · VietTechies · Biên tập
Các bài đo hiệu năng độc lập được nhà phát triển Efrain Garay công bố vào ngày 10/10/2026 cho thấy mô hình Qwen-Image-2.1-Turbo của Alibaba có thể hoạt động hiệu quả trên phần cứng đồ họa phổ thông khi được lượng tử hóa theo chuẩn 4-bit NormalFloat (NF4). Thử nghiệm trên một card đồ họa Nvidia GeForce RTX 4070 Ti SUPER 16 GB duy nhất, mô hình đã qua lượng tử hóa vượt trội hơn đường ống FLUX.1-dev về cả tốc độ suy luận lẫn độ chính xác khi tuân theo câu lệnh, đồng thời duy trì mức tiêu thụ VRAM hợp lý.
Kết quả bài đo hiệu năng về tốc độ và độ chính xác văn bản
Do phiên bản bfloat16 16-bit chưa lượng tử hóa của Qwen-Image-2.1-Turbo đòi hỏi tới 32.5 GB VRAM và vượt quá dung lượng của các dòng card phổ thông, việc lượng tử hóa là bắt buộc để chạy cục bộ. Sử dụng thư viện bitsandbytes để lượng tử hóa bộ chuyển đổi (transformer) và bộ mã hóa văn bản sang NF4 đã giúp giảm dung lượng xuống còn 10.6 GiB trên ổ đĩa, tiêu thụ 11.9 GiB VRAM cao hơn mức nền trong quá trình giải mã theo ô, so với mức 13.1 GiB của FLUX.1-dev Q6_K.
Trong các thử nghiệm đối đầu với cùng câu lệnh và hạt giống ở độ phân giải 1344×768, Qwen-Image 2.1 NF4 hoàn tất việc tạo ảnh với thời gian trung vị là 8.4 giây sử dụng 8 bước suy luận. Ngược lại, FLUX.1-dev kết hợp với LoRA pixel-art mất tới 61 giây qua 30 bước, mang lại hiệu suất nhanh hơn khoảng 7 lần cho Qwen. Độ chính xác khi hiển thị văn bản cũng nghiêng về phía Qwen NF4, khi mô hình tạo chính xác các chuỗi chữ được yêu cầu trong 13 trên tổng số 18 trường hợp thử nghiệm, trong khi FLUX đạt 7 trường hợp. Một bài kiểm tra cơ sở với Qwen chưa lượng tử hóa trên dòng card Nvidia RTX A6000 48 GB cho thuê đã tạo đúng 17 trên 18 chuỗi văn bản.
Đánh giá khả năng dựng cảnh phức tạp qua 15 câu lệnh ảnh bìa blog cho thấy Qwen NF4 đã kết hợp thành công chủ đề chính, hành động và các yếu tố quan trọng trong 11 trường hợp. FLUX kết hợp cùng LoRA tùy chỉnh không thể nắm bắt trọn vẹn chủ đề hoặc hành động chính ở bất kỳ câu lệnh nào trong số 15 câu, một phần do giới hạn cắt bớt token trong bộ mã hóa văn bản CLIP của nó.
Khắc phục hiện tượng nhiễu lượng tử hóa và điểm nghẽn VAE
Quá trình đánh giá hiệu năng đã làm nổi bật các sự đánh đổi kỹ thuật cụ thể và các bản vá ổn định cần thiết trong quá trình lượng tử hóa. Việc cố gắng chạy bộ chuyển đổi ở độ chính xác 8-bit bằng LLM.int8 dẫn đến hiện tượng hỏng dữ liệu đầu ra nghiêm trọng, tạo ra một vùng màu tím đồng nhất trên toàn bộ ảnh. Ngược lại, phương pháp lượng tử hóa NF4 vẫn bảo toàn được tính toàn vẹn về cấu trúc của hình ảnh.
Để quản lý giới hạn bộ nhớ trên card 16 GB, các bước xử lý ban đầu đã sử dụng giải mã VAE theo ô, gây ra các vệt tím dọc mờ nhạt trên các bề mặt sáng ở cả định dạng bfloat16 và NF4. Garay đã khắc phục hiện tượng này bằng cách áp dụng quy trình làm việc hai giai đoạn: hệ thống tạo toàn bộ các không gian ẩn trước, sau đó giải phóng bộ chuyển đổi và bộ mã hóa văn bản khỏi VRAM, rồi mới giải mã toàn bộ khung hình VAE trong một lần duy nhất không chia ô. Giai đoạn giải mã VAE thứ cấp này mất 0.77 giây với mức phân bổ VRAM đỉnh trên PyTorch là 7.1 GiB.
Phân tích: Khả năng ứng dụng của GPU phổ thông đối với đường ống đa phương tiện cục bộ
Các kết quả đo hiệu năng này cho thấy sự chuyển dịch đáng kể trong việc triển khai AI tạo sinh cục bộ, chứng minh rằng việc lượng tử hóa 4-bit nhỏ gọn cho phép các mô hình khuếch tán năng lực cao chạy hiệu quả trên phần cứng tầm trung. Trước đây, việc tạo ảnh độ phân giải cao với khả năng hiển thị văn bản chính xác đòi hỏi các bộ tăng tốc cấp doanh nghiệp như RTX A6000 48 GB hoặc phụ thuộc vào các API đám mây trả phí. Khả năng chạy Qwen-Image-2.1-Turbo trên card phổ thông 16 GB trong vòng 8.4 giây giúp hạ thấp rào cản kỹ thuật đối với các lập trình viên độc lập, người tự lưu trữ và nhà sáng tạo hình ảnh cần lặp lại nhanh chóng ở cục bộ.
Tuy nhiên, việc áp dụng lượng tử hóa NF4 đi kèm với những sự đánh đổi rõ rệt về mặt thị giác và năng lực. Mặc dù Qwen NF4 thể hiện khả năng tuân thủ câu lệnh và độ chính xác văn bản vượt trội so với FLUX kết hợp LoRA, mô hình này lại hy sinh một phần bầu không khí phong cách và chiều sâu, tạo ra các bố cục nền phẳng hơn. Hơn nữa, việc giảm từ 17 đầu ra văn bản chính xác trên phần cứng chưa lượng tử hóa xuống còn 13 ở phiên bản NF4 cho thấy độ chính xác 4-bit vẫn gây ra các lỗi nhỏ ở các chi tiết tinh vi. Đối với các nhà phát triển xây dựng đường ống tài sản cục bộ tự động, sự đánh đổi này nghiêng về lợi thế tốc độ đáng kể và độ tin cậy về cấu trúc của Qwen, mặc dù FLUX vẫn giữ được tính phù hợp cho các quy trình ưu tiên phong cách nghệ thuật chuyên biệt hơn là độ chính xác văn bản tuyệt đối.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: Qwen-Image 2.1 on 16 GB of VRAM, quantized to NF4: a real benchmark against FLUX · Qwen-Image-2.1-Turbo vs FLUX.1-dev on 16 GB: text, covers and speed measured image by image