30/09/2026 · VietTechies · Biên tập
Amazon Web Services đã chi tiết hóa một mô hình kiến trúc cho việc lưu trữ các quy trình tạo nội dung đa phương tiện trên Amazon SageMaker AI bằng cách sử dụng một AWS vLLM-Omni Deep Learning Container duy nhất. Giải pháp này kết hợp một endpoint thời gian thực dành cho mô hình tạo ảnh FLUX.2-klein-4B cùng một endpoint bất đồng bộ chạy Wan2.1-VACE-1.3B để sản xuất video ngắn từ dữ liệu đầu vào dạng văn bản và hình ảnh.
Kiến trúc đường ống endpoint kép
Kiến trúc triển khai cùng một container image cố định tới hai endpoint SageMaker AI riêng biệt, đồng thời cấu hình mô hình mục tiêu của container thông qua biến môi trường. Hệ thống dùng endpoint thời gian thực cho FLUX.2-klein-4B nhằm trả về trực tiếp kết quả ảnh PNG dạng base64. Đối với tác vụ tổng hợp video bằng Wan2.1-VACE-1.3B, một endpoint bất đồng bộ sẽ xử lý các yêu cầu trong hàng đợi và xuất tệp MP4 hoàn chỉnh ra Amazon S3, giúp tránh hiện tượng ngắt kết nối do quá thời hạn ở phía client trong suốt quá trình xử lý kéo dài.
Trong triển khai mẫu, các hình ảnh base64 được tạo ra sẽ được thay đổi kích thước, chuyển đổi thành đường dẫn URL dữ liệu JPEG và nhúng vào một yêu cầu multipart gửi tới endpoint video. Các header tùy chỉnh sẽ điều hướng yêu cầu đến những API chuẩn của vLLM-Omni, sử dụng đường dẫn /v1/images/generations cho tác vụ ảnh tĩnh và /v1/videos/sync cho việc xử lý video.
Phân bổ tài nguyên và yêu cầu vận hành
Cấu hình tham chiếu chạy FLUX.2-klein-4B trên các instance ml.g6.xlarge và Wan2.1-VACE-1.3B trên các instance ml.g6e.xlarge. AWS lưu ý rằng container video áp dụng kỹ thuật xếp gạch bộ tự mã hóa biến thiên (variational autoencoder tiling) để giảm thiểu mức tiêu tốn bộ nhớ đỉnh trong quá trình giải mã video. Để vận hành hệ thống này, người dùng cần chuẩn bị môi trường Python 3.11 trở lên, thông tin xác thực AWS CLI hoặc SDK phù hợp, các role thực thi SageMaker quy định và hạn ngạch GPU endpoint đang hoạt động tại Region AWS lưu trữ.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: Generate images and video with vLLM-Omni on SageMaker AI – Part 2