07/10/2026 · VietTechies · Biên tập
Google đã ra mắt EmbeddingGemma 2, một mô hình mở với 740 triệu tham số được thiết kế để mang khả năng truy xuất đồng nhất cho văn bản, mã nguồn, hình ảnh, video và âm thanh trực tiếp lên các ứng dụng trên thiết bị. Được phát hành theo giấy phép Apache 2.0, mô hình này ánh xạ toàn bộ cả năm loại dữ liệu vào một không gian vector 768 chiều duy nhất, cho phép các nhà phát triển lập chỉ mục và tìm kiếm nội dung đa phương thức cục bộ mà không cần phải tạo chú thích cho ảnh hay chuyển âm thanh thành văn bản trước đó.
Kiến trúc mô-đun và ngữ cảnh được mở rộng
EmbeddingGemma 2 sử dụng cấu trúc mô-đun cho phép các nhà phát triển chỉ tải đúng bộ mã hóa (encoder) cần thiết cho ứng dụng của họ. Bộ mã hóa cơ bản 270 triệu tham số xử lý văn bản và mã nguồn, tiêu tốn khoảng 191MB RAM hoạt động trong thử nghiệm của Google trên điện thoại Pixel 11 Pro. Khi tích hợp thêm bộ mã hóa thị giác, kích thước mô hình tăng lên 440 triệu tham số, còn nếu thêm bộ mã hóa âm thanh thì dung lượng đạt 570 triệu tham số. Khi tải cả hai bộ mã hóa, mô hình đạt quy mô tối đa 740 triệu tham số và tiêu thụ khoảng 567MB RAM hoạt động sau khi lượng hóa.
Google đã tăng gấp bốn lần cửa sổ ngữ cảnh từ 2.048 lên 8.192 token, giúp một đầu vào duy nhất có thể xử lý tối đa 5,5 phút âm thanh, 29 hình ảnh hoặc 58 khung hình video với tốc độ trích xuất một khung hình mỗi giây. Nhờ việc mọi cấu hình bộ mã hóa đều ánh xạ vào cùng một không gian nhúng, các nhóm phát triển có thể bổ sung chỉ mục hình ảnh hoặc âm thanh vào các cơ sở dữ liệu vector văn bản hiện có mà không cần tạo lại nhúng cho dữ liệu đã lưu trữ.
Nén chỉ mục bằng kỹ thuật học Matryoshka
Để quản lý nhu cầu lưu trữ trên thiết bị di động—nơi một triệu vector bfloat16 768 chiều chiếm khoảng 1,5GB dung lượng—EmbeddingGemma 2 đã được huấn luyện bằng kỹ thuật Học biểu diễn Matryoshka (Matryoshka Representation Learning). Kỹ thuật này cho phép cắt giảm kích thước vector nhúng xuống 512, 256 hoặc 128 chiều mà không cần huấn luyện lại mô hình.
Ở mức 256 chiều, chỉ mục một triệu vector thu gọn xuống còn khoảng 500MB. Google cho biết các bản nhúng 256 chiều vẫn giữ được hầu hết chất lượng đối với văn bản và mã nguồn, đồng thời đạt khoảng 95% chất lượng truy xuất so với kích thước đầy đủ đối với hình ảnh, video và giọng nói. Việc cắt giảm xuống 128 chiều giúp giảm thêm dung lượng chỉ mục, dù chất lượng truy xuất giảm xuống còn khoảng 90% đối với văn bản và mã nguồn, và khoảng 75% đối với các truy vấn đa phương thức.
Bài đo hiệu năng và triển khai trên các nền tảng
Trong các tác vụ truy xuất mã nguồn, EmbeddingGemma 2 đạt 78,68 điểm trên bài đo hiệu năng MTEB Code, tăng từ mức 68,76 điểm của thế hệ đầu tiên. Google cũng nhấn mạnh khả năng ứng dụng của mô hình trong quy trình ra quyết định thông qua MediaPipe Decision, với thử nghiệm chơi cờ vua cục bộ cho thấy mô hình có thể đánh giá 500 phương án lựa chọn mỗi lượt trong chưa đầy 100 miligiây.
Khả năng triển khai trực tiếp trên thiết bị cho EmbeddingGemma 2 hiện đã sẵn sàng thông qua LiteRT và MediaPipe Tasks. Việc tích hợp Android ML Kit hỗ trợ tăng tốc bằng NPU dự kiến sẽ ra mắt trong những tuần tới.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: Your phone’s vector index might be bigger than the AI model running it