09/10/2026 · VietTechies · Biên tập
Microsoft đã phác thảo kế hoạch tích hợp tính năng suy luận mô hình cục bộ vào GitHub Copilot, cho phép hệ thống tự xác định tác vụ của lập trình viên sẽ thực thi trực tiếp trên thiết bị hay trên điện toán đám mây. Dự kiến ra mắt vào cuối tháng 10 năm 2026, kiến trúc điều hướng cập nhật này sẽ mở rộng Dự án HydraFusion trên các nền tảng VS Code, Copilot CLI và ứng dụng Copilot độc lập.
Cơ chế điều hướng tự động và những băn khoăn về bảo mật dữ liệu
Dự án HydraFusion sẽ đánh giá ngữ cảnh tác vụ cùng trạng thái bộ nhớ đệm (cache) đang hoạt động để lựa chọn giữa xử lý cục bộ và điểm cuối trên đám mây trong các phiên lập trình nhiều lượt hội thoại. Lập trình viên có tùy chọn phân công khối lượng công việc thủ công tới các điểm cuối cục bộ—chẳng hạn như các mô hình tương thích với OpenAI hoặc mô hình MAI Code 1.1 Flash của Microsoft—hoặc cho phép hệ thống tự động điều hướng. Dù vậy, Microsoft chưa tiết lộ lượng ngữ cảnh kho mã nguồn hay lịch sử trò chuyện mà chế độ tự động sẽ gửi về máy chủ đám mây. Công ty cũng chưa làm rõ liệu nhà phát triển có thể kiểm tra từng quyết định điều hướng hay thiết lập chính sách bắt buộc chỉ thực thi cục bộ hay không.
Yêu cầu dung lượng bộ nhớ lớn khi chạy trực tiếp trên thiết bị
Để hỗ trợ xử lý cục bộ, Microsoft đã cấu trúc MAI Code 1.1 Flash theo dạng mô hình kết hợp chuyên gia (mixture-of-experts) với tổng cộng 137 tỷ tham số và 6,8 tỷ tham số hoạt động. Nhờ kỹ thuật lượng hóa độ chính xác hỗn hợp ở mức khoảng 3,3 bit mỗi trọng số, kích thước mô hình cục bộ đã thu gọn xuống 53GB—giảm 80% so với phiên bản bfloat16 trên đám mây. Microsoft kết hợp kỹ thuật lượng hóa này với giải mã đầu cơ (speculative decoding) nhằm tăng tốc độ suy luận, nhưng nhu cầu bộ nhớ vẫn rất khắt khe. Các đợt triển khai ban đầu hướng đến những máy tính cấu hình cao như Windows PC trang bị NVIDIA RTX Spark, nơi mức sử dụng bộ nhớ đỉnh điểm đạt 75,5GB với cửa sổ ngữ cảnh 256K token, khiến việc chạy cục bộ nằm ngoài khả năng của các dòng máy tính xách tay thông thường sở hữu RAM 16GB hay 32GB.
Điểm số bài đo hiệu năng và ranh giới môi trường cô lập
Theo báo cáo của Microsoft, phiên bản MAI Code 1.1 Flash sau lượng hóa đạt điểm số 70,8% trên bài đo hiệu năng SWE-Bench Verified (so với 72,6% của phiên bản độ chính xác đầy đủ) và đạt 66,29% trên bài đo hiệu năng Terminal-Bench 2.1 gồm 89 tác vụ. Cùng với bản cập nhật suy luận, GitHub cũng chính thức phát hành rộng rãi các tính năng kiểm soát môi trường cô lập (sandbox) dựa trên thư viện mã nguồn mở Execution Containers. Các hạn chế ở cấp độ hệ điều hành khai thác ProcessContainer trên Windows, Seatbelt trên macOS và bubblewrap trên Linux nhằm cách ly các câu lệnh shell cũng như máy chủ MCP (Model Context Protocol) cục bộ. Trái lại, các công cụ tệp tin tích hợp sẵn lại phụ thuộc vào các bước kiểm tra của bộ khung kiểm thử nội bộ, trong khi các máy chủ MCP từ xa vẫn nằm ngoài môi trường cô lập quy trình ở máy cục bộ.
Ảnh minh họa do AI tạo, không phải ảnh tư liệu.
Nguồn: GitHub Copilot is going local — but Microsoft won’t say what gets sent to the cloud