Google ra mắt mô hình DiffusionGemma, đạt tốc độ 1.000 token/giây hoàn toàn miễn phí

Google công bố mô hình DiffusionGemma với tốc độ vượt trội

Google vừa chính thức công bố và open-source mô hình AI mới có tên DiffusionGemma, một bước tiến đáng chú ý trong lĩnh vực sinh văn bản tự động. Điểm nổi bật nhất của mô hình này là khả năng đạt tốc độ xử lý lên tới 1.000 token mỗi giây trên các thiết bị được hỗ trợ.

Điểm khác biệt so với mô hình truyền thống

Các mô hình ngôn ngữ lớn (LLM) phổ biến hiện nay như GPT, Claude hay Gemini chủ yếu hoạt động theo cơ chế autoregressive — tức là tạo từng token một theo chuỗi, từ trái sang phải. Điều này khiến quá trình sinh văn bản tuần tự và gặp giới hạn về tốc độ.

DiffusionGemma thay đổi hoàn toàn cách tiếp cận bằng cách áp dụng kỹ thuật diffusion (khuếch tán). Thay vì tạo từng từ một, mô hình sinh văn bản theo hướng song song, giống như cách một bức tranh dần hiện rõ từ nhiễu — từ hỗn loạn đến rõ ràng trong một quá trình lặp đi lặp lại có kiểm soát. Chính phương pháp này giúp DiffusionGemma đạt tốc độ vượt trội so với các mô hình cùng phân khúc.

Miễn phí và open-source

Một điểm cộng lớn là Google phát hành DiffusionGemma hoàn toàn miễn phí dưới dạng mã nguồn mở. Điều này mở ra cơ hội cho cộng đồng phát triển và nghiên cứu có thể tiếp cận, tùy chỉnh mô hình mà không phải trả phí licensing.

Hạn chế về phần cứng

Tuy nhiên, theo đánh giá, DiffusionGemma hiện chưa thể chạy phổ biến trên máy tính cá nhân. Yêu cầu tài nguyên phần cứng ở mức cao đồng nghĩa với việc người dùng thông thường khó có thể triển khai mô hình này một cách hiệu quả mà không có GPU rời mạnh mẽ hoặc hạ tầng đám mây phù hợp.

Dù vậy, sự ra đời của DiffusionGemma cho thấy hướng đi mới đầy tiềm năng trong việc tối ưu hóa tốc độ sinh văn bản cho các ứng dụng AI, đồng thời khẳng định cam kết open-source của Google trong cuộc đua AI năm 2025.