Trong bối cảnh cuộc đua trí tuệ nhân tạo đang diễn ra gay gắt, Google vừa âm thầm công bố ứng dụng thử nghiệm AI Edge Gallery, đánh dấu bước tiến mới trong việc đưa công nghệ AI từ cloud xuống trực tiếp thiết bị người dùng. Điều đặc biệt là ứng dụng này cho phép smartphone chạy các mô hình AI mạnh mẽ mà không cần kết nối internet.
AI Edge Gallery hiện đã có sẵn cho Android và sắp ra mắt trên iOS, mở ra kỷ nguyên mới cho việc sử dụng AI offline. Thay vì phụ thuộc vào kết nối mạng để truy cập các dịch vụ AI trên cloud, người dùng giờ đây có thể tải xuống và chạy các mô hình AI trực tiếp trên thiết bị cá nhân.
Ứng dụng tích hợp với Hugging Face, nền tảng AI phát triển hàng đầu, cho phép người dùng truy cập vào kho tàng mô hình AI mã nguồn mở phong phú. Trong số đó có mô hình Gemma 3 1B của Google với dung lượng chỉ 529MB nhưng có thể xử lý lên đến 2.585 token mỗi giây, đảm bảo trải nghiệm mượt mà ngay cả trên các thiết bị có cấu hình trung bình.
Khác biệt lớn nhất của AI Edge Gallery nằm ở ba tính năng chính. Tính năng “Ask Image” cho phép người dùng tải ảnh lên và đặt câu hỏi về nội dung hình ảnh. “AI Chat” hỗ trợ cuộc trò chuyện đa lượt tự nhiên. Trong khi đó, “Prompt Lab” cung cấp môi trường thử nghiệm cho các tác vụ một lượt như tóm tắt, viết lại văn bản và tạo code.
Việc chạy AI trực tiếp trên thiết bị mang lại những lợi ích vượt trội về bảo mật và tốc độ. Khi mọi xử lý diễn ra cục bộ, không có dữ liệu nào rời khỏi thiết bị, giảm đáng kể rủi ro bị chặn bắt, lưu trữ hoặc lạm dụng thông tin. Điều này đặc biệt quan trọng đối với người dùng quan tâm đến quyền riêng tư dữ liệu.
Tuy nhiên, hiệu suất của ứng dụng phụ thuộc vào khả năng phần cứng của thiết bị. Các smartphone cao cấp với chip xử lý mạnh sẽ chạy mô hình nhanh và mượt mà hơn, trong khi thiết bị cũ có thể gặp độ trễ, đặc biệt khi sử dụng các mô hình có dung lượng lớn.
Google khuyến nghị sử dụng thiết bị Android 10 trở lên với ít nhất 6GB RAM và chipset hiện đại để có trải nghiệm tối ưu. Các mô hình được hỗ trợ bao gồm Gemma 3, Gemma 3n và Qwen 2.5 của Alibaba, với dung lượng từ khoảng 500MB đến 4GB.
Hiện tại, AI Edge Gallery chưa có mặt trên Google Play Store mà chỉ có thể tải xuống từ GitHub. Để sử dụng, người dùng cần có tài khoản Hugging Face và đồng ý với các điều khoản sử dụng của nền tảng này.
Đây là phiên bản Alpha thử nghiệm và Google đang tích cực thu thập phản hồi từ cộng đồng người dùng để hoàn thiện sản phẩm. Sự ra mắt của AI Edge Gallery cho thấy Google đang đẩy mạnh chiến lược phát triển AI on-device, hướng tới tương lai không phụ thuộc hoàn toàn vào kết nối internet cho các tác vụ trí tuệ nhân tạo.
Động thái này của Google không chỉ mở ra hướng phát triển mới cho ngành công nghệ AI mà còn đáp ứng nhu cầu ngày càng cao của người dùng về quyền riêng tư và khả năng sử dụng AI trong mọi điều kiện kết nối.