2025年6月3日星期二

狂揽 7。5k 星!仅用一部 2GB 手机,就能跑本地大模型!

公众号关注 "GitHubDaily"

设为 "星标",每天带你逛 GitHub!


图片

各大科技巨头正在共同推进一场技术革命:让强大的 AI 模型能在手机上直接离线运行。

而在这场技术革命中,谷歌率先取得了重大突破,重磅开源了 Google AI Edge Gallery 项目。

它能让一部只有 2GB 运行内存的安卓手机,完全离线运行强大的多模态 AI 模型,处理图像理解、文本生成和智能对话等复杂任务。

项目一经开源,就在 GitHub 上斩获了 7.5k Star,这也反映了大家对这一技术方向有着强烈的需求。

Gallery Image from Google AI Edge

GitHub:https://github.com/google-ai-edge/gallery

下面就跟大家详细介绍下这款应用。

完全离线,2GB 运行强大 AI 模型

虽然 Google AI Edge Gallery 目前还是一款实验性应用,但它已经为我们展示了一系列令人惊喜的功能体验。

这款应用能够完全本地运行,无需任何网络连接,仅需 2GB 运行内存就能流畅运行强大的多模态 AI 模型。

这一切都得益于谷歌前段时间在 I/O 大会上推出的 Gemma 3n 模型:一个专门为低性能设备打造的多模态 AI 模型,能够同时处理文本、图像、视频和音频。

Announcing Gemma 3n preview: powerful, efficient, mobile-first AI - Google  Developers Blog

更有意思的是,应用还支持从 Hugging Face 上获取其他模型,我们可以自由切换使用,直观地对比不同模型在相同任务下的表现差异。

三大 AI 功能,覆盖核心场景

目前应用主要围绕三个核心场景设计:智能图像问答提示词实验室多轮 AI 对话

智能图像问答:让我们可以上传图片并进行深度询问。不同于传统图像识别只能告诉我们 "这是什么",这个功能不仅能够理解图像内容,还能回答关于图像的复杂问题。

Gallery Image from Google AI Edge (1)

提示词实验室:为我们提供了 AI 创作练习场,内置文本总结、内容重写、代码生成等单轮对话模板,也支持自定义提示词满足各种创作需求。

Gallery Image from Google AI Edge (2)

多轮 AI 对话:功能满足我们日常交流需求,在生活工作中遇到问题时,可以随时随地在手机上打开应用,进行连续性的深度讨论。

Gallery Image from Google AI Edge (3)

特别值得一提的是,应用在每次回答后都会显示详细的性能数据,包括首次响应时间、解码速度等关键指标,让我们了解 AI 在设备上的运行状态。

image-20250603152454664

1 分钟轻松上手,三步开启 AI 体验

接下来,我们花一分钟时间快速上手这款应用。

第一步:获取安装包

前往项目的 GitHub 发布页面,下载最新版本的 APK 安装包。

image-20250603152950072

目前是 Alpha 实验版本,暂时没有上架 Play 商店,iOS 版本也还在开发中。

第二步:完成应用安装

在 Android 设备上按照提示完成安装。如果系统提示 "未知来源" 警告,需要在设置中允许安装未知来源的应用。

image-20250603154424772

第三步:下载 AI 模型

首次打开应用时,会跳转到 Hugging Face 下载所需的 AI 模型文件。这个过程需要同意谷歌的使用许可,并且提交下载请求。

image-20250603154338866

完成这三个步骤后,我们就可以开始体验这款强大的本地 AI 应用了。

写在最后

Google AI Edge Gallery 的出现,标志着 AI 正在从云端走向每台移动设备。这不仅是技术突破,更是 AI 普及化的关键一步。

想象一下,当全球十几亿移动设备都能离线运行强大的 AI 模型时,将释放出怎样的创造力?

从日常交流的实时翻译,到工作生活所遇到的问题即时解答,AI 将真正成为每个人触手可及的智能助手。

未来的移动设备形态,也许会因此被彻底重新定义。

文中所提到的开源项目和工具,已收录至 GitHubDaily 的开源项目列表中。

该列表包含了 GitHub 上诸多高质量、有趣实用的开源技术教程、开发者工具、编程网站等内容。

从 2015 年至今,累计分享 8000+ 个开源项目,Star 增长 37000+,有需要的,可访问下方 GitHub 地址自取:

GitHub:https://github.com/GitHubDaily/GitHubDaily

图片

好了,今天的分享到此结束,感谢大家抽空阅读,我们下期再见,Respect!

没有评论:

发表评论

好莱坞级运镜一键克隆!港中文&浙大&快手联合发布CamCloneMaster:颠覆影视制作

点击下方 卡片 ,关注" AI生成未来 " 如您有工作需要分享,欢迎联系: aigc_to_future 作者:Yawen Luo等 解读:AI生成未来 文章链接:https://arxiv.org/pdf/2506.03140  项目链接:https:/...