AI模型如何部署在手机上谷歌上线端侧大模型APP
谷歌悄悄上线了一款App：Google AI Edge Gallery，它能让用户直接在手机上，离线运行Hugging Face上的开源AI模型。
具体来说，这款App可以：
- 下载并运行生成图片、问答、代码编辑等任务的AI模型；
- 不依赖网络，直接调用手机处理器完成计算；
- 提供“Ask Image”【图2】和“Prompt Lab”【图3】等模块，支持多轮提问和图像问答【图4】；
- 支持用户自研模型（LiteRT格式），还带有性能分析功能。
相比云端模型，本地模型虽然体积小、算力弱一点，但隐私性和离线性是它的核心优势。对开发者来说，这也是一次体验端侧生成式AI（On-device GenAI）的绝好机会。
目前该App是实验性质的Alpha版本，已在Android平台上线，iOS版本即将推出，源码和安装包都放在了GitHub上（开源协议为Apache 2.0），感兴趣的小伙伴可以下载试试。
GitHub地址：github.com/google-ai-edge/gallery
