AI对话模型已经可以在手机上本地运行
？考验手机内存的时候到了… – 蓝点网 这会让手机内存瞬间被塞满

这个 AI 对话模型没有服务器支持，对话有 iOS 开发经验的模型开发者可以自行编译安装。

有兴趣的已经运行用户可以试试这个 AI 模型，这会让手机内存瞬间被塞满。可手考验蓝点网测试感觉还可以，机上因为模型运行的本地时候，MLC 团队还推出了 Windows/Linux/Mac 的手机 CLI 版，毕竟内存稍微大点。内存手机上还好，蓝点例如 Vulkan 驱动程序。对话也就是模型说你可以在手机上运行大型语言模型，

等等… 我是已经运行不是还没提 GPU 问题？是的，速度略微有些慢但还是可手考验能接受的地步，毕竟现在新的机上安卓机内存都非常大。

在 iPhone 12 Pro 上测试就有些压力了，本地还开发了 iOS Demo 应用，

好消息是测试显示在 iPhone 14 Pro Max 上是可以正常运行的，坏消息是如果手机内存比较小的话会崩溃，基本上说内存起步需要 6GB，在网页上调用 WebGPU API 即使用你的本机 GPU 提供算力支持，可以在终端里发起询问并获得答案，在 PC 上用户可能需要更新驱动程序，相对来说在 PC 上使用压力就小一些了，一切数据都是离线的无需担心你的对话内容泄露。这么来看安卓机可能更有优势，因为无论是 iPhone 还是安卓还是 PC 都必须支持 GPU 加速，完全离线运行，即命令行版本，

iOS Demo TF 版：https://testflight.apple.com/join/57zd7oxa

WebLLM (网页版)：https://mlc.ai/web-llm/

Windows/Linux/Mac 需要使用 Conda 管理，iOS Demo 程序的话目前在 TF，不论是模型还是数据都在本地。具体请看：https://mlc.ai/mlc-llm/

模型数据会被塞到内存里，满了就没法加入了。中文支持也挺不错的。

除了 iOS 版外，

早前蓝点网介绍了 MLC 团队推出的 WebLLM (MLC LLM)，限额 9000 人，内存并非关键，

现在该团队将 MLC LLM 移植到了手机上，