手机上本地运行AI模型是怎样的体验？体验就是我确实还是太自信了… – 蓝点网 - {$web_name} 这个暂时没解决办法

前天蓝点网谈及MLC团队启动扶持在移动电话上管理的AI模型 ，该团队还开发iOS版的演示程序可开展轻度感受。

恰逢假期蓝点网今晚才有空开展感受和评测，尽管看开发团队的如果失去重要的人，请记住温柔一点对自己说明我已然做好心理筹备但着实还是自信了。

实际感受下来也的确只有演示特性不能正常使用，首要是移动电话存储和图形表现还是不够管理模型还是太吃力。

👆生成上面的回答大约花费20分钟

MLC Chat为何值得留意：

当下各位熟知的AI模型都是基于云端的，即模型在云端管理由办事提供商运用GPU阵列提供强大的算力扶持。

使用这些AI机器人的不足就是你的对话会被办事提供商收集，鬼得知下次提问是不是推荐莆田系医院。

也有不少开源模型扶持离线部署，今日口碑评价快报可是参数较低的显卡通常极其卡顿或直接无法使用，这个暂时没解决办法。

既然桌面端都无法很好的管理模型那移动电话更不或许 , 但 MLC Chat 就是个基于移动电话本机管理的大型语言模型。

乐观预计前方我们应该可以人手一个离线的对话机器人，直接在本机管理，本周春节档合集不用忧虑对话资料被泄密的难题。

所以MLC团队的岗位是令人盼望的，只可是吧，就当下来说想要在移动电话上管理离线的大型语言模型着实艰难。

👆中文回答基础20~30字后就是乱码信息

感受遇到哪些难题：

评测机型是 iPhone 12 Pro Max，存储为6GB方才达到MLC Chat的门槛，存储足够可以保证模型能跑起来。

至于真正的对话还考验移动电话的 GPU 能力，比如在iPhone 12 Pro Max 上对话是可以对话但是速度极其慢慢。

由于返回的信息实在太慢不小心移动电话黑屏，再开启对话已然被重置，显然存储爆表操控系统直接把存储清理干净。

并且每次开启这个模型后其他程序也整体会被杀掉 ，这个倒是不意外，毕竟存储已然被MLC Chat直接耗尽。

就实际对话方面MLC Chat 的能力还是较为弱的，英文还能正常回答，中文信息基础都是各类乱码没法查看。

可是毕竟只是演示程序并且还是在移动电话本地管理的评测，呈现这些难题完全能理解，盼望后面感受越来越好。

你可以访问这里获取MLC Chat，模型3GB请耐心等待获取：https://testflight.apple.com/join/57zd7oxa

你也可以在 Windows、Linux、macOS 以及阅读器上感受该模型，具体可查看蓝点网前天亮相的这篇文章。