【世界时快讯】我成功在手机端离线部署了大语言模型

雪球网   2023-06-04 17:19:01

今天我离线部署了一个大语言模型,在苹果11上成功运行了。

部署后长这样

不需要联网,我录了视频,详细问了几个问题。但雪球好像发视频还要开通,我没搞,就截视频里的图吧。


(资料图片)

总的来说英文回答没问题,中文因为语料原因有缺陷,但是也还可以。

不多说,直接上图。

第一个问题,让他写个代码,反转字符串

然后回答:

第二个问题,让他讲故事。

也没问题,而且回答的长度超预期了,特别完整。就不全部放出来了。

第三个,让他写巧克力蛋糕制作过程

根本难不倒他

但到这里开始手机开始变得很烫,很卡。。。

还是对硬件有要求的,我的11可能还是不太行,后面几代手机应该压力不大。

接下去,用中文提问了,让他解释人工智能和应用

回答也很长。

之后让他写一段中文的情景对话,很魔性,给我看笑了。英文还好,中文训练不够

之后让他想一个去巴黎旅行一周的计划,也不错

最后我还想问一个和朋友吵架了该怎么办,但是突然就黑屏闪退了。手机太烫了,11可能是刚好能够运行那样,再次运行进去,历史记录就没了。

目前来看还有很多缺陷。

但这一小的成功步,代表了可行性,代表了未来广阔的空间。

未来,都可以离线部署的话

我想肯定可以做到人人自定义地打造自己的助手,

离线存储就可以问任何内容,不用怕隐私问题,

企业内部也可以专门自己搞一个了,专门自己企业用,不怕数据泄露。

各种仪器自己能读懂自己的数据了,交互也方便很多。

无人的一些设备,单机游戏npc,arvrmr这些虚拟现实设备,各种物联网设备,电子阅读器,广告屏,智能家居的全部……

可以有很多场景,未来肯定会被开发出来。

其实能离线也能在线是最好的状态。速度会很快,功能也可以很强,兼顾隐私安全,没人规定一定要全部云端,也不是全部边端,远近结合,强弱合作,大小通吃。

这才是未来的生态吧。

$全志科技(SZ300458)$ $广和通(SZ300638)$ $美格智能(SZ002881)$ #上证指数#

相关资讯
最新资讯