首页AI 新闻
陈天奇官宣新APP,让手机原生跑大模型,应用商店直接下载使用
7

陈天奇官宣新APP,让手机原生跑大模型,应用商店直接下载使用

好说新闻
好说新闻
2023-06-05 14:30

iPhone、iPad 均可体验。

前段时间,TVM、MXNET、XGBoost 作者,CMU 助理教授,OctoML CTO 陈天奇等多位研究者共同开发的一个项目引爆了 AI 界。

这个项目名叫 MLC-LLM,能让你「在任何设备上编译运行大语言模型」,包括移动端(例如 iPhone)、消费级电脑端(例如 Mac)和 Web 浏览器。运行效果如下:

MLC-LLM 推出不到两天,GitHub 的 Star 量就接近了一千。在社交网络上,人们纷纷点赞,表示 MLC-LLM「让我领教了低精度跑 AI 的可怕程度。」截至目前,该项目已经在 Github 上收获了 7.5k 的 star 量。

刚刚,陈天奇又公布了一个好消息:MLC Chat app 已经在苹果的 App Store 上线了。

MLC Chat 是一款让你能够在 iPad 和 iPhone 上与开放语言模型进行本地聊天的应用,是 MLC LLM 项目的一部分。

MLC Chat 在将模型下载到应用程序后,一切都在本地运行,无需服务器支持,并且不需要互联网连接,不会记录任何信息。

在得知这一消息后,我们下载了该应用进行体验。

打开 APP,可以看到,该应用已经预装了一个模型 ——RedPajama。

打开这个模型,我们就直接进入了聊天窗口,可以和 RedPajama 直接对话。

如果你对这个模型不满意,可以在首页通过输入 URL 添加新的模型。不过,这个下载新模型的过程可能会有点慢。

由于该应用刚刚上架,目前我们还没有看到来自其他用户的反馈。

不过,可以肯定的是,随着这类应用的出现和普及,大型语言模型的使用门槛将不断降低。过去,只有专业领域的研究人员和技术专家才能够有效地利用这些模型进行各种任务。然而,现在随着开放源代码项目和开发工具的发展,越来越多的人可以轻松地使用这些模型。

如果你也对 MLC Chat 感兴趣,可以前往苹果的 APP Store 下载体验。

参考链接:

MLC Chat 下载地址:https://apps.apple.com/us/app/mlc-chat/id6448482937

转载自机器之心 张倩查看原文

全部讨论

no data来都来了,坐下聊聊