陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线

释放双眼,带上耳机,听听看~!
陈天奇等多位研究者共同开发的MLC-LLM项目引爆了AI界,MLC Chat应用已经在苹果的App Store上线,让用户能够在iPad和iPhone上与开放语言模型进行本地聊天。随着这类应用的出现和普及,大型语言模型的使用门槛将不断降低。

IPhone、iPad 均可体验。

前段时间,TVM、MXNET、XGBoost 作者,CMU 助理教授,OctoML CTO 陈天奇等多位研究者共同开发的一个项目引爆了 AI 界。
这个项目名叫 MLC-LLM,能让你「在任何设备上编译运行大语言模型」,包括移动端(例如 iPhone)、消费级电脑端(例如 Mac)和 Web 浏览器。运行效果如下:
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
MLC-LLM 推出不到两天,GitHub 的 Star 量就接近了一千。在社交网络上,人们纷纷点赞,表示 MLC-LLM「让我领教了低精度跑 AI 的可怕程度。」截至目前,该项目已经在 Github 上收获了 7.5k 的 star 量(具体信息参见:《陈天奇等人新作引爆 AI 界:手机原生跑大模型,算力不是问题了 》)。
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
刚刚,陈天奇又公布了一个好消息:MLC Chat app 已经在苹果的 App Store 上线了。
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
MLC Chat 是一款让你能够在 iPad 和 iPhone 上与开放语言模型进行本地聊天的应用,是 MLC LLM 项目的一部分。
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
MLC Chat 在将模型下载到应用程序后,一切都在本地运行,无需服务器支持,并且不需要互联网连接,不会记录任何信息。
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
在得知这一消息后,机器之心下载了该应用进行体验。
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
打开 APP,可以看到,该应用已经预装了一个模型 ——RedPajama。
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
打开这个模型,我们就直接进入了聊天窗口,可以和 RedPajama 直接对话。
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
如果你对这个模型不满意,可以在首页通过输入 URL 添加新的模型。不过,这个下载新模型的过程可能会有点慢。
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
陈天奇开发的MLC-LLM项目引爆AI界,MLC Chat应用上线
由于该应用刚刚上架,目前我们还没有看到来自其他用户的反馈。
不过,可以肯定的是,随着这类应用的出现和普及,大型语言模型的使用门槛将不断降低。过去,只有专业领域的研究人员和技术专家才能够有效地利用这些模型进行各种任务。然而,现在随着开放源代码项目和开发工具的发展,越来越多的人可以轻松地使用这些模型。
如果你也对 MLC Chat 感兴趣,可以前往苹果的 APP Store 下载体验。

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI教程

全套解决方案:基于pytorch、transformers的中文NLP训练框架

2023-11-25 21:39:14

AI教程

OpenCV入门(九)快速学会OpenCV8漫水填充floodFill&ROI

2023-11-25 21:46:14

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索