前言:
本文预计阅读时长:10分钟
你是否还在为ChatGPT的注册、网络、封号等问题头疼?
别担心,人人都能本地使用的语言模型来了!
本文就来介绍MLC-LLM的浏览器使用方法。
特别说明:进行对话无需科技!
当然,它不仅可以通过浏览器来使用,还可以通过手机或电脑(不同于浏览器)来使用,
笔者认为,浏览器方法是最简单的一种,故撰写此文。
Bilibili:space.bilibili.com/57089326
教程:
官方文档:
首先,给出官方文档,英文阅读能力较强的读者可以自行前往进行参考,当然,笔者就是根据官方文档来学习的使用方法,只看官方文档显然也可以,不过可能会有一些解释不清的地方,不妨继续阅读本文以明确。
文档主页:mlc.ai/mlc-llm/
浏览器方法页面:mlc.ai/web-llm/
心急的读者可能会直接在自己的浏览器上进行对话了,但是很遗憾,这大概并不能成功。
环境配置:
读者不要看到环境配置就大惊失色,事实上,这并没有多么困难,甚至可以说是傻瓜式,一键式操作。
我们只需要下载一个开发者专用的Chrome浏览器,俗称金丝雀版Chrome。
下载地址:www.google.com/chrome/cana…
笔者也为不方便使用科技的读者准备了下载链接:
链接:
https://pan.baidu.com/s/1X9RuHQkRYA07tCjimYIU4Q?pwd=8guf
提取码:
8guf
傻瓜式安装后,我们就可以通过金丝雀版Chrome打开上面的浏览器方法页面mlc.ai/web-llm/。
此时,我们才可以真正的进行对话,不过在此之前,我们需要等待浏览器初始化,这大概需要两分钟。
PS:如果没有进行初始化,那就输入一段话然后按一下
Send
试一试。
效果演示:
初始化结束后,我们就可以愉快地对话了!
值得一提的是,中文可能会出现乱码的情况,不过他会自己修复一些。
需要注意的是,响应速度可能并不尽如人意,这大概与本机的配置有关,但这也不失为一种本地化使用AI的办法,当你的其他AI崩溃的时候,不妨来试一试MLC-LLM!
这张任务管理器界面截图证明了这个确实是跑在本地上了,笔者的渣机内存和GPU占用率很高:
THE END.