MLC-LLM:本地使用的语言模型浏览器方法教程

释放双眼,带上耳机,听听看~!
本教程介绍了MLC-LLM的浏览器使用方法,让人们能够在本地轻松对话,解决ChatGPT注册、网络、封号等问题。通过一步步的环境配置和演示效果,让读者能够轻松上手。

前言:

本文预计阅读时长:10分钟

你是否还在为ChatGPT的注册、网络、封号等问题头疼?

别担心,人人都能本地使用的语言模型来了!

本文就来介绍MLC-LLM的浏览器使用方法。

特别说明:进行对话无需科技

当然,它不仅可以通过浏览器来使用,还可以通过手机或电脑(不同于浏览器)来使用,

笔者认为,浏览器方法是最简单的一种,故撰写此文。

个人博客:conqueror712.github.io/

知乎:www.zhihu.com/people/soeu…

Bilibili:space.bilibili.com/57089326

掘金:juejin.cn/user/129787…

教程:

官方文档:

首先,给出官方文档,英文阅读能力较强的读者可以自行前往进行参考,当然,笔者就是根据官方文档来学习的使用方法,只看官方文档显然也可以,不过可能会有一些解释不清的地方,不妨继续阅读本文以明确。

文档主页:mlc.ai/mlc-llm/

浏览器方法页面:mlc.ai/web-llm/

心急的读者可能会直接在自己的浏览器上进行对话了,但是很遗憾,这大概并不能成功。

环境配置:

读者不要看到环境配置就大惊失色,事实上,这并没有多么困难,甚至可以说是傻瓜式,一键式操作。

我们只需要下载一个开发者专用的Chrome浏览器,俗称金丝雀版Chrome。

下载地址:www.google.com/chrome/cana…

笔者也为不方便使用科技的读者准备了下载链接:

链接:https://pan.baidu.com/s/1X9RuHQkRYA07tCjimYIU4Q?pwd=8guf

提取码:8guf

MLC-LLM:本地使用的语言模型浏览器方法教程

傻瓜式安装后,我们就可以通过金丝雀版Chrome打开上面的浏览器方法页面mlc.ai/web-llm/。

此时,我们才可以真正的进行对话,不过在此之前,我们需要等待浏览器初始化,这大概需要两分钟。

MLC-LLM:本地使用的语言模型浏览器方法教程

PS:如果没有进行初始化,那就输入一段话然后按一下Send试一试。

效果演示:

初始化结束后,我们就可以愉快地对话了!

值得一提的是,中文可能会出现乱码的情况,不过他会自己修复一些。

MLC-LLM:本地使用的语言模型浏览器方法教程

需要注意的是,响应速度可能并不尽如人意,这大概与本机的配置有关,但这也不失为一种本地化使用AI的办法,当你的其他AI崩溃的时候,不妨来试一试MLC-LLM!

这张任务管理器界面截图证明了这个确实是跑在本地上了,笔者的渣机内存和GPU占用率很高:

MLC-LLM:本地使用的语言模型浏览器方法教程

THE END.

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI教程

使用LangChain构建强大自然语言处理应用程序

2023-12-18 21:36:14

AI教程

Louvain算法:社区发现的利器

2023-12-18 21:41:14

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索