来安利一波 dify,没有收费.. 🐶🐶
背景:
众所周知 Gpt3.5 等训练的数据截止到2021年,但是如Open Api 也提供了Embeddings能力,实现一定的 Fine-tuning,其中Embeddings介绍,可以参考我之前的转译文档:OpenApi 接口使用说明 (二)。
这里介绍一下 dify 平台,提供了 LLMOps 能力,让基于ChatGpt 等能力的 WebApp 更加容易被创建出来(尤其是非程序员),并完成开发、部署、维护等一系列流程,实现个人专属App。
接下来尝试两个实验,来一起感受下 云 Fine-tuning。
三国大师App
目标:
实现一个三国大师App,并 Fine-tuning 三国演义,让其更专业的回答三国相关的问题。
现状:
可以看到上图是使用 ChatHub 进行问答,基于chatGpt3.5 模型,但是其回答的过于大众化,笼统些,且模棱两可,不够专业。
改进:
这里我下载了 三国演义全本的电子版,并在 dify 平台上,通过在数据集中上传对应 三国演义的txt 文本,并在对应新建的APP-三国大师中的 提示词编排 的上下文中,选择对应的 物料,之后点击 发布即可。
效果对比:
普通的ChatGpt | 三国大师 |
---|---|
![]() ![]() |
![]() |
可以发现经过 fine-tuning 后的 三国大师:
-
回答的更加准确,专业。
-
能够将三国演义的 具体细节 展示出来,甚至是章节。
如需体验,可以使用我的 WebApp: udify.app/chat/u4u8Id…
姜小妹传记App
目标:
虚拟一个姜小妹人物传记,并让ChatGpt 回答姜小妹人生经验相关的问题。
现状:
如果网上没有重名的且在2021年前有对应的新闻等介绍,ChatGpt 是不知道她是谁的,就像如下图:
Fine-tuning
这里我提供了一个姜小妹传记(内容是ChatGpt生成的,如有雷同纯属巧合),并将该传记txt 上传至 dify 的数据集中,传记内容如下:
姜小妹,出生于山东省济南市,家境贫寒。为了减轻家庭经济负担,她在毕业后成为了一名卡车司机,辛勤工作了10年。虽然工作辛苦,但姜小妹一直敬业认真,得到了客户和同事的信任和赞誉。
由于对厨艺的激情,姜小妹将部分工资用于学习烹饪技术,在业余时间里作为一名厨师兼职。渐渐地,她成为了一名备受欢迎的私人厨师,为众多高端餐厅和富豪家庭服务。
2015年,一次偶然的机会,姜小妹开始关注股市,投入大量的时间和精力进行研究和分析。2017年,她成功地用短线交易赚到了100万元人民币,成为了一名成功的股民。
从此,姜小妹决定放弃厨师的职业,开始进军房地产业。她深入研究市场趋势,努力寻找机会,最终成功创建了自己的房地产公司。多年的辛勤努力和坚持不懈的追求,让姜小妹的公司成为了一家有影响力的企业,并连续多年入选中国房地产百强企业榜单。在鼓舞人心和激励下,姜小妹珍视过去的历程,也期待未来的发展。
效果展示:
这里可以看到:
-
Ai 知道了自己叫什么名字。
-
Ai 知道了自己的经历,并基于该经历 并分享了一些经验。
其他:
Dify 帮助手册:docs.dify.ai/getting-sta…
Github 开源地址:github.com/langgenius