本文正在参加 ✍🏻 技术视角深入 ChatGPT 征文活动
前言
大家好,我是陈同学,一枚野生前端开发者,感谢各位的点赞、收藏、评论
前天上午突然从各种渠道收到消息,百度将于今天下午正式发布大规模语言模型【文心一言】
虽然早在几个月前就已经收到文心一言将在3月份发布的消息,但它真正来到的时候还是比较激动的,毕竟是国内首个公开对标ChatGPT
的语言模型
发布会上百度李彦宏坦言:对标ChatGPT
甚至对标GPT-4
,虽然不能讲完美,但是有市场需求(有客户有合作伙伴有需求)
接下来是学习时刻!
百度文心一言发布会回放: live.baidu.com/m/media/pcl…
本文阅读成本与收益如下:
阅读耗时:3mins
全文字数:3k+
预期效益
文心一言
发布会内容初识
文心一言
文心一言:预训练生成式新一代大语言模型(千亿级别参数优化)
发布会提到的能力
- 文学创作
在文学创作方面,发布会现场通过6轮连续式对话
展示文心一言
的实力,模型根据对话问题将《三体》的核心内容进行了总结,并给出了续写《三体》的文本描述
- 商业文案创作
在商业文案创作方面,给模型预设了为中小企业数字化升级的科技服务公司
的前提,让文心模型
生成公司名称、公司成立新闻稿等操作,展示文心
在商业创作领域的初步应用效果
- 数理逻辑推算
将鸡兔同笼
游戏文本描述输入到文心模型当中,文心模型能够快速地进行推理分析计算,最终返回对应的答案
- 中文理解
围绕洛阳纸贵
关键词进行连续对话,模型展示出对中文意思的理解程度(直言:英文处理的能力没有那么强)
- 多模态生成
通过三轮对话进行多模态能力的展示
- 创作“世界智能交通大会”的海报
- 四川方言回答“智能交通最适合哪个城市发展”
- 将四川话语音内容通过AI转化为视频
生成视频因为成本比较高,还没有对所有用户开放,未来我们会逐步接入
百度-人工智能时代
- 已有
650家
伙伴加入文心
一言生态,许多企业意识到新的机会的来临,开始积极参与进来 文心
能够使企业与客户的关系进一步增强,让每一家公司离客户更近,为企业快速发展助力
技术负责人介绍文心大模型
技术负责人通过通熟易懂的语言表达介绍文心产业级知识增强大模型,向外部传达强烈的合作意愿
文心一言三大增强重点:知识增强、检索增强、对话增强
重视知识增强(效率更高、效果更好)
- 知识内化(语义学习、数据构造,内化到模型参数)
- 知识外用(知识推理,提示构建)
主要是通过知识内化和知识外用两种方式。知识内化是从大规模知识数据以及无标注数据中,基于语义单元学习,利用知识构造方法与策略训练数据,将知识转化学习并将成果应用到模型参数中进行模型优化;知识外用是引入外部多源异构知识,做知识推理、提示构建等
关注检索增强
- 关键字匹配
- 链接分析
检索增强来自以语义理解
与语义匹配
为核心技术的新一代搜索架构,通过引入搜索结果,可以为大模型提供时效性强
、准确率高
的参考信息
推动对话增强
- 记忆机制
- 上下文增强
- 对话规划
基于对话技术和应用积累,文心一言
具备记忆机制
、上下文理解
和对话规划能力
,实现更好的对话连贯性、合理性和逻辑性
大模型带来三大产业机会
- 新型云计算(MaaS模型即服务)
主流商业模式从IaaS变为MaaS。文心一言
将根本性地改变云计算行业的游戏规则
之前企业选择云厂商更多看算力、存储等基础云服务。未来,更多会看框架好不好、模型好不好,以及模型、框架、芯片、应用这四层之间的协同。
文心一言
通过百度智能云对外提供服务,帮助企业构建自己的模型和应用,农业、工业、金融、教育、医疗、交通、能源等重点领域,都会因此效率大幅提升,并在每一个行业快速形成新的产业空间,助力数字中国的实现
李彦宏预告称,百度智能云将于近期举办新闻发布会,主题围绕文心一言的云服务和应用产品,既有公有云服务和也可以做私有化部署
- 行业模型精调(工业、金融、交通、能源、媒体等)
通用大模型和企业之间的中间层,可以基于对行业的洞察,调用通用大模型能力,为行业客户提供解决方案
- 应用开发(文字、图像、音视频生成、数字人、3D生成等)
李彦宏
断言,对于大部分创业者和企业来说,真正的机会并不是从头开始做ChatGPT
和文心一言
这样的基础大模型,这很不现实,也不经济。基于通用大语言模型抢先开发重要的应用服务,这可能才是真正的机会
目前,基于文本生成
、图像生成
、音频生成
、视频生成
、数字人
、3D
等场景,已经涌现出很多创业明星公司,可能就是未来的新巨头
演讲中李彦宏坦言,目前
文心一言
的效果尚不完美。王海峰也表示,在对大模型的最终训练环节中,在人类反馈的强化学习(RLHF)上做的还不够充分
体验
3 月 16 日
起,首批用户可通过邀请测试码,在文心一言
官网体验产品,后续将陆续开放给更多用户
百度智能云即将面向企业客户开放文心一言
API 接口调用服务,可申请加入文心一言
云服务测试
讲到最后
这次百度的发布会的开展宣告了中国版 ChatGPT
产品领域空白的填充
总体文心一言
发布会看下来,给人感觉可以用四个字总结概括一下:未来可期
即使发布会上客观存在部分细节让人们有着一种不靠谱的感觉,但在这个特殊的时间节点下,百度凭借文心
选择了站出来向ChatGPT
“宣战”的作为值得肯定
对GPT还不太熟悉的同学可以参考【GPT大模型的那些事】:juejin.cn/post/721153…
One More Thing
李彦宏:“我们相信,人工智能会彻底改变我们今天的每一个行业。AI的长期价值,对各行各业的颠覆性改变,才刚刚开始。未来,将会有更多的杀手级应用、现象级产品出现,将会有更多的里程碑事件发生。”
百度:用科技让复杂的世界更简单