假如你和我一样在准备24年的春招,在前端全栈外,再准备一些AIGC的内容是非常有必要的。24年是AI红利年,AIGC+各种岗位大厂机会会多些,同意的请点赞。也欢迎朋友们加我微信 shunwuyu, 一起交流。
前言
大模型是被训练出来的,它可以结合本地知识库,也可以调用搜索或在线API来增强自身的能力。这些都不是大模型内部的数据,我们称为外部工具。
当大模型需要通过自主判断调用外部工具来进一步完成任务时,LangChain给我们提供了Agent(代理)模块。
Agents
Agent是一个抽象概念,当LLM无法根据自身数据回复用户即将不得不正儿八经说假话时,Agent帮我们找来一个外部工具,解决之。除了代理的概念外,LangChain
提供了一系列常用的Agent,比如我们在LangChain实战: 老喻干货店TextToSql一文学习到的create_sql_agent
等。除了单个agent外,我们还可以同时使用多个agents,并且一个agent的输出可以做为另一个agent的输入。便于将复杂任务分步细致的解决好。
我们要把握agent,可以从以下几方面入手:
- 大模型
大模型自身有些问题解决不了,求援于Agent调用外部工具解决。在Agents的工作过程中,LLM提供逻辑的引擎,负责生成预测和处理输入。
- 外部Tools
接口调用、文件处理、搜索引擎等
- 控制交互的代理
这是代理的管家,当有多个代理时,负责调度。如果我们要搞清楚,Agent是如何决定去本地知识库中搜索,或是调用哪一个外部工具,得到一个工具的输出后,怎么自主决定调用哪一个agent,我们需要停下来学习ReAct框架
ReAct思维框架
比如,老喻干货店,很多货品会随着很多情况的变化而改变售价,我们可以开发一款Agent来为货品智能定价。我们通过推理干货的价格,来理解Agent的底层思想。
我们可以在批发网上找到今天的干货成本价(行动),然后我们观察这个价格的高低(观察),来决定加价多少(思考),最后计算出一个售价(行动)。
哎, 一边写着代码, 一边挂念着山东的大蒜子….
我们平时也是边观察,边思考 ,再行动。观察和思考统称推理(Reasoning), 推理可以指导我们的行动(Acting)。React框架就来源于行动和推理的协同,它将人类学习新任务并做出决策或再推理的能力交给LLM借鉴。
大家可以来看下使用ReAct思维,帮助大模型找到胡椒瓶。
LangChain
的Agent
类,对ReAct进行了封装和实现。自此,大模型获得了极大的自主性,除了基于内部知识可以进行对话聊天,还可以成为使用工具的智能代理。
干货定价Agent DEMO
我们要开发一个agent, 帮我们找到大蒜子的当前市场价格,并加价20%做出销售价格
- 安装依赖
!pip install langchain
!pip install openai
!pip intall google-search-results
这里我们使用了SerpAPI,它是等下Agent需要的Google搜索工具,找出大蒜子的价格。
- 配置OpenAI和SerpAPI的api_key
import os
os.environ["OPENAI_API_KEY"]='Your OpenAI API KEY'
os.environ["SERPAPI_API_KEY"]='our SerpAPI API Key'
- 导入库
# 加载工具
from langchain.agents import load_tools
# 初始agent 工具
from langchain.agents import initialize_agent
from langchain.agents import AgentType
from langchain.llms import OpenAI
- 实例化llm, 加载工具, 生成agent
llm = OpenAI(temperature=0)
# serpapi 负责搜索,llm-math 负责计算20%
tools = load_tools(["serpapi", "llm-math"], llm=llm)
# ZERO_SHOT_REACT_DESCRIPTION 的意思是使用react思维框架、不使用样本
agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)
- 执行并拿到结果
agent.run("目前市场上大蒜子的平均价格是多少?如果我在此基础上加价20%卖出,应该如何定价?")
大模型根据ReAct框架,开始了推理和行动:
> Entering new chain...
I need to find the current market price of garlic and then calculate the new price with a 20% markup.
Action: Search
Action Input: "Average price of garlic"
Observation: According to the study, the average price for garlic in Shandong is 4.2.
Thought: I need to calculate the new price with a 20% markup.
Action: Calculator
Action Input: 4.2 * 1.2
Observation: Answer:
Thought: I now know the final answer.
Final Answer: The new price with a 20% markup would be 5.04.
> Finished chain.
总结
- 驱动Agent工作的是ReAct思想框架
参考资料
- arxiv.org/pdf/2210.03…
- 黄佳老师的LangChain课