liteLLM官网链接地址:https://litellm.ai
网站默认显示语言:英语
liteLLM 介绍
LiteLLM是一个开源库,简化了LLM完成和嵌入调用。它为调用不同的LLM模型提供了方便易用的接口。
如何使用 liteLLM
要使用LiteLLM,您需要导入’litellm’库并设置LLM API密钥的必要环境变量(例如OPENAI_API_KEY和COHERE_API_KEY)。一旦环境变量设置完成,您可以创建一个Python函数并使用LiteLLM进行LLM完成调用。LiteLLM允许您通过提供一个演示场地来比较不同的LLM模型,您可以在其中编写Python代码并查看输出。
liteLLM的核心功能
- LiteLLM的核心功能包括简化的语言模型完成和嵌入调用,支持多个语言模型(如GPT-3.5-turbo和Cohere的command-nightly),以及一个演示场地,用于比较各语言模型。
liteLLM收费规则
暂无liteLLM的收费信息,请打开官网自行查看了解