自一年前 ChatGPT
推出以来,这个领域谷歌一直在努力朝着 OpenAI
追赶,终于 12.06 日谷歌 DeepMind CEO
和联合创始人 Demis Hassabis
正式推出了大模型 Gemini。
目前,Gemini 1.0 提供了三个不同的尺寸版本,分别如下:
- Gemini Ultra:规模最大、能力最强,用于处理高度复杂的任务;
- Gemini Pro:在各种任务上扩展的最佳模型;
- Gemini Nano:用于端侧(on-device)任务的最高效模型。
正题
好了,介绍完毕,说点对我们普通大众有用的,12.13 号,谷歌正式开放了 API
,所有人只要有美国 IP 即可免费申请使用 Gemini Pro&Gemini Pro Vision
,听说明年就会收费,相关功能:
- 32K 的上下文窗口
- Google AI Studio 可以快速构建应用
- 支持全球 180 多个国家和地区的 38 种语言
- Gemini Pro 提供了多种 SDK,包括 Python、Android (Kotlin)、Node.js、Swift 和 JavaScript
- 每分钟请求
60
次 - ……
尽管每分钟最多支持 60
次请求,但是对于日常开发使用是足够了,趁现在赶紧体验使用吧,据说性能是超过 GPT-3.5
的。
部署
部署前,我们先做好准备工作 👉 申请 Key。点击链接:makersuite.google.com/app/apikey 申请即可:
生成后记得复制保存好,接下来要用。有了秘钥,接下来就好办了,老胡找了个开源项目:GeminiProChat。
防止重复造轮子,我们直接用这个开源项目就可以了。
接下来我们有两种部署形式:
- 基于服务器:美国 IP 服务器部署,最稳定
- 基于 Vercel 平台部署:免费,一键
如果你想用服务器,老胡基于 GeminiProChat
项目打了个 Docker
镜像 howie6879/geminiprochat:v0.1.0
:
docker run --name geminiprochat
--restart always
-p 3030:3000
-itd
-e GEMINI_API_KEY=xxx
howie6879/geminiprochat:v0.1.0
GEMINI_API_KEY
换成前面申请的秘钥即可。
如果想基于 Vercel 平台部署,也很方便,在 GeminiProChat
项目 README
点击 Deploy With Vercel 按照流程走即可,也很方便,但就是一定几率没分配到美国IP,不过多刷新几次就行,问题不大。
如果你都不想折腾,直接用老胡部署好的,私聊我发你。
效果如下:
中文体验我总体感觉还行,能回答一些问题,老胡觉得是能用的,就是偶尔会有一些幻觉,这块可以考虑基于 Google AI Studio
做一些设置进行调试,有兴趣就来折腾玩玩吧,反正免费学习~