phixtral

释放双眼,带上耳机,听听看~!
混合专家模型,性能优于单个专家模型

phixtral官网链接地址:https://huggingface.co/mlabonne/phixtral-2x2_8

phixtral 介绍

Phixtral-2x2_8 是首个由两个Microsoft/Phi-2模型制作的混合专家模型,受到MistralAI/Mixtral-8x7B-v0.1架构的启发。其性能优于每个单独的专家模型。该模型在多个评估指标上表现优异,可用于文本生成、模型评估、深度学习研究等领域。

phixtral用户群体

可用于文本生成、模型评估、深度学习研究等领域

在深度学习研究中使用Phixtral-2x2_8模型进行文本生成

利用Phixtral-2x2_8模型进行模型评估

在GPU上以4位精度运行Phixtral-2x2_8模型

phixtral的核心功能

  • 使用混合专家模型进行文本生成
  • 在Colab notebook上以4位精度在GPU上运行模型
  • 模型大小为4.46B参数,张量类型为F16
本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
文档助手

Logiclister

2024-1-12 20:02:22

文档助手

CompanyDocsGPT

2024-1-15 17:31:05

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索