phixtral官网链接地址:https://huggingface.co/mlabonne/phixtral-2x2_8
phixtral 介绍
Phixtral-2x2_8 是首个由两个Microsoft/Phi-2模型制作的混合专家模型,受到MistralAI/Mixtral-8x7B-v0.1架构的启发。其性能优于每个单独的专家模型。该模型在多个评估指标上表现优异,可用于文本生成、模型评估、深度学习研究等领域。
phixtral用户群体
可用于文本生成、模型评估、深度学习研究等领域
在深度学习研究中使用Phixtral-2x2_8模型进行文本生成
利用Phixtral-2x2_8模型进行模型评估
在GPU上以4位精度运行Phixtral-2x2_8模型
phixtral的核心功能
- 使用混合专家模型进行文本生成
- 在Colab notebook上以4位精度在GPU上运行模型
- 模型大小为4.46B参数,张量类型为F16