-
夫子•明察司法大模型及ChatGLM-6B介绍与部署指南
介绍夫子•明察司法大模型及ChatGLM-6B的功能和特点,提供部署准备和环境安装指南,以及硬件配置要求。该模型支持法律咨询服务,在大语言模型评估中表现优异,是司法领域的领头羊。- 686
- 0
-
-
AI技术发展与挑战:开源大模型在产业应用中的优势
本文探讨了AI技术的发展历程和面临的挑战,重点分析了开源大模型在产业应用中的优势和边缘计算的替代方案,为企业在AI技术应用中提供了启发和指导。- 191
- 0
-
-
2024年七大机器学习模型部署和服务工具大揭秘
本文介绍2024年的七大机器学习模型部署和服务工具,包括MLflow、Ray Serve、Kubeflow、Seldon Core V2、BentoML、ONNX Runtime和TensorFlow Serving,为机器学习从业者提供解决部署和使用模型过程中的挑战的功能强大工具和框架。- 172
- 0
-
-
大模型推理部署框架设计 – DB-GPT多模型架构解读与未来规划
本文介绍了DB-GPT多模型推理部署框架的设计目标、架构解读、多模型部署、运维与可观测性以及未来规划,为AIGC应用探索和生产落地提供了思路与解决方案。- 0
- 0
-
在Kubernetes上部署机器学习模型:Kubeflow指南
本文将探讨在Kubernetes上部署机器学习模型的过程及其可能带来的好处,重点介绍了Kubeflow作为机器学习模型在Kubernetes上部署的工具包。- 882
- 0
-
-
-
-
MegEngine开源4位量化模型:实现精度与速度的双赢
MegEngine最近开源了4 bits的量化模型,实现了在精度和速度上的双赢。该模型是对深度学习模型部署的重要突破,将对模型部署领域产生重大影响。- 356
- 0
-
如何使用开源模型构建私有化问答知识库
本教程专注在怎么使用已经开源的模型和项目,构建一个可以私有化部署的问答知识库,而且整体效果要有所保障。主要工作包括选择基础模型、开源知识库问答系统、硬件设备和部署流程。- 103
- 0
-
LoRa微调语言模型:提高效率、降低成本的关键技巧
本文介绍了利用LoRa微调大型语言模型的关键技巧,包括模型选择、数据准备、微调、超参数调整、模型评估和模型部署,可帮助开发者提高模型性能、降低成本,在AI领域项目研发中脱颖而出。- 571
- 0
-
Triton模型服务化部署框架的基本概念与特性
本文介绍了模型服务化部署框架Triton的基本概念、特性以及与其他模型服务化工具的优势对比。详细讲解了Triton的功能和优势,适合对模型部署和AI推理服务感兴趣的读者了解。- 168
- 0
-
OpenCV与ONNX Runtime深度学习推理框架比对及使用指南
本文比较了OpenCV和ONNX Runtime两种流行的深度学习推理框架,介绍了如何使用ONNX Runtime进行模型部署,并提供了详细的指南。- 154
- 0
-
Amazon SageMaker: 一站式机器学习模型构建、训练和部署
本文介绍了Amazon SageMaker,一项帮助开发人员快速构建、训练和部署机器学习模型的托管服务,以及如何在Amazon SageMaker上部署Hugging Face 模型。- 110
- 0
-
深度学习模型服务:定义、挑战和设计
本章内容涵盖了深度学习模型服务的定义、常见挑战和方法,以及为不同用户场景设计模型服务系统的相关内容。通过阅读本章,您将对模型服务的工作原理有坚实的理解,并了解常见的设计模式,可以应对大多数模型服务用例。- 387
- 0
-
TorchServe:PyTorch模型部署的首选解决方案
本文章全面介绍了TorchServe作为PyTorch中将模型部署到生产环境的首选解决方案,包括其重要概念Handler、部署步骤以及高级设置等内容。- 490
- 0
-
搭建 Triton Server 并部署 PyTorch BERT 模型
学习如何搭建 Triton Server 并部署 PyTorch BERT 模型,利用 Docker 运行,并将模型导出为 ONNX 格式进行部署。- 297
- 0
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
-
¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!