-
全参数微调的显存使用量和推理一样多
本文介绍了一种新的优化器 LOw-Memory Optimization(LOMO),能够在有限资源下对大型语言模型进行全参数微调,并且将内存使用量减少到之前的 10.8%。该方法通过算法的优化和内存节省技术的集成,为全参数微调提供了实用的解决方案。- 223
- 0
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
-
¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!