-
-
-
三种人类偏好优化算法性能比较及实验分析
本文对 hugging face 上的三种人类偏好优化算法进行了性能比较,并通过实验评估不同模型和超参数的调整对语言模型的影响。对适用于大型语言模型的各种优化方法进行了深入分析,探讨了关键超参数的调整对模型性能的影响。- 746
- 0
-
-
梯度下降法复习:自适应学习率、Adagrad算法和随机梯度下降法
本文复习了梯度下降法,并重点介绍了自适应学习率、Adagrad算法和随机梯度下降法,同时讨论了特征缩放的重要性。适合对优化算法感兴趣的人阅读。- 353
- 0
-
小批量梯度下降优化算法详解
本文详细介绍了小批量梯度下降优化算法在深度学习中的重要性和工作原理,以及与批量梯度下降和随机梯度下降的对比。同时还讨论了选择合适的mini-batch大小的建议。- 497
- 0
-
-
深入理解梯度下降及其变体
本文深入探讨了梯度下降及其变体,包括批量梯度下降、随机梯度下降和小批量梯度下降的原理和应用,旨在为读者提供直观且实用的视角,以理解这些优化算法的工作原理和应用场景。- 203
- 0
-
深度学习中的学习率概念及优化策略详解
本文深入探讨了深度学习中学习率的重要性及优化策略,包括基础理论、高级调整策略和Python、PyTorch代码示例,适合机器学习从业者和研究者学习和应用。- 710
- 0
-
-
-
深度学习基础入门篇[三]:优化策略梯度下降算法:SGD、MBGD、Momentum、Adam、AdamW
本文介绍了深度学习中常用的优化策略梯度下降算法,包括SGD、MBGD、Momentum、Adam、AdamW,以及这些算法在不同领域的应用情况。- 226
- 0
-
-
-
-
多层感知机的实现与优化
本文介绍了多层感知机的从零开始实现和简洁实现,使用PyTorch框架,包括模型参数初始化、激活函数的使用、损失函数的定义以及优化算法的选择,旨在帮助读者深入理解神经网络的基本原理和优化方法。- 423
- 0
-
-
基于Transformer的学习优化器Optimus: 重建质量更好且速度更快
本文介绍了一种基于Transformer的学习优化器Optimus,其重建质量更好且速度更快,对比了与Adam、BFGS和Adafactor MLP的实验结果。- 237
- 0
-
-
-
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
-
¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!