首页教程
【AI大模型课】BMInf量化
2

【AI大模型课】BMInf量化

AI知识学习小助手
AI知识学习小助手
2023-09-14 15:17

量化解决方案有效减少证据大小,考虑对大证据进行更细化的惩罚,对大于总和的证据进行单独惩罚,并进行后处理,该方法成功地将 CPM2 检查点的模型大小从 22 GB 减小到 11 GB。

更多相关视频请看:【AI知识学习】清华大型模型课

转载自跟李沐学AI查看原文

全部讨论

no data来都来了,坐下聊聊