28【微调参数】一篇搞懂什么是batch size，“英文看不懂啊！”

Answer 1

每天更新5条大模型问答

第28条问答！雄哥目标更新3000条！主打一个系统性解决思路，大家举一反三，以后就知道怎么处理了！积累的力量是很恐怖的！

后台回复“3000问”，获得更多问答！

今天，在【NLP学习群】中，有同学问batch size是什么意思啊？怎么群里老是有人说这个单词！后来其他伙伴普及了之后，又开始问了

“那这个参数有什么用呢？”

哈哈~

"batch size"从字面理解是（批大小）

是一个重要设置。

好比你一次性吃几口饭一样

理解 batch size 可以帮助你跑通训练过程

这样说吧，一碗饭就是一个“batch”：

少量训练： 一次性处理所有训练数据会很慢。所以，我们分成小组来处理。每组有一些训练数据，它们会一起让模型学习，然后模型会根据这些数据的“答案”来变得更聪明。

影响速度： 如果你一次吃5碗，你会很快饱。同样，较大的 batch size 也会让训练更快。但是，一次吃太多，你胃口要求也大，没那么多算力就别搞那么大，所以要看情况而定。

学习稳定性： 小口点吃，你可以频繁地调整策略，但有时候也可能导致混乱。同样，较小的 batch size 可能让模型更频繁地更新，有时候会导致训练的“混乱”。

不同的选择： 你可以试试不同的 batch size，看看哪个效果好。有时候，小的 batch size 效果更好。

要小心： 要记住，选 batch size 时也要考虑其他因素，比如学习速度和算力资源。

试试这样解释，让不懂英文的小伙伴记住，哈哈~

公号回复：“实战”加入0基础大模型实战营！

没有无解的难题，只有无救的懒人！

在群里的小朋友也要学会检索历史！不要同一个问题重复刷！

如果你的问题还没解决，公众号后台回复“3000问”进群，更多同学帮你！