Learning Rate

Темп обучения — гиперпараметр, определяющий размер шага при обновлении весов модели в процессе обучения. Малое значение learning rate обеспечивает плавные изменения (но может замедлить сходимость), тогда как слишком большое может вызвать расхождение обучения; выбор подходящего темпа обучения критически влияет на успех тренировки нейросети.