Gradient Descent

Градиентный спуск — алгоритм оптимизации, используемый для обучения моделей, который обновляет параметры в направлении наибольшего убывания функции потерь. На каждом шаге рассчитывается градиент (производные) ошибки по параметрам, и веса корректируются на небольшую величину, чтобы постепенно снизить ошибку.