Локальная оптимизация — это метод нахождения оптимального решения в ограниченной области параметров. Алгоритм последовательно улучшает текущее решение, исследуя соседние точки. Процесс включает определение направления улучшения целевой функции и корректировку параметров для достижения этого направления. Этот метод особенно эффективен для задач с унимодальной целевой функцией, но есть риск застрять на локальном оптимуме, упуская глобальный. Локальная оптимизация используется в градиентном спуске, настройке гиперпараметров и оптимизации архитектур нейронных сетей.