Содержание
- Введение 1
- Основы математической оптимизации 2
- - Функции одной переменной 2.1
- - Функции нескольких переменных 2.2
- - Типы задач оптимизации 2.3
- Градиентные методы 3
- - Метод наискорейшего спуска 3.1
- - Методы с использованием момента 3.2
- - Условия сходимости градиентных методов 3.3
- Методы Ньютона и квазиньютоновские методы 4
- - Метод Ньютона 4.1
- - Квазиньютоновские методы 4.2
- - Преимущества и недостатки методов второго порядка 4.3
- Практические примеры и применение 5
- - Оптимизация функции Rosenbrock 5.1
- - Оптимизация параметров нейронной сети 5.2
- - Решение задач линейного программирования 5.3
- Заключение 6
- Список литературы 7