Наиболее употребительные критерии окончания

Лабораторная работа 1

Одномерная оптимизация

 

А. Алгоритмы одномерной оптимизации.

1. Выбрать начальную точку x⁰, положить k = 0.

2. На k-й итерации определить точку f ¢(x^k) и f ²(x^k), вычислить

.

3. Тест на остановку: если выполнено, то конец. Иначе: положить k k + 1 и вернуться к 2.

Б. Метод секущих.

1. Выбрать начальную точку x⁰, положить k = 0.

2. На k-й итерации определить точку f ¢(x^k).

Вычислить

.

3. Тест на остановку: если выполнено, то конец. Иначе: положить k k + 1 и вернуться к 2.

В. Метод Фибоначчи.

1. Задать число итераций N, интервал [A,B] и точность E, F(0):=0; F(1)=1.

Вычислить числа Фибоначчи:

F( I ) =F(I – 1) + F(I – 2) I = 2, N;

x₁:= A; x₂ = A + (B – A)F(N – 1) + E(– 1)^N / F(N); x₃ := B;

F₂ = f(x₂); k:=1; выбрать начальную точку x⁰, положить k = 0.

2. x₄ = x₁ – x₂ + x₃; F₄ = f(x₄).

Если F₄ < F₂, то если x₂ < x₄ то x₁:= x₄, перейти к 3.

Иначе: если x₂ < x₄, то x₁:= x₂; x₂ := x₄; F₂ := F₄, перейти к 3.

Иначе: x₃:= x₂; x₂ := x₄; F₂ := F₄ перейти к 3.

3. Тест на остановку: положить k := k + 1, если k £ N, то перейти к 2. Иначе: конец.

Г. Метод золотого сечения.

1. Выбрать интервал [A, B].

T1 := 0.38196600113; T2 := 1 – T1; x₀ := A; x₁ := A + T1(B – A);

x₂ := A + T₂(B – A); x₃ := B; F₁ := f(x₁); F₂ := f(x₂).

2. Если F₂ < F₁, то выполнить

I := x₃ – x₁; x₀ := x₁; x₁ := x₂; x₂ := x₀ + T₂I; F₁ := F₂; F₂ := f(x₂).

Идти к 3.

I := x₂ – x₀; x₃ := x₂; x₂ := x₁; F₂ := F₁; x₁ := x₀ + T₁I; F₁ := f(x₁).

Идти к 3.

3. Тест на остановку: если выполнено, то конец. Иначе: положить k := k + 1 и вернуться к 2.

Д. Квадратичная интерполяция.

1. Выбрать первые три точки x₁, x₂, x₃ и вычислить значение функции в этих точках F₁, F₂, F₃. Выполнить квадратичную интерполяцию.

2. Вычислить точку минимума:

DN := (x₂ ­– x₃)F₁;

DN := DN + (x₃ ­– x₁)F₂ + (x₁ ­– x₂)F₃;

NM := (x₂x₂ – x₃x₃)F₁;

NM := NM + (x₃x₃ – x₁x₁)F₂;

NM := NM + (x₁x₁ – x₂x₂)F₃;

x₄ = NM / (2 DN).

Вычислить значение функции F₄ = f (x⁴).

Упорядочить точки и заменить три лучшие точки. Найти новый интервал.

3. Тест на остановку: если выполнено, то конец. Иначе: положить k := k + 1 и вернуться к 2.

Е. Метод дихотомии.

1. Выбрать интервал [a⁰, b⁰].

Вычислить с⁰ = (a⁰ + b⁰) / 2; d⁰ = (a⁰ + c⁰) / 2; e⁰ = (c⁰ + b⁰) / 2.

2. Исключить два из четырех подинтервалов, поскольку точка оптимума не может содержаться в них, и оставить только два смежных подинтервала    [a^K, c^K] и [c^K, b^K] (отрезок [a^K, b^K] половинной длины).

Вычислить d^K = (a^K + c^K) / 2 и e^K = (c^K + b^K) / 2 и значение функции в двух этих точках.

3. Тест на остановку: если выполнено, то конец. Иначе: положить k := k + 1 и вернуться к 2.

 

 

Ё. Метод дихотомии с производными.

1. Определить начальный интервал [a_min, a_max], для которого g'(a_min) < 0, g'(a_max) > 0; k := 1.

2. На k-й итерации: вычислить ; вычислить g'(a_k). Если g'(a_k)>0, то a_max := a_k и перейти к 3. Иначе: a_min := a_k и перейти к 3.

3. Тест на остановку: если выполнено, то конец. Иначе: положить k := k + 1 и вернуться к 2.

Ж. Кубическая интерполяция.

1. Выбрать начальный интервал [a, b], содержащий точку минимума, при этом должно быть выполнено f '(x) < 0, f '(b) < 0.

2. Вычислить

.

Вычислить точку минимума .

3. Тест на остановку: если выполнено, то конец. Иначе: положить a = x, если f '(x) < 0, и b = x, если f '(x) > 0. Вернуться к 2.

З. Метод Голдстейна.

1. Определить a_min = 0, a_max = +¥. Найти g'(0) = Ñf ^T(x)d  и присвоить переменной a начальное значение (первую тестированную точку).

2. Вычислить g(a) = f(x + ad). Если g(a) £ g(0) + m₁ag'(0), то перейти к 3. Иначе: положить a_max = a и перейти к 3.

3. Вычислить g'(a) = Ñf ^T(x + ad)d, затем сравнить g'(a) и f(0) + m₂ag'(0). Если g'(a) ≥ g(0) + m₂ag'(0), то конец. Иначе: перейти к 4.

4. Положить a_min = a.

5. Найти новое значение для a в интервале [a_min, a_max] и вернуться к 2.

И. Метод Вольфе–Пауэлла.

1. Определить a_min = 0, a_max = +¥. Найти g'(0) = Ñf ^T(x)d и присвоить переменной a начальное значение (первую тестированную точку).

2. Вычислить g(a) = f(x + ad). Если g(a) £ g(0) + m₁ag'(0), то перейти к 3. Иначе: положить a_min = a и перейти к 3.

3. Вычислить g'(a) = Ñf ^T(x + ad)d, затем сравнить g'(a) и m₃g'(0). Если g'(a)≥m₃g'(0), то конец. Если g'(a) < m₃g'(0), то перейти к 4.

4. Положить a_min = a.

5. Найти новое значение для a в интервале [a_min, a_max] и вернуться к 2.

 

Наиболее употребительные критерии окончания

Процесса вычислений

|x_n – x_n–1| < e (метод Ньютона);

K £ N (метод Фибоначчи);

I £ e, I - длина нового интервала (метод золотого сечения);

|x₁ – x₂| < e (кубическая интерполяция);

|Ñf | < e - (кубическая интерполяция), где e - заданная точность.

 

Контрольные вопросы и задания

1. Для каких функций метод Ньютона–Рафсона имеет конечную сходимость?

2. Какова скорость сходимости метода Ньютона вблизи точки минимума?

3. Приведите пример отсутствия глобальной сходимости метода Ньютона.

4. Какое преимущество имеет метод секущих по сравнению с методом Ньютона?

5. Получите формулу секущих из формулы Ньютона, приближая вторую производную.

6. Почему начальные точки в методе хорд должны быть выбраны достаточно близко к оптимуму?

7. Почему метод Фибоначчи приводит к наименьшему возможному интервалу для конечного числа N вычислений значений функций?

8. Какое условие обеспечивает независимость длины полученного интервала от результата теста?

9. Как относятся длины последовательных интервалов в методе золотого сечения?

10. Покажите асимптотическую сходимость метода золотого сечения к методу Фибоначчи.

11. Укажите преимущество метода квадратичной интерполяции по сравнению с методами Ньютона и секущих.

12. Для каких функций применима квадратичная интерполяция?

13. Когда применяется метод дихотомии без производных?

14. Насколько уменьшается длина интервала в методе дихотомии?

15. Выведите зависимость длины интервала от количества вычислений значения функции.

16. К каким функциям применим метод дихотомии с производной?

17. Обеспечена ли глобальная сходимость для метода дихотомии?

18. Для каких функций применяется кубическая интерполяция?

19. Как применяется кубическая интерполяция для нахождения минимума, для функций нескольких переменных?

20. В каких алгоритмах применяются методы Голдстейна, а в каких метод Вольфе–Пауэлла?

 

Задания к лабораторной работе

1. Найти минимум функции:

а) F(x) = 2N(x – N)² + 16(x – N);

б) F(x) = 40 + 90(x – N)²;

в)

с точностями EPS = 1E–3, 1E–10, 1E–15.

2. Построить график функции N = 3 на терминале вблизи точки минимума.

 

Отчет о работе

1. Титульный лист.

2. Задания к лабораторной работе.

3. Алгоритмы численного нахождения минимума.

4. График зависимостей количества итерации от точности решения.

5. Краткий анализ результата поиска минимума указанных выше функций.

6. Вывод по работе.

Список методов

1. Метод Ньютона.

2. Метод секущих.

3. Метод Фибоначчи.

4. Метод золотого сечения.

5. Квадратичная интерполяция.

6. Метод дихотомии.

7. Метод дихотомии с производной.

8. Кубическая интерполяция.

9. Метод Голдстейна.

10. Метод Вольфе–Пауэлла.

 

Выбор метода решения

1. Порядковый номер студента в журнале по модулю 10.

2. Номер метода +5 по модулю 10.

 

Список рекомендуемой литературы

1. Карманов В.Г. Математическое программирование. М.: Наука, 1960.

2. Банди Б. Метод оптимизации: Вводный курс: Пер. с англ. М.: Радио и связь, 1988.

Лабораторная работа 2

Методы прямого поиска оптимума

для функции N переменных