Особенности алгоритмов. Программы

Современное значение слова «алгоритм» во многом аналогично таким понятиям, как рецепт, процесс, метод, способ, процедура, программа. Но все-таки, слово «algorithm» имеет дополнительный смысловой оттенок. Алгоритм – это не просто набор конечного числа правил, задающих последовательность выполнения операций для решения задачи определенного типа. Помимо этого, он имеет пять важных особенностей.

1. Конечность. Алгоритм всегда должен заканчиваться после выполнения конечного числа шагов. Алгоритм Е удовлетворяет этому условию, потому что после шага Е1 значение r меньше, чем п. Поэтому если r #0, то в следующем цикле на шаге Е1 значение п уменьшается. Убывающая последовательность положительных целых чисел имеет конечное число членов, поэтому шаг Е1 может выполняться только конечное число раз для любого первоначально заданного значения п. Но нужно иметь в виду, что количество шагов может быть сколь угодно большим; выбор слишком больших значений тип приведет к тому, что шаг Е1 будет выполняться более миллиона раз.

Процедура, обладающая всеми характеристиками алгоритма, за исключением, возможно, конечности, называется методом вычислений. Евклид предложил не только алгоритм нахождения наибольшего общего делителя, но и аналогичное ему геометрическое построение «наибольшей общей меры» длин двух отрезков прямой; это уже метод вычислений, выполнение которого не заканчивается, если заданные длины оказываются несоизмеримыми.

2. Определенность. Каждый шаг алгоритма должен быть точно определен. Действия, которые нужно выполнить, должны быть строго и недвусмысленно определены для каждого возможного случая. Чтобы преодолеть это затруднение, для описания алгоритмов были разработаны формально определенные языки программирования, или машинные языки, в которых каждый оператор имеет строго определенное значение.

Определение: метод вычислений, выраженный на языке программирования, называется программой.

Рассмотрим в качестве примера алгоритм Е. Применительно к шагу Е1 критерий определенности означает, что читатель обязан точно понимать, что значит разделить т на п и что такое остаток. Но в действительности нет никакого общепринятого соглашения по поводу того, что это означает, если m и п не являются целыми положительными числами. Каким будет остаток от деления -8 на -p ? Что понимать под остатком от деления 59/13 на нуль? Поэтому в данном случае критерий определенности означает следующее: мы должны быть уверены, что в каждом случае выполнения шага Е1 значениями т и п всегда будут целые положительные числа. Если сначала по предположению это верно, то после шага Е1 r – это целое неотрицательное число; при условии перехода к шагу ЕЗ оно является также ненулевым. Таким образом, поставленное требование выполнено и т и п –  это действительно целые положительные числа.

3. Ввод.Алгоритм имеет некоторое (возможно, равное нулю) число входных данных, т.е. величин, которые задаются до начала его работы или определяются динамически во время его работы. Эти входные данные берутся из определенного набора объектов. Например, в алгоритме Е есть два входных значения, а именно m и п, которые принадлежат множеству целых положительных чисел.

4. Вывод. У алгоритма есть одно или несколько выходных данных, т.е. величин, имеющих вполне определенную связь с входными данными. У алгоритма Е имеется только одно выходное значение, а именно п, получаемое на шаге Е2. Это наибольший общий делитель двух входных значений.

Можно легко доказать, что это число действительно является наибольшим общим делителем. После шага Е1 имеем:

,

где q – некоторое целое число.

    Если r = 0, то т кратно п и, очевидно, в этом случае n – наибольший общий делитель для m и п.

    Если r #0, то любой делитель обоих чисел m и п должен быть также делителем для

,

а любой делитель для п и r – также делителем для:

.

    Таким образом, множество делителей чисел {т, п} совпадает с множеством делителей чисел {п, r}.Следовательно, пары чисел {т, п}и {п, r} имеют один и тот же наибольший общий делитель. Таким образом, шаг ЕЗ не изменяет ответа исходной задачи.

5. Эффективность. Алгоритм обычно считается эффективным, если все его операторы достаточно просты для того, чтобы их можно было точно выполнить в течение конечного промежутка времени с помощью карандаша и бумаги. В алгоритме Е используются только следующие операции: деление одного целого положительного числа на другое, сравнение с нулем и присвоение одной переменной значения другой. Эти операции являются эффективными, так как целые числа можно представить на бумаге с помощью конечного числа знаков и так как существует по меньшей мере один способ деления одного целого числа на другое – «алгоритм деления». Но те же самые операции были бы неэффективными, если бы они выполнялись над действительными числами, представляющими собой бесконечные десятичные дроби, либо над величинами, выражающими длины физических отрезков прямой, которые нельзя измерить абсолютно точно. Приведем еще один пример неэффективного шага: «Если 4 – это наибольшее целое n, при котором существует решение уравнения wⁿ + xⁿ + yⁿ = zⁿ для целых положительных чисел w, x, y и z,то перейти к шагу Е4». Подобная операция не может считаться эффективной до тех пор, пока кто-либо не разработает алгоритм, позволяющий определить, действительно ли 4 является наибольшим целым числом с требуемым свойством.

Попробуем сравнить понятие «алгоритм» с рецептом из кулинарной книги. Предполагается, что рецепт обладает свойством конечности (хотя и говорят, что «кто над чайником стоит, у того он не кипит»), имеет

· входные данные (такие, например, как яйца, мука и т.д.),

· выходные данные (обед «на скорую руку» и т.п.),

· но хорошо известно, что ему не хватает определенности.

    Инструкции из кулинарных рецептов очень часто бывают неопределенными, например: «Добавьте щепотку соли». «Щепотка» определяется как количество, «меньшее 1/8чайной ложки», и что такое соль, вероятно, тоже известно всем. Но куда именно нужно добавить соль – сверху? сбоку? Инструкции «Слегка потрясите, пока смесь не станет рассыпчатой» и «Подогрейте коньяк в маленькой кастрюльке» будут вполне понятны опытному повару, но они не годятся для алгоритма. Алгоритм должен быть определен настолько четко, чтобы его указаниям мог следовать даже компьютер. Тем не менее, программист может многому научиться, прочитав хорошую поваренную книгу.

Следует отметить, что для практических целей ограничение, состоящее в конечности алгоритма, в сущности, является недостаточно жестким. Используемый на практике алгоритм должен иметь не просто конечное, а достаточно ограниченное, разумное число шагов.

Например, алгоритм определения того, может ли игра в шахматы всегда быть выиграна белыми при условии, что не было сделано ни одной ошибки. Этот алгоритм позволил бы решить проблему, представляющую огромный интерес для тысяч людей, но можно биться об заклад, что окончательный ответ на данный вопрос мы не узнаем никогда. Все дело в том, что для выполнения указанного алгоритма требуется невероятно большой промежуток времени, хотя сам алгоритм и является конечным.

На практике нам нужны не просто алгоритмы, а хорошие алгоритмы в широком смысле этого слова. Одним из критериев качества алгоритма является время, необходимое для его выполнения; данную характеристику можно оценить по тому, сколько раз выполняется каждый шаг. Другими критериями являются адаптируемость алгоритма к различным компьютерам (или переносимость, мобильность программ, как на языке С++), его простота, изящество и т.д.

Часто решить одну и ту же проблему можно с помощью нескольких алгоритмов и нужно выбрать наилучший из них. Таким образом, мы попадаем в чрезвычайно интересную и крайне важную область анализа алгоритмов. Предмет этой области состоит в том, чтобы для заданного алгоритма определить рабочие характеристики.

В качестве примера давайте исследуем с этой точки зрения алгоритм Евклида. Предположим, нам нужно решить следующую задачу: «Пусть задано значение n, а т может быть любым целым положительным числом. Тогда чему равно среднее число Т_п выполнений шага Е1 алгоритма Е?».

Прежде всего необходимо убедиться в том, что задача имеет смысл, поскольку нам предстоит найти среднее при бесконечно большом количестве значений т. Но совершенно очевидно, что после первого выполнения шага Е1 значение будет иметь только остаток от деления т на п. Поэтому все, что мы должны сделать для нахождения значения Т_п ,– это испытать алгоритм для m = 1, m = 2, ..., m = п,подсчитать суммарное число выполнений шага Е1 и разделить его на п.

А теперь рассмотрим еще один важный вопрос, касающийся поведения Т_п как функции от п: можно ли ее аппроксимировать, например, функцией

 или ?

На самом деле это чрезвычайно сложная и интересная математическая проблема, которая еще не решена окончательно. Можно доказать, что при больших значениях п Т_п ведет себя, как функция

,

т.е. она пропорциональна натуральному логарифму п. Заметим, что коэффициент пропорциональности k нельзя просто взять и угадать; чтобы определить его, нужно затратить определенные усилия.

Для обозначения области подобных исследований используется термин анализ алгоритмов. Основная идея заключается в том, чтобы взять конкретный алгоритм и определить его количественные характеристики. Время от времени мы будем также выяснять, является ли алгоритм оптимальным в некотором смысле. Теория алгоритмов – это совершенно другая область, в которой, в первую очередь, рассматриваются вопросы существования или не существования эффективных алгоритмов вычисления определенных величин.

До сих пор наше обсуждение алгоритмов носило достаточно общий характер, и, вероятно, «математически настроенный» читатель утвердился в мысли, что все предыдущие комментарии представляют собой очень шаткий фундамент для построения какой-либо теории алгоритмов. Поэтому давайте подведем итог данного раздела, кратко описав метод, с помощью которого понятие алгоритма можно строго обосновать в терминах математической теории множеств.

Формально определим метод вычислений как четверку ( Q, I, W, f ), где Q – это множество, содержащее подмножества I и W, а f – функция, переводящая множество Q в себя. Кроме того, f оставляет неподвижными точки множества W, т.е. f (q)равно q для всех элементов q из множества W. Эти четыре элемента Q, I,  W и f  представляют соответственно состояния вычисления, ввод, вывод и правило вычислений. Каждое входное значение х из множества I определяет вычисляемую последовательность x₀, x₁, x₂, … следующим образом:

x₀ = х и x_k+1 = f (x_k)для k ³ 0.                         (1.1)

Говорят, что вычисляемая последовательность заканчивается через k шагов, если k – это наименьшее целое число, для которого x_k принадлежит W, и что она дает выходное значение x_k для заданного х. (Заметим, что если x_k принадлежит W, то и x_k+1принадлежит W, так как в этом случае x_k+1= x_k). Некоторые вычисляемые последовательности могут никогда не заканчиваться, но алгоритм – это метод вычислений, который заканчивается через конечное число шагов для всех х из I.

Например, алгоритм Е в этих терминах можно формализовать следующим образом. Пусть элементами множества Q будут все величины(n), все упорядоченные пары(m,n) и все упорядоченные четверки (m,n,r,1), (m,n,r,2) и (m,n,p,3), где m, n и р – это целые положительные числа, а r – неотрицательное целое число. Пусть I – это подмножество всех пар (m,n), а W – подмножество всех величин (n). Определим функцию f следующим образом:

                               (1.2)

Соответствие между данной записью и алгоритмом Е очевидно.

В этой формулировке понятия «алгоритм» не содержится ограничение, касающееся эффективности, о котором упоминалось ранее. Например, Q может быть множеством бесконечных последовательностей, которые нельзя вычислить с помощью карандаша и бумаги, а f может включать операции, которые не всегда возможно выполнить. Если мы хотим ограничить понятие «алгоритм» таким образом, чтобы в нем могли содержаться только элементарные операции, то введем ограничения на элементы Q, I,W и f, например, следующим образом.

Пусть А – это ограниченное множество букв, а L – множество всех строк, определенных на множестве А (т.е. множество всех упорядоченных последовательностей x₀, x₁, x₂, …, где n³0 и x_j  принадлежит А для 1 £ j £ п. Идея заключается в следующем: закодировать состояния вычисления таким образом, чтобы они были представлены строками из множества L.

Теперь пусть N – целое неотрицательное число, а Q –  множество всех пар (s, j),где sпринадлежит L,a j – целое число, 0 £ j £ N.

Пусть I – подмножество пар из Q,для которых j =0, а W – подмножество пар из Q,для которых j = N. Если qи s– строки из L,то мы будем говорить, что qвходит в s,если sимеет вид aqw,где a и w– некоторые строки.

И в завершение определим функцию f с помощью строк q_j,f_j и целых чисел a_j, b_j, 0 £ j £ N,следующим образом:

,	если qj не входит в s
,	если a является самой короткой (1.3) строкой, для которой s = a qj w
.

Метод вычислений, удовлетворяющий этому определению, безусловно, является эффективным. Кроме того, опыт показывает, что в таком виде можно представить любую задачу, которая решается с помощью карандаша и бумаги.

Упражнение 1.1. В тексте показано, как взаимно заменить значения переменных типе помощью символа замены, а именно – полагая t m, m п,  п t . Покажите, как в результате ряда замен можно преобразовать четверку переменных (a,b,c,d)в (b,c,d,a). Другими словами, новое значение переменной а должно стать равным первоначальному значению 6 и т.д. Постарайтесь выполнить преобразование с помощью минимального числа замен.

Упражнение 1.2. Докажите, что в начале выполнения шага El m всегда больше п,за исключением, возможно, только первого случая выполнения этого шага.

Упражнение 1.3. Измените алгоритм Е (из соображений эффективности) таким образом, чтобы исключить из него все тривиальные операции замены типа « m n ». Запишите этот новый алгоритм в стиле алгоритма Е и назовите его алгоритмом F.

Упражнение 1.4. Чему равен наибольший общий делитель чисел 2 166 и 6 099?

Упражнение 1.5. Чему равно T₅ (среднее число случаев выполнения шага Е1 при n = 5)?

Упражнение 1.6. Пусть т известно, а n – любое целое положительное число. Пусть U_m – среднее число случаев выполнения шага Е1 из алгоритма Е. Покажите, что U_m четко определено. Существует ли какая-либо связь между U_m и T_m ?

Упражнение 1.7. Придумайте эффективный формальный алгоритм вычисления наибольшего общего делителя целых положительных чисел т и п,определив соответствующим образом q_j,f_j, a_j, b_j (как в формулах (1.3)). Пусть входные данные представлены строкой a^mbⁿ,т.е. за а, взятым т раз, следует b,взятое n раз. Постарайтесь найти самое простое решение, насколько это возможно.

Указание:воспользуйтесь алгоритмом Е, но вместо деления на шаге El присвойте r | т - п |, п min(m, п).