Самоорганизующиеся карты Кохонена

Как и в случае с Деревьями Решений, работа с самоорганизующимися картами Кохонена выполняется также через "Мастер обработки" (см. Рисунок 9).

В секции "Параметры карты" задается размер карты, т.е. количество ячеек из которых она будет состоять. Для этого в полях "Размер по оси Х" и "Размер по оси Y" следует указать количество ячеек по соответствующим координатам.

В поле "Количество ячеек" отображается общее число ячеек карты. Оно

определяется как произведение значений полей "Размер по оси Х" и "Размер по оси Y" и меняется только при их изменении.

В списке "Форма ячеек" выбирается один из вариантов конфигурации ячейки - прямоугольная или шестиугольная. При задании формы ячеек нужно учитывать, что шестиугольники дают более корректные результаты, т.к. расстояние между центрами ячеек ближе к евклидову, чем между центрами прямоугольников.

Рисунок 9. Настройка параметров карты Кохонена

На следующем (5-ом) шаге, необходимо задать условие, при выполнении которого обучение карты будет прекращено (см. Рисунок 10).

Рисунок 10. Дополнительные настройки карт Кохонена

В данном этапе стоит особо обратить на следующие поля:

- "Считать пример распознанным, если ошибка меньше" - критерием останова в данном случае является условие, что рассогласование между эталонным и реальным выходом карты становится меньше заданного значения.

- "По достижению эпохи" - указывается количество эпох, по достижении которого процесс обучения будет остановлен, даже, если не достигнута заданная ошибка. Позволяет избежать "зацикливания" в ситуациях, когда ошибка не достижима.

Кроме этого для обучающего и тестового множества в соответствующих секциях окна могут независимо устанавливаться следующие критерии остановки обучения:

- Средняя ошибка меньше - средняя квадратичная ошибка на обучающем множестве или тестовом множестве меньше заданного значения.

- Максимальная ошибка меньше - максимальная квадратичная ошибка на обучающем множестве и тестовом множестве меньше заданного значения.

- Распознано примеров, (%) - количество распознанных примеров на обучающем множестве и тестовом множестве больше заданного процента.

Рисунок 11. Дополнительные настройки карт Кохонена

Само обучение карты производится итерационными циклами, каждый из которых называется эпохой. Во время каждой эпохи происходит подстройка весов нейронов карты Кохонена.

Подстройка весов во время одной эпохи происходит следующим образом: каждый входной вектор (строчка таблицы) обучающей выборки "подтягивает" к себе ближайший по расстоянию нейрон (нейрон-победитель) карты Кохонена с определенной силой (скорость обучения). Вместе с нейроном победителем подтягиваются и его соседи. Соседство определяется положением нейронов на 2-х мерной четырехугольной или шестиугольной сетке.

В итоге после запуска и отработки мастера, мы получаем карту Кохонена, отображенную на Рисунке 12.

Рисунок 12. Образец отображения карт Кохонена

Нейронная сеть

Как и прошлые процессы, построение нейронной сети ведется также через мастер обработки.

Первоначально задаются параметры, определяющие структуру нейронной сети, количество скрытых слоев и нейронов в них, а также активационная функция нейронов (см. Рисунок 13).

Рисунок 13. Определение структуры нейронной сети

В секции "Нейроны в слоях" необходимо указать количество скрытых слоев, т.е. слоев нейронной сети, расположенных между входным и выходным слоями. Для этого в поле "скрытых слоев" указать соответствующее значение. Это можно сделать с клавиатуры, предварительно вызвав щелчком мыши курсор, или с помощью стрелочек в правой части поля. Число нейронов во входном и выходном слоях автоматически устанавливается в соответствии с числом входных и выходных полей обучающей выборки и здесь изменить его нельзя.

В секции "Активационная функция" необходимо определить тип функции активации нейронов и ее крутизну, рисунок 12. Для этого в списке "Тип функции" следует выбрать нужную функцию активации, а в поле "Крутизна" - задать ее крутизну (также крутизну можно задать с помощью ползунка, расположенного ниже). В нижней части окна отображается график выбранной функции в соответствии с установленной крутизной.

Далее необходимо выбрать основной алгоритм (см. Рисунок 14):

- Back-Propagation (алгоритма обратного распространения ошибки);

- Resilient Propagation.

Рисунок 14. Выбор алгоритма и установка параметров обучения нейронной сети

Для Back-Propagation задаются два параметра:

- Скорость обучения - определяет величину шага при итерационной коррекции весов в нейронной сети (рекомендуемый интервал от 0 до 1).

- Момент - учитывает величину последнего изменения веса при коррекции весов (задается в интервале от 0 до 1).

Для алгоритма Resilient Propagation указываются следующие параметры:

- Шаг спуска - коэффициент увеличения скорости обучения, который определяет шаг увеличения скорости обучения при не достижении алгоритмом оптимального результата.

- Шаг подъема - коэффициент уменьшения скорости обучения. Задается шаг уменьшения скорости обучения в случае пропуска алгоритмом оптимального результата

На следующем шаге (см. Рисунок 15) необходимо задать условия, при выполнении которых обучение будет прекращено.

Рисунок 15. Настройки обучающего и тестового множества

На этом этапе следует обратить внимание настройки обучающего и тестового множества:

- "Средняя ошибка меньше" - средняя квадратичная ошибка на обучающем  или тестовом множестве меньше заданного значения.

- "Максимальная ошибка меньше" - максимальная квадратичная ошибка на обучающем или тестовом множестве меньше заданного значения.

- "Распознано примеров (%)" - количество распознанных примеров на обучающем или тестовом множестве больше заданного процента.

При выборе нескольких условий, остановка процесса обучения происходит по достижении хотя бы одного из них,

После завершения всех настроек нам необходимо начать обучение. Процесс мы будем видеть интерактивно на экране, в виде графика.

Рисунок 16. Процесс обучения нейронной сети

В итоге мы получим граф нейросети, изображенный на Рисунке 17

Рисунок 17. Граф нейросети

К нему прилагается интерфейс “Что-Если”, в котором можно менять параметры возраста, пол и пр. и видеть, как система на лету менять решения о выдаче кредита.

ЗАКЛЮЧЕНИЕ

В заключение мы рассмотрели такие алгоритмы интеллектуального анализа, как Деревья Решений, Самоорганизующиеся карты Кохонена и Многослойные нейронные сети, изучили основные преимущества каждого. Важно отметить, что в зависимости от объема выборки, набора обучаемой и тестовой информации, а также от тонких настроек, разные алгоритмы будут демонстрировать более точные результаты.

Во второй главе мы исследовали возможности интеллектуального анализа ПО Deductor Academic. В работе мы убедились в простоте использовании, удобстве, а также в полноте предоставляемой итоговой информации. По мере решения задачи, мы применили рассматриваемые алгоритмы в данном ПО и смогли продемонстрировать результаты. Важно также отметить, что у нас появился интерфейс, благодаря которому можно ввести анкетные данные нового посетителя и получить решение о выдаче ему кредита. С учетом стремительного развития вычислительных мощностей и технологий, а также “наращивании” огромных баз знаний о людях и их признаках, появляются основания полагать, что в скором времени информационно-аналитические системы, применяющие интеллектуальный анализ будут применяться повсеместно даже в бытовых задачах.