Использование псевдоинверсии для синтеза сети Хопфилда

Для синтеза сети Хопфилда можно использовать псевдоинверсию [4]. Такой подход называют еще обучением сети Хопфилда методом проекций. Подход основан на предположении, что при правильно подобранных весах каждая поданная на вход выборка генерирует на выходе самоё себя. Применительно к известным целевым векторам в матричной форме можно записать

,

где — неизвестная матрица весов размерностью (в сети Хопфилда число нейронов равно числу входов), — известная матрица , составленная из целевых векторов.

Необходимо найти матрицу . Так как — прямоугольная матрица, то для нахождения можно использовать псевдообратную матрицу [13]

,

где — псевдообратная матрица (матрица Мура‑Пенроуза) для .

В MATLAB псевдообратную матрицу вычисляет функция pinv, основанная на сингулярном разложении (SVD) матрицы [13]. Этот метод обладает большой устойчивостью к неточностям задания элементов матрицы и погрешностям округления. Тогда

W=T*pinv(T).

Программу Hopfield_pinv.m, использующую псевдоинверсию для синтеза сети Хопфилда, построим на основе программы Hopfield.m.Отличие состоит в вычислении матрицы весов по формуле W=T*pinv(T) и присвоении весам модели, созданной стандартной функцией newhop(T), вычисленных значений. Смещения принимаются нулевыми [14].

% Синтез сети Хопфилда с использованием псевдоинверсии

clear % очистка рабочего пространства

clc % очистка командного окна

close all % Закрытие всех окон

T=[1 -1; -1 1; 1 1; -1 -1]'

% точки равновесия

plot(T(1, :), T(2, :), '*r');

axis([-1.1 1.1 -1.1 1.1]);

title('Точки равновесия сети Хопфилда');

xlabel('a(1)'), ylabel('a(2)');

grid on;

disp('Нажмите Enter')

pause

% Создание сети

disp('Веса, вычисленные псевдоинверсией');

WP=T*pinv(T) % Вычисление весов методом псевдоинверсии

net=newhop(T); % Синтез модифицированной сети Хопфилда

disp('Веса модифицированной сети Хопфилда');

W=net.LW{1,1} % Веса модифицированной сети

%b=net.b{1,1} % СмещениЯ модифицированной сети

% Присвоение параметрам модифицированной сети значений,

% полученных псевдоинверсией

b=[0;0;0]; %В сети, синтезированной псевдоинверсией, нулевой вектор b

W={WP}; % Преобразование в массив ячеек

% Проверка принадлежности вершин квадрата к сети Хопфилда

Ai = {T};

Y = net(cell(1,2),{},Ai);

disp('Проверка принадлежности вершин квадрата к сети Хопфилда');

Y{1,1}

% Поведение сети при случайных начальных условиях

plot(T(1, :),T(2, :), 'r*');

hold on;

axis([-1.5 1.5 -1.5 1.5]);

xlabel('a(1)'), ylabel('a(2)');

for i=1:25

a={[-1.5; -1.5]+3*rand(2,1)}; % случайный вектор

Y=net(cell(1,50), {}, a); %модел. при случ. нач. условиях

% Y - массив ячеек, соответствующих каждому шагу моделирования

record=[cell2mat(a) cell2mat(Y)];

start=cell2mat(a);

plot(start(1,1), start(2, 1), 'kx', record(1, :), record(2, :));

end

grid on

title('Поведение сети при случайных начальных условиях');

Веса, вычисленные с помощью псевдоинверсии, несколько отличаются от весов модифицированной сети Хопфилда

Веса, вычисленные псевдоинверсией

WP =

1.0000 -0.0000

0 1.0000

Веса модифицированной сети Хопфилда

W =

1.1618 0

0 1.1618

Поведение сети при случайных начальных условиях имеет тот же характер, как и в случае модифицированной сети Хопфилда.

Задания

1. Проделайте все примеры, приведенные в работе.

2. Исследуйте влияние числа временных шагов на достижение устойчивого состояния модифицированной сети Хопфилда и сети, синтезированной с использование псевдоинверсии.