Математическая модель нейронной сети

а)

б)

Рис. 3. Графы НС: а) полносвязанной, б) многослойной НС прямого распространения, в) с обратными связями

…

в)

С точки зрения топологии построения НС можно разделить на полносвязанные (рис. 3 а) и многослойные. Между слоями НС могут быть установлены связи различного вида. В общем случае выход слоя с номером j подается на вход слоя с номером (j+s). Вход НС можно рассматривать как выход “нулевого слоя”. При этом: если s=1, то будут образованы последовательные связи; если s>1 – перекрестные, s<1 – обратные. В свою очередь среди многослойных сетей можно выделить: НС прямого распространения с последовательными связями (рис. 3 б), итеративные НС с обратными связями и сети с перекрестными связями (рис. 4).

 

Рис. 4. Многослойная нейронная сеть с перекрестными связями

 

Таблица 2. Основные функции активации нейронов

	Название	Формула	Область значений	Вид функции
1. y s	Линейная	f(s)=ks	(-¥, ¥)
2. s y 0.5	Логисти-ческая		(0, 1)
3. y s -1	Гиперба-лический тангенс		(-1, 1)
4. y s	Экспонен-циальная		(0, ¥)
5. y s -1 -p/2 p/2	Синусои-дальная		(-1, 1)
6. y s q	Пороговая		(0, 1)
7. y s	Модульная		(0, ¥)
8. y s -1	Знаковая (сигнатурная)		(-1, 1)

 

 

Если в НС у всех нейронов функция активации одинаковая, то такая НС называется однородной. Формально выходной сигнал в Q-слойной однородной НС с последовательными связями, с учетом модели искусственного нейрона (2.2), можно описать

, (2)

где: – выход j_Q-го нейрона выходного слоя НС, –матрица весовых коэффициентов, описывающая связи между нейронами, – вход j₀-го нейрона входного слоя НС, f – функция активации нейронов.

ИНС может рассматриваться как направленный граф со взвешенными связями, в котором искусственные нейроны являются узлами. По архитектуре связей ИНС могут быть сгруппированы в два класса (рис. 2): сети прямого распространения, в которых графы не имеют петель, и рекуррентные сети, или сети с обратными связями.

 

Рисунок 5. Классификация нейронных сетей

 

В наиболее распространенном семействе сетей первого класса, называемых многослойным перцептроном, нейроны расположены слоями и имеют однонаправленные связи между слоями. На рис. 2 представлены типовые сети каждого класса. Сети прямого распространения являются статическими в том смысле, что на заданный вход они вырабатывают одну совокупность выходных значений, не зависящих от предыдущего состояния сети. Рекуррентные сети являются динамическими, так как в силу обратных связей в них модифицируются входы нейронов, что приводит к изменению состояния сети.