Математика/5. Математическое моделирование

Иванов С.А.

Челябинский государственный педагогический университет, Россия

Трум О.Н.

Челябинский государственный педагогический университет, Россия

Устойчивость нейронной сети со структурой связей в виде дерева

Мы рассматриваем нейронную сеть из семи нейронов со структурой связей в виде дерева.

Рисунок 1. Нейронная сеть в виде дерева с семью нейронами.

Рассмотрим дискретную модель нейронной сети со структурой связей в виде дерева. В модели взаимодействие различных нейронов запаздывает на тактов. Силу воздействия нейрона с "меньшим" номером на нейрон с "большим" обозначим посредством , а силу обратного воздействия посредством . Модель имеет вид

(1)

Для сетей с цилиндрической топологией уравнение (1) примет вид:

(2)

где - единичная матрица, - коэффициент затухания собственных колебаний нейрона, - матрица взаимодействий между нейронами в сети. Здесь есть мерный вектор состояния нейронной сети в момент .

Для сети из семи нейронов со структурой связей в виде дерева матрица взаимодействий размера примет вид

. (3)

Характеристическое уравнение для матричного уравнения (2) имеет вид , (4)

где

. (5)

Для изучения устойчивости уравнения (2) с матрицей (3) будем использовать программу Маткад. Мы фиксируем запаздывание и коэффициент демпфирования . Затем перебираем значения из некоторого интервала с некоторым шагом. Для каждого значения мы подбираем граничные значения , в окрестности которых устойчивость системы граничит с неустойчивостью. Этот подбор происходит следующим образом. Мы ищем корни уравнения (4) с учетом (5), и в качестве искомого значения берем то значение, при котором все корни характеристического уравнения (4) находятся внутри единичного круга на комплексной плоскости, а по крайней мере один корень на границе круга. В результате мы получаем область устойчивости в пространстве параметров . В конце создаем график, иллюстрирующий полученную область устойчивости для выбранных параметров и . Если точка с координатами лежит внутри данной области для выбранных параметров и , то можно говорить об устойчивости системы (2).

Результаты вычислений области устойчивости для запаздываний на 1,2 и 3 такта показаны на Рис. 2.

Рисунок 2. Области устойчивости в пространстве параметров (a,b)

для γ = 0.6, k = 1,2,3.

Полученные области позволят решить вопрос об устойчивости исследуемой модели в зависимости от интенсивности взаимодействия между нейронами. Как показывают численные эксперименты, с увеличением величины запаздывания области устойчивости сети нейронов вида дерева в пространстве параметров сужается.

Полученные результаты будут являться базой для дальнейшего развития теории об устойчивости нейронной сети со структурой связей в виде дерева с различным числом нейронов в сети.

Рекурсивные нейронные сети со структурой связей, отличной от дерева, изучены в работах [2,3]. Непрерывные модели нейронных сетей исследуются в работе [4] на основе теории конусов устойчивости для дифференциальных уравнений с запаздываниями [5].

Благодарности

Работа поддержана грантом Министерства образования и науки 1.1711.2011 и грантом для аспирантов Челябинского государственного педагогического университета. Авторы благодарны проф. Кипнису М.М. за постановку задачи и ценные советы.

Литература:

1. Заенцов И. В., Нейронные сети: основные модели. Издательство Воронежского университета, Воронеж, 1999.

2.Иванов С.А. Область устойчивости в пространстве параметров рекурсивных нейронных сетей с топологией многомерного куба. Челябинск: Вестник ЮУрГУ серия Математика. Механика. Физика Выпуск 7, 2012.

3.Ivanov S.A., Kipnis M.M. Stability analysis of discrete-time neural networks with delayed interactions: torus, ring, grid, line. International Journal of Pure and Applied Math. (2012) V. 78(5), p. 691-709.

4.Khokhlova T.N., Kipnis M.M. Numerical and qualitative stability analysis of ring and linear neural networks with a large number of neurons, International Journal of Pure and Applied Math. (2012) V. 76(3), pp. 403-419.

5.Khokhlova T.N., Kipnis M.M., Malygina V.V. The stability cone for a delay differential matrix equation, Appl. Math.Letters (2011) V. 24, pp.742-745.