Бесплатный автореферат и диссертация по биологии на тему

Осцилляторные нейронные сети

ВАК РФ 03.00.02, Биофизика

Автореферат диссертации по теме "Осцилляторные нейронные сети"

РОССИЙСКАЯ АКАДЕМИЯ НАУК ИНСТИТУТ МАТЕМАТИЧЕСКИХ ПРОБЛЕМ БИОЛОГИИ

На правах рукописи УДК 577:519

2 3 АПР

БОРИСЮК РОМАН МАТВЕЕВИЧ

ОСЦИЛЛЯТОРНЫЕ НЕЙРОННЫЕ СЕТИ

03.00.02 - Биофизика

Диссертация в виде научного доклада на соискание ученой степени доктора физико-математических наук

Пушино- 1996

ОФИЦИАЛЬНЫЕ ОППОНЕНТЫ:

Доктор физико-математических наук, профессор Д.С. Чернавский Доктор физико-математических-наук, профессор А.С. Дмитриев Доктор биологических наук, профессор А.А. Фролов

ВЕДУЩАЯ ОРГАНИЗАЦИЯ:

Институт проблем передачи информации РАН, г. Москва

Защита состоится "еЛС^Л 1996 г. в часов на заседани

диссертационного совета Д.200.22.01 в Институте теоретической экспериментальной биофизики РАН по адресу: 142292, г. Пущино Московско области, проспект науки, ИТЭБ РАН.

С диссертацией в виде научного доклада можно ознакомиться в библиотек Научного центра биологических исследований РАН (г. Пущино, ИТЭБ РАН).

Диссертация в виде научного доклада р а ч ос л а н а ¿¿^"¿И^с/ь&сл 99 6 года.

Ученый секретарь диссертационного совета

кандидат биологических наук ,, 1'{,/с„и 11 ■ П.А. Нелипович

Сы-Ссс,,.^,

ета / / "

7ГиМа.и

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

.1 Актуальность проблемы

В последние годы теория нейронных сетей привлекает внимание многих сследователей. Интерес к нейросетевым моделям порождается желанием понять ринципы работы нервной системы и надеждой, что с помощью таких моделей дастся приблизиться к той поразительной эффективности в процессах обработки нформации, которой обладают животные и человек. К началу 80-х годов в этой бласти был накоплен достаточно большой опыт, позволявший получить бнадеживающие результаты как в моделировании биологических феноменов, так в разработке алгоритмов для решения ряда сложных задач искусственного нтеллекта. В последующие годы появилась соответствующая техническая база тя реализации этих алгоритмов и началось серийное производство ашислительных систем - нейрокомпьютеров, использующих нейросетевые ринципы параллельной обработки информации. Таким образом, произошло ормирование нового научного направления, получившего название 1ейрокомпьютинг" |25].

Достигнутые успехи привели к резкому росту финансирования данной области 1 рубежом, что стимулировало быстрый рост числа исследований и публикаций.

настоящее время по нейронным сетям издается около десяти 1ециализированных журналов и ежегодно проводится несколько крупных гждународных конференций.

В исследованиях нейронных сетей принимает участие широкий круг ученых 1зных специальностей - биологов, инженеров, математиков, физиков. Это >условлено, с одной стороны, плодотворностью приложения в данной области )вых идей и теорий, появившихся в соответствующих специальных науках, а с

другой стороны, сами нейронные сети находят все более многочисленны! приложения в биологии, медицине и технике.

В теории нейронных сетей существует более десяти различных подходо] (парадигм) к решению тех или иных теоретических и прикладных задач Рассмотрению одной из этих парадигм - парадигмы осцилляторных нейронньг сетей (ОНС), посвящена данная работа.

В отличие от других парадигм, основывающихся, как правило, н рассмотрении стационарных состояний нейронной активности, при изучени ОНС основной интерес сосредоточен на динамических, колебательных аспекта функционирования нейронных сетей [38]. В соответствии с этим выбираете такая конструкция отдельного элемента и такая архитектура сети, при которы наблюдаются регулярные, квазипериодические или стохастические колебашв Таким образом, с математической точки зрения, аттракторами ОНС являютс предельные циклы, торы, странные аттракторы. При этом представляют интере условия возникновения колебаний и условия их синхронизации.

Изучение ОНС стимулируется результатами нейрофизиологически экспериментов, указывающих на существенную, а, возможно, и центральну: роль колебательных процессов в работе . нервной систем [2,3,4,5,7,9,12,16,17,19,20,22,46,51]. Одна из основных гипотез состоит в том, чт процесс обработки информации в нервной системе может описываться терминах синхронизации активности различных нейронных структур. Э" гипотеза была сформулирована в работах известного русского нейрофизиоло

A.А.Ухтомского и развивалась его учениками и последователями.

В последние годы интерес к осцилляторной нейронной активности вно; усилился благодаря нейрофизиологическим исследованиям У.Фримен

B.Зингера, Р.Экхорна и других авторов. Показано, что в обонятельной зрительной зонах коры могут возникать высокочастотные колебания (40-50 гер в ответ на внешнюю стимуляцию, причем в определенных условиях наблюдает синхронизация колебаний как в близких, так и в далеких друг от друга учаегк коры. Большой интерес представляют экспериментальные дани О.С.Виноградовой по исследованию тета-ритма - низкочастотной колебательн активности (4-10 герц) в септо-гиппокампальной области. Одна обсуждающихся гипотез состоит в том , что тета-ритм участвует в процес отбора и запоминания информации. Предметом интенсивного изучения являют

•акже нейронные механизмы управления ритмическими движениями как на 'ровне мозжечка, так и на уровне спинного мозга (38].

Принципиальная важность временной когерентности активности при )бработке информации мозгом отмечается во мнопа работах (например, работах И.Лбелеса, А.М.Иваницкого, Р.Миллера, Э.Нибура, Г.Пальма, Ф.Хоппенштедта I др.). Ф.Крик и К.Кох при обсуждении проблемы сознания утверждают, что с еоретической точки зрения легче всего добиться одновременности импульсации, (спользуя осцилляции. Они считают, что сознание предполагает наличие 1еханизма внимания и кратковременной памяти, которые действуют в такой юследовательности: посредством внимательного механизма достигается инхронная активность (в виде осцилляции) соответствующих нейронов, и, в вою очередь, эти осцилляции активируют кратковременную память.

/

В основе данной работы лежат две гипотезы, которые в настоящее время юддерживаются многими исследователями мозга. Согласно первой гипотезе информационный поток в нервной системе можно разделить на два относительно «зависимых уровня: низкий и высокий. Низкий уровень (преданы.мание) связан с >ыделением признаков входного сигнала. Обработка информации на этом уровне [роисходит параллельно. Высокий уровень связан с осуществлением функции 'нимания. Обработка информации на высоком уровне происходи-»следовательно. Вторая гипотеза утверждает, что имеется общий для обоих ровней принцип обработки сенсорной информации, в основе которого лежит инхронизация нейронной активности как внутри, так и между различными труктурами мозга. Например, фон дер Мальсбург считает, что интеграция тдельных признаков объекта в единый образ, может рассматриваться как ременная когерентная фазовая синхронизация нейронной активности.

Таким образом, теоретическое и модельное изучение роли синхронизации ейронной активности в работе мозга привело к созданию новой нейросетевой арадигмы - осцилляторных нейронных сетей.

Известные математические модели осцилляторных нейронных сетей можно словно можно разделить на три типа.

. Модели с детальным описанием работы отдельного нейрона, в которых осциллятор является либо пейсмекерным нейроном, либо состоит из нескольких взаимодействующих возбуждающих и тормозных нейронов. Для моделирования динамики активности нейрона используется, например, модель интегративно-порогового элемента [22,231.

2. Модели, описывающие среднюю активность нейронных групп и нейронных популяций, в которых осциллятор состоит из нескольких взаимодействующих нейронных ансамблей. Модели такого типа мы будем называть нейронными осцилляторами. Примером нейронного осциллятора является нейронный осциллятор Вилсона-Коуэна, состоящий из двух взаимодействующих популяций (возбуждающей и тормозной). При этом динамика осциллятора описывается двумя функциями времени, определяющими усредненную по ансамблю активность возбуждающей и тормозной популяций 110,36,43,591.

3. Системные модели, в которых рассматривается группа осцилляторов, каждый из которых представляет интегральную активность большой системы, состоящей из многих нейронных популяций или структур мозга. Примером такой модели является система взаимодействующих фазовых осцилляторов. При этом динамика фазового осциллятора описывается одной функцией времени, определяющей изменение фазы колебания осциллятора [40,54,60]. Каждая группа моделей соответствует определенной детализации описания

нейронной активности - от подробного, включающего кинетику мембранного транспорта, до обобщенных моделей, где элементарной субъединицей является интегральная активность структуры мозга.

В диссертационной работе сделана попытка с единых позиций изучить различные типы осцидляторных нейронных сетей и на основе результатов анализа разработать семейство моделей различных структур и функций нервной системы. При этом синхронизация нейронной активности рассматривается как основной принцип обработки информации.

Работы, вошедшие в диссертацию, выполнены на протяжении многих лет и посвящены проблемам, актуальность которых возрастает по мере накопления знаний о работе нервной системы.

1.2 Цель и задачи исследования

Основной целью диссертационной работы является развитие теории осцидляторных нейронных сетей и разработка на ее основе математических моделей различных структур и функций мозга. Разработка и исследование моделей должны подтвердить гипотезу, что синхронизация нейронной активности может рассматриваться как общий принцип обработки информации мозгом нг этапах "предвнимания" и "внимания". Основные задачи, рассмотренные в работе:

1. Исследование динамики ОНС из интегративно-пороговых элементов с различной архитектурой связей. Изучение критического (метастабильного) состояния нейронной сети, применение к моделированию различных структур мозга.

2. Изучение динамики нейронного осциллятора, состоящего из двух взаимодействующих популяций (возбуждающей и тормозной). Исследование осцилляторных динамических режимов в системах взаимодействующих нейронных осцилляторов с различной архитектурой связей. Моделирование осцилляторной активности первичной зрительной коры. Модель "предвнимания": интеграция признаков объекта в единый образ. Модель внимания: выделение и слежение за значимым стимулом.

3. Исследование режимов синхронизации в ОНС из фазовых осцилляторов. Моделирование механизма управления фокусом внимания.

1.3 Научная новизна работы

Впервые с единых позиций, в рамках парадигмы осцилляторных гейронных сетей, рассматривается процесс обработки информации в мозге на 1вух различных уровнях ("предвнимание" и "внимание"). Математическое иоделирование позволяет дать теоретическое описание как результатов многих нейрофизиологических экспериментов, так и данных некоторых психологических исследований.

Впервые проведено систематическое исследование динамических режимов 1ля семейства осцилляторных нейронных сетей, состоящего из моделей трех типов, соответствующих различной степени детализации описания нейронной наивности. Методами теории бифуркаций и имитационного моделирования зыяснены условия и границы существования различных колебательных режимов, 1, в частности, условия синхронизации нейронной активности. Такой подход тозволяет управлять поведением активности нейронной сети, а также »поставлять результаты исследования динамики активности для осцилляторных гейронных сетей различных типов.

> Для осцилляторных нейронных сетей из интегративно-пороговых элементов обнаружены новые динамические режимы: критический (метастабильный) режим и режим хаотических когерентных колебаний импульсной активности. Показано, что эти режимы могут служить основой для разработки моделей,

описывающих динамику нейронной активности различных структур мозга, таких как кора, септум, гиппокамп.

• Для осцилляторных нейронных сетей из нейронных осцилляторов обнаружен режим двухчастотных колебаний нейронной активности. Впервые предложена модель предвнимания, в которой процесс интеграции признаков сложного стимула рассматривается на основе синхронизации низкочастотной активности в режиме двухчастотных колебаний.

• Для осцилляторных нейронных сетей из фазовых осцилляторов найдены границы существования режима частичной синхронизации. На основе этого режима предложена модель внимания, позволяющая объяснить процесс

переключения фокуса внимания с одного стимула на другой, а также

«

спонтанное переключение фокуса внимания.

1.4 Теоретическое и практическое значение работы

• Научные исследования, проведенные в ходе работы над диссертацией, позволяют сформулировать новые теоретические представления о динамике активности ЦНС и предложить возможные подходы к-решению ряда актуальных биологических проблем. Тем самым сделан очередной шаг на пути к созданию теории мозга.

• Полученные результаты показывают, что осцнлляторные нейронные сети обладают целым рядом преимуществ по сравнению с другими моделями нейронных сетей. Продолжение начатых исследований несомненно приведет к дальнейшему прогрессу в понимании работы мозга, позволит предложить новые принципы обработки информации, на основе которых могут создаваться новые типы вычислительных устройств, основанные на осцилляторных нейронных сетях и обладающие рядом преимуществ живых систем.

• Материалы диссертации использованы автором при чтении курса "Нейронные сети" (ПущГУ, 1995).

1.5 Апробация работы

Результаты работ, вошедших в диссертацию, представлялись на:

• заседаниях лабораторных и институтских семинаров, на годовых научных конференциях НИВЦ АН СССР (ИМПБ РАН);

• заседаниях московского семинара по нейронным сетям (рук. ВЛ.Дунин-Барковский);

> заседаниях семинара ИВНД РАН (рук. П.В.Симонов, А.М.Иваницкий);

> семинарах Института вычислительной техники и информатики (рук. М.Новак, Прага, Чехословакия, 1987, 1988, 1989), Института по исследованиям мозга (рук. В.Зингер, Франкфурт-на-Майне, Германия, 1989, 1990), Токийского Университета (рук. Х.Шимизу, Токио, Япония, 1990), Мичиганского Государственного Университета (рук. Ф.Хоппенштедт, Ист-Ленсинг, США, 1990, 1993, 1995), Католического Университета (рук. Г.Орбан, Д.Руз, Левен, Бельгия, 1990, 1991), Университета Калифорнии Сан-Диего (рук. Р.Хехт-Нильсен, Сан-Диего, США, 1990, 1993), Университета Рим-2 (рук. Д.Басти, Рим, Италия, 1991, 1994), Университета Генуи и Инспггута Электронных Схем (рук. Д.Моргави, Генуя, Италия, 1992), Солк-Института и Института Нейронных вычислений (рук. Ф.Крик и Т.Сейновски, Сан-Диего, США, 1993), Дрексельского Университета (рук. Г.Стронг, Филадельфия, США, 1993), Университета Отаго (рук. Р.Миллер, Данедин, Новая Зеландия, 1993), Дюссельдорфского Университета (рук. Г.Хаас, Дюсельдорф, Германия, 1994), Корнельского Университета (рук. Д.Гугенхеймер, Итака, США, 1995);

на школах-семинарах по взаимодействующим марковским процессам в биологии (Пущино, 1976, 1978, 1982, 1986)

Всесоюзной конференции по биологической и медицинской кибернетике (Сухуми, 1978);

Международных конференциях по нелинейным колебаниям (Киев, 1981, 1984));

1-ом Всесоюзном биофизическом съезде (Москва, 1982);

IV Пражском международном симпозиуме социалистических стран "Моделирование систем в биологии и медицине" (Прага, Чехословакия, 1984); Международной конференции по численным методам статистики (Прага, Чехословакия, 1984);

Европейских конференциях по кибернетике и системным исследованиям (Вена, Австрия, 1984, 1986, 1994);

Всесоюзном совещании "Архитектура нейрокомпьютеров (Пущино, 1988); Международной конференции "Нейронные системы обработки информации: естественные и синтетические" (Денвер, США, 1988);

Международном совещании "Нейрокомпьютеры и внимание" (Москва, 1989); Международной конференции по нейронным сетям (Сан-Диего, США, 1990);

• Международной конференции по осцилляторным нейронным сетям (Токио, Япония, 1990);

• Европейской конференции по нейронным сетям (Париж, Франция, 1990);

• Международном совещании по сложной динамике нейронных сетей (Виетри, Италия, 1991);

• Европейской конференции по нейронным механизмам обучения и памяти (Лимерик, Ирландия, 1992);

• Международном симпозиуме по нейроинформатике и нейрокомпьютерам (Ростов-на-Дону, 1992)

• Международной австралийской зимней конференции по исследованиям мозга

*

(Квинстаун, Новая Зеландия, 1993);

• Международном симпозиуме по обработке сигналов, роботам и нейронным сетям (Лиль, Франция, 1994);

• Европейской конференции по искусственным нейронным сетям (Сорренто, Италия, 1994);

• Международной конференции "Суперкомпьютеры в исследованиях мозга: от томографии до нейронных сетей" (Юлих, Германия, 1994);

• Всемирном конгрессе по нейронным сетям (Вашингтон, США, 1995);

• Международном совещании "Нейронное кодирование" (Прага, Чешская Республика, 1995).

1.6 Публикации

По материалам диссертационной работы опубликовано 60 работ. В том числе 2 книги, 37 статей в отечественных и зарубежных журналах и сборниках, тезисов докладов и препринтов -21. Список опубликованных работ приведен в разделе 6.

1.7 Положения, выносимые на защиту

Данная работа представляет собой первое систематическое исследование колебательной динамики и синхронизации нейронной активности для различны; типов моделей осцилляторных нейронных сетей, которые служат основой дш теоретического описания результатов ряда нейрофизиологических \ психологических экспериментов. На защиту выносятся:

• Разработка моделей осцилляторных нейронных сетей из интегративно-пороговых элементов с различными архитектурами связей и исследование динамических режимов нейронной активности для таких моделей.

> Результаты исследование критического (метастабильного) режима и режима хаотических когерентных колебаний. Применение для моделирования долгоживущих очагов нейронной активности, медленных колебаний, септального генератора тета-ритма, привыкания в гиппокампе, осцилляторных ответов в коре.

> Результаты бифуркационного анализа колебательных режимов двух взаимодействующих нейронных осцилляторов с различными типами связей.

> Исследование динамических режимов и синхронизации активности для цепочек нейронных осцилляторов с локальными связями и многослойных нейронных сетей.

> Разработка модели предвнимания, в которой процесс интеграции признаков стимула основан на синхронизации низкочастотной составляющей в режиме модулированных колебаний.

> Результаты бифуркационного анализа динамических режимов для моделей осцилляторных нейронных сетей из фазовых осцилляторов с центральным элементом. Определение условий и границ различных режимов синхронизации, в частности, режима частичной синхронизации. Применение для моделирования внимания.

1.8 Благодарности

Прежде всего, мне хотелось бы упомянуть Э.АЛямина, который первым чривлек мое внимание к теории нейронных сетей, и за короткое время нашего иаимодействия успел сформулировать множество интересных задач, для решения которых потребовались годы.

Я благодарен А.М.Молчанову и Э.Э.Шнолю за постоянное внимание к работе i поддержку.

Мне хочется поблагодарить В.И.Крюкова, много лет руководившего группой, ~дс я работал, за создание той дружественной и творческой атмосферы, которая в шачительной степени помогала нашим исследованиям.

Я глубоко признателен О.С.Виноградовой за многочисленные и чрезвычайно 1дя меня полезные дискуссии и рассказы о нейрофизиологии.

Мне хочется поблагодарить моих коллег и соавторов, с которыми, на протяжении многих лет, мне было приятно работать:

Г.Н.Борисюк, Дж.Викенс (J.Wickens, Новая Зеландия), О.В.Годухин, В.Л.Дунин-Барковский, В.Зингер (W. Singer, Германия), А.Касаледжио (A. Casaleggio, Италия), Я.Б.Казанович, Р.Кетгер (R.Koetter, Германия), А.Б.Кириллов, Е.И.Коваленко, В.Н.Коваленко, Г.Г.Кутузова, В.В.Левитин, Т.БЛузянина, В.И.Макаренко, Р.Миллер (R.Miller, Новая Зеландия), Дж.Моргави (G. Morgavi, Италия), Е.В.Николаев, А.Ю.Огурцов, Д.Руз (D.Roose, Бельгия), Г.Стронг (G.Strong, США), Т.С.Турова, Л.М.Уржумцева, Р.Хехт-Нильсен (R.Hecht-Nielsen, США), А.И.Хибник, Ф.Хоппенштедт (F.Hoppensteadt, США), Г.С.Цымбалюк, В.А.Чулаевский.

2. НЕЙРОННЫЕ СЕТИ ИЗ ИНТЕГРАТИВНО-ПОРОГОВЫХ ЭЛЕМЕНТОВ

2.1 Описание модели

Предположим, что нейронная сеть состоит из N ингегративно-пороговых элементов. Архитектура связей между элементами задается матрицей связей С = (с'1 ), где с" определяет величину воздействия /-ого элемента на /-ый элемент: с" > 0 для возбуждающих воздействий, с'1 < 0 для тормозных воздействий и с" = 0 при отсутствии воздействия. Время предполагается дискретным (/=1,2,...). Все переменные, описывающие функционирование нейрона, известны в момент времени I и уравнения динамики определяют их значения в следующий момент времени t +1 (предполагается, что шаг по времени достаточно мал, например, 1 миллисекунда). Динамика /-ого нейрона :ети описывается следующими разностными уравнениями (для краткости и наглядности записи индекс /', как правило, не приводится) [13,14,22,23,34,57]. 1. Порог нейрона экспоненциально затухает от наибольшего значения, устанавливаемого после периода абсолютной рефрактерности, отсчитываемого от момента последнего срабатывания нейрона, до порога "покоя":

r{t + 1) = (rm„ - rj ехр(-ай(/ - tsp - х„,)) + , •де /*тах - максимальное значение порога; л, - порог "покоя", асимптотическое шачение порога при / -> оо ; ал - скорость убывания порога; ts? - момент тоследнего срабатывания (спайка) /-ого элемента до момента времени Г, т-териод абсолютной рефрактерности.

!. Пост-сшшптичеекий потенциал при воздействии от элемента j (J = 1,2,...,А) (кспоненциально затухает, если же в момент l + 1 пришел импульс от у'-ого

нейрона, то посг-синаптический потенциал изменяется на величину пропорциональную весу связи (увеличивается при положительной связи или уменьшается при отрицательной связи):

PSP'U +1) = PSPJ{!) ехр(-а^) + с, с = cJ при условии, что tJv + т' - t + 1, иначе с = 0,

где с/ - величина связи от /-ого на /-ый элемент; гу - временная задержка при передаче импульса от /-ого к /-ому элементу; aJrsf скорость затухания ПСП при воздействии у-ого нейрона; tsp - момент последнего срабатывания /-ого нейрона, происшедшего до текущего момента времени /.

3. Случайный шум в каждый момент времени задается равномерно распределенной случайной величиной с нулевым средним:

Ж(/ + 1) = ЛЧ/)ехр(-ал,) + £, ieN(0,a)

где aN - скорость затухания шума; 4 - случайная величина, нормально распределенная с нулевым средним и дисперсией а2.

4. Потенциал на соме нейрона экспоненциально затухает к нулю от отрицательного значения послеспайковой гиперполяризации, устанавливаемой в момент последнего срабатывания нейрона:

Улл, (' + !) = Уанг ехр(-а, (/ - tv)) , где УАНР - величина послеспайковой гиперполяризации ( Улпр < 0); а„ -скорость затухания потенциала на соме; tsp - момент последнего срабатывания /'ого нейрона, происшедшего до текущего момента времени /.

5. Суммарный потенциал складывается из алгебраической суммы всех постсинаптических потенциалов, шума, потенциала на соме и внешнего воздействия на нейрон:

P(t + 1) = 2 PSP'{f +1) + Щ/ +1) + У^С + О + /«(' + 1) -j

где Iея - величина внешнего входа.

6. Генерация спайка происходит, если суммарный потенциал превзошел порог:

если P(t +1) > /"(/ +1), то t9 - t +1, где t - момент последнего срабатывания А о го элемента до момента /.

Приведенное описание модели нейронной сети позволяет рассматривать сети с различной архитектурой связей, задаваемой матрицей С, и произвольными параметрами интегративно-пороговых элементов.

2.2 Критический режим и его применение

2.2.1 Описание критического режима

Рассмотрим нейронную сеть из интегративно-пороговых элементов, предполагая, что нейроны расположены в узлах прямоугольной решетки, связи между ними локальные, так что каждый элемент связан с четырьмя ближайшими соседями и связи идут по ребрам решетки. Все нейроны предполагаются идентичными, а связи изотропными и возбуждающими, величина связи определяется параметром с. Граничные эффекты отсутствуют, поскольку противоположные края решетки отождествляются, т.е. рассматривается решетка на торе.

Показано, что при определенных значениях величины параметра связи с е с], | в нейронной сети существует критический режим - долгоживущее или метастабильное состояние нейронной активности, аналогичное физическому фазовому переходу |8,13,14,1521,23,24,27,34]. Критический режим характеризуется тем, что паттерн компактно расположенных активных элементов, заданный в начальный момент, сохраняется в течение длительного времени, на несколько порядков превышающего характерное время релаксации отдельного элемента (эффект сохранения пятна). Одно из возможных применений критического режима - моделирование кратковременной памяти [15,24,26,27,32,42,52].

Долгоживущий паттерн активных элементов медленно изменяется, причем финальное состояние патгерйа заранее неизвестно: иногда паттерн уменьшается в размерах и исчезает, а иногда паттерн увеличивается в размерах и распространяется на всю решетку. Такая динамика паттерна с неопределенным финальным состоянием характерна для метастабильных состояний. Отметим, что критический режим наблюдается, если величина параметра связи находится в эпределенном диапазоне значений. Причем, при приближении величины юкальной связи с к нижней границе критического диапазона с'г увеличивается вероятность "схлопывания" пятна (т.е. вероятность нулевого финального :остояния), а при приближении связи к верхней границе с), увеличивается зероятность "расплывания" пятна.

Для теоретического описания критического режима, полученного на имитационной моделе, рассмотрим систему двух дифференциальных уравнений, описывающих динамику Е(/) - среднего уровня активности нейронов сети и £>(/) - дисперсии активности сети [21,23,24,34).

IЕ = -аЕ + Я(сЕ) +--—-

[П = -2П(а-сУ(сЕ)),

где УМ, УМ " сигмоидная функция и ее первая и вторая производные

(формула для функции такого типа приведена в главе 3); а - параметр, характеризующий скорость затухания ПСП; с - величина локальной связи. Исследование системы показывает, что существует критический диапазон изменения параметра связи, в котором наблюдается динамика системы, характерная для критического режима: средний уровень активности сети Е(1) имеет промежуточное значение, расположенное между низким стационарным уровнем активности (сеть "молчит") и высоким стационарным уровнем активности (все нейроны сети "загораются"). При этом дисперсия активности !)(/) неограниченно возрастает. Вне критического диапазона средний уровень активности стремится к одному из стационарных значений: к низкому уровню фоновой активности для связей меньших нижней границы критического диапазона (с < с\г)\ к высокому уровню фоновой активности для связей больших верхней границы критического диапазона (о с]г). При этом дисперсия активности стремится к нулю.

2.2.2 Применение критического режима для генерации медленных колебаний

Критический режим представляет большой интерес для теории осцилляторных нейронных сетей. На основе критического режима строится осциллятор медленных колебаний. Для этого к решетке из возбуждающих элементов достаточно добавить один тормозный элемент (глобальный тормоз, центральный тормозный элемент) и организовать связи так, чтобы суммарный сигнал от всех возбуждающих нейронов решетки подавался на тормозный элемент, а активность тормозного элемента влияла на каждый нейрон решетки [14,15,23,34]. Рассмотрим динамику сети с тормозным элементом. Предположим, что сеть из возбуждающих элементов находится в критическом режиме (с е к^ причем параметр с находится вблизи верхней границы диапазона критических значений

(с я с^). Тогда, "пятно" активных элементов, заданное в начальный момент, будет медленно увеличиваться в размерах и суммарная активность возбуждающих нейронов будет увеличиваться, приближаясь к порогу срабатывания тормозного элемента. Когда порог будет достигнут, произойдет срабатывание тормозного элемента, которое вызовет торможение всех нейронов решетки. Наличие шумовой компоненты приведет к появлению нового паттерна активности, который будет медленно увеличиваться в размерах и процесс будет периодически повторяться. Изучение свойств описанного низкочастотного осциллятора показывает, что период колебаний является стабильной характеристикой осциллятора. Импульсная активность отдельных нейронов имеет пачечный характер, при этом пачки сдвинуты по фазе относительно друг друга, но хорошо коррелируют с колебаниями среднего уровня активности. Тормозный нейрон генерирует высокорегулярные последовательности одиночных импульсов. Частота колебаний сети изменяется в широких пределах при изменении параметров, например, при увеличении величины порога покоя лх частота колебаний уменьшается, при этом имеется диапазон почти линейного уменьшения частоты осциллятора.

2.2.3 Применение к септуму: модель глобального пейсмекера.

Многие нейрофизиологические исследования показывают, что в головном мозге человека и животных существуют пейсмекеры, то есть специальные генераторы ритмической активности, которые задают ритм, необходимый для обработки сенсорной информации, например, посредством синхронизации нейронных ансамблей на определенной частоте. Такие пейсмекеры могут возникать в определенных структурах мозга в ответ на соответствующий входной сигнал, кроме того, при этом частота пейсмекера, по-видимому, автоматически регулируется в зависимости от текущего состояния, и разным значениям частоты соответствуют разные констелляции совозбужденных центров. Среди ритмических процессов, регистрируемых в ЦНС, особое место занимает тета-ритм - регулярные высокоамплитудные колебания ЭЭГ в диапазоне 3-6 Гц (иногда до 10-12 Гц), наиболее четко регистрируемые в гиппокампе, хотя источник тета-ритма локализован, по-видимому, не в гиппокампе. Самая яркая особенность тета-ритма, привлекающая к себе огромное внимание исследователей, - возможность четкого выделения его в различных поведенческих ситуациях. Именно "поведенческие корреляты" тета-ритма дают серьезные

основания полагать, что этот ритм тесно связан с процессом обработки сенсорной информации и принятия решения. Поэтому решение вопроса о происхождении тета-ритма и локализации его источника должно помочь в прояснении основных механизмов работы мозга.

Вопрос о моделировании генератора низкочастотной активности является далеко не простым вопросом, и до настоящего времени не решенным в достаточной мере, хотя имеется много подходов к его решению. Отметим два основных подхода к моделированию генератора ритма: 1) генератор, основанный на эндогенных пейсмекерах, способных генерировать ритм на основе специальных механизмов, присущих нейронам-пейсмекерам, 2) генератор, состоящий из регулярных пороговых нейронов, с возбуждающими и тормозными связями, где генерация ритма происходит в результате совместного действия нейронных ансамблей.

Первый подход, по-существу, переносит вопрос о механизмах генерации на изучение свойств эндогенного пейсмекера, а также исследование синхронизации пейсмекеров. Здесь же мы остановимся на втором подходе. Проблема состоит в том, что временные характеристики большинства нейронов соответствуют величинам порядка 20-50 мсек, а характерный период тета-ритма составляет 200 мсек. Тем самым необходимо организовать такие взаимодействия "быстрых" элементов, чтобы производимый ими общий ритм был медленным. Один из способов состоит в том, чтобы рассматривать постсинаптические потенциалы большой длительности, например, ТПСП, для которых характерное время затухания имеет порядок 200 мсек. Тем самым, фактически вводится в рассмотрение элемент с большим характерным временем и задача сильно упрощается. Предлагаемый нами подход не предполагает введения больших характеристических времен нейрона, вместо этого будет использоваться критический режим нейронной сети.

Рассмотрим модель септального генератора, основанную на втором подходе, и постараемся максимально увеличить период генерируемых колебаний без предположения о существовании длительных ТПСП [23,34]. Итак, предположим, что нейроны септума локально связаны возбуждающими связями и существует сравнительно небольшое число тормозных интернейронов, получающих возбуждение от большого числа основных нейронов сети и, в свою очередь, их тормозящие, так что активность локали (области влияния одного интернейрона) описывается моделью, для которой возможен критический режим. Предположим

также, что локали различных интернейронов работают независимо, но все получают один и тот же управляющий афферентный приток.

Перечислим результаты исследования модели и сопоставим их с известными экспериментальными фактами о работе септального генератора.

1. При низком уровне афферентации периодические колебания либо отсутствуют, либо не регулярны. При увеличении уровня афферентации возникают регулярные колебания активности сети, причем частота колебаний растет линейно с ростом уровня, а также повышается их регулярность, что соответствует аналогичному свойству тета-ритма.

2. Отметим, что большая величина периода колебаний, превосходящая на порядок характеристическое время отдельного элемента, достигается за счет критического режима. Начальный уровень активности сети постепенно увеличивается, при этом время увеличения может быть достаточно большим, оно и определяет величину периода. Достигнув критического размера, суммарная активность возбуждающих нейронов, приводит к срабатыванию тормозного элемента, который вытормаживает значительную долю нейронов возбуждающей популяции и процесс повторяется. Отметим одно важное свойство, которым обладают возбуждающие нейроны, работающие в таком режиме. Постепенное заполнение локали горящими элементами (после фазы молчания) приводит к тому, что каждый возбуждающий нейрон локали начнет генерацию очередной пачки лишь тогда, когда расширяющаяся граница повышенной активности включит его в свою зону. Это означает, что каждый нейрон будет иметь свою предпочтительную фазу появления пачек по отношению к периоду тета-ритма (независимо от частоты) и пачки разных нейронов будут иметь взаимные сдвиги. Тем самым наблюдается соответствие модели и экспериментального факта о том, что частота следования пачек коррелирует с частотой тета-ритма ЭЭГ, но пачки отдельных нейронов сдвинуты друг относительно друга, так что каждый нейрон имеет свою жесткую предпочтительную фазу тета-ритма, в которой возникает его пачка.'

3. Высокая регулярность колебаний в модели достигается за счет того, что суммарный мембранный потенциал тормозного интернейрона, получающего много входов, имеет более регулярный характер, чем каждая из его компонент, аналогичный факт высокой регулярности тета-ритмических колебаний наблюдается в эксперименте. Кроме того, подчеркнем, что как в эксперименте, так и в модели, увеличение уровня входного сигнала приводит

к увеличению частоты тета-ритма, при этом в модели имеется участок линейной зависимости частоты от уровня афферентации, соответствующий рабочему диапазону частот тета-ритма.

2.2.4 Применение к гиппокампу: модель привыкания

Рассмотрим одно из наиболее интересных и загадочных явлений в нейрофизиологии гиппокампа - привыкание. Оно состоит в том, что нейронные реакции, возникающие в ответ на широкий класс стимулов, имеют необычные свойства:

1. Длительность реакций может значительно превосходить максимальную длительность постсинаптических потенциалов и достигает 10-15 с.

2. При повторении одних и тех же стимулов длительность реакций укорачивается вплоть до полного угашения.

3. Угашенные реакции полностью восстанавливаются при изменен™ любых параметров стимула на весьма малую величину, близкую к дифференциальному порогу чувствительности.

Предположим, что рассматриваемая нейронная сеть, способная работать в критическом режиме, имитирует ту часть поля САЗ, которая содержится в одном сегменте гиппокампа, причем кортикальный вход (через клетки зубчатой фасции) формирует пятно активности нейронов, а ретикулосептальный вход (через баскетные клетки) модулирует пороги нейронов [8,13,23,34]. Тогда возможна следующая интерпретация привыкания.

1. Длительные тонические реакции пирамидных нейронов поля САЗ -естественное следствие достаточно сильных (критических) связей между нейронами. О том, что межнейронные связи поля САЗ достаточно сильные, косвенно свидетельствует высокий уровень стационарной фоновой активности, а ее нерегулярный залповый характер, тоже косвенно, свидетельствует о существовании критического режима. Чтобы возник длительный переходный тонический процесс, необходимо вначале генерализованно погасить фоновую активность, установив с помощью септального входа необходимую "тишину". После этого сеть готова воспринять слабый кортикальный сигнал и очень долго его удерживать, даже после того, как сам этот сигнал исчезнет с входа САЗ. Установленное сигналом "пятно" постепенно "расплывается" и сеть возвращается в исходное состояние высокой

фоновой активности. С приходом следующего стимула реакция повторяется без изменений.

2. Предположим теперь, что один из параметров модели может постепенно меняться под действием входных сигналов, например, в результате длительной потенциации синапсов. Тогда пятно активности расплывается тем быстрее, чем дальше уйдут параметры от критических значений. Длительные тонические реакции будут постепенно укорачиваться до фазических. Градуальность привыкания - непосредственное проявление постепенного нарушения критического режима под действием входных сигналов.

3. Для возобновления угасших тонических реакций необходимо каким-то образом возобновить критический режим в сети. Однако быстро изменить параметры сети нельзя, поэтому остается варьировать начальные условия пятна. Можно, например, сформировать новое пятно в другом участке сети, где соответствующие синапсы оказались еще непотенциированными. Однако в нашей модели восстановление реакций (а также и их угашение) можно получить другим, несколько неожиданным способом - путем сравнительно небольших вариаций запаздывания кортикального сигнала по отношению к септальному. Действительно, учтем, что септальный вход при действии нового раздражителя имеет пачечный тета-ритмический характер, позволяющий, кроме первоначального установочного торможения (ресет) пирамид поля САЗ, осуществлять необходимую периодическую модуляцию их порогов. Тогда, долгоживущее пятно можно сформировать только в том случае, если кортикальный сигнал имеет тета-ритмическую компоненту с определенным сдвигом фазы по отношению к септальному входному сигналу. При неизменных параметрах пятно, пульсируя с частотой тета-ритма, будет сохраняться до тех пор, пока не будет нарушена синхронность и синфазность между двумя входными сигналами.

Резюмируя, можно сказать, что поле САЗ, по-видимому, не является единственным источником угасающих реакций, но, несомненно, является одним из главных звеньев системы привыкания. Обнаруженный в модели критический режим и его фазово-частотная зависимость позволяют уточнить функцию поля САЗ как фазового компаратора, выделяющего сигнал ошибки, рассогласования двух входных сигналов. В настоящее время ведется дальнейшая работа по моделированию гиппокампальной функции детектора новизны стимула, обладающего свойством привыкания.

2.2.5 Применение к зрительной коре: моделирование осцнллзторион активности

Рассмотрим нейронную сеть из интегративно-пороговых элементов со специфической архитектурой, моделирующей колонку зрительной коры [31,34]. Будем предполагать, что колонка состоит из пяти слоев нейронов (II, III, IV, V, VI). Каждый слой - цепочка из десяти нейронов с локальными связями. При предъявлении стимула изменяется величина внешнего входа на всех нейронах IV слоя. Возбуждающие связи от нейронов IV слоя распространяются к нейронам III и V слоев, а связи от этих слоев распространяются к нейронам II и VI слоев. Таким образом, при появлении соответствующего стимула в рецептивном поле колонки, на нейроны слоя IV приходит достаточно сильный сигнал, вызывающий активацию нейронов этого слоя, активность со слоя IV распространяется "вверх" и "вниз", т.е. к слоям III и V, а активность этих слоев распространяется на слои II и VI. Распространение активности от слоя IV в двух направлениях приводит к увеличению суммарного уровня активности колонки.

Дополним архитектуру колонки еще одним элементом - глобальным тормозом. Предположим, что выходы всех нейронов колонки поступают на вход тормозного элемента, который в свою очередь тормозит все возбуждающие нейроны колонки. Такое дополнение позволяет моделировать осцилляторную активность, возникающую в нейронах колонки при предъявлении стимула. Действительно, распространение активности приводит к увеличению суммарного уровня активности возбуждающих нейронов и, при достижении порога, происходит срабатывание тормозного нейрона, который тормозит активность возбуждающих элементов во всех слоях. Продолжающееся действие стимула вновь активирует нейроны слоя IV, которые распространяют свою активность на соседние слои и тем самым вновь увеличивают суммарный уровень активности, срабатывает тормозный элемент, который тормозит колонку, завершая очередной цикл колебаний.

Таким образом, при подходящем выборе параметров сети, получаем:

1. Наличие стимула в рецептивном поле моделируется увеличением внешнего

входа на нейроны среднего слоя колонки;

2. при отсутствии стимула нейроны колонки имеют нерегулярную

низкочастотную фоновую активность;

3. при стимуляции в колонке наблюдаются высокочастотные регулярные

колебания.

Рассмотрим теперь случай двух взаимодействующих колонок. Предположим, что между соответствующими слоями имеются возбуждающие взаимосвязи, так что каждый нейрон определенного слоя получает воздействие, пропорциональное суммарной активности одноименного слоя другой колонки. Такая возбуждающая связь между колонками приводит к установлению противофазных колебаний, которые существуют на протяжении 7-12 периодов. Ведение N МОД рецепторов в возбуждающих связях между колонками позволяет увеличить стабильность и длительность периода синхронизации. N14 ЭА рецептор моделировался таким образом, что синаптическая передача между нейронами двух колонок разрешалась, если колонка, получающая сигнал, была достаточно активна.

Рассмотрим теперь как введение тормозных связей между двумя колонками повлияет на режим их синхронной работы. Предположим, что тормозный нейрон не только тормозит все нейроны своей колонки, но и все нейроны другой колонки (с меньшей интенсивностью). Введение тормозных межколонарных связей имеет очень сильное влияние на синхронизацию системы. Очевидно, что тормозная связь действует на обе колонки как общий установочный сигнал, приводя к их синхронизации на высокой частоте.

Для моделирования экспериментальных данных по высокочастотным колебаниям, регистрируемым в зрительной коре при стимуляции движущейся световой полоской с определенным наклоном, рассматривались два типа нейронных сетей с различной архитектурой связей между колонками: (1) цепочка колонок с локальными связями; (2) колонки, расположенные в узлах квадратной плоской решетки с локальными связями. Результаты, полученные для каждой из этих двух нейронных сетей, аналогичны результатам, которые мы приводим в разделе 3.3.3 для моделирования "конфликтных стимулов" и здесь подробно не рассматриваются. Отметим лишь, что рассматриваемые модели нейронных сетей из интегративно-пороговых элементов детально описывают один из возможных нейронных механизмов синхронизации и десинхронизации активности коры при подходящей стимуляции. Рассматриваемый механизм синхронизации можно коротко охарактеризовать следующим образом: (1) высокочастотные колебания нейронной активности возникают в колонках, соответствующих определенному типу стимула (ориентационная предпочтительность); (2) колебания активности в колонке являются результатом взаимодействия возбуждающих и тормозных

нейронов; (3) синхронизация активности в различных колонках достигается за счет латеральных связей между колонками. Отметим также, что полученные результаты находятся в хорошем соответствии с экспериментальными данными по синхронизации осцилляторных ответов в близко расположенных колонках и колонках разделенных достаточно большим расстоянием (>2 миллиметров).

2.3 Хаотические когерентные колебания

Рассмотрим О НС из интегративно-пороговых элементов двух типов: возбуждающих и тормозных со связями типа все на всех 157]. Предполагается, что все возбуждающие элементы (их количество равно N/2) связаны друг с другом одинаковыми (или почти одинаковыми) связями с„ > О, тормозные элементы (их количество равно А/2) связаны друг с другом одинаковыми (или почти одинаковыми) связями с„ < 0, связь от возбуждающих элементов на тормозные определяется величиной с^ > 0, и связь от тормозных элементов на возбуждающие задается величиной се, < 0. Показано, что в достаточно широкой области параметров модели существует режим хаотических когерентных колебаний (рис. 1). Характерными особенностью этого режима являются нерегулярность (стохастичность) разрядов отдельных элементов сети; пачечный характер импульсации отдельных элементов, при этом число спайков в пачке и межспайковые интервалы могут изменяться в широких пределах; высокая степень когерентности разрядов нейронов сети (как возбуждающих, так и тормозных). Детальное исследование режима хаотических когерентных колебаний показывает ключевую роль тормозных элементов в управлении динамикой. При выбранном значении дисперсии шума с2 сеть находится в малоактивном состоянии если внешний вход отсутствует. Внешний вход, подаваемый на возбуждающие элементы, увеличивает вероятность генерации импульса у отдельных элементов возбуждающей популяции, а достаточно сильные связи между возбуждающими элементами приводят к тому, что повышение вероятности генерации спайка происходит почти одновременно для всех возбуждающих элементов. Число "активных" возбуждающих элементов возрастает, возрастает их влияние на тормозные элементы и при достижении пороговой величины это приводит к резкому увеличению вероятности срабатывания тормозных элементов, которое происходит почти одновременно для всех тормозных элементов. Как следствие длинных ТПСП, мы получаем, что все нейроны сети,

Ъ

1 А л л л к л л л л

1 л л А л А л л

t

Рис. 1. Четыре примера (I, II, III, IV) хаотических когерентных колебаний. Для каждого примера показаны импульсные последовательности (а) тормозного и возбуждающего элементов, средняя активность (б) тормозной и возбуждающей популяций; (с) - импульсы всех тормозных (вверху) и возбуждающих элементов.

как возбуждающие так и тормозные, оказываются заторможенными на некоторое время, импульсация прекращается и вероятность генерации спайка становится маленькой для всех нейронов. В модели рассматриваются такие ВПСП и ТПСП, отношение длительностей которых близко к десяти. При уменьшении влияния тормозных элементов увеличивается число загорающихся возбуждающихся элементов и процесс повторяется.

Изменяя параметры модели, можно управлять характеристическими показателями режима хаотической когерентной активности: средним числом импульсов в пачке, средней величиной межпачечного интервала, степенью регулярности пачечной активности. На рис. 1.1 показана типичная для режима хаотической когерентности картина активности. Рис. 1.11 показывает пример увеличения длительности пачки. Здесь, по сравнению с примером 1.1, уменьшено на 30% значение лишь одного параметра - с„.. На рис. 1.Ш показан пример увеличения межпачечного интервала, здесь, по сравнению с примером 1.1, на 20% уменьшена величина внешнего входа на возбуждающую популяцию и на 30% увеличена величина сее. На рис. 1 .IV показаны более регулярные колебания чем в примере 1.1, при этом на 30% уменьшены с„ и с1е, а также на 60% процентов увеличены сг/ и с„.

3. НЕЙРОННЫЕ СЕТИ ИЗ ВЗАИМОДЕЙСТВУЮЩИХ НЕЙРОННЫХ ОСЦИЛЛЯТОРОВ

3.1 Модель нейронного осциллятора

В качестве модели нейронного осциллятора в большинстве случаев мы будем рассматривать модель Вилсона-Коуэна. В этой модели рассматриваются средние активности двух взаимодействующих нейронных популяций - возбуждающей (Ей)) и тормозной (/(/))- Уравнения, описывающие динамику осциллятора, имеют вид

Е = -Е + (*1-£)Яе(сее£-се1/ + Р) / = -/+(*,-/)*,(<■„£-с,/+ 0).

Здесь сее, ск, сеп положительные параметры, определяющие величины связей между соответствующими популяциями; Р и О - параметры, характеризующие величины внешнего воздействия на возбуждающие и тормозные нейроны соответственно; кг = 1 / ; Ур(х) = £г(х\6г,вр) - монотонно возрастающие

5-образные функции, задаваемые формулой

х) = 1 / (1 + ехрЫ,(* - в,))) - 1 / (1 + ехр0,0,)) ; р е {,г,/},

здесь константы. Вывод уравнений динамики в предположении, что

связи как внутри популяций, так и между популяциями, типа все-на-всех, и обсуждение параметров модели в терминах исходных постулатов здесь не приводится (см., например, [10]).

Подробное исследование динамических режимов нейронного осциллятора проведено нами в работах [10,11,18,36,43). Основным методом, который мы

используем для такого рода исследований, является теория бифуркаций. В пространстве параметров модели найдены границы, разделяющие области с различной динамикой. Так, например, указаны границы области в пространстве параметров, в которой нейронный осциллятор имеет колебательный режим. В других областях параметров осциллятор имеет одно или несколько стационарных состояний.

Знание бифуркационных границ позволяет управлять поведением нейронной сети, поскольку нам известно, какие значения параметров нужно выбрать, чтобы получить тот или другой динамический режим. Кроме того, бифуркационные границы показывают, какие параметры и на какую величину нужно изменить, чтобы один тип динамики сменился другим и, наоборот, если нужно перейти от одного типа динамичёского поведения к другому, то границы дают нам возможность выбора пути для такого перехода.

Чтобы проиллюстрировать сказанное рассмотрим пример таких переходов от одного типа динамики к другому при увеличении лишь одного параметра Р -величины внешнего воздействия на возбуждающую популяцию. Показано, что одна из последовательностей переходов, которая возможна в модели, состоит в том, что при малых Р в нейронной сети отсутствуют колебания и наблюдается низкий уровень стационарной (фоновой) активности для каждой из популяций [10,43]. Увеличение параметра приводит к появлению колебаний, которые наблюдаются для всех значений параметра Р из некоторого интервала. Дальнейшее увеличение параметра приводит к исчезновению колебаний, нейронная сеть переходит в режим высокой стационарной активности.

Интересно отметить, что аналогичный переход между динамическими режимами наблюдается в сети из возбуждающих и тормозных интегративно-пороговых элементов со связями все-на-всех. На рис. 2. представлены три типа динамического поведения нейронной сети, соответствующие трем увеличивающимся значениям величины входа на возбуждающие элементы при условии, что все остальные значения параметров зафиксированы.

Такое сопоставление динамических режимов и их последовательных переходов при изменениях аналогичных параметров является чрезвычайно важным для сравнения результатов, получаемых в моделях разного уровня детальности описания нейронной активности. Конечно, множество динамических режимов осцилляторной нейронной сети из интегративно-пороговых возбуждающих и тормозных элементов гораздо богаче, чем множество динамических режимов

Е

Е

ВХОД Е = О

Е Л^ЛЛЛ^ЛЛ^ЛЛЛЛЛЛ^улг^^

Е

1! Р

!! I,

I

I

вход Е = 16

/Е-

I _

1 -------- 1 1

р

вход Е = 200

Рис. 2. Три примера динамики сети для различных значений внешнего входа на возбуждающие элементы, (а) величина входа равна 0, (б) величина входа равна 16, (в) величина входа равна 200.

нейронного осциллятора из двух популяций. Например, обсуждавшийся в п. 2.3 режим хаотических когерентных колебаний невозможно наблюдать в системе (1), так как система двух дифференциальных уравнений может иметь лишь стационарные и периодические аттракторы. Тем не менее, изучение моделей с разным уровнем детальности описания нейронной активности предполагает возможность сопоставления результатов, например, возможность сравнивать динамические режимы и значения соответствующих (аналогичных) параметров в моделях различного уровня детальности. Приведенный пример является первым шагом на пути к решению этой трудной задачи.

3.2 Дса взаимодействующих нейронных осциллятора

3.2.1 Взаимодействие двух осцилляторов Внлсона-Коуэна при различных типах связи

Рассмотрим осцилляторную нейронную сеть, состоящую из двух идентичных симметрично взаимодействующих осцилляторов типа Вилсона-Коуэна. Мы рассматриваем различные типы связи между осцилляторами и изучаем, как тип связи и ее величина влияют на динамическое поведение системы. При этом поведение системы исследуется в широкой области изменения параметра связи. Основной инструмент исследования - теория бифуркаций периодических режимов динамических систем, что позволяет, в отличие от многих других исследований, изучать не только малые по величине взаимодействия осцилляторов, но получать результаты в широкой области изменения параметра. Тем самым мы получаем возможность управлять поведением системы, выбирая соответствующие значения параметра взаимодействия (6,18,39,40,41,45,56,591-

Система дифференциальных уравнений, описывающая динамику взаимодействующих осцилляторов, имеет вид

¿\ = -£х + (К - - с„1, + Р + Ла)

/, = -/, + (к, - 7^,(сиЕ, - с„/х + 0 + 1Уп) ' ¿2 = -Ег + (ке - Е2)Уе(с„£2 - с„12 +Р + Л») Л = -/2 + (к, - /2(с„Е2 -с,/г + О + ,

здесь Е^Г), /[(/) и Ег(1),/г(/) описывают динамику активности возбуждающих и тормозных популяций первого и второго осцилляторов. Взаимодействие между осцилляторами описывается уравнениями

= а,£2-а,/2> = а,£1-а4Г1, здесь коэффициенты а|,а2,а3,а:4 определяют величину связи между нейронными популяциями различных осцилляторов, остальные параметры и функции в системе (2) такие же, как и в системе (I). Рассматриваются четыре типа связей между осцилляторами в модели (2).

(a). Связи между возбуждающими популяциями, здесь а, > 0 - параметр, определяющий величину взаимодействия, аг = 0, а3 = О, а4 = О,

Лп = а,Е2, /?2, =а,£1, 0^ = 0, /Г21=0.

(b). сот тормозной популяции одного осц^ыятора на возбуждающую популяцию другого, здесь а2 > 0 - параметр, определяющий величину взаимодействия, а, = 0,а, = 0,а4 = 0, Ла = -а2/2, ^л = = = 0.

(c). Связи от возбуждающей популяции одного осциллятора па тормозную популяцию другого, здесь а3 > 0 - параметр, определяющий величину взаимодействия,

а, = 0, а2 = 0, а4 = 0, = О, = О, 1Уп = а,£2, 1Уг{ = а^Е,. (с1). Связи между тормозными популяциями, здесь а4 > 0 - параметр, определяющий величину взаимодействия, «, = 0, а2- 0, «, = 0,

Хп = 0, Л,, = 0, = -а4/2, /Г2| = _а4/, .

Для каждого типа связи изучаются бифуркации периодических решений системы (2) при изменении одного параметра а1, определяющего величину взаимодействия осцилляторов. Для этого построены четыре бифуркационные диаграммы, показывающие устойчивость предельных циклов в различных областях изменения соответствующего параметра.

Показано, что в случае слабой связи между осцилляторами при связях между разноименными популяциями, (то есть при связях от возбуждающей на тормозную и от тормозной на возбуждающую популяции) наблюдаются синфазные колебания активностей одноименных популяций двух осцилляторов, а при связях между одноименными популяциями (то есть при связях между возбуждающими или тормозными популяциями) наблюдаются противофазные колебания.

Для промежуточных по величине связях между осцилляторами наблюдаются различные типы сложного динамического поведения. Так, например, для связей типа (а) (между возбуждающими популяциями) наблюдаются квазипериодические

(двухчастотные) колебания, конкретные примеры которых приведены на рис. 3. Далее будет показано, что модулированные колебания играют важную роль в процессе обработки информации структурами мозга. В случае связей типа (Ь) (от тормозной на возбуждающую популяции) наблюдаются хаотические колебания, конкретные примеры таких колебаний приведены на рис. 4.

а

ШНМР 1И1 №1НШ

(ЩрШ'йЩ -т—

г-^

-т_1

Рис. 3. Примеры двухчастотных колебаний.

а

Рис. 4. Примеры хаотических колебаний.

3.2.2 Взаимодействие двух электрически связанных осцилляторов Хиидмарша-Роуза

Изучается динамическое поведение двух идентичных слабо электрически связанных пейсмекерных нейронов (осцилляторов Хиндмарша-Роуза) при изменении величины общего внешнего входа ¡44,53). Динамика активности такой системы определяется уравнениями

cVx = (U, - S(Vx)) + а(Г2 - V,)

= (3)

1/г = Я(Уг) - L7, ,

где V,{t) - мембранный потенциал /-ого нейрона в момент /; U:(г) -обобщенный ток через мембрану / -ого нейрона в момент / ; (/ = 1,2), а - малый параметр, определяющий величину электрической связи между нейронами (0<««1); с- параметр, характеризующий емкость мембраны; S{x) = .г3 - З.г2 - Р\ R{x) = -5.г2 + 1; Р - параметр, определяющий величину внешнего воздействия.

Основным результатом является бифуркационная диаграмма предельных циклов системы (3) при изменении параметра Р. Из диаграммы видно, что система может находиться в одном из пяти динамических режимов:

1. синфазные колебания (с нулевой разностью фаз);

2. противофазные колебания (разность фаз равна половине периода);

3. регулярные периодические колебания с произвольной разностью фаз (зависящей от величины параметра Р);

4. как синфазные, так и противофазные колебания при одних и тех же значениях параметра Р (тип колебаний определяется выбором начального значения);

5. как синфазные, так и квазипериодические колебания при одних и тех же значениях параметра Р.

Проверено, что обнаруженные режимы являются грубыми и сохраняются при небольших возмущениях параметров системы.

Отметим, что возможность существования устойчивого режима противофазных колебаний в моделе двух идентичных пейсмекерных нейронов со слабой электрической связью представляют большой интерес для электрофизиологии. Актуальной является задача экспериментального обнаружения такого режима.

3.3 Цепочка оззимодсйстзукнцик нейронных осцилляторов с локальными спязями

3.3.1 Описание модели

Рассмотрим цепочку нейронных осцилляторов типа Вилсона-Коуэна с локальными связями |28,33,56]. Динамика цепочки определяется системой уравнений

Ё. = + (к, - Е^\(сееЕ, - с„/„ + Р„ + Я„),

А = -Л + (*, - + л = 1,-... Л",

здесь £„((), /„(О описывают динамику активности возбуждающих и тормозных популяций л-ого осциллятора. Взаимодействие между осцилляторами описывается уравнениями

= а,^., + ^ - «,(/„, + /„,) + + ¿^2) - + 4.2) ,

= + - «,(/„_, + Л.,) + + " />4(Л-2 + Л-2) .

здесь коэффициенты а1,а2,/?1,/?г определяют величину связи между соседними осцилляторами, остальные параметры и функции в системе (4) такие же, как и в системе (1). Для индексов вне области [1, Л1 используется отражательная симметрия относительно концов цепочки (например, вместо индекса 0 используем индекс 2, вместо -1 используем 3 и т.д.). Значения параметров: с„ = 16> = 12. = 15> = 3, = 4, 4, = 1.3, 0, = 2, 6, = 2, /V = 50.

3.3.2 Динамические режимы'

Цепочка локально связанных нейронных осцилляторов обладает богатым набором возможных типов динамического поведения: регулярные колебания с различными фазовыми соотношениями между осцилляторами, бегущие волны, модулированные колебания и стохастическое поведение [1,28,33,56].

Заметим прежде всего, что некоторые результаты, относящиеся к динамике двух связанных нейронных осцилляторов, справедливы и для цепочки нейронных осцилляторов. Так, например, в системе (4) наблюдаются противофазные колебания всех осцилляторов при двух типах связи между разноименными популяциями: связи типа (а) (а, = 0.01,а, = а3 = а4 = /?, = /?2 = /?3 = /?4 = 0) и связи типа (<1) (а4 = 0.01,а, = а2 = а, = = /?2 = рг = /?4 = 0). Пример таких колебаний приведен на рис. 5.

Е|

Т=30

Рис.6. Стохастические колебания осцилляторов цепочки в случае связей от тормозной на возбуждающую популяцию (а, = 1.5).

Аналогично, синфазные колебания наблюдаются при связях типа (Ь) (а2 = 0.01,а, = а3 = а4 = рх = рг =/?3 = /?4 = 0) и связях типа (с) (а, = 0.01,а, = а2 = а, =/?,= /?2 =/?,=/?< = 0).

Стохастические колебания осцилляторов цепочки можно наблюдать, например, для связей типа (Ь), если значение параметра связи а2 выбирается на отрезке [1,1.6], при этом все другие параметры связи между осцилляторами равны нулю. Пример хаотической активности осцилляторов цепочки приведен на рис. 6. Отметим, что режим хаотических колебаний вызывает большой интерес, изучению этого режима посвящено много работ, в которых, в частности, рассматриваются возможные применения такого режима в задачах распознавания образов, классификации и запоминания информации. Важная особенность систем с хаотической динамикой состоит в том, что такие системы обладают способностью легко переключаться из режима хаотической активности в режим регулярных колебаний с какой-либо определенной частотой. Это объясняется тем, что спектр системы в режиме хаотических колебаний содержит много различных частот и, тем самым, как бы, достигается готовность системы перейти к колебаниям с любой из таких частот.

Режим модулированных (квазипериодических, двухчастотных) колебаний (биения) наблюдается в системе (4) при связях типа (а), значения параметра а1 могут выбираться из широкого диапазона значений параметра, все другие параметры связи между осцилляторами равны нулю. Пример модулированных колебаний в системе (4) приведен на рис. 7.

Заметим, что режим квазипериодических колебаний представляет большой интерес для моделирования процесса обработки информации. Например, при частотном кодировании информации часто возникает проблема ограниченности информационной емкости. Действительно, область разрешенных частот, как правило, невелика и, кроме того, разрешение в частотной области также относительно невелико, так как нейронные сети плохо различают близкие частоты. Следовательно, набор частот, которые можно использовать для кодирования информации, относительно невелик. Использование двухчастотных колебаний позволяет значительно расширить возможности кодирования информации. Вместо одной частоты можно использовать две независимых частоты и, тем самым, как бы перейти от одной координаты к двухкоординатному представлению информации. Таким образом достигается

значительное увеличение объема кодируемой информации. Другой пример использования модулированных колебаний для моделирования интеграции признаков объекта приведен в разделе 3.4.

Режим долгоживущих состояний, аналогичный рассмотренному а главе 2 для модели из интегративно-пороговых элементов, наблюдается в системе (4). Предположим, что между осцилляторами установлены связи типа (а), т.е. связи между возбуждающими популяциями соседних осцилляторов, положим

а, = 1.5,/?, = 1, а2 = а3 = аА = рг = /?3 = Д, = 0. Выберем величины внешних входов на возбуждающие популяции осцилляторов цепочки случайным образом в интервале Р„ £[1.2,1.8] и зафиксируем их. Величина входа, выбираемая из такого интервала, гарантирует существование колебательного режима для одиночного осциллятора Вилсона-Коуэна.

При таком выборе параметров в системе (4) наблюдается интересный динамический режим: группа осцилляторов (одна или несколько) выходит из колебательного режима и переходит в стационарный режим (плато) с высоким уровнем активности, другие осцилляторы продолжают работать в колебательном режиме (волны). Таким образом, в системе (4) появляется устойчивая пространственно-временная структура, показанная на рис. 8. Возникновение такой структуры является примером самоорганизации долгоживущего состояние в нейронной сети. Такая пространственно-временная структура может использоваться для запоминания информационных паттернов в нейронной сети: связи между осцилляторами, находящимися долгое время в состоянии высокой активности увеличиваются.

3.3.3 Моделирование синхронной гамма-ритмической активности первичной зрительной коры: разделение "конфликтных стимулов"

Предположим, что цепочка нейронных осцилляторов моделирует взаимодействующие колонки зрительной коры, соответствующие одному и тому же рецептивному полю [37,39,40,41). Это означает, что предъявляемый стимул (в экспериментах это полоска света, наклоненная под определенным углом) влияет на все колонки-осцилляторы, но вызывает реакцию только в тех из них, которые соответствуют полоскам света с определенным наклоном (ориентационная предпочтительность). Предположим, что разные колонки-осцилляторы имеют различную ориентационную предпочтительность.

лдмллммлм/мллмм^лм^

Рис. 7. Модулированные колебания осцилляторов цепочки

Рис. 8. Пространственно-временная структура нейронной активности в цепочке со случайными значениями входного сигнала, (а) Динамика активности возбуждающих популяций осцилляторов цепочки, (б) Распределение величины входа вдоль цепочки.

На рис. 9 ориентационная предпочтительность различных колонок показана-в виде линий с различным наклоном. Это означает, что предъявление стимула с определенной ориентацией вызовет оптимальный ответ соответствующей колонки-осциллятора. Предположим, что в рассматриваемой модели действие предъявляемого стимула задает определенное распределение входов на врзбуждающие популяции осцилляторов цепочки Рп.

Следуя экспериментальным данным рассмотрим два модельных примера, которые показывают динамику активности модели при стимуляции одной движущейся полоской и стимуляции двумя движущимися полосками.

Пример 1. Предположим, что подаваемый стимул является вертикальной светлой полоской. В терминах модели это означает, что осциллятор цепочки с номером 5, имеющий оптимальный ответ при вертикальном стимуле, получает наибольший по величине входной сигнал Ръ, соседние с ним осцилляторы с номерами 4 и 6 получают входной сигнал меньшей амплитуды и т.д. Распределение входов Рп ,п = 1,2,...,9 при стимуляции вертикальной полоской йоказано на рис. 9. Осциллятор номер 5, получающий максимальный вход, вовлекает своих соседей в режим синхронных колебаний. Наличие достаточно сильных локальных связей между осцилляторами цепочки обеспечивает установление режима синхронизации, когда все осцилляторы системы, получающие достаточно большой входной сигнал, будут работать синфазно. Пример синфазной работы осцилляторов с номерами 4 и 6 приведен на рис. 10.

Пример 2. Предположим, что в качестве стимула используются две светлые полоски, с углами наклона +45° и -45° - "конфликтные стимулы". Соответствующие осцилляторы цепочки, с оптимальной ориентационной предпочтительностью для таких стимулов, имеют номера 7 и 3. Распределение входов Рп , п = 1,2,... ,9 при стимуляции двумя "конфликтными стимулами" показано на рис. 96. Отметим, что наибольший по величине входной сигнал получают осцилляторы с номерами 7 и 3, а осцилляторы с номерами 4 и 6 получают одинаковый входной сигнал меньшей амплитуды. Осцилляторы 3 и 7, получающие наибольший сигнал, вовлекают в колебательный режим соседние осцилляторы и тем самым наблюдается два кластера осцилляторов, которые соответствуют двум стимулам: один кластер состоит из осцилляторов с номерами 2, 3 и 4, а другой из осцилляторов с номерами 6,7 и 8. Осцилляторы каждого из кластеров работают синфазно, но между осцилляторами из различных кластеров

' 2 3 4 5 6 7 8 9 12 3 4 5 6 7 8 9

Рис. 9. Оптимальная ориентационная предпочтительность осцилляторов цепочки и распределение значений величины внешнего воздействия при стимуляции одной вертикальной полоской (а) и при стимуляции двумя наклонными полосками (б).

Рис. 10. (а) Синфазнаф динамика двух осцилляторов в примере 1. (б) Колебания со сдвигом по фазе в примере 2.

синхронизация не наблюдается. Пример отсутствия синхронизации для осцилляторов с номерами 4 и 6 приведен на рис. 106.

Отметим, что в каждом из двух примеров величина внешнего входа на осцилляторы 4 и 6 была одной и той же: Р4 = Р6, но в зависимости от входов на другие осцилляторы и, следовательно, динамики других осцилляторов, режим синфазных колебаний устанавливался только в примере 1, при стимуляции вертикальной полоской. В примере 2 при стимуляции "конфликтными стимулами" осцилляторы 4 и 6 не синхронизуются. Отметим, что динамика модели хорошо соответствует экспериментальным данным (40 Гц синхронные и несинхронные колебания), регистрируемым в зрительной коре при стимуляции движущимися полосками света с различной ориентацией.

3.3.4 Моделирование внимания

Проблема внимания является одной из наиболее сложных и актуальных проблем нейрофизиологии и психологии. Существует несколько типов нейросетевых моделей, направленных на выяснение нейронных механизмов внимания.

1. Модели основанные на принципе "победитель получает все".

2. Модели, которые навешивают "метки" на входные сигналы и используют эти "метки" для реализации функции внимания.

3. Модели, использующие динамические свойства нейронных сетей, например, синхронизацию нейронной активности.

В этом разделе мы будем рассматривать модель внимания, которая осуществляет "внимательное" слежение за одним из входных сигналов 129,30,35,56]. Выбор одного из множества идентичных входных сигналов осуществляется кратковременным усилением этого сигнала. Основная идея, на которой основана модель внимания состоит в использовании режима бистабильности, обнаруженного нами для нейронного осциллятора, задаваемого системой (I). В этом режиме, в зависимости от начальных условий, наблюдается либо стационарное состояние, либо предельный цикл (периодические колебания).

Модель нейронной сети представляет собой цепочку нейронных осцилляторов с локальными связями (4), состоящую из 25 осцилляторов. Будем предполагать, что девять осцилляторов с номерами п = 3,4,... ,11 получают первый входной сигнал, а девять осцилляторов с номерами п - 15,16,...,23 получают второй

входной сигнал. Наличие входного сигнала определяется величиной внешнего входа на возбуждающие популяции осцилляторов цепочки

О, п = 1,2, Р', л = 3,4,...,11,

Л = • 0, л = 12,13,14, (5)

Рп = 16,17,...,23, О, п = 24,25.

В начальный момент величины входных сигналов одинаковы (Р' = 1,1) и соответствующая им динамика двух групп нейронных осцилляторов также одинакова.

На короткое время А/ =10 мы изменяем величину входного сигнала на осцилляторы первой группы

0, я-=1,2,

Р' + Р' ,п = ЪА,...,\\, 0,. п = 12,13,14, Р', п = 16,17,. ..,23, 0, л = 24,25.

где величина возмущения Р* = 0,1.

По истечении времени Д/ входные сигналы вновь одинаковы и их воздействие определяется той же самой формулой (5). Но теперь уже реакция нейронной сети на эти сигналы отличается от той реакции, которая была до подачи возмущающего сигнала. Группа осцилляторов, соответствующая первому входному сигналу, переходит в колебательный режим. Вторая группа осцилляторов, не получавшая кратковременного возмущающего сигнала, продолжает работать в стационарном режиме. Таким образом, мы использовали в качестве "метки" первого стимула кратковременное возмущение, которое приводит к изменению динамики осцилляторов, соответствующих первому стимулу. При этом поведение второго стимула не изменяется. Тем самым реализуется функция избирательного внимания, позволяющая различить два идентичных сигнала и направить фокус внимания на один из них. На рис. И приведены зависимости активностей возбуждающих популяций от времени для всех осцилляторов сети.

п

Е Р В Ы

г»

И

^ллллаллаааааааааааа/\

^w^ллAЛЛЛJWWVAAAAAAAA^

^ЛЛA/wWWUVAAAAAAAЛ7V

—

J\JXr-~- ^^лллАлллАЛАТи^ААААААЛ-

^аалааллллалаалааааа^

1.1 1.2 11 Т=150,

Рис. 11. Динамика осцилляторов цепочки при реализации функции селективного внимания. Осцлляторы с номерами 3-11 (вверху) получают входной сигнал, соответствующий первому стимулу, осцилляторы с номерами 16-23 - второму стимулу. Кратковременное воздействие на первую группу осцилляторов (Р+Р1—1.2) изменяет их динамику, формируя фокус внимания на первом стимуле.

Заметим, что для переключения фокуса внимания с одного сигнала на другой необходимо не только переключить вторую группу осцилляторов из режима стационарной активности в колебательный режим, но и вернуть первую группу в режим стационарной активности. Этого можно достичь несколькими способами. Например, введем дополнительные тормозные связи между всеми осцилляторами системы. Тогда подача возмущающего сигнала на одну группу осцилляторов будет не только приводить к установлению колебательного режима в этой группе, но и тормоз!ггь имеющуюся колебательную активность второй группы. Другой способ переключения фокуса внимания связан с введением центрального элемента, например, глобального тормоза системы. Подробнее, системы с центральным элементом рассматриваются в главе 4.

3.4 Двухслойная нейронная сеть из цепочек нейронных осциллпторов

3.4.1 Описание модели

Перейдем к описанию модели двух взаимодействующих конвергентных зон [47,48,50,56,59]. Предположим, что цепочка осцилляторов (4) моделирует область неокортекса (конвергентную зону), на которую поступает входной сигнал, содержащий информацию о стимуле. Также предполагается, что рассматриваемая конвергентная зона неокортекса анализирует какую-либо характеристику (признак) входного сигнала. Нейронная активность конвергентной зоны передается, посредством конвергентных связей, на вторую конвергентную зону для дальнейшей обработки. Вторая конвергентная зона также моделируется цепочкой локально взаимодействующих осцилляторов (4). Рассматриваются обратные связи от второй конвергентной зоны на первую. Динамика активности двух взаимодействующих конвергентных зон описывается системой уравнений

¿1 = -Е\ + (к, - ЕЖ(с„£1 - се,П + />„' + Щ), . £ = + <*, - 1\Шс.Е\ - с„1\ + IV]), ' Ё] = -Ег„ + {ке - EDS.ic.El - се1Рп + Я1,),

. ¡1 = +<*, - П^Хс^.-сЛ+ГХ я = 1.....Ж,

здесь функции времени Е\И/)> /,!(/), ЕЦ(/), /„2(/) описывают динамику активности возбуждающих и тормозных популяций л-ого осциллятора первой и второй цепочки соответственно, верхний индекс указывает на принадлежность осциллятора к первой (1) или второй (2) цепочке. Р] - внешний вход на я-ый

осциллятор первой цепочки. Взаимодействия между осцилляторами внутри и между цепочками описываются уравнениями К = у0Е] + у ,(£■,»., + £1Х), Я* = иЕ\ + /,(¿1, + Е1,),

К = «К*,!-. + > »V = «НД.1-. + -О.

здесь а, и а, определяет величину локальной связи между осцилляторами внутри первой и второй цепочки соответственно, связь типа (с) от возбуждающей популяции на тормозную; у 0 чу, определяют величины конвергентных связей типа (а) между возбуждающими осцилляторами разных цепочек. Остальные параметры и функции в системе (6) такие же, как и в системе (1). Для индексов вне области II, Л] используется отражательная симметрия относительно концов цепочки (например, вместо индекса 0 используем индекс 2, вместо -1 используем 3 и т.д.). Значения параметров:

= 16, с* = 12, с» = 15, с, = 3, £>, = 4, Ь, = 1.3, В, = 2, Ь, = 2, N = 11.

Таким образом, в качестве модели двух взаимодействующих конвергентных зон рассматривается двухслойная нейронная сеть, состоящая из двух цепочек осцилляторов с локальными связями типа (с) внутри слоя и локальными связями типа (а) между слоями.

3.4.2 Модель прсдзпимання: интеграция признаков простых н сложных стимулов в единый образ

Биологической основой предлагаемой модели интеграции признаков является концепция А. Дамасио о конвергентных зонах неокортекса, через которые проходит поток сенсорной информации. Последовательные конвергентные зоны попарно связаны прямыми и обратными связями конвергентного типа, благодаря которым возникает когерентность нейронной активности в различных областях, что соответствует объединению фрагментарно представленных характеристик сенсорного стимула в единый образ.

Мы предполагаем, что низкий уровень обработки информации (предвнимание) может быть реализован таким образом, что фазовая синхронизация обеспечивается взаимодействием внутри одной или между несколькими конвергентными зонами без привлечения каких-либо подкорковых структур (таких как таламус, гиппокамп и др.). Другими словами, это автоматическая, самоорганизующаяся синхронизация нейронной активности.

Предположим, что признак стимула представляется как возрастание величины входного сигнала, подаваемого на соответствующий осциллятор конвергентной

зоны. Это увеличение приводит к появлению колебательной активности соответствующего осциллятора.

Стимул называется простим, если его предъявление приводит к возрастанию величин входов одной компактно расположенной группы осцилляторов первой конвергентной зоны, сложному стимулу соответствуют несколько компактных групп осцилляторов.

В силу локальности связей между осцилляторами конвергентной зоны, в случае простого стимула можно ожидать, что соответствующие осцилляторы будут работать синхронно и, тем самым, будет осуществляться интеграция признаков простого стимула в единый образ. Такие представления соответствуют экспериментальным данным (наблюдаемые в эксперименте высокочастотные синхронные колебания имеют частоту около 40 Гц).

В случае сложного стимула, состоящего, например, из двух непересекающихся групп осцилляторов, в каждой группе осцилляторы будут демонстрировать высокочастотные синхронные колебания, но осцилляторы из различных групп не будут синхронизованы между собой. Тем самым различные компоненты одного сложного стимула оказываются как бы не связанными друг с другом.

Мы предполагаем, что механизм интеграции признаков стимула основан на использовании многочастотных колебаний нейронной активности. При этом колебания на одних частотах могут быть синхронизованы, а на других частотах -не синхронизованы. Сформулированная гипотеза рассматривается на примере двухчастотных колебаний и позволяет объяснить процесс интеграции признаков как простого, так и сложного стимула. Интеграция признаков сложного стимула может происходить за счет синхронизации низкочастотных колебаний, при отсутствии синхронизации высокочастотных. Для получения двухчастотных (модулированных) колебаний рассматриваются две взаимодействующие конвергентные зоны.

Предположим, что в модели (6) простому стимулу соответствуют следующие величины входов на возбуждающие популяции осцилляторов первой цепочки [0, //=!,...,/ Р] =\Р', п= ¿ + М

[0, п=1 + ЛГ + 1,...,Л\

где Р' > 0. В результате такого внешнего воздействия а сети возникает связная область возбужденных осцилляторов, работающих на высокой частоте. Подбором

величины локальной связи типа (с) внутри первой цепочки, эти высокочастотные колебания можно сделать синхронными, что интерпретируется как возникновение единого образа (см. рис. 12а).

При воздействии на сеть сложным стимулом распределение входов имеет вид

О, п = \,...,1Л

Р', п = Ц +1,...,/, + М,

Р', п = +1,...,/2 + Мг 0, п = ¿2 + Мг + 1,...,.//.

При этом, если связи между осцилляторами отсутствуют, то в первом слое сети возникают две непересекающиеся области активных осцилляторов, в каждой из которых колебания синхронны, но между областями синхронизации нет.

Рассмотрим двухслойную сеть (6) с взаимодействующими конвергентными зонами. Первый слой моделирует конвергентную зону коры, получающую входной сигнал. Второй слой моделирует конвергентную зону, следующую за первой, куда сигнал от первого слоя передается для дальнейшей обработки. Во вторую конвергентную зону могут одновременно приходить сигналы от нескольких возбужденных областей первой конвергентной зоны, в которых анализируются различные признаки объектов. Прямые связи от нейронов первой зоны к нейронам второй являются локальными и конвергентными, также как и обратные связи от второй зоны на первую (конвергенция прямых и обратных связей).

Существенно, что в такой системе существует режим модулированных двухчастотных колебаний, при котором частота модуляции на порядок ниже, чем основная частота колебаний. Тем самым появляется возможность рассматривать синхронизацию низкочастотных и высокочастотных колебаний.

На рис. 12 показана установившаяся после переходного периода динамика активности возбуждающих популяций осцилляторов первого слоя. В случае сложного стимула (рис. 126) высокочастотные колебания нейронной активности популяций Е\ и Е\ синхронизованы между собой (так как осцилляторы принадлежат одной и той же области стимуляции) и не синхронизованы с колебаниями осцилляторов из другой области возбуждения, например, с колебаниями популяции Е). При этом низкочастотные составляющие колебаний всех популяций из двух областей синхронизованы между собой (см. пример на

Е1

5 I 8

I ! '

1 ; *

^аДДДАГ-^-

^хХХХХХХЛ^^^

Е;, Е;

Е 1 Е 1 с 5 . с 7

Рис. 12. Динамика активности возбуждающих популяций осцилляторов первого слоя двухслойной сети, (а) Простой стимул; / = 4,Л/ =3,/"* =1.7. (б) Сложный стимул: = 2,Л/, = 3,/, = 6,Л/3 = 3,У* = 1.7.

Е

рис. 126, где низкочастотные колебания активности популяций £', Е) синхронизованы). Синхронизованность осцилляторов одной области на высокой и низкой частоте (см. пример на рис. 126 - синхронизованность популяций Е\ и Е\ на высокой и низкой частотах) обусловлена связями внутри слоя, а синхронность низкочастотных колебаний осцилляторов из разных областей -наличием второго слоя, играющего модулирующую и синхронизирующую роль. Возникающая в результате взаимодействия двух конвергентных зон синхронизация низкочастотных колебаний в различных областях первого слоя интерпретируется как интеграция в единый образ двух групп признаков сложного стимула.

4. НЕЙРОННЫЕ СЕТИ ИЗ ФАЗОВЫХ ОСЦИЛЛЯТОРОВ

4.1 Описание модели п постановка задачи

Отличительной особенностью фазового осциллятора является то, что его динамика описывается одной переменной, фазой колебания, а взаимодействие между осцилляторами реализуется с помощью фазовой автоподстройки частоты. Сравнительная простота делает фазовые осцилляторы доступными математическому анализу, направленному на выяснение условий, при которых синхронизация имеет место [38].

В.И.Крюков предложил использовать сеть фазовых осцилляторов для моделирования внимания [34|. Соответствующая сеть представляет собой систему из периферических осцилляторов (ПО), взаимодействующих с центральным осциллятором (ЦО) через прямые и обратные связи. Предполагается, что роль ЦО может играть септо-гиппокампальная область, а ПО представлены кортикальными колонками. Внимание интерпретируется как результат синхронизации колебаний между септо-гиппокампальной областью и частью кортекса. Те ПО, которые работают синхронно с ЦО, считаются включенными в фокус внимания. Непосредственное взаимодействие между кортикальными колонками не учитывается для упрощения анализа модели.

В этой главе рассматривается нейронная сеть фазовых осцилляторов, образующих систему с центральным элементом. Предполагается, что ПО образуют две группы, группу А и группу Д активность которых представляет собой результат воздействия на систему внимания двух стимулов. Для каждой группы собственные частоты выбираются случайно на определенном интервале, причем интервалы не пересекаются. Предполагается, что все ПО одной группы имеют одинаковую величину взаимодействия с ЦО. Таким образом система

содержит три параметра: величины взаимодействия ПО первой и второй группы с ЦО и собственная частота ЦО.

Основная задача состоит в изучении динамических режимов и синхронизации сети при изменении трех параметров. Результаты исследования используются для объяснения условий, в терминах синхронизации колебаний, при которых в модели происходит формирование фокуса внимания.

Нас будут интересовать следующие три типа динамического поведения сети:

• режим полной синхронизации, когда все осцилляторы сети работают с одной и той же текущей частотой (этот режим интерпретируется как включение в фокус внимания обоих имеющихся стимулов);

• режим частичной синхронизации, когда ЦО синхронизуется с осцилляторами одной из групп А или В, так, что текущие частоты осцилляторов этой группы и ЦО близки друг другу, в то время как текущие частоты осцилляторов другой группы сильно от них отличаются (этот режим интерпретируется как включение в фокус внимания одного из конкурирующих стимулов);

• режим отсутствия синхронизации, когда текущие частоты ЦО и ПО из обеих групп А и В достаточно сильно различаются (в этом случае фокус внимания считается не сформированным).

Рассматривается предельный случай, когда каждая из групп содержит один ПО. Аналитическими и численными методами теории бифуркаций получены границы областей параметров, при которых имеет место каждый из указанных режимов динамического поведения сети [48,58,60].

Аналогичное исследование проведено также для второго случая, когда каждая группа содержит большое число ПО [49,54,55]. Здесь мы не будем подробно рассматривать эти результаты. Отметим лишь, что результаты, получаемые в обоих случаях, оказываются качественно сходными, поэтому первый случай можно рассматривать как аппроксимацию второго, когда группа осцилляторов, заменяется одним осциллятором. В то же время математический анализ первого случая может быть сделан более детальным и строго обоснованным, тогда как во втором случае нам пришлось прибегнуть к некоторым эвристическим соображениям.

4.1.1 Нейронная сеть фазовых осцилляторов с центральным элементом

Для описания динамики нейронной сети используются общепринятые уравнения взаимодействующих фазовых. Динамика фазового осциллятора

описывается одной переменной 0(!) - фазой движения изображающей точки по окружности. При отсутствии взаимодействий между осцилляторами, предполагается, что частота движения отдельного осциллятора, называемая собственной частотой этого осциллятора, является постоянной величиной

= ¿у| . Заметим, что обычно взаимодействие двух фазовых осцилляторов

описывается нечетной функцией (чаще всего синусом) разности фаз двух взаимодействующих осцилляторов, а разлтные воздействия суммируются друг с другом [38].

В рассматриваемой сети взаимодействие между осцилляторами осуществляется по схеме с "центральным элементом": один осциллятор, называемый центральным (ЦО), действует на все остальные осцилляторы, называемые периферическими (ПО), а каждый ПО действует на ЦО. Непосредственное взаимодействия между ПО отсутствует. Предполагается, что все ПО разделены на две группы, отличающиеся силой взаимодействия с ЦО. Схема взаимодействия показана на рис. 13.

Рис.13. Схема взаимодействия осцилляторов в сети.

К группе А относятся ПО, у которых собственные частоты ш'А равномерно и независимо распределены на интервале (соА -I А +/). К группе £ относятся ПО у которых собственные частоты ы'е равномерно и независимо распределены на интервале {со, - /,со£ + /). Предполагается, что сод > юл и о Л — со А > 2/, что означает отсутствие перекрытия интервалов. Пусть в\(1),0гА{1),...,в"А(>)- фазы ПО группы Л, 0\(/),в\(1),...,в"в(1)- фазы ПО группы В, 0„(/)- фаза центрального осциллятора и со0- собственная частота ЦО. Тогда динамика сети фазовых осцилляторов с центральным элементом описывается уравнениями

^ = + £ £ 8-*,)+£ £ - в,),

М'

■^- = а>'А+аьт(ео-в'А), / = 1,...,/?, (7)

т

,/дУ

= п«?0-^), У = 1.....л,

где а и /? - параметры, определяющие величину взаимодействия ЦО с осцилляторами группы Л и группы Д соответственно. Все собственные частоты ПО выбраны в соответствии с их распределениями и зафиксированы. Величины в правой части (7) по определению являются текущими частотами осцилляторов.

Замечание 1. В первом уравнении системы (7) величина воздействия на ЦО нормирована на п - количество осцилляторов в каждой из. групп. Такая нормировка обычно используется когда количество фазовых осцилляторов в системе стремится к бесконечности. Таким образом, количество осцилляторов в группе (и, следовательно, число ПО, воздействующих на ЦО) неограниченно растет, а величина воздействия каждого конкретного ПО на ЦО убывает с ростом п.

Замечание 2. Для описания взаимодействия ЦО с группой ПО используется один и тот же параметр (а для группы А и /3 для группы В), который характеризует как прямое воздействие ПО на ЦО так и обратное воздействие ЦО на каждый из ПО. Это предположение упрощает исследование и графическое представление его результатов. Методы данного исследования пригодны и для использования в общем случае, когда прямое и обратное взаимодействие описывается двумя различными параметрами.

С помощью замены переменных и времени можно изменить величины параметров <ол и сов, поэтому, без ограничения общности исследования можно считать эти параметры фиксированными. Выберем параметр /, задающий интервал распределения собственных частот, равным нулю при п = 1. Таким образом, мы изучаем динамику системы (7) в зависимости от трех параметров: 0О, а и р. Заметим, что для полного исследования системы (7) достаточно

0, +(У»

рассматривать значения параметра —-, при других значениях т0

результаты переформулируются очевидным образом (группы А и В меняются местами). В рассматриваемых далее компьютерных экспериментах т А = 0, ав = 10, I = 0, л =1.

4.1.2 Постановка задач»

Будем говорить, что сеть работает в режиме полной синхронизации, если этому режиму соответствует устойчивое решение системы (7), для которого все осцилляторы имеют одинаковую постоянную текущую частоту О при всех значениях £

_ М„ ¡10'л М'в . . Л Ш Ж у В случае полной синхронизации разности фаз между ЦО и ПО не меняются со временем. Складывая правые части уравнений системы (7) находим

п = ">о +{Ул) + {<°в) 3

где (аА) и (/ов).- средние значения собственных частот Ь'О в группах А и В соответственно

I " 1 "

Другой режим синхронизации, возможный в нейронной сети, - это режим частичной синхронизации. Будем говорить, что группа осцилляторов А работает синхронно с ЦО, если этому режиму отвечает устойчивое (по крайней мере локально) решение такое, что для некоторой константы С при любом / имеет место

\ва«)-в'А(1)\<С, / = 1,...,«.

Данное определение синхронизации осцилляторов одной группы не запрещает, чтобы приведенное неравенство одновременно выполнялось бы для

каких-то осцилляторов из другой группы. В дальнейшем нас будет интересовать также режим, когда синхронно с ЦО работают все осцилляторы одной группы, но в эту синхронизацию не входит ни один осциллятор из другой группы. В связи с этим будем говорить, что с ЦО строго синхронизована группа А, если эта группа синхронизована с ЦО и соответствующее этому режиму решение таково, что для любого осциллятора J группы В и любой константы С\ существует такой момент /, что имеет место

Таким образом, из строгой синхронизации группы следует ее синхронизация, но не наоборот. Синхронизация и строгая синхронизация группы В определяются аналогично. Если режим работы сети отличен от полной синхронизации, а ЦО синхронизован с одной их групп А или В, то в этом случае будем говорить, что сеть работает в режиме частичной синхронизации. Всюду в дальнейшем, где речь будет идти о синхронизации ЦО с одной из групп осцилляторов, предполагается, что сеть работает в режиме частичной синхронизации.

Для устойчивых решений, отличных от режимов полной синхронизации и частичной синхронизации, мы говорим о режиме отсутствия синхронизации в нейронной сети.

Основная задача исследования режимов синхронизации состоит в определении областей пространства параметров ai0, a, fi, для которых могут наблюдаться следующие динамические режимы:

• режим полной синхронизации;

• режим частичной синхронизации;

• режим отсутствия синхронизации

Как уже отмечалось, сформулированная задача будет изучаться для случая двух ПО (п = 1).

Введем следующие обозначения для областей на плоскости параметров (Да), соответствующих различным типам синхронизации или ее отсутствию (<у0 предполагается фиксированным):

• GS (General Synchronization) - область параметров, для которых существует режим полной синхронизации сети;

• PSA,PSg (Partial Synchronization) - области параметров, для которых существует режим синхронизации ЦО со всеми ПО группы А или В, соответственно;

• ЖУ (Мо-БупсЬгошгаПоп) - область параметров, в которой существует режим отсутствия синхронизации.

Заметим, что из данных определений следует возможность пересечения указанных областей, поскольку различные типы синхронизации или ее отсутствие могут реализовываться в зависимости от начальных условий.

4.2 Динамика сети с двумя периферическими осцилляторами

Рассмотрим случай сети, содержащей два ПО (п = I), один из которых принадлежит группе А и имеет собственную частоту (о\4 - со А , а другой - группе В и имеет собственную частоту = сое. Частота полной синхронизации для данного случая имеет вид

п _ соа + со4 +0),,

3

Для исследования системы (7) в этом случае удобно перейти к разностям фаз <рх - ва - <рг = в0 - в'в, которые изменяются в диапазоне [-я;я]. Динамика новых переменных описывается системой двух уравнений на двумерном торе Т:= {(?»i,?>2)|-л- s «j, < л\ - тг < <р2 s л):

I - (а, о sin ip¡ - p sin <p2,

d (8) —— = {<oe - cos) - a sin xp, - 2psin cp2. dt

4.2.1 Стационарные состояния

Грубые стационарные решения системы (3) определяются из уравнений

П-со. П-со. ...

sinp, =--, sin ср2 —--. (9)

а р

При условии

fifi - со < а,

i (Ю)

уравнения (9) имеют четыре решения: At(£¡,£2), A2(^x,ij2), A,{7jt,42), А,(г!,,ц2), здесь

_ . П - а>. . Í1 - со „

= arcsm-—, - arcsm-—, 7, = п2 = я - £,.

с Р

Анализ устойчивости стационарных решений показывает, что при всех а,р, удовлетворяющих неравенствам (10), А{ - устойчивый узел, А2 и A¡ - седловые

Рис. 14. Фазовый портрет системы в случае (а) полной синхронизаци (&)„ = 5, а = р = 10); (б) на границе области полной синхронизаци (образование седло-узлов при а>0 = 5, а = 7, Р = 5); (8) в случае частичной синхронизации (устойчивый и

неустойчивый предельные циклы с гомотопическим типом (1,0) при (со0 = 5, а = 7, /9 = 4,8).

точки, А4 - неустойчивый узел. Соответствующий фазовый портрет системы представлен на рис. 14. Заметим, что устойчивое стационарное решение системы (3) соответствует режиму полной синхронизации сети. Для случая предстаатенного на рис. 14, система (8) имеет единственное устойчивое состояние, соответствующее устойчивому узлу Л, и тем самым установившийся режим в системе соответствует полной синхронизации (при любых начальных условиях). Отметим, что фазовый портрет системы получен вычислениями на компьютере и вывод о единственности устойчивого решения не является строго доказанным.

На рис. 15 для различных значений собственной частоты ЦО показаны области параметров на плоскости (/}, а), которые соответствуют различным динамическим режимам. Область, соответствующая режиму полной синхронизации (£5), определяемая условиями (10), имеет форму угла с границами параллельными осям координат. Отметим, что рис. 15г соответствует особому случаю, когда О = а в = 10 ((и0 = 20). В этом случае вертикальная граница области ИЯ совпадает с осью ординат, так что полная синхронизация достигается здесь при нулевой связи между ЦО и осциллятором В, несмотря на то, что собственные частоты этих осцилляторов различны.

При любом фиксированном значении параметра <и0 существуют такие значения параметров взаимодействия (/?, а), что условия (5) будут выполнены. Бифуркация стационарных решений (8) имеет место при нарушении по крайней мере одного из условий (10). Пусть, например, параметр взаимодействия а принимает критическое значение а. - О - а>^ и первое из неравенств (10) обращается в равенство (нарушение второго из условий (10) рассматривается аналогично). Тогда £, = 7, = я-/2, ив результате слияния Ах с Аъ и Аг с Ал возникает два седлоузла ¿¡¡(тт/ 2,£2) и В2(л / 2, г]2). Фазовый портрет системы в момент бифуркации приведен на рис. 146. При значениях параметра а < а. из сепаратрисного контура седлоузла рождается предельный цикл. Таким образом, для значений параметра а < а. положений равновесия нет и существуют два предельных цикла - устойчивый цикл С[ и неустойчивый С2 (рис. 14в).

4.2.2 Предельные циклы

Предельный цикл системы (8) характеризуется гомотопическим типом - парой чисел (т, к), где т и к - число оборотов, совершаемых за один период цикла

соответственно фазами ¡р( и <рг. Очевидно, что в режиме частичной синхронизации ПО синхронизован с ЦО, тогда и только тогда, когда динамика системы (8) представляет собой предельный цикл с гомотопическим типом (0, 1) „ (для осциллятора А) или (1, 0) (для осциллятора В))

Рассмотренная в разделе 3.1 бифуркация стационарных решений приводит к появлению предельных циклов типа (1,0) или (0,1), т.е. к частичной синхронизации. Режим частичной синхронизации перестает существовать, когда предельные циклы сливаются и исчезают. Тем самым границей области частичной синхронизации на плоскости (/?, а), отделяющей ее от области отсутствия синхронизации, являются линии кратных предельных циклов. Для вычисления этих линий мы использовали программу ЬОСВ/Е

На рис. 15 представлены типичные бифуркационные диаграммы на плоскости (/?, а) для различных значений а>0. Перечислим полученные результаты в терминах режимов синхронизации.

1. При 5 < ш0 < 10 (рис. 15а,б) плоскость (/?, а) разделена на четыре области: вЯ- полная синхронизация (один устойчивый стационар, рис. 14а);

РЗ^ - синхронизация с осциллятором А (один устойчивый 'предельный цикл гомотопического типа (0,1), 14в);

РЗв - синхронизация с осциллятором £ (один устойчивый предельный цикл гомотопического типа (1,0));

ЛУ- отсутствие синхронизации (намотка на торе, рис. 16а).

2. При 10 < <у0 < 20 (рис. 15в) диаграмма устроена аналогично, но в этом случае область отсутствия синхронизации состоит из двух частей.

3. При <и0 = 20 (рис. 15г) на плоскости имеется три области: СУ, и ЖУ, синхронизация с осциллятором А невозможна.

4. При со> 20 (рис. 15д) плоскость разбита на 5 областей: кроме упомянутых выше четырех областей появляется область £У г\ № - область бистабильности: в зависимости от начальных условий в системе реализуется либо режим полной синхронизации, либо режим отсутствия синхронизации (типичный для этого случая фазовый портрет представлен на рис. 18).

1 Напомним, что частичная синхронизация ЦО с осциллятором А означает, существование решения для которого соответствующая разность фаз ограничена при всех (. Очевидно, что предельные циклы с гомотопическим типом (0,т) при т> 1 не могут существовать на двумерном торе.

Рис. 15. Бифуркационные диаграммы на плоскости для различны*

значений собственной частоты ЦО в случае двух ПО. <7.5" - область полной синхронизации, Р&4 и РЗд - области частичной сихронизации ЦО с одним из ПО, ЖУ- область где отсутствует как полная так и частичная синхронизация.

Справедливость приведенных результатов проверялась компьютерными экспериментами. Стартуя из различных начальных состояний, мы не обнаружили других режимов, отличных от перечисленных выше.

Далее мы подробнее остановимся на полученных результатах и обсудим их с точки зрения теории бифуркаций.

Рассмотрим бифуркационные диаграммы, представленные на рис. 15.

На рис. 15а показана типичная бифуркационная диаграмма для 5 < си0 < 10). В этом случае исчезновение режима частичной синхронизации (переход в область Ж5) означает появление в фазовом пространстве Т квазипериодических колебаний (исключение составляет "симметричный случай m¡¡ = 5 и а = р, когда в области NS фазовый потрет состоит из множества замкнутых траекторий). Примеры фазовых портретов в случае отсутствия синхронизации представлены на рис. 16.

На рис. 156 (ги0 = 10) представлен единственный случай, когда граница между PS и NSпроходит через начало координат.

При 10<<а0<20 (рис. 15в) область ЛУ разделяется на две части с единственной общей точкой между ними. Проследим, как в этом случае меняются режимы синхронизации с изменением а. Пусть, например, ш0 = 15 и Р = 1. Будем постепенно увеличивать величину а , начиная от нуля. Это приведет к постепенному смещению среднего значения частоты ЦО в сторону меньших значений. При достаточно малой величине а средняя частота ЦО превосходит о)д = 10 настолько, что величина р оказывается слишком малой для того, чтобы синхронизовать ЦО с В. С ростом а наступает такой момент, когда средняя частота ЦО оказывается близкой к со£, и, таким образом, синхронизация ЦО и В становится возможной. При дальнейшем увеличении а средняя частота ЦО отдаляется от ю, в сторону меньших значений, и синхронизация ЦО и Основа становится невозможной. При достаточно больших значениях а средняя частота ЦО становится близкой к и наступает синхронизация осциллятора А.

Очередное преобразование топологии бифуркационной диаграммы происходит при coQ = 20 (рис. 15г). В этом случае синхронизация возможна только для осциллятора В. При а>0 < 20 левая граница GS сдвигается влево с увеличением соа, а при дальнейшем увеличении «„ (<и0 > 20) она сдвигается вправо.

При со0 > 20 появляется новая особенность бифуркационной диаграммы [типичную бифуркационную диаграмму для случая <и0 > 20 см. на рис. 15д) -переход от полной синхронизации к отсутствию синхронизации становится зозможным не в одной точке (вершине С ), а вдоль некоторого отрезка, тежащего вблизи этой вершины на границе между GS и Такими отрезками 1вляются [С, О, ] на вертикальной и (С, 1 на горизонтальной частях этой границы.

При л>0 < 20 рассмотренные выше типы бифуркаций дают полное описание изменений фазовых портретов, связанных с изменением типов динамического поведения системы (8). При (и0 > 20 переходы между областями PS и МУ могут сопровождаться другими, более сложными, бифуркациями. Рассмотрим, например, окрестность точки 1>1 (окрестность точки устроена аналогично). Справа от точки 1>1 пересечение границы области полной синхронизации приводит к рождению пары предельных циклов (устойчивого и неустойчивого) с гомотопическим типом (1,0) и тем самым возникает режим частичной синхронизации. При пересечении границы слева от />> образуется пара предельных циклов с индексом вращения (1,2). Причина состоит в том, что в точке лежащей на границе (линия седло-уачов), происходит бифуркация коразмерности 2: сепаратриса выходящая из седло-узла с устойчивым узловым гектором, приходит в седло-узел с неустойчивым узловым сектором. Нам неизвестна точная диаграмма для этой бифуркации. Отметим, что линия кратных предельных циклов с гомотопическим типом (0,1) оканчивается, по-видимому, в гочке 1>1, в окрестности этой точки наблюдаются циклы с различным гомотопическим типом, примеры таких циклов приведены на рис. 17. Заметим, что в рассматриваемом случае область /УБ неоднородна. В ней содержатся как точки, соответствующие предельным циклам, индексы вращения которых отличны от (0,1) и (1,0), так и точки, соответствующие квазипериодическим колебаниям.

При <у0 > 20 предельные циклы, гомотопический тип которых отличен от (0,1) и (1,0), имеются также в области СБ, сосуществуя со стационарными решениями (см. область СХоЖУ на рис. 15д). В этом случае установление режима полной :инхронизации или же режима отсутствия синхронизации (как полной так и частичной) зависит от выбора начальных фаз (см. рис. 18).

шгшшшт

Рис. 16. Примеры фазовых портретов в случае отсутствия синхронизации, (а) «0=5, а = 2, р= 1.(6) а>0 = 5, а = 1 >3 = 1-

Рис. 18. Фазовый портрет системы в случае сосуществования устойчвого узла (полная синхронизация) и устойчивого предельного цикла с гомотопическим типом (1,1) (отсутствие синхронизации), =25, а = 12,7, /?= 2-

Рис. 17. Примеры предельных циклов вблизи бифуркации петли сепаратрисы седло-узлов: (а) ®о = 5, а = 2, fi = 11 (б) со0 = 25, а = 11, р = 4,14 _ (в) ш0 = 25, а = 11, /3 = 4,13

4.3 Формирование и спонтанное переключение фокуса внимания

Проведенное исследование динамических режимов нейронной сети дает возможность обсудить возможные механизмы формирования фокуса внимания. Предположим, что на вход "внимательной" системы, состоящей из ЦО и ПО, подаются два стимула. Каждому стимулу соответствует набор признаков, которые, как предполагается, вызывают осцилляторную активность кортикальных колонок. Признакам одного стимула соответствует компактная группа собственных частот ПО (группа А), и соответственно признакам второго стимула соответствует вторая группа ПО с компактным множеством собственных частот (группа В).

Процесс формирования фокуса внимания мы будем представлять как установление в системе режима синхронизации между ЦО и ПО. Как показывают результаты исследования модели, фокус внимания, формируемый системой, может объединять оба стимула в единый образ (режим полной синхронизации), в-фокус внимания может быть включен один из двух конкурирующих стимулов (режим частичной синхронизации), фокус внимания может не формироваться вовсе (режим отсутствия какой-либо синхронизации).

В зависимости от соотношения собственных частот центрального и периферических осцилляторов в режиме частичной синхронизации отвлекающий стимул может как облегчить, так и затруднить формирование фокуса внимания на целевом стимуле. Предположим, что группа В представляет целевой стимул, а группа А отвлекающий стимул, то есть параметры системы выбраны так, чтобы привести к частичной синхронизации группы В. Если ы А < < ш s (этот случай представлен на рис. 15а), частичная синхронизация В может быть получена при меньших значениях параметра взаимодействия р, если группа А не активна (а = 0), по сравнению со случаем, когда она активна (а >0). Если же имеет место сол < as < (У0 (этот случай представлен на рис. 15в ), то имеется интервал значений Р такой, что при постепенном увеличении величины а (начиная от 0) система будет работать в режиме отсутствия синхронизации при небольших значениях а , но попадет в область синхронизации с В, когда величина а станет достаточно большой. Таким образом, в последнем случае наличие группы А дает возможность синхронизовать группу В при меньших значениях р.

Указанное различие в условиях достижения частичной синхронизации может быть использовано для интерпретации результатов психологических

¡кспериментов Познера, в которых изучалась роль "подсказки" для переключения фокуса внимания. В этих экспериментах испытуемый получает задание »фиксировать взгляд в центре экрана и при появлении на периферии поля »рения, справа или слева (сторона выбирается случайно) "целевого" стимула 1ажать на соответствующую кнопку. Измеряется время реакции, то есть время от момента предъявления "целевого" стимула до момента нажатия на кнопку. При угом, иногда появлению "целевого" стимула предшествует "подсказка": на короткое время слева или справа включается яркая подсветка. Оказывается, что если "целевой" стимул появляется в той же стороне, где была "подсказка", то время реакции уменьшается, если же "целевой" стимул появляется с противоположной стороны, то увеличивается по сравнению с экспериментом без подсказки. В терминах модели мы рассматриваем "подсказку" как отвлекающий стимул. Наша гипотеза состоит в том, что различное расположение "подсказки" (слева или справа) соответствует различным соотношениям собственных частот осцилляторов, представляющих стимулы и центральный элемент. Если эти соотношения таковы, как в приведенных выше случаях, то результаты моделирования будут качественно правильно отражать результаты психологических экспериментов.

Другим важным следствием результатов моделирования является тот факт, что уменьшение взаимодействия ЦО с осцилляторами, представляющими один из двух стимулов, включенных в фокус внимания, может привести не к фокусировке внимания на втором стимуле, а к разрушению фокуса внимания. Эта ситуации иллюстрируется на рис. 15д. Поскольку в данном случае между (лУи ЖУ имеется граница, отличная от точки, то переход от СУ к № можно осуществить путем уменьшения одного из параметров взаимодействия а или р.

Обнаруживаемая в модели зависимость динамического поведения от начальных фаз колебаний может интерпретироваться как возможность спонтанного изменения фокуса внимания, если предположить, что спонтанное переключение внимания связано с внешним (по отношению к сети) сигналом, вызывающим перестройку фазовых соотношений осцилляторов. Тогда, как следует из анализа модели, спонтанное переключение внимания с одного стимула на другой может иметь место, если эти стимулы представлены не одним, а несколькими осцилляторами.

5. ВЫВОДЫ

1. Разработано семейство осцилляторных нейронных сетей, которые с различной степенью детальности описывают динамику нейронной активности, что позволило с единой точки зрения рассмотреть два различных этапа процесса обработки информации - "предвнимание" и "внимание".

2. Для каждого из трех типов нейронных сетей изучены возможные динамические режимы, найдены условия возникновения осцилляторной нейронной активности и определены границы областей синхронизации.

3. Для осцилляторных нейронных сетей из интегративно-пороговых элементов обнаружен и исследован критический режим, позволяющий получать большие времена релаксации активности, в частности, низкочастотные колебания. Обнаружен режим хаотических когерентных колебаний, соответствующий паттернам активности, регистрируемым в эксперименте. Полученные результаты применяются для моделирования септального генератора тета-ритма, процесса привыкания в гиппокампе, формирования обусловленных стимулом гамма-ритмических синхронных колебаний в зрительной коре.

4. Для системы двух взаимодействующих нейронных осцилляторов с различными типами связей проведен бифуркационный анализ предельных циклов, что позволяет определить границы существования различных колебательных и синхронных режимов. Установлено соответствие между типом связи между осцилляторами и характерным набором динамических режимов, наблюдаемых в системе.

5. Для цепочки нейронных осцилляторов с локальными связями и двухслойной сети из двух взаимодействующих цепочек осцилляторов найдены интересные динамические режимы: синфазные и противофазные колебания соседних осцилляторов, хаотические колебания, Модулированные колебания, бегущие волны и др. Полученные результаты применяются для моделирования самоорганизующихся очагов долгоживушей нейронной активности, моделирования предвнимания (интеграция признаков) и внимания (слежение за стимулом).

6. Для нейронных сетей из фазовых осцилляторов проведено исследование бифуркаций стационарных и колебательных режимов и найдены границы этих режимов в пространстве параметров. Показано, что режим частичной синхронизации играет существенную роль в процессе обработки информации.

Полученные результаты применяются для моделирования формирования фокуса внимания и его спонтанного переключения.

7. Результаты исследования осцилляторных нейронных сетей позволяют заключить, что принцип синхронизации нейронной активности является, по-видимому, одним из основных принципов обработки информации в нервной системе. Модели осцилляторных нейронных сетей, основанные на принципе синхронизации, позволяют дать теоретическое объяснение ряду важных и трудных нейрофизиологических феноменов. Очевидно, что осцилляторные нейронные сети к принцип синхронизации будут играть ключевую роль при создании теории мозга.

б. ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Борисюк P.M., Хибник А.И. (1976) Численные эксперименты с цепочкой взаимодействующих релаксационных осцилляторов. Препринт, ОНТИ НЦБИ, Пущино, 12 с.

2. Борисюк Т.Н., Борисюк P.M., Дунин-Барковский B.JI., Ког.аленко В.Н., Коваленко Е.И. (1977) Оценка информационной емкости клетки Пуркинье. В сб.: Взаимодействующие марковские процессы в биологии (ред. В.И. Крюков), ОНТИ НЦБИ, Пущино, с.82-102.

3. Борисюк Г.Н., Борисюк P.M., Кириллов А.Б., Коваленко Е.И., Крюков В.И. (1978) О возможности статистической оценки синаптических весов нейронных схем при многомерном анализе импульсной активности. В сб.: Всесоюзная конференция по биологической и медицинской кибернетике, Москва-Сухуми, т.2, с.153-155.

4. Борисюк Г.Н., Борисюк P.M., Кириллов А.Б., Коваленко Е.И., Крюков В.И. (1978) Об оценке синаптических весов нейронных схем при многомерном анализе импульсной активности. В сб.: Взаимодействующие марковские процессы и их применение в биологии (ред. В.И. Крюков, ), ОНТИ НЦБИ, Пущино, с. 152-177.

5. Borisyuk G.N., Borisyuk ЯМ., Dunin-Barkovsky V.L., Kovaleuko V.N., Kovalenko E.I. (1978) Estimation of mfonnation capacity of Purkinje cells. In: Lecture Notes in Mathematics, Springer-Verlag, p.72-90.

6. Борисюк РМ. (1981) Некоторые задачи о взаимодействии двух нелинейных осцилляторов. В сб.: Тезисы докл. IX Международной конф. по нелинейным колебаниям, Киев, с.69-73.

7. Годухин О.В., Борисюк Г.Н., Борисюк P.M., Кириллов А.Б., Коваленко Е.И., Крюков В.И. (1981) Типы импульсной активности и характер взаимосвязи нейронов в неостриатуме мозга крысы. Нейрофизиология, т.13, N6, с.571-579.

8. Борисюк Г.Н., Борисюк P.M., Виноградова О.С., Кириллов А.Б., Коваленко Е.И., Крюков В.И. (1982) Метасгабильное состояние в имитационной модели поля САЗ гиппокампа. В сб.: I Всесоюзный биофизический съезд. Тезисы докладов, т.Ш, с.36.

9. Борисюк P.M. (1982) Статистический анализ взаимосвязи элементов нейронной сети. В сб.: I Всесоюзный биофизический съезд. Тезисы докладов, т.Ш, с.35.

10.Борисюк P.M., Кириллов А.Б. (1982) Качественное исследование модели нейронной сети из двух нейронных популяций. Препринт, ОНТИ НЦБИ, Пущино, 17 с.

11. Борисюк P.M., Кириллов А.Б. (1982) Качественное исследование модели нейронной сети из двух нейронных популяций. В сб.: I Всесоюзный биофизический съезд. Тезисы докладов, т.И, с.177.

12.Годухин О.В., Борисюк Г.Н., Борисюк P.M., Кириллов А.Б. (1982) Анализ импульсной активности и характер взаимосвязи идентифицированных нейронов неостриатума мозга крысы. Нейрофизиология, т. 14; N5, с.470-475.

13.Коваленко Е.И., Крюков В.И., Борисюк Г.Н., Борисюк P.M., Кириллов А.Б. (1982) Нейронная память: имитационная модель поля САЗ гиппокампа. В сб.: Взаимодействующие марковские процессы и их применение к математическому моделированию биологических систем (ред. В.И. Крюков, ), ОНТИ НЦБИ, Пущино, с.77-107.

14.Борисюк P.M., Коваленко Е.И., Крюков В.И. (1984) Имитационная модель нейронного генератора медленных ритмов. В сб.: Моделирование систем в биологии и медицине. Тезисы докл. IV Пражского межд. симпозиума соц. стран, Прага, с.735.

15.Borisyuk G.N., Borisyuk R.M., Kirillov A.B., Kovalenko E.I., Kryukov V.l. (1984) Short-term memory as a metastable state. II. Simulation model. In: Cybernetics and System Research, vol. 2 (ed. R.Trappl), Elsevier, p.266-271.

16. Borisyuk R.M., Borisyuk G.N. (1984) Analysis of dependencies of point processes in neurophysiology. In: Compstat 1984. Summaries of short communic. and posters, Prague, 1 p.

17. Borisyuk R.M., Borisyuk G.N., Kirillov A.B. (1984) A program package for the statistical analysis of spike activity. In: Compstat 1984. Summaries of short communic. and posters, Prague, 1 p.

18. Borisyuk R.M., Kirillov A.B. (1984) Qualitative analysis of neural dynamics. В сб.: X международная конференция по нелинейным колебаниям, Киев, I с.

19.Борисюк Г.Н., Борисюк P.M., Кириллов А.Б., Коваленко Е.И., Крюков В.И. (1985) Новый статистический метод для определения величин связей между элементами нейронной сети. Биофизика, т.ЗО, вып.З, с.492 и деп. ВИНИТИ N677-85 от 23.01.85, 8 с.

20.Borisyuk, G.N., Borisyuk, R.M., Kirillov, А.В., Kovalenko, E.I.,Kryukov, V.I.

(1985) A new statistical method for identifying interconnections between neuronal networks elements. Biological Cybernetics, v 52, pp. 301-306.

21.Борисюк Г.Н., Борисюк P.M., Кириллов А.Б., Коваленко Е.И., Крюков В.И.

(1986) Кратковременная память как метастабильное состояние. Диффузионная аппроксимация. В сб.: Взаимодействующие марковские процессы в биологии (ред. Р.Л.Добрушин, В.И. Крюков, АЛ.Тоом), ОНТИ НЦБИ, Пущино, с. 8897.

22.Борисюк Г.Н., Борисюк P.M., Кириллов А.Б., Коваленко Е.И., Крюков В.И. (1986) Новые методы анализа нейронной активности. ОНТИ НЦБИ, Пущино, 200 с.

23.Борисюк Г.Н., Борисюк P.M., Кириллов А.Б., Коваленко Е.И., Крюков В.И. (1986) Метасгабильные и неустойчивые состояния в мозге. ОНТИ НЦБИ, Пущино, 167 с.

24.Borisyuk G.N., Borisyuk R.M., Kirillov А.В., Kovalenko E.I., Kryukov V.I. (1986) Short-term memory as a metastable state. III. Diffusion approximation. Cybernetics and System Research. Intern. J., 17, p. 169-182.

2Ь. Борисюк P.M. (1988) Дискуссия о нейрокомпьютерах. В сб.: Дискуссия о

нейрокомпьютерах (ред. В.И.Крюков), ОНТИ НЦБИ, с. 8-12. 26. Борисюк P.M. (1988) Модель нейронной сети для записи и воспроизведения последовательности событий. Препринт ОНТИ НЦБИ, Пущино, 6 с.

27. Kirillov А.В., Borisyuk G.N., Borisyuk R.M., Kovalenko E.I., Kryukov V.I., Makarenko V.I., Chulaevsky V.A. (1988) Sliort-tenn memory as a metastable state. IV. A model of neural oscillator for a unified submodule. In: Cybernetics and Systems'88, R. Trapple (ed.), Kluwer, pp. 991-998

28. Борисюк P.M., Уржумцева Л.М. (1989) Динамические режимы в системе взаимодействующих нейронных осцилляторов. Проблемы кибернетики, материалы девятой Всесоюзной конференции, изд. РГУ, стр. 346-347.

29. Borisyuk R.M. (1989) Interacting neuronal oscillators can imitate the selective attention. In: International Workshop "Neurocomputers and Attention", extended abstracts. Pushchino, pp. 39-40.

30.Kirillov А.В., Borisyuk G.N., Borisyuk R.M., Kovalenko E.I., Kryukov V.I., Makarenko V.I., Chulaevsky V.A. (1989) A unified submodule for a model of attention. In: Advance in Neural information processing systems 1, D.S.Touretzky (ed.), Morgan KaufTman, San Mateo, CA, pp. 560-567.

31.Borisyuk G.N., Borisyuk R.M., Kirillov A.B., Kryukov V.I., Singer W. (1990) Modeling of oscillatory activity of neuron assemblies of the visual cortex. In: Proceedings of International Joint Conference on Neural Networks, San-Diego, 2: 431-434.

32. Borisyuk R. M. (1990) A model of the neural networks for storage and retrieval of temporal sequences. In: International Neural Networks Conference, Paris 90 , v 2, pp. 788

33.Borisyuk R.M., Urzhumtseva L.M. (1990) Dynamical regimes in a system of interacting neural oscillators. In: Neural networks'. Theory and architecture, A.V.Holden, V.I.Kryukov (eds.), Manchester University Press, pp. 9-20.

34.Kryukov V.I., Borisyuk G.N., Borisyuk R.M, Kirillov A.B., Kovalenko Ye. I. (1990) Metastable and unstable states in the brain. In: Stochastic cellular systems: eigodisity, memory, morphogenesis. Dobrushin R.L., Kryukov V.I., Toom A.L. (eds). Manchester University Press, part III, pp. 225-358.

ЪЪ. Borisyuk R.M. (1991) Interacting neural oscillators can imitate selective attention. In: Neurocomputers and Attention. Neurobiology, Synchronization and Chaos, A.V.Holden, V.I.Kryukov (eds), Manchester University Press, v.l, pp. 189-200.

3(¡.Borisyuk RM., Kirillov A.B. (1991) Bifurcation analysis of a neural network model. Jiiol. Systems and Holonic Technology, v.2, n.2, pp. 153-162.

37.Борисюк Г.Н., Борисюк P.M. (1992) Осцилляторные модели зрительной коры. БИОМОД-92, Тезисы доклада, 2с.

18.Борисюк Г.Н., Борисюк P.M., Казанович Я.Б., Лузянина Т.Б., Турова Т.С., Цымбалюк. Г.С. (1992) Осцилляторные нейронные сети. Математические результаты и приложения. Математическое моделирование, 4, 3-43.

!9.Borisyuk G.N., Borisyuk AM., Khibnik A.I. (1992) Numerical bifurcation analysis of a coupled neural oscillator system with application to visual cortex modeling. VIII Конференция СНГ "Качественная теория дифференциальных уравнений", Самарканд-92, стр. 26

10.Borisyuk G.N., Borisyuk ИМ., Khibnik А.Г (1992) Bifurcation analysis of a coupled neural oscillator system with application to visual cortex modeling. In: Abstracts of European Conference on neural mechanisms of learning and memory-1992, Limerick, Ireland, pp. 33-34, and, In: Abstracts of Neural Information Processing Systems'92, Colorado, USA

Я.Borisyuk G.N., Borisyuk R.M., Khibnik A.I. (1992) Analysis of oscillatory regimes of a coupled neural oscillator system with application to visual cortex modeling. In: Neural Network Dynamics, Proceedings of the Workshop on Complex Dynamics in Neural Networks, Perspectives in Neural Computing, J.G.Taylor, E.R.Caianiello, R.M.G.Cotterill and J.W.Clark (eds.), Springer-Verlag, pp. 208-225.

\7. Borisyuk R.M. (1992) A model of the neural network for storage and retrieval of temporal sequences. In: The RNNS/IEEE Symposium on Neuroinformatics and Neurocomputers, Rostov-on-Don, Russia, 1992, v. 2, pp. 865-869.

43.Borisyuk AM., Kirillov A.B. (1992) Bifurcation analysis of a neural network model. Biological Cybernetics, 66: 319-325.

44.Cymbalyuk G.S., Nikolaev E.V. Borisyuk AM. (1992) T.i-phase and anti-phase self-oscillations in a model of two electrically coupled pacemakers. Preprint, Pushchino, 21p.

45.Kliibnik A.I, Borisyuk AM, Roose D. (1992) Numerical bifurcation analysis of a model of coupled neural oscillators. In: International Series of Numerical Mathematics, Birkhauser Verlag Basel, v. 104, pp. 215-228.

46.Borisyuk AM., Borisyuk G.N. Kazanovich Y.B. (1993) A role of mathematical modeling in brain research. 11th International Australian Winter Conference on Brain Research, Abstracts, p. 42, International Journal of Neurosciences 74, p. 154.

47.Borisyuk AM., Borisyuk G.N. Kazanovich Y.B. (1993) Mathematical models of binding problem. 24th Annual Meeting of European Math. Psychology Group, Moscow'93, abstracts, Ip.

48.Борисюк Г.Н., Борисюк P.M., Казанович Я.Б. (1994) Моделирование "предвнимагельной" и "внимательной" обработки информации на основе синхронизации нейронной активности. Изв. ВУЗов, Радиофизика, т. 8, стр. 933-944.

49. Казанович Я.Б., Борисюк P.M. (1994) Синхронизация в нейронных сетях фазовых осцилляторов с центральным элементом. Математическое моделирование, том 6, N 8, с. 45-60.

50.Borisyuk Я, Borisyuk G., Kazanovicli Y., Strong G. (1994) Modeling of binding problem and attention by synchronization of multilayer neural activity. IMACS International Symposium on Signal Processing, Robotics and Neural Networks, Lille, France, pp. 602-605.

51.Borisyuk P., Casaleggio A., Kazanovicli Y., Morgavi G. (1994) Some results on the analysis of dimension of time series by a network of phase oscillators. Proc. of Eur. Conf. on Artificial Neural Networks ICANN'94-Sorrento, eds. M. Marinaro, P. Morasso, v.l, pp. 759-762.

52.Borisyuk P.M., Wickens J.R. and Kotter R. (1994) Reinforcement Learning in a Network Model of the Basal Ganglia. Proc. 12 European Meeting on Cybernetics and System Research. EMCSR'94-Vienna, ed. Trappl, pp.1681-1686.

53.Cymbalyuk G.S., Nikolaev E.V., Borisyuk R.M. (1994) In-phase and anti-phase self-oscillations in a model of two electrically coupled pacemakers. Biological Cybernetics, v. 71, pp. 153-160.

54.Kazanovicli Y., Borisyuk R. (1994) Synchronization in a neural network of phase oscillators with a central element. Preprint, Pushchino, 30p.

55. Kazanovicli Y.B., Borisyuk R.M. (1994) Synchronization in a neural network with the central element. Biological Cybernetics, v. 71, pp. 177-185.

56.Borisyuk R.M., Borisyuk G.N. (1995) Complex Dynamic behavior of oscillatory neural networks: examples and applications. In: WCNN'95, World Congress on NN, v.l, pp. 330-333.

57.Borisyuk R., Borisyuk G. (1995) Information coding on the basis of synchronization of neural activity. In: Intern. Workshop "Neuronal Coding", Abstracts, Prague, Center for Theor. Study, p.6.

58.Borisyuk R., Kazanovicli Ya. (1995) Synchronization of neural oscillators: Attention modeling. Proceedings of Workshop "Supercomputing in brain research: from tomography to neural networks" SCBR'94, Juelich, Germany, H.J.Herrmann, D.E.Wolf, E.Poeppel (eds.), World Scient. Publ. Co., pp.407-413.

'.Borisyuk G.N., Borisyuk R.M., KMmik A.I., Roose D. (1995) Dynamics and bifurcations of two coupled neural oscillators with different connection type. Bull. Math. Biol, 57, 11.6, pp. 809-843.

У Казанович Я.Б., Бориеюк P.M. (1996) Изучение режимов синхронизации в нейронных сетях фазовых осцилляторов с центральным элементом. В сб.: Исследования по математической биологии (ред. Э.Э.Шноль). Пущино, ОНТИ НЦБИ, стр. 118-143.

СОДЕРЖАНИЕ

1. ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ................................................................1

1.1 Актуальность проблемы........................................................................................1

1.2 Цель и задачи исследования................................................................................А

1.3 Научная новизна работы......................................................................................5

1.4 Теоретическое и практическое значение работы...............................................6

1.5 Апробация работы.................................................................................................6

1.6 Публикации...........................................................................................................8

1.7 Положения, выносимые на защиту.....................................................................8

1.8 Благодарности........................................................................................................9

2. НЕЙРОННЫЕ СЕТИ ИЗ ИНТЕГРАТИВНО-ПОРОГОВЫХ ЭЛЕМЕНТОВ...............................................................................................................11

2.1 Описание модели................................................................................................11

2.2 Критический режим и его применение............................................................13

2.2.1 Описание критического режима.................................................................13

2.2.2 Применение критического режима для генерации медленных колебаний...............................................................................................................14

2.2.3 Применение к септуму: модель глобального пейсмекера.........................15

2.2.4 Применение к гиппокампу: модель привыкания......................................18

2.2.5 Применение к зрительной коре: моделирование осцилляторной активности..............................................................................................................20

2.3 Хаотические когерентные колебания................................................................22

3. НЕЙРОННЫЕ СЕТИ ИЗ ВЗАИМОДЕЙСТВУЮЩИХ НЕЙРОННЫХ ОСЦИЛЛЯТОРОВ........................................................................................................25

3.1 Модель нейронного осциллятора......................................................................25

3.2 Два взаимодействующих нейронных осциллятора..........................................28

3.2.1 Взаимодействие двух осцилляторов Вилсона-Коуэна при различных типах связи.............................................................................................................28

3.2.2 Взаимодействие двух электрически связанных осцилляторов Хиндмарша-Роуза..................................................................................................32

3.3 Цепочка взаимодействующих нейронных осцилляторов с локальными связями.......................................................................................................................33

3.3.1 Описание модели..........................................................................................33

3.3.2 Динамические режимы.................................................................................33

3.3.3 Моделирование синхронной гамма-ритмической активности первичной зрительной коры: разделение "конфликтных стимулов"...................................36

3.3.4 Моделирование внимания...........................................................................40

3.4 Двухслойная нейронная сеть из цепочек нейронных осцилляторов.............43

3.4.1 Описание модели..........................................................................................43

3.4.2 Модель предвнимания: интеграция признаков простых и сложных стимулов в единый образ.......................................................................................44

4. НЕЙРОННЫЕ СЕТИ ИЗ ФАЗОВЫХ ОСЦИЛЛЯТОРОВ..................................49

4.1 Описание модели и постановка задачи.............................................................49

4.1.1 Нейронная сеть фазовых осцилляторов с центральным элементом.......50

4.1.2 Постановка задачи........................................................................................53

4.2 Динамика сети с двумя периферическими осцилляторами............................55

4.2.1 Стационарные состояния.............................................................................55

4.2.2 Предельные циклы.......................................................................................57

4.3 Формирование и спонтанное переключение фокуса внимания....................64

5. ВЫВОДЫ..................................................................................................................66

6. ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ.....................................................67