Бесплатный автореферат и диссертация по биологии на тему

Реализация нейросетей с фиксированной структурой на аналоговой элементной базе

ВАК РФ 03.00.02, Биофизика

Автореферат диссертации по теме "Реализация нейросетей с фиксированной структурой на аналоговой элементной базе"

Р Г Б ОД

3 О ОПТ 1395

РОССИЙСКАЯ АКАДЕМИЯ НАУК СИБИРСКОЕ ОТДЕЛЕНИЕ ИНСТИТУТ БИОФИЗИКИ

На правах рукописи

Ланшш Юлий Петрович

УДК 519.21:27

реализация НЕЙРОСЕТЕИ С ФИКСИРОВАННОЙ СТРУКТУРОЙ НА аналоговой ЭЛЕМЕНТНОЙ БАЗЕ

03.00.02 - биофизика

. Автореферат диссертации на соискание ученой степени кандидата технических наук

К

Экз. N 38

Красноярск - 1994

Работа выполнена в теоретическом отделе Института биофизики СО РАН г.Красноярска.

Научные руководители: доктор физико-математических наук

Р.Г.Хлобопрос,

кандидат физико-математических наук С.И.Барцев.

Официальные оппоненты: доктор технических наук

В.А.Ильин,

кандидат физико-математических наук Е.М.Миркес.

Ведущая организация: Красноярский государственный

технический университет.

Защита состоится " т'-А-^Рг 19Э5 года

в 7о часов на заседании Специализ1фованного совета Д.003.45.01 при Институте биофизику СО РАН по адресу: 660036, г.Красноярск, Академгородок, Институт биофизики СО РАН.

С диссертацией мошо ознакомиться в библиотеке Института биофизики СО РАН.

Автореферат разослан " " 1995 г.

¡у

Ученый секретарь

Специализированного совета, т*

доктор технических наук ЛИл^ ^ ' Шевырногов А.П.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность проблемы. Возможности решения многих сложных фундаментальных и прикладных задач, требующих высокого быстродействия и надежности используемых средств обработки информации, в настоящее время ограничиваются недостаточно высокой производительностью и отказоустойчивостью современных компьютеров, а также сложностью формализации ряда таких задач, как например, задачи оперативного управления сложными системами и задачи распознавания образов.

Эффективным способом преодолеь:я возникающих трудностей является использование нейросетей и нейрокомпьютеров,, т.е. систем обработки информации, структура которых сходна со строением нейронных сетей человека и животных. Эффективность нейрокомпьютеров объясняется гибкостью параллельной архитектуры, позволяющей автоматически подстраивать ее под структуру задачи в процессе обучения, добиваясь предельной производительности, и заменой программирования на обучение, что приводит к исчезновению проблем формализации и программирования задачи. Высокая надежность (отказоустойчивость) атих машин, как и их природных аналогов, объясняется распределением обработки информации по всему объему нейросети и хранением информации в делокализованном виде, распределенной по всему объему синаптической карты нейросети в качестве весовых коэффициентов связей формальных нейронов.

Необходимо отметить, что аналоговые (обрабатывающие непрерывные сигналы) нейрокомпьютеры по своим эксплуатационным характеристикам находятся вне конкуренции с цифровыми, что и объясняет усилия, которые предпринимаются в мире по созданию аналоговых нейрочипов. Их разработке препятствует высокая сложность анало-

г вой аппаратной реализации обучающих нейросетевых алгоритмов.

Однако сфера возможного массового использования обучаемых аналоговых нейрокомпьютеров достаточна узка. Широкое распространение могут получить обученные аналоговые нейрокомпьютеры с фиксированной или незначительно подстраиваемой структурой связей (в природе их анало. ами являются ганглии насекомых), которые предлагается называть нейролроцессорами. Задача создания таких ней-ропроцессоров сводится к обучению цифровой нейросетевой модели нужному поведению на обычном цифровом компьютере (или цифровом нейрокомпьютере) и "зашивке" полученных весовых коэффициентов в матрицу постоянных резисторов нейрочипа. Таким образом появляется возможность производить дешевые специализированные нейропро-цессоры, работающие в режиме функционирования автономно и с большим быстродействием.

Но рекуррентная аналоговая нейросеть (аналоговая нейросеть, в которой специальным образом должна быть организована циркуляция аналоговых сигналов в течение заданного времени через одни и те же цепи и элементы), вообще говоря, асинхронна (задержки про-ховдения сигналов в ней не синхронизированы и определяются как длиной соединений, так и задержками на элементах нейросети) и помехонеустойчива. Попытка моделировать динамику переходных процессов в аналоговом нейропроцессоре в. течение всего периода обучения выводит время, обучения за пределы разумного и не гарантирует взаимно однозначного соответствия мевду цифровой моделью и проектируемым нейропроцессором (из-за асинхронности распространения аналоговых сигналов).

Поэтому аналоговая нейросеть была переведена в режим синхронного функционирования в дискретном времени путем введения в схемы нейронов дискрегазаторов аналогового сигнала, что позволи-

ло эффективно решить проблемы, связанные с конструированием рекуррентных аналоговых нейропроцессоров...

Найденный подход обеспечил (взаимно однозначную) конвертируемость цифровых и аналоговых систем, поскольку используемые сейчас цифровые алгоритмы работают в дискретном времени. Цифро-аналоговая конвертируемость открывает возможность простой реализации нейросистем, которые эмулируются в цифровых компьютерах. Аналоговая реализация нейросетей обеспечивает рекордное быстродействие, высокую надежность, помехоустойчивость, экономичность, технологичность и низкую стоимость. Принцип цифроаналоговой конвертируемости позволяет использовать существующие достиг»пня в ускорении адаптации цифровых нейросетей для проектирования аналоговых специализированных нейропроцессоров с фиксированной ип частично подстраиваемой структурой.

Цель работы. Исследовать возможность автоматизированного проектирования электронных аналоговых нейропроцессоров с фиксированной структурой и произвольной длительностью .функционирования.

Научная новизна "результатов состоит в следующем:

1. Модифицирована структура нейросетей, обучаемых по Алгоритму Двойственного Функционирования, с целью моделирования структуры реальных нейросетей, создаваемых на основе аналоговой электроники.

2. Разработано программное обеспечение для моделирования нейросетей с модифицированной структурой и проведена сравнительная оценка результатов их обучения относительно программных моделей нейросетей с ^модифицированной структурой.

3. Найден способ построения синхронных' аналоговых рекуррентных нейросетей (как обучаемых, так и необучаемых) с произ-

вольной длительностью функционирования. На его основе предложен принцип цифро-аналоговой конвертируемости с целью взаимно однозначного отображения аналоговых нейросетей в их цифровую модель.

4. Синтезирована схема формального нейрона для синхронных аналоговых рекуррентных нейросетей с произвольной длительностью функционирования.

5. Создан и успешно испытан демонстрационный нейропроцессор с фиксированной структурой, спроектированный в соответствии с предложенным подходом.

Основные научные положения, выносимые на защиту:

1. Метод проектирования аналоговых нейропроцессоров с фиксированной структурой, функционирующих в дискретном времени. '

2. Принцип цифро-аналоговой конвертируемости для моделирования рекуррентных аналоговых нейросетей.

3. Способ функционирования формального нейрона для синхронных аналоговых рекуррентных нейросетей, функционирующих в дискретном времени.

Практическая ценность. На осноеэ полученных результатов Институтом биофизики СО РАН и Вычислительным центром СО РАН в г.Красноярске готовится совместная разработка системы автоматизированного проектирования рекуррентных аналоговых нейропроцессоров с фиксированной структурой и . произвольной длительностью функционирования для широкого спектра приложений, о чем свидетельствует соответствующий акт о приемке. Результаты исследований могут также быть использованы для создания рекуррентных аналоговых нейросетей (нейрокомпьютеров) с перестраиваемой структурой и произвольной длительностью функционирования.

Апробация работы. Результаты диссертационной работы докладывались ла международном конгрессе "Окружающая среда для нас и

для будущих поколений. Экология и бизнес в новых условиях", (Красноярск, 19ЭЗ), на международной конференции "Эколого - социальные проблемы Центральной Сибири (на примере Ангаро - Енисейского региона)", (Лесосибирск, 1993), Всероссийском рабочем семинаре " Нейроинформатика и нейрокомпьютеры (Красноярск,

1993), Всероссийском рабочем семинаре " Нейроинформатика и ее приложения", (Красноярск, 1994) и на теоретическом семинаре Института биофизики СО РАН.

Публикации. По теме диссертации опубликовано 7 печатных работ. Подана заявка на получение патента.

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы и четырех приложений. Общий объем диссертации составляет 128 страниц, включая 26 рисунков, 16 таблиц, библиографический список литературы из 132 наименований (из них 52 иностранных).

СОДЕРЖАНИЕ РАБОТЫ

Глава I. Кейросети : тенденции, алгоритмы, способы реализации.

Основной альтернативой традиционному вычислительному и логическому подходу к обработке информации в настоящее время является подход, основанный на моделировании процессов, протекающих в нейронных сетях человека и животных и представляемый искусственными нейросетями и нейрокомпьютерами.

Принципиальными отличиями нейросетей (нейрокомпьютеров) от традиционных компьютеров являются функциональная однородность процессирующих элементов и отсутствие необходимости в программировании, которое заменяется обучением. .;

Среда существупцих алгоритмов обучения нейросетей выделяется Алгоритм Двойственного функционирования (АДФ). Нейросети, обучаемые по этому алгоритму» демонстрируют явное преимущество •горед нейросетяш, обучаемыми го другим' алгоритмам, благодаря возможности обучать аналоговые (оперирующие непрерывными сигналами) нейросети, функционирующие во времени, а также в универсальности и точности задания реализуемой нейросетыо функции, что делает эти сети наиболее перспективными для аппаратного воплощения.

Цохво выделить два основных подхода и реализации нейросетей: цифровой п аналоговый. Преимуществом аналоговых реализаций являются: высокое быстродействие, надежность и экономичность."

Однако сфера возмоеного массового использования обучаемых аналоговых вейрочипов достаточно узка. Это обусловлено большой сложностью аппаратной реализации высокоэффективных обучающих алгоритмов и необходимостью специальной подготовки потенциальных пользователей для оптимальной организации адаптивного процесса.

В то хэ время пшрокое распространение могут получить обученные аналоговые нейрокомпьютеры '(нейросети) с фиксированной или незначительно подстраиваемой структурой связей, которые предлагается называть нейропроцессорами.

Задача создания нейропроцессоров. сводится к обучению цифровой нейросетевой модели нужному поведению на обычном цифровом компьютере и переносу подученных весовых коэффициентов в матрицу постоянных резисторов нейрочипа.

Проектирование нейропроцессоров целесообразно осуществлять с помощью системы автоматизированного проектирования (САПР) нейросетей, исследование подходов к разработке которой целесообразно разбить на следуодав этапы:

1.Модификация структуры существующих моделей нейросетей, обучаемых по Алгоритму Двойственного Функционирования, с целью отражения в ней основных свойств формальных нейронов, построенных из аналоговых электронных компонентов, и оценка адаптивных свойств таких сетей методом программного моделирования;

2.Разработка электронной системы аналогового формального нейрона для послойной аналоговой нейросети, создание программного обеспечения для моделирования такой сети и оценка ее адаптивных свойств методом программного моделирования;

3.Доработка электронной схемы аналогового формального нейрона с целью получения схемы нейрона для аналоговой рекуррентной нейросети с произвольной длительностью функционирования, доработка программного обеспечения с целью моделирования нейросети из таких нейронов, расчет значений компонентов элентронной схемы в режиме адаптации, изготовление и испытание экспериментального образца.

Глава 2. Сравнительные свойства адаптивных сетей с полярными и неполярными синапсами.

Существующие математические описания и программные реализации нейросетей, обучающихся в соответствии с Алгоритмом Двойственного Функционирования, именуемые в тексте "АДФ- нейросети", предусматривают весовые коэффициенты (синапсы) формальных нейронов как с положительными, так и с отрицательными значениями. В переносе на представления электроники это означает возможность инвертировать входной сигнал, что для резисторов (резисторы являются носителями весов элементов синаптической карты нейропро-цессоров) невозможно, поскольку они являются простыми пассивными элементами электронной схемы.

С другой стороны для нейронов АДФ-нейросети'не предусматри-

веется возможность инвертирования сигнала (смены его полярности). В то же время для моделирования формальных нейронов АДФ-нейросвти в электронной схеме представлялось целесообразным использовать операционные усилители (ОУ) как специализированные устройства (микросхемы) для обработки аналоговых сигналов. ОУ изначально конструируются с возможностью выполнения операции инвертирования.

Поэтому было решено заменить в существующей модели АДФ-нейросети операцию инвертирования на синапсах на операцию инвертирования на нейронах.

Для моделирования аналоговых нейросетей, состоящих из реальных электронных компонентов, описание обучаемых по Алгоритму Двойственного Функционирования нейросетей было модифицировано с учетом вышеупомянутых ограничений.

Оценка адаптивных свойств модифицированного варианта АДФ-нейросетей относительно нейросетей с традиционной структурой была выполнена на компьютерных моделях нейросетей, функционирующих в дискретном времени.

При этом выходной сигнал 1-го> элемента экспериментальных нейросетей описывался соотношением :

где равно +1 или -I в зависимости от требуемой полярности выходного сигнала; к - номер такта функционирования нейросети; а -коэффициент;

уравнение для вектора входных сигналов элементов сети

<£+1 = + 1р11) .

(1)

Р* = 2 \*1Л\ - А1

к

(2)

где - весовые коэффициенты межэлементных связей; а^ - выходной сигнал ¿-го элемента; внешний входной сигнал; обратное распространение ошибки

<1 - 1а£|>2 ОТ

= Ъ —- I И? 1^1 + О)

где Н - оценка качества функционирования сети; величина приращения весов связей

= -с 1гт °5 • к

где Б - шаг модификации весов связей.

Сравнительные эксперименты велись с использованием трех простых задач, описанных ранее (С.И.Барцев, 1987).

Первая задача играла роль тестовой, демонстрирующей способность алгоритма модифицировать веса связей элементов, не являющихся входными или выходными. В атом заключается одно из отличий ДДФ-нейросети от Персептрона. Она показала себя чрезвычайно удобной в период отладки программного обеспечения, так как позволяла проверить работоспособность новой структуры нейросети на сети с минимальным числом элементов..

Более сложной задачей является генерация последовательностей. Задача позволяла провести сравнение качества адаптации многоэлементных сетей с повышенной длительностью обучающей последовательности и оценку влияния знаковой конфигурации нейронов предложенной структуры сети на качество обучения.

Третья задача - "детектор направлений". Выделялись три входных (рецептивных) и один выходной элемент сети. Перемещениям

о.'ъекта соответствовало последовательное возбуждение элементов условного трехэлементного рецептивного поля. Перед системой ставилась задача при перемещении объекта слева-направо выдавать на •выходе ■+!, а справа-налево -I. При всех прочих перемещениях объекта на выходе требовался 0. Это позволяло оценить возможности адаптации сети с неполярными синапсами к многопаттерновой задаче.

В диссертации приведен ряд таблиц, графиков и диаграмм, составленных по результатам экспериментов на программных моделях и проведено подробное исследование влияния знаковых конфигураций нейронов нейросетей на качество адаптации экспериментальных нейросетей. Распечатки результатов машинных экспериментов, общее количество которых равно 280, вынесены в приложения I и 2.

Проведенные исследования показали, что при условии правильного выбора знаковой конфигурации нейронов нейросетей с предложенной структурой, качество их адаптации сопоставимо с качеством адаптации нейросетей с традициощой структурой, что позволяет использовать нейросети с негголярными синапсами наряду с традиционными нейросетями.

Глава 3. Моделирование аналоговых адаптивных сетей.

В этой главе представлено решение 2-х задач:

1) схемотехническое' проектирование: формируется функциональная схема формального нейрона и проводится ряд ее упрощений путем сопоставления с известными либо возможными решениями электроники, что позволяет получить упрощенную электрическую принципиальную схему аналогового формального нейрона;

2) программное моделирование: модифицируется структура адаптивных элементов АДФ-нейросетей до соответствия ее структуре схем полученных формальных нейронов и проводится апробация новой

модели адаптивной сети.

Функциональная схема адаптивного элемента (нейрона), представленная на рисунке I, отражает его основные функции в процессе функционирования для существующих математических описаний н программных реализаций нейросетей, обучающихся в соответствии с Алгоритмом Двойственного функционирования, именуемых в тексте "АД®- нейросети".

Элементы схемы имеют следующие обозначения: Л1 - внешний входной сигнал нейрона; а- сигналы от других нейронов сети (1£3<Ю; х1'хи ~ восовыо коэффициенты, сохраняемые сетыэ О^КЮ; - функции преобразования Г(а;),х±;)), осу-

ществляющие взвешивание входных сигналов нейрона (1СКЮ; 2 ~ сумматор взвешенных сигналов; <2 - функция преобразования )))а1 - выходной сигнал нейрона.

Рис.1. Функциональная схема адаптивного элемента.

Далее, на основе сопоставления модифицированного математи ческого описания функционирования нейронов АДФ- нейросети, предложенного во второй главе, и математических выражений, описываю-

щих функции электронных компонентов и схем, выбранных для реализации формального нейрона, в диссертации выполняется ряд упрощений функциональной схемы адаптивного влемента (рис.1). Описываемые упрощения оказались возможными за счет совмещения различных функций на одних и тех же элементах электронной схемы.

Кроме того предлагается использовать для нейрона в данной работе линейную характеристику с ограничением. Это. связано с тем, что характеристики операционных усилителей практически линейны в пределах естественного ограничения сигнала и использование нелинейных характеристик потребовало бы специальных мер для

«г

"н

Рис.2. Электрическая принципиальная схема аналогового адаптивного элемента для инвертирующего включения ОУ:

Еоспроизведения характеристики соответствующей формы. Усложнение электронной схемы и настройки ОУ вследствие необходимости обеспечения достаточно стабильной работы устройств с нелинейной характеристикой делает применение нелинейных преобразований на

V оо 0

+и -и

этапе экспериментальных исследований нежелательным.

Вследствие проделанных преобразований и упрощений электрическая принципиальная схема аналогового адаптивного элемента приняла вид, показанный на рисунке 2.

Разработанная схема аналогового формального нейрона может быть использована при построении слоистых нейросетей с идентичными слоями. Подобные сети являются удобным промежуточным представлением между слоистыми и рекуррентными дискретными нейросе-тями, моделируемыми на компьютерах. При условии равенства числа, слоев такой сети числу тактов функционирования рекуррентной ней-росети эти сети могут описываться одинаковыми уравнениями.

Опираясь на полученные результаты и на основе выражений для функционирования адаптивного элемента с линейной характеристикой, предложенных ранее (С.И.Барцев, В.А.Охошш, 1986), уравнение (I) для выходного сигнала 1-го элемента было переписано следующим образом:

а1+1= р± е<1-и3> 0(1-^) + 0(«-1) - енм) + о , где «•

равно +1 или -I в зависимости от требуемой полярности выходного сигнала нейрона;

атах- предельное значение для а1 ; •

о - коэффициент.

Тогда уравнение (2) примет вид :

|Хи/Х1ос| |Х,./1^1 , (6)

обратное распространение ошибки

„ , ан

Ц*-1= 711 9(14«) 6(1-0) + о ] £ ^ |ХП / Х±оо| + -5-, (7)

3 I

величина приращения весов связей

АХ = - Б - I ^ •

величина приращения весовых коэффициентов для входных сигналов

Х1 "

АХ. = - Б - I ^ • О)

1Х1Х1001 ^ 1 3

На базе полученных представлений было разработано соответствующее программное обеспечение для моделирования нейросети из аналоговых формальных нейронов и проведен цикл машинных экспериментов, соответствующих описанным в главе 2.

В диссертации приведен ряд таблиц, гистограмм и графиков динамики адаптации, составленных по результатам экспериментов.

Общее количество проведенных компьютерных экспериментов составило 420. Распечатки их результатов приведены в приложениях к диссертации 3 и 4.

На полученных программных моделях рассчитаны величины резисторов синаптических карт.аналоговых нейросетей для трех исследуемых задач. Результаты расчетов приведены в таблицах.

В целом полученные данные позволили сделать вывод о возможности использования предложенного подхода для проектирования аналоговых электронных слоистых нейросетей с фиксированной структурой.

Глава 4. Опыт проектирования аналоговой адаптивной сети с фиксированной структурой.

К сожалению нейросети, описанные в главе 3, неизоморфны нейросетям со скользящей оценкой с произвольной длительностью функционирования. Между тем создание именно таган сетей является наиболее актуальным для практического применения.

Однако на пути создания аналоговых нейросетей, способных функционировать во времени, стоит ряд проблем. Среди них можно выделить следующие:

1) асинхронность аналоговой рекуррентной нейросети (нейросети, в которой специальным образом должна быть организована циркуляция аналоговых сигналов в течение заданного времени через одни и те же цепи и элементы с целью обеспечения возможности функционирования во времени) - время появления отклика в ответ на входной сигнал (на выходах всех нейронов) не синхронизировано, что будет приводить к появлению и накоплению ошибок в работе сети из-за различающихся задержек распространения аналогового сигнала на нейронах и межнейронных соединениях;

2) помехонеустойчивость - аналоговая нейросеть (нейрочип) с непосредственными связями и огромным количеством соединений, при малом расстоянии между ними, будет проводником и источником множества паразитных колебаний (в широком спектре частот), которые крайне трудно будет выявлять и подавлять с целью предохранения полезного сигнала от искажений;

3) слишком большая длительность модельных расчетов на компьютере из-за необходимости моделирования динамики переходных процессов в системе в течение всего периода обучения ставит под сомнение саму возможность автоматизированного проектирования аналоговых нейропроцеосоров.

Эффективное решение перечисленных проблем заключается в переводе аналоговой нейросети в режим функционирования в дискретном времени путем введения в схемы формальных нейронов дискрети-заторов аналогового сигнала.

«и

А.

1 ! .

*12 -

— — — —»-

-

а1

АБ

Рис.3. Функциональная схема аналогового нейрона с дискретизацией и задержкой сигнала.

Дискретизация позволила строго синхронизировать функционирование всех формальных нейронов сети и резко снизить уровень помех, благодаря интегрированию их на элементах аналогового дис-1фетизатора. Дискретизация обеспечила цифро- аналоговую конвертируемость нейросетевых алгоритмов, т.е. взаимно-однозначное отображение выделенного класса аналоговых нейросетей в их цифровую модель. Таким образом, появляется возможность использования существующих достижений в ускорении обучения и повышении качества адаптации дискретных нейросетей, моделируемых на компьютерах (А.Н.Горбань, 1990), для проектирования нейропроцессоров и исключается необходимость моделирования динамики переходных процес-

сов в аналоговой сети.

Функциональная схема аналогового даскретизатора, использованного в работе, приведена на рисунке 4.

К1-К4 на функциональной схеме представляют собой коммутаторы аналоговых сигналов, а АЗУ1, АЗУ2 - аналоговые запоминающие устройства.

К1 К2

Рис.4. Функциональная схема аналогового даскретизатора формального нейрона.

Легко видеть, что при синхронном переключении пар коммутаторов 1С1.К4 и К2.КЗ АЗУ1 V АЗУ2 будут поочередно подключаться либо ко входу, либо к выходу устройства. При подключении ко входу соответствующее АЗУ будет находиться в режиме выборки сигнала. При подключении к выходу значение выбранного в прошлом такте сигнала будет фиксироваться на выходе устройства. Описанный подход позволил совместить в одном устройстве достоинства как аналоговых, так и дискретных реализаций.

Для создания экспериментального нейропроцессора была выбра=-на первая задача, описанная в главе 2 (функциональная схема и

фотография нейропроцессора приведены в диссертации). Выбор был обусловлен двумя причинами. С одной стороны эта задача позволяет • продемонстрировать результаты проведенных исследований на устройстве с минимальным, но достаточным для адаптации, числом элементов. С другой стороны, выбранная знаковая конфигурация нейронов позволила получить на выходе, сети асимметричный сигнал (рис.5), непохожий на затухающие колебания.

ЩУ)

о

-2

г\ 1

/ / / г

Один

такт

ЮОмкс

Рис.б. Идеальная форма выходного сигнала демонстрационной нейросети: -; реальная форма: --.

Для расчета синаптической карты экспериментального нейропроцессора было использовано программное обеспечение, описанное . в главе 3, которое было доработано для моделирования режима непрерывного функционирования нейросети. Этот режим позволил получить на выходе нейросети регулярно повторяющийся во времени сигнал (рис.5), что дало возможность наблюдать его на экране электронно-лучевого осциллографа в процессе экспериментов.

Изображенный на рисунке сигнал возникал в ответ на прямо-

угольный импульс длинной один такт и амплитудой II вольт на входе нейросети.

Форма реального выходного сигнала несколько отличалась от идеальной. Фронты импульсов были несколько "завалены", а на спадах присутствовала импульсная помеха, возникающая в результате неидеальности коммутаторов аналогового сигнала. Эти отклонения не влияли на работу схемы, поскольку "неидеальности" фронтов и спадов сигнала короче по времени длины такта функционирования.

Длительность выходного сигнала (рис.5) была выбрана равной 100 микросекундам из соображений удобства при создании и экспериментировании с демонстрационным нейросетевым устройством. При условии дальнейшей инженерной проработки быстродействие таких устройств может быть увеличено.

Однако и в существующем варианте аналоговая трехнейронная нейросеть'опережает в 140 раз по быстродействию компьютер IBM AT 286 с сопроцессором 80287 при тактовой частоте 20 МГц (100 то против 14-000 мкс). Данные приведены по результатам программного теста для нейросети на основе алгоритма традиционной структуры.

С увеличением числа нейронов время вычислений на компьютере для полносвязанной АДФ-сети будет возрастать по квадратичной зависимости, в то время как для аналоговой нейросети, предложенной в данной работе, оно останется неизменным.

вывода

I. Предложен подход к конструированию аналоговых нейросетей, заключающийся в разделении процессов обучения и функциони-

«

рования нейросети. При этом обучение выполняется на компьютерной модели нейросети, а полученные значения элементов синаптической

карты переносятся в электронную схему в виде величин резисторов.

2. Предложена структура АДФ-нейросетей с неполярными синап- ■ сами и полярными'нейронами, пригодная для компьютерного моделирования электронных аналоговых нейросетей с целью расчета их си-наптической карты. В соответствии с предложенной структурой модифицирована процедура обучения.

3. Предложен принцип цифро-аналоговой конвертируемости и разработана схема аналогового формального нейрона с фиксированными параметрами для функционирования в дискретном времени.

4. Разработано программное обеспечение для моделирования электронных аналоговых нейропроцессоров с произвольной длительностью функционирования, позволяющее проводить расчет элементов их синаптической карты.

5. Смонтирован и успешно испытан экспериментальный аналоговый нейропроцессор из разработанных формальных нейронов, построенный на основе предложенного подхода.

Основные результаты диссертации опубликованы в работах:

1.Барцев С.И., Ланкин Ю.П. Сравнительные свойства адаптивных сетей с полярными и неполярными синапсами.- Красноярск, 1993.- (Препринт Института биофизики СО РАН; N 196Б).- 27 стр.

2.Барцев С.И., Ланкин Ю.П. Моделирование аналоговых адаптивных сетей.- Красноярск, 1993.- (Препринт Института биофизики СО РАН; N 203Б). - 36 стр.

3.Барцев С.И., Ланкин Ю.П. Нейрокомпьютеры в экологии.// Международный конгресс "Окружающая среда для нас и для будущих поколений. Экология и бизнес в новых условиях". Тезисы докладов.- Красноярск: Институт физики СО РАН.- Стр.49. — 4393,

4.Ланкин Ю.П. Экология и нейрокомпьютеры.// Эколого- соци-

альные проблемы Центральной Сибири (на прпморо Ангаро- Енисейского региона). Материалы международной конференции по экологическим проблемам.- Лесосибирск: Енисейская типография, 1393.-Стр.80.

5-Ланкин Ю.П. Реализация аналоговых нейросетой с фиксированной структурой.// НеЗроинформатика и нейрокомпьютеры. Тозпсы докладов Всероссийского рабочего семинара.- Красноярск: Институт физики СО РАН, 1993.- Стр.23.

6.Барцев С.И., Лашаш В.П. Адаптивное прооктировагаю аналоговых нейросетей с фиксированной структурой.- Красноярск, 1994.-(Препринт Института биофкзтгхи СО РАН; N 211Б).- 27 стр. — "К "■

7.Барцев С.И., Ланкш Ю.П. Проектирование аналоговых сш~ циалпйировашшх кэПрепроцессоров.// Найрсинформатака и о о црило-азппя. Тезисп докладов Всероссийского рабочего семинар:.. ~ Красноярск: КГГ/, IS94.- Стр.22.

Подписано к печати 17.01.55. Уч.изд.л. Т. Тираж 100 экз. Заказ N35 Отпечатано на ротапринте 13 СО РАК 650036. Красноярск, Академгородок.