Введение к работе
Исследование вопросов использования многоэлементных динамических систем типа электронных нейронодобных сетей в обработке информационных сигналов ведется вот уже на протяжении сорока лет. Первая волна интереса к такого рода системам относится к пятидесятым годам и связана с именами Мак-Каллока, Питтса, Розенблатта и других авторов. Ими были, предложен ряд модглей ' нейроподобных сетей позволивших моделировать процессы адаптации. Однако после работы Минского и Пейперта, показавшей ограниченность существовавших в то время моделей, первая волна интереса к нейросетевой тематике спала.
Новый подъем интереса к этой проблеме начинается с выхода работы Хопфилда в 1982 году. Привлекательной особенностью модели Хопфилда являлась ее близость к ряду моделей физических сред, в частности к моделям спиновых стекол. Сеть, предложенная Хопфилдом, состоит из модельных нейронных элементов с сигмоидальной функцией отклика и нейронной структуры с симметричными связям". Модель описывается системой обыкновенных дифференциальных уравнений первого порядка и подчиняются минимизационному принципу. Запоминаемые объекту, распознаваемые образы интерпретируются в данном случае как положения устойчивого равновесия системы. Таким образом нейроподобная сеть в явной форме задана как динамическая система, а распознаваемые образы или запоминаемые объекты ассоциируются с простейшими аттракторами -устийчивь. ш положениями равновесия системы. Область бассейна притяжения каждого из аттракторов определяет предел "распознавания" того или иного образа.
Однако характер процессов обработки информационных сигналов в естественных системах может радикально отличаться , от соответствующих процессов з системах типа Хопфилда. Имеются
нрямые экспериментальные данные свидетельствующие о важной роли сложной, в том числе хаотической динамики в информационных процессах.
Таким образом для выхода на новый уровень понимания механизмов обработки информации необходимо создание и изучение математических моделей нейроподобных систем более адекватно отражающих процессы в естественных системах, в частности обладающих сложной динамикой.
Диссертационная работа посвящена следующим вопросам: построение моделей электронных нейроподобных сетей обладающих сложной динамикой и исследование их динамических свойств; разработка и исследование методов записи, хранения и распознавания информационных сигналов в таких системах; применение разработанных методов к задачам обработки текстовой информации.
Актуальность работы определяется тем, что привлечение результатов теории динамического хаоса позволяет рассчитывать па создание новых принципов обработки информационных сигналов. Привлечение идей из нелинейной динамики в сферу информационных і хпологпй основывается также на экспериментальных результатах, свидетельствующих о важной роли сложной динамики в информационных процессах.
Целями настоящсн_работы являются:
построение моделей электронных нейроподобных систем со сложной динамикой;
разработка методов записи и извлечения информационных сигналов в таких системах с использованием в качестве носителей информации предельных траекторий тина положений равновесия, предельных циклов и хаотических аттракторов;
- создание соответствующих алгоритмов и реализация их в виде
программных комплексов.
Основные задачи, решаемые в работе:
построение и изучение, моделей электронных нейронодобных сетей обладающих сложной динамикой и обеспечивающих возможность записи информацией на положениях равновесия;
построение структуры и исследование свойств электронных нейронодобных сетей, рсалисующих динамику кусочно-линейных одномерных и двумерных отображений;
разработка и анализ метода последовательной записи информации на аттракторах одномерных и двумерных отображений и его реализация в электронных нейронодобных сетях;
разработка и ан'їлиз методов записи, хранения и восстановления текстов на предельных циклах одномерных и двумерных отображений;
создание алгоритмов и программных комплексов, реализующих ассоциативную намять для текстовой информации с использованием предельных циклов одномерных и двумерных отображений.
Научная новизна:
- предложены и изучены модели электронных нейроподобнык
сетей, обладающие хаотической динамикой и позволяющие
осуществлять запись информации на положениях равновесия;
- созданы модели электронных нейронодобных сетей реализующих
динамику одномерных и двумерных отображений, и исследованы
колебательные режимы в таких моделях,
- разработан и исследован метод последовательной записи
информационных сигналов на предельных циклах одномерных и
двумерных отображений; \ ,
- предложены алгоритмы и созданы программные комплексы,
реализующие быструю ассоциативную память для текстов.
Достоверность научных выводов нодтверждклъся
согласгтанн~«тью результатов аналитических исследований и
матоматнческого моделирования, а также сравнением с известными из литературы данными.
На защиту выносятся следующие положения:
-
Предложены и исследовань. модели пос /юения электронных нейронных сетей с динамическим хаосом в которых информация записывается на положениях равновесия.
-
Предложены и изучены модели электронных нейронных сетей, реализующих динамику одномерных и двумерных отображений.
3. Разработаг метод последовательной записи информациоп"ых
сигналов на предельные циклы одномерных и двумерных отображений.
. 4. Созданы программные комплексы "Ассоциативная память для текстов", "Среда для создания ассоциативных баз данных", реализующие ассоциативную память для текстовой информации, с использованием предельных циклов одномерных и двумерных отображений.
Научно-яр-чтическое значение. Предложенные и исследованные в диссертационной работе модели электронных нейроподобных сетей со сложной динамикой существенно расширяют представления о возможной роли хаоса в процессах обработки информации в и биологических системах. Разработанные модели могут найти применение і ш разработке систем обработки информационных сигналов. Они могут стать основой для создания ряда информационных технологий. Например, уже изданы алгоритмы и программные комплексы, реализующие быструю ассоциативную память. Ведется р бота по созданию на этой основе "электронных изданий" с ассоциативным доступом.
Апробация работы, публикации, внедрение и использование результатов: материалы диссертация) юй работы были представлены ла II Всесоюзной конференции ' Ленин; ше колебания механических систем" (Горький, 1990), 12 Международной конференции
"Нелинейные колебания" (Краков, Польша, 1990), Международной
конференции "Шумы р физических системах и флуктуации 1/f"
(Киото, Япония, 190.), II Международном семинаре "Клеточные
нейронные сети и их приложения" (Мюнхен, ФРГ, 1992),
Международном семинаре-совещании "Алгоритмы обработки
информации в нейроподобных системах" (Нижний Новгород, 1993),
Международной конференции "Математические методы распознавания
образов" (Москва, 1993), 4 . Международной школе
"Дифференциальные уравнения, бифуркации и хаос" (Кацивели, Украина, 1994), а также докладывались на научных семинарах в Институте радиотехники и электроники РАН, МГУ, Институте прикладной математики РАН, Институте атомной энергии, семинаре Российского общества по нейронным сетям, на семинаре в научно-вычислительном центре "Синапс", Институте физики земли РАН, Калифорнийском университете (Беркли, США), НИЦ компании Хьюлетт-Паккард (Бристоль, Великобритания).
Результаты исследования вошли в работу, представленную на конкурс компании Хьюлетт-Паккард по распознаванию образов в 1992 г., которой был присужден Главный приз этого конкурса.
По теме диссертационной работы опубликовано 11 печатных работ.
Структура и объем работы: диссертационная работа состоит из введения, четырех глав, заключения и списка цитированной литературы. Содержит И^ страниц текста, ^-^ рисунка, *^— таблицы. Список цитированной литературы содержит 66 найменований.
