Введение к работе
Актуальность темы. Теория искусственных нейронных сетей (ИНС) и нейрокомпьютерных систем (НКС) благодаря фундаментальным работам зарубежных исследователей У. Мак-Каллока, У. Питтса, Ф. Розенблатта, Б. Уидроу, Т. Кохонена, Д. Хопфилда, С. Гроссберга, а также советских и российских ученых И.Б. Гутчина, А.С. Кузичева, Н.В. Позина, СО. Мкртчяна, Н.М. Амосова, А.И. Галушкина, А.Н. Горбаня, Е.М. Миркеса, А.В. Каляева, Э.Д. Аведьяна, Н.И. Червякова и др. получила широкое развитие. При этом основные направления исследований были связаны с разработкой моделей искусственных нейронов (ИН), изучением структуры и свойств различных моделей нейронных сетей, их обучением (настройкой) для решения поставленных задач и проектированием нейрокомпьютерных систем на их основе. В настоящее время нейросе-тевая тематика стала междисциплинарной и породила новые научные направления, такие как нейроинформатика, нейроматематика и др. Нейронные сети и нейрокомпьютеры находят применение для решения задач во многих областях научно-исследовательской деятельности.
Стремительное развитие нейрокомпьютерных технологий приводит к появлению научных проблем и задач, системному решению которых ранее уделялось недостаточно внимания. Одной из таких проблем является отсутствие комплексного подхода в анализе и разработке базовых принципов организации отказоустойчивых нейровычислительных структур, а также построении математических моделей, разработке методов, постановке и решении задач обеспечения и повышения надежности функционирования ИНС и НКС. Необходимость исследования надежности нейронных сетей и нейрокомпьютерных систем отмечают ведущие специалисты в области нейроинформатики и нейрокомпьютеров, полагая, что решение данной проблемы окажет существенное влияние на создание высоконадежных ИНС и нейрокомпьютерных систем на основе принципиально новых технологий, включая нанотехнологии, что существенно повысит эффективность их использования.
Повышение надежности функционирования нейронных сетей и нейрокомпьютеров - актуальная задача, имеющая большое хозяйственное значение, поскольку надежность является одним из самых важных свойств современной техники вследствие того, что от нее зависят такие показатели как качество, эффективность, безопасность, готовность, живучесть систем. Изучение отечественных и зарубежных открытых источников информации показало, что интерес к данной проблеме возрастает и носит многоплановый характер. При этом основное внимание в области изучения и повышения надежности ИНС сосредоточено, как правило, на решении частных проблем и проводимые исследования зачастую имеют прикладной характер. Таким образом, особой важностью и актуальностью характеризуются системные теоретические и прикладные исследования в данной области знаний.
Целью работы является обобщение известных и разработка новых математических моделей, методов и решений задач обеспечения и повышения надежности функционирования ИНС и НКС, совокупность которых отражает сис-
темный подход в исследовании надежности искусственных нейронных сетей и нейрокомпьютерных систем.
Основные задачи, поставленные и решенные в данной диссертационной работе, следующие.
-
Исследование информационной избыточности сообщений в структуре нейронов и нейронных сетей и методов введения информационного резервирования для обеспечения надежности функционирования ИНС. Разработка моделей отказоустойчивых многофункциональных нейромодулей с использованием методов информационно-структурного резервирования.
-
Исследование функциональной (логической) избыточности ИНС как фактора обеспечения отказоустойчивости в работе ИКС. Развитие метода синтеза адаптивных к отказам оптимизированных функционально избыточных нейронных сетей на основе дифференцированного подхода, позволяющего эффективно использовать имеющуюся избыточность ИНС для адаптации к отказам.
-
Построение моделей и исследование методов обеспечения и повышения готовности нейрокомпьютерных систем с учетом различных условий их функционирования и особенностей технической реализации.
-
Разработка и развитие моделей функционирования структурно избыточных нейронных сетей НКС и методов решения задач оптимизации показателей надежности избыточных структурно-однородных «нестареющих» и «стареющих» ИНС нейрокомпьютерных систем с замещением отказавших нейронных блоков резервными.
-
Постановка и решение методами теоретико-игрового моделирования задач оптимизации показателей надежности избыточных структурно-однородных «стареющих» ИНС нейрокомпьютерных систем с динамическим замещением отказавших нейронных блоков резервными в конфликтных ситуациях, в т.ч. задачи противоборства двух НКС.
-
Теоретическое обоснование, разработка и исследование моделей введения в процесс функционирования нейрокомпьютерных систем временной избыточности (временного резервирования) как фактора повышения надежности выполнения задания с учетом различных условий работы НКС и особенностей технической реализации.
-
Обобщение и систематизация теоретических положений, моделей, методов и решений задач исследования, обеспечения и повышения надежности ИНС и НКС.
Для решения поставленных задач используются математический аппарат теории надежности, теории марковских процессов, прикладной теории информации, теории игр, вычислительной математики и компьютерное моделирование.
Научная новизна диссертационной работы заключается в следующем.
1. Исследованы информационная избыточность в структуре волокон ИН и межнейронных соединений ИНС и методы информационного резервирования. Разработаны модели отказоустойчивых многофункциональных нейромодулей с информационно-структурным резервированием.
-
Разработан метод синтеза оптимизированных функционально избыточных ИНС с дифференцированным способом адаптации к отказам, позволяющий эффективно использовать имеющуюся избыточность ИНС в целях повышения отказоустойчивости.
-
Разработаны модели и даны решения задач исследования и повышения готовности нейрокомпьютерных систем с учетом различных условий их функционирования и особенностей технической реализации.
-
Построены базовые модели, поставлены и решены задачи оптимизации показателей надежности структурно однородных «нестареющих» и «стареющих» ИНС нейрокомпьютерных систем с замещением отказавших нейронных блоков резервными. Решения задач доведены до алгоритмов, реализуемых на современных ПЭВМ.
-
Построены вероятностные модели, развивающие и дополняющие базовые модели функционирования структурно однородных «нестареющих» и «стареющих» ИНС, с учетом отказов системы контроля и адаптации, временных затрат на процедуры дообучения (переобучения), ограниченного замещения в рамках общего резерва.
-
Поставлены и решены задачи оптимизации динамического резервирования структурно однородных «стареющих» ИНС нейрокомпьютерных систем. Методами теоретико-игрового моделирования решены задачи оптимизации резервирования «стареющих» ИНС в конфликтных ситуациях. Поставлена и решена задача исследования противоборства двух НКС.
-
Поставлены и решены задачи исследования и повышения эффективности применения методов временного резервирования процесса функционирования НКС с учетом различных условий работы и особенностей их технической реализации.
Теоретическая ценность диссертации:
-
Рассмотрены и обобщены методы введения и эффективного использования в целях повышения надежности НКС различных видов избыточности ИНС - информационной, функциональной, структурной и временной.
-
Разработаны вероятностные модели функционирования НКС в условиях возникновения отказов, используемые в широком спектре исследовательских и оптимизационных задач, в т.ч. для исследования методов синтеза отказоустойчивых ИНС, а также в задачах оптимизации показателей надежности и рационального выбора технических решений при проектировании нейровычисли-тельных систем и комплексов.
-
Поставлены и решены задачи исследования и оптимизации показателей надежности «нестареющих» и «стареющих» ИНС, оптимизации восстановления работоспособности ИНС, отыскания функций восстановления ИНС, обеспечивающих НКС заданный уровень надежности, задачи резервирования ИНС в конфликтных ситуациях и противоборства нейрокомпьютерных систем, исследования и повышения эффективности временного резервирования процесса функционирования НКС.
-
Совокупность представленных в диссертации теоретических положений, моделей, методов и задач является основой для системного исследования надежности нейровычислительных систем и комплексов.
-
Исследования по данной тематике основаны на результатах выполненного автором диссертации комплекса фундаментальных научно-исследовательских работ в рамках госбюджетных НИР по заданию Минобрнау-ки РФ и при поддержке в форме грантов:
Грант Президента РФ (№МК-7420.2006.8) для молодых ученых - кандидатов наук «Построение математических моделей, разработка методов и алгоритмов оптимизации надежности искусственных нейронных сетей нейроком-пьютерных систем с логической, аппаратурной и временной избыточностью» (2006-2007 гг.).
Грант РФФИ (№06-07-89013-а) «Построение математических моделей, разработка методов и алгоритмов оптимизации надежности искусственных нейронных сетей с логической, аппаратурной и временной избыточностью» (2006-2007 гг.).
Грант Минобрнауки РФ по естественным и точным наукам (Е02-2-75; № ГР 01.02. 00306859) «Разработка математических моделей и методов оптимизации функциональной надежности искусственных нейронных сетей» (2003-2004 гг.).
Госбюджетная НИР по заданию Минобрнауки РФ «Разработка методов оптимизации надежности и технической диагностики адаптивных отказоустойчивых систем автоматики и вычислительной техники из искусственных нейронных сетей»; № ГР 0120.0 407005 (2004-2006 гг.).
Госбюджетная НИР по заданию Минобрнауки РФ «Разработка основ прикладной теории надежности нейронных сетей и нейрокомпьютерных систем»; № ГР 0120.0 712204 (2007-2009 гг.).
Практическая ценность диссертации:
-
На основе результатов исследований информационной избыточности ИНС и методов информационного резервирования разработаны модели отказоустойчивых многофункциональных нейромодулей с информационно-структурным резервированием, имеющие преимущество в характеристиках надежности по сравнению с логически эквивалентными многофункциональными ИН.
-
Разработан метод синтеза оптимизированных функционально избыточных ИНС нейрокомпьютерных систем с дифференцированным способом адаптации к отказам, позволяющий эффективно использовать имеющуюся логическую избыточность ИНС в целях повышения отказоустойчивости НКС.
-
Построены модели и даны решения задач выбора режима контроля работоспособности ИНС нейрокомпьютерной системы, исследования готовности НКС при настройке и восстановлении ИНС после отказов, готовности НКС при диагностике ИНС и восстановлении после различных типов отказов, оптимизации готовности НКС в условиях длительного автономного функционирования.
-
Поставлены и решены задачи оптимизации резервирования, максимизирующего показатели надежности структурно-однородных «нестареющих» и
«стареющих» ИНС нейрокомпьютерных систем с замещением отказавших нейронных блоков резервными. Решения задач доведены до алгоритмов, реализуемых на ПЭВМ, и могут использоваться при построении отказоустойчивых НКС.
-
Поставлены и решены задачи исследования и повышения эффективности применения методов временного резервирования процесса функционирования НКС с учетом различных условий работы и особенностей их технической реализации, которые могут использоваться в инженерной практике.
-
Разработано и зарегистрировано в ОФАП программное обеспечение для решения практических задач оптимизации структурного резервирования (в т.ч. динамического) однородных ИНС нейрокомпьютерных систем.
Основные результаты, выносимые на защиту.
-
Методы введения структурной, функциональной, информационной и временной избыточности в структуру и процессы функционирования нейронных сетей и нейрокомпьютерных систем, а также соответствующие модели и методы синтеза отказоустойчивых НКС.
-
Вероятностные модели для расчета, анализа и решения поставленных в диссертации задач оптимизации показателей надежности ИНС нейрокомпьютерных систем с информационным, структурным, функциональным и временным резервированием.
-
Решение задачи синтеза адаптивных к отказам ИНС, модели и задачи исследования и повышения готовности нейрокомпьютерных систем, включая модели систем с ненадежным устройством контроля и адаптации нейронной сети к отказам, модели подготовки НКС к функционированию, постановки и решения задач о выборе режима контроля работоспособности ИНС нейрокомпью-терной системы.
-
Постановка и решение задач оптимизации структурного резервирования «нестареющих» и «стареющих» однородных ИНС, в т.ч. систем с динамически перераспределяющимся в процессе функционрования резервом, обеспечивающего максимизацию основных показателей надежности НКС, включая задачи оптимизации структурного резервирования ИНС в конфликтных ситуациях и в условиях противоборства двух НКС.
-
Вероятностные модели функционирования однородных «нестареющих» и «стареющих» ИНС с учетом отказов системы контроля и адаптации, временных затрат на выполняемые с целью восстановления функциональных свойств нейросетей процедуры дообучения (переобучения) и дополнительных ограничений на замещение отказавших блоков резервными.
Личный вклад автора. Основные полученные научные результаты, включая обобщение и систематизацию комплекса теоретических и прикладных исследований, моделей, методов и задач обеспечения и повышения надежности искусственных нейронных сетей и нейрокомпьютерных систем, являются личным вкладом автора. Отдельные результаты, представленные в диссертации в разделах 1.2 (модели ИН), 2.1, 2.2 (синтез логически стабильных ИНС), 2.3 (минимизация процесса адаптации), 4.1-4.5, 5.3, 5.4, 6.1 (оптимизация структурного резервирования и восстановления ИНС), 6.4 (противоборство НКС), получены совместно с д.т.н., профессором В.И. Потаповым в рамках НИР, выполняемых
при поддержке РФФИ и Минобрнауки РФ (руководитель В.И. Потапов). Программное обеспечение для решения задач оптимизации структурного резервирования однородных ИНС нейрокомпьютерных систем разработано совместно с М.В. Кузиным в рамках одного из этапов выполнения НИР при поддержке Гранта Президента РФ для молодых ученых - кандидатов наук (руководитель И.В. Потапов).
Апробация работы. Результаты работы докладывались на конференциях международного, всероссийского и регионального уровней: «Природные и интеллектуальные ресурсы Сибири» (Кемерово, 2002, 2007; Барнаул 2005; Новосибирск, 2004; Тюмень, 2006), «Интеллектуальные и многопроцессорные системы» (Геленджик, 2005), «Искусственный интеллект. Интеллектуальные и многопроцессорные системы» (Кацивели, Крым, 2006), «Актуальные проблемы электронного приборостроения» (Новосибирск, 2004), «Динамика систем, механизмов и машин» (Омск, 2002, 2004, 2007), «Новые информационные технологии в исследовании сложных структур» (Шушенское, 2006, Томск, 2008), «Современные технологии при создании продукции военного и гражданского назначения» (Омск, 2001), «Развитие оборонно-промышленного комплекса на современном этапе» (Омск, 2003), «Военная техника, вооружение и технологии двойного применения» (Омск, 2005), «Информационные технологии и математическое моделирование» (Анжеро-Судженск, 2005, 2008), «Нейроинформатика и ее приложения» (Красноярск, 2006), «Нейроинформатика, ее приложения и анализ данных» (Красноярск, 2007, 2008), «Проблемы разработки, изготовления и эксплуатации ракетно-космической и авиационной техники» (Омск, 2004), «Наука, технологии, инновации» (Новосибирск, 2004).
Использование результатов диссертации. Результаты диссертационной работы использованы в ПО «Полет» (филиал ФГУП ГКНПЦ им. М.В. Хруниче-ва, г. Омск) при разработке космического аппарата «Союз Сат» при определении требований к программно-аппаратной адаптивной системе предупреждения катастрофический отказов жизненно важных функций бортовых систем; в разработках ОАО «Омская энергосбытовая компания (г. Омск) при проведении перспективных исследований по прогнозированию потребления электроэнергии при помощи аппарата искусственных нейронных сетей. Также результаты диссертации используются при выполнении фундаментальных НИР (госбюджетные НИР по заданию Минобрнауки РФ) и в учебном процессе в Омском государственном техническом университете (г. Омск) при подготовке магистров по магистерской образовательной программе «Отказоустойчивые вычислительные системы»; в учебном процессе в Омском государственном университете им. Ф.М. Достоевского (г. Омск) при подготовке инженеров по специальности 230101 -«Вычислительные машины, комплексы, системы и сети». Имеются акты об использовании.
Публикации. По материалам диссертации автором опубликовано 46 научных работ, включая 3 монографии, 42 печатные работы в журналах и сборниках (из них 15 статей в журналах по перечню ВАК РФ), 1 депонированную в ВИНИТИ рукопись. Получено свидетельство о регистрации программного обеспечения в ОФАП.
Структура и объем работы. Диссертация состоит из введения, 7 глав, заключения, библиографического списка (302 наименования) и приложения. Основное содержание работы изложено на 300 страницах. В тексте содержатся 16 рисунков и 3 таблицы.
