Введение к работе
Актуальность проблемы. Развитие теории и практики искусственных нейронных сетей (ИНС) связано с количественным и качественным расширением сферы их применения. Современные ИНС, в силу своей структурной организации, и способности обучаться, обладают возможностями моделировать сложные процессы, обобщать информацию, работать с искаженными данными, осуществлять абстрагирование, что позволяет успешно применять их в задачах классификации, прогнозирования, аппроксимации и т.п., решение которых обычно сводится к конструированию областей многомерного пространства, что в общем случае характерно для типичной задачи распознавания образов.
Сфера применения нейросетевых систем постоянно расширяется в связи с растущими потребностями в высокоскоростной обработке информации, которая достигается за счет массового параллелизма в нейросетях. Это способствовало развитию нейрокомпьютерной техники, представляющей собой платы расширения стандартных вычислительных схем с архитектурой, реализующей алгоритмы, представленные в нейросетевом базисе. Аппаратно реализованные нейросетевые системы обработки информации находят применение в различных прикладных областях, в том числе в современных системах автоматического управления, для которых важным требованием является высокое качество и скорость принятия решений.
На качество функционирования данного рода систем оказывают влияние отказы нейронов, объективно возникающие при воздействии внешней среды, и влекущие за собой потерю функциональных возможностей нейронной сети. Высокая степень надежности биологических нейронных сетей уже на ранних стадиях изучения возможностей ИНС привлекла внимание исследователей. Однако, как показали дальнейшие исследования, наличие практически любого дефекта в ИНС, на данном этапе их развития, всегда влияет на качество выполняемых ими функций. Свойство деградации нейросети при выходе из строя отдельных её элементов является серьезным предметом исследований и требует особого внимания.
К приоритетным направлениям развития нейросетевых систем многие отечественные и зарубежные ученые и специалисты в области нейронных сетей относят работы по функциональной отказоустойчивости, надежности ИНС и их диагностики. Значительный вклад в исследование данной проблематики внесли: Р. А. Бабкин, А.И. Галушкин, И.А. Пальянов, А.И. Перегуда, В.И. По-
тапов, И.В. Потапов, B.S. Arad, G.R. Bolt, F.M. Dias, J.B. Dugan, S. Cavalieri, L.C. Chu, R. Eickhoff, V. Piuri, D.S. Phatak, P.W. Protzel, B.W. Wah и многие др.
При этом, как отмечает крупный отечественный специалист в области нейрокомпьютерных систем А.И. Галушкин, одной из проблем является разработка математических моделей и аппарата, необходимых для исследования функциональной надежности ИНС. При этом одна из ключевых трудностей заключается в выявлении отказовых состояний нейросети, которые зачастую зависят от решаемой задачи и в большинстве случаев могут быть определены лишь экспериментально.
В условиях широкого внедрения ИНС в различные современные системы управления, где отказоустойчивость и свойство деградации нейросетей приобретают особое значение, возникает необходимость в разработке методов повышения их надежности, которая обеспечивается, в том числе контролем работоспособности нейронной сети, что выводит тестовый контроль работоспособности в разряд перспективных методов контроля нейроси-стем.
В связи с этим, диссертационная работа посвящена решению актуальной научно-технической проблемы, связанной с разработкой диагностических моделей и методов контроля работоспособности ИНС.
Цель работы. Диссертационное исследование посвящено повышению надежностных характеристик неиросетевых систем обработки информации; разработке эффективных методов синтеза минимальных тестов контроля работоспособности ИНС; разработке математических и диагностических моделей ИНС; разработке программного обеспечения для численного моделирования, оценки работоспособности и расчета необходимых тестовых воздействий неиросетевых систем заданной сложности.
Направление исследований. В соответствии с поставленной целью в работе решены следующие основные задачи:
-
Разработаны и исследованы с точки зрения влияния на работоспособность ИНС модели дефектов искусственных нейронов, предложен специальный показатель качества функционирования ИНС в условиях неисправностей.
-
На базе предложенной в работе модификации сетей Петри разработаны математические модели искусственного нейрона и ИНС прямого распространения.
-
На основе предложенного показателя качества функционирования ИНС и разработанной математической модели ИНС, построена диагностическая модель ИНС.
-
Разработаны алгоритмические процедуры синтеза минимальных тестов контроля работоспособности ИНС на основе обучающей выборки и посредством генерации последовательностей случайных равномерно распределенных независимых чисел.
-
Произведен синтез нейросетевой системы управления на основе синергетического закона управления, на примере которой рассмотрены предложенные процедуры синтеза минимальных тестов контроля работоспособности ИНС.
-
Разработан комплекс программ для экспериментального исследования функциональных возможностей ИНС прямого распространения при наличии в них неисправностей, а также реализующих диагностическую модель и алгоритмы синтеза минимальных тестов контроля работоспособности ИНС.
Научная новизна. В работе получены и выносятся на защиту основные результаты, обладающие научной новизной:
-
Обоснованный теоретически и экспериментально для ИНС различных конфигураций двухуровневый показатель качества функционирования, отличающийся от известных возможностью контролировать активность нейронов выходного слоя при оценке качества принимаемых решений, а также обладающий достаточной степенью чувствительности к наличию в ИНС дефектов, что позволяет его применять при решении задач контроля работоспособности ИНС.
-
Расширенная модель дефектов искусственных нейронов, отличающаяся от известных ранее константных неисправностей const = 0, const = 1 на выходах нейрокомпо-нент рассмотрением промежуточных постоянных значений в интервале (0,1), и представляющая собой новый класс параметрических неисправностей, позволяющий исследовать этапы постепенной деградации ИНС.
-
Математическая модель искусственного нейрона и многослойной ИНС, разработанная на основе комбинации аппарата модифицированных сетей Петри и нейросете-вых технологий, которая выгодно отличается возможностью как исследовать динамические свойства ИНС посредством временного графа достижимости, так и анализировать особенности её функционирования посредством матричного исчисления.
-
Диагностическая модель ИНС прямого распространения выполненная на основе математической модели ИНС на базе модифицированных сетей Петри с включением в ал-
горитм вычисления предложенного двухуровневого показателя качества функционирования, позволяющая моделировать дефекты в составе параллельно функционирующих ИНС и идентифицировать их выходное состояние. 5. Методы синтеза минимальных тестов контроля работоспособности ИНС, синтезируемые на основе которых тесты в сравнении с известными подходами к тестированию нейросистем (исчерпывающим и случайным), позволяют повысить оперативность проведения контроля (для рассмотренных примеров специализированных ИНС как минимум в 9 раз), и достичь повышения коэффициента готовности нейросистемы (в общем случае до 0,999998), что подтверждено экспериментальным исследованием для ИНС различных конфигураций. Методы исследования. В диссертационной работе применялись методы теории ИНС, теории распознавания образов, математический аппарат теории сетей Петри, численные методы и экспериментальные исследования.
Для реализации экспериментальных исследований разработано программное обеспечение (ПО), проведено большое количество экспериментов с ИНС различных конфигураций, результаты которых использовались для получения достоверных оценок результатов исследований. Для реализации ПО применялись концепции программирования матричной лаборатории МАТЪАВ.
Практическая значимость.
1. Спроектированные универсальные процедуры анализа
многослойных ИНС на основе их модели модифицированной
сетью Петри, синтеза минимальных тестов контроля работоспо
собности ИНС были успешно применены при проектировании
имитационных систем и стендов тестового контроля аппаратных
неиросетевых средств и могут использоваться в диагностических
комплексах современной аппаратуры.
2. Разработанный комплекс программ, реализующий пред
ложенные в работе модели, методы и алгоритмы предоставляет
широкие возможности для диагностического анализа неиросете
вых систем: моделирования различных классов дефектов и оцен
ки их влияния на работоспособность, отображения динамики
функционирования ИНС, построения минимальных тестов кон
троля работоспособности ИНС.
Теоретическая значимость.
1. Разработанный в диссертации метод моделирования ИНС на основе проблемно модифицированных сетей Петри является
теоретической платформой для диагностического анализа функционирования ИНС, изучения и анализа их структур и динамических свойств, а также может быть использован при разработке конфигурации желаемой ИНС и её последующей аппаратной реализации.
-
Предложенный двухуровневый показатель качества распознавания ИНС прямого распространения, обеспечивающий возможность анализа активности нейронов выходного слоя на этапе функционирования, проявил себя как эффективный показатель надежности распознавания ИНС и может также быть применен в качестве критерия качества обучения.
-
Введенный класс неисправностей, подразумевающий моделирование промежуточных постоянных значений сигналов в интервале (0,1) на выходе нейронов ИНС, как класс параметрических неисправностей ИНС может быть использован для исследования этапов постепенной деградации ИНС различных архитектур.
Достоверность получаемых в диссертации результатов подтверждается корректным использованием математических методов, данными многочисленных экспериментальных исследований, публикациями в центральной печати, и докладами на международных и региональных научно-технических конференциях.
Реализация и внедрение результатов работы. Результаты диссертационной работы внедрены на предприятии ОАО «ОКТБ "Вектор"» в процесс разработки и производства специализированных типовых функциональных устройств, а также в учебный процесс на кафедре «Вычислительные системы и информационная безопасность» ИЭиМ ДГТУ при обучении студентов специальностей 230201 «Информационные системы и технологии» и 220201 «Управление и информатика в технических системах».
Соответствие диссертации паспорту научной специальности. Основным содержанием диссертации является проблема разработки моделей, методов и средств анализа нейросетевых систем обработки информации, а также повышение надежностных характеристик данного рода систем. Таким образом, отраженные в диссертации научные положения соответствуют формуле специальности 05.13.01 «Системный анализ, управление и обработка данных», а результаты научного исследования соответствуют п. 3, п. 5 и п. 11 паспорта специальности.
Апробация основных результатов диссертационной работы. Основные результаты работы докладывались и обсуждались на международных научно-технических конференциях «Математические методы в технике и технологиях»: ММТТ-23
(г.Саратов, 2010 г.), ММТТ-24 (г.Пенза, 2011 г.), ММТТ-25 (г. Волгоград, 2012 г.); V-й международной научно-практической конференции «Состояние и перспективы развития сельскохозяйственного машиностроения», проводимой в рамках 15-й международной агропромышленной выставки «Интерагормаш-2012» (г.Ростов-на-Дону, 2012); Международном научном семинаре «Системный анализ, управление и обработка информации» (г. Ростов-на-Дону - с. Дивноморское): 2011 г., 2012 г.; X международном научно-техническом форуме «ИнЭРТ» (г. Ростов-на-Дону, 2012 г.).
Публикации по теме диссертации. Основные результаты диссертации отражены в 12 научных трудах, в том числе 5 публикаций в рецензируемых научных журналах. В 8 работах, опубликованных в соавторстве, доля материалов, принадлежащих автору диссертации, составляет не менее 50%. Кроме того, получено свидетельство о государственной регистрации программы для ЭВМ (ФГУ ФИПС свидетельство №2011613078 от 18.04.2011).
Структура и объем работы. Диссертационная работа состоит из введения, четырех глав, заключения, библиографического списка и приложений. Объём основной части составляет 148 страниц машинописного текста, содержит 5 таблиц, 34 рисунка, список литературы из 123 наименований.
