Введение к работе
Актуальность. В настоящее время искусственные нейронные сети являются эффективным инструментом решения широкого круга сложных научно-технических задач Однако невозможность формализации структурно-параметрического синтеза неиросетевои модели существенно ограничивает практическое применение данного подхода
Автоматизация процесса построения нейронной сети произвольной архитектуры предполагает решение сложных многопараметрических оптимизационных задач, таких как выбор эффективной структуры нейросети и ее обучение Для решения подобного рода задач оптимизации во многих случаях могут быть применены только алгоритмы прямого адаптивного поиска, не требующие информации о свойствах оптимизируемой функции Универсальными адаптивными поисковыми алгоритмами являются эволюционные алгоритмы
Выполнение расчетов по эволюционным алгоритмам предъявляет значительные требования к системным вычислительным ресурсам Применение параллельных эволюционных алгоритмов для решения оптимизационных задач позволит значительно повысить быстродействие, как за счет параллельного выполнения вычислений, так и за счет эффективных способов реализации алгоритмов, которые невозможны в случае последовательного выполнения программы
В качестве аппаратных средств реализации параллельных вычислений используются распределенные вычислительные системы Высокая стоимость и/или недоступность многопроцессорных и многомашинных вычислительных систем ограничивает возможность их практического применения широким кругом специалистов Наряду с этим в настоящее время наблюдается повсеместное использование доступных по стоимости и высокопроизводительных персональных компьютеров, интенсивное развитие и массовое практическое применение сетевых информационных технологий различного уровня и назначения Это предоставляет конечным пользователям значительные вычислительные ресурсы, которые могут быть эффективно задействованы при решении сложных задач Использование для решения сложных научно-технических задач вычислительных сетей требует разработки и применения формальных методов моделирования и оптимизации для формирования эффективной структуры сетевого аппаратно-программного комплекса, реализующего основные функции Поддержка принятия решений на этапе формирования вычислительных сетей, ориентированных на решение сложных задач, возможна только на базе адекватных математических моделей и соответствующих алгоритмов
Таким образом, разработка математического и программного обеспечения распределенного решения задач нейросетевого моделирования в вычислительных сетях является актуальной научно-технической задачей
Цель диссертационной работы состоит в повышении эффективности распределенного решения задач структурно-параметрического синтеза нейро-сетевых моделей в вычислительных сетях на основе комплексного применения аппарата эволюционной оптимизации и теории массового обслуживания
Сформулированная цель предопределила следующую совокупность решаемых задач
Анализ существующих технологий нейросетевого моделирования
Разработка подхода к автоматизации проектирования нейросетевых моделей произвольной архитектуры
Формализация задачи выбора эффективной структуры нейронных сетей с учетом их вычислительной сложности в виде задачи оптимизации
Модификация многопопуляционного параллельного генетического алгоритма посредством разработки процедуры динамической адаптации базовой топологии связей между популяциями к процессу решения оптимизационной задачи
Разработка системы автоматизации проектирования нейросетевых моделей произвольной архитектуры на основе предложенного подхода к выбору эффективной структуры нейронной сети и модифицированного многопопуляционного параллельного генетического алгоритма
Построение математических моделей оценки производительности и надежности функционирования гетерогенных вычислительных клиент-серверных сетей при решении сложных научно-технических задач
Разработка автоматизированной системы поддержки принятия решений при выборе эффективной структуры гетерогенной вычислительной сети с использованием предложенных моделей
Апробация разработанного математического и программного обеспечения при распределенном решении практических задач нейросетевого моделирования в гетерогенных вычислительных сетях
Методы исследования При выполнении работы использовался аппарат системного анализа, теории массового обслуживания, теории оптимизации, теории вероятностей и математической статистики, нейросетевого моделирования, методика создания прикладных интеллектуальных систем
Научная новизна работы заключается в следующем
Предложена новая формальная модель для выбора эффективной структуры искусственной нейронной сети в виде задачи многокритериальной оптимизации, отличающаяся от известных применением критерия минимизации вычислительной сложности структуры
Разработан модифицированный параллельный многопопуляционный генетический алгоритм решения сложных задач оптимизации, отличающийся динамической адаптацией базовой топологии связей между популяциями к процессу решения задачи, и превосходящий по эффективности стандартный параллельный многопопуляционный генетический алгоритм
Построен комплекс новых математических моделей оценки производительности и надежности функционирования гетерогенных вычислительных клиент-серверных сетей при решении сложных научно-технических задач
Практическая значимость. На основе предложенных моделей и алгоритмов разработаны современные программные системы, которые могут быть использованы для эффективной реализации нейросетевого моделирования сложных систем различного назначения в распределенной гетерогенной вычис-
лительной среде Программная система автоматизации проектирования нейро-сетевых моделей параллельными многокритериальными генетическими алгоритмами позволяет широкому кругу специалистов 'производить эффективную настройку структуры и весов нейронной, сети в процессе моделирования Автоматизированная система поддержки принятия решений при выборе эффективной структуры гетерогенной вычислительной сети может быть использована в ходе проектирования или модификации архитектуры вычислительных сетей, предназначенных для решения сложных научно-технических задач
Работа выполнена в рамках ФЦНТП «Исследования и разработки по приоритетным направлениям развития науки и техники на 2002-2006 годы» по теме 2006-РИ-19 0/001/377 «Проведение научных исследований молодыми учеными» (IV очередь), НИР «Модели и алгоритмы автоматизации проектирования многопроцессорных информационных систем интеллектуального анализа данных в режиме реального времени» (государственный контракт № 02 442 11 7337), в рамках НИР 4422 «Разработка и исследование эффективности гибридных методов оптимизации алгоритмически заданных функций дискретных переменных», выполняемой по ведомственной научной программе «Развитие научного потенциала высшей школы», а также по темплану СибГАУ «Бионические методы идентификации и оптимизации сложных систем» (№ Б1 1 05)
Реализация результатов работы. Математические модели оценки производительности и надежности функционирования гетерогенных вычислительных клиент-серверных сетей при решении сложных научно-технических задач и разработанная на их основе автоматизированная система поддержки принятия решений при выборе эффективной структуры гетерогенной вычислительной сети использовались в ООО «Региональные информационные технологии-системы» (г Красноярск) в качестве инструмента на первоначальном этапе проектирования вычислительной сети, ориентированной на решение задач нейро-сетевого моделирования, а также при анализе существующих и оценке перспективных средств вычислительной техники потребителей телекоммуникационных услуг данного предприятия, что отражено в соответствующем акте о внедрении научных и практических результатов данной диссертационной работы
Система автоматизации проектирования нейросетевых моделей произвольной архитектуры, реализованная на основе предложенного подхода к выбору эффективной структуры нейронной сети и модифицированного многопо-пуляционного параллельного генетического алгоритма, включена в состав информационно-программного обеспечения предприятия и использована для повышения эффективности организации процесса товарооборота на основе прогнозирования объемов продаж товаров в ГПКК «Губернские аптеки» (г Красноярск), что также отражено в соответствующем акте о внедрении
Разработанная в процессе выполнения диссертационной работы программная система «Генетические алгоритмы выбора структуры и настройки искусственных нейронных сетей» прошла отраслевую и государственную экспертизу и зарегистрирована в отраслевом фонде алгоритмов и программ, что делает ее доступной для широкого круга пользователей
Разработанные алгоритмы и программные системы используются в учебном процессе при проведении занятий по курсам «Интеллектуальные технологии и принятие решения», «Интеллектуальный анализ данных» и «Адаптивные и эволюционные методы принятия решений» в Сибирском государственном аэрокосмическом университете, по курсам «Эволюционные алгоритмы моделирования и оптимизации» и «Интеллектуальные технологии анализа данных» в Сибирском федеральном университете (г Красноярск)
Основные положения, выносимые на защиту:
Применение новой формальной модели для выбора эффективной структуры искусственной нейронной сети позволяет получать нейросети меньшей вычислительной сложности при сохранении точности решаемой задачи
Модифицированный многопопуляционный параллельный генетический алгоритм выполняет динамическую адаптацию базовой топологии связей между популяциями к процессу решения оптимизационной задачи, что позволяет повысить эффективность эволюционного поиска при реализации алгоритма в вычислительной сети
Автоматизированная система поддержки принятия решений на основе разработанного комплекса математических моделей оценки производительности и надежности функционирования гетерогенной вычислительной сети позволяет успешно решать задачи проектирования и модификации архитектуры вычислительных сетей, ориентированных на решение сложных научно-технических задач
Апробация работы Процесс разработки и результаты, представленные в работе, докладывались и обсуждались на научных конференциях различного уровня, в том числе 8-й Всероссийской научно-практической конференции «Проблемы информатизации региона» (Красноярск, 2003 г), VIII Всероссийской научно-практической конференции с международным участием «Решет-невские чтения» (Красноярск, 2004 г), Международной научной конференции «Решетневские чтения» (Красноярск, 2006 г), VIII Всероссийской научно-технической конференции «Теоретические и прикладные вопросы современных информационных технологий» (Улан-Удэ, 2007 г), 4-й Международной научно-практической конференции «Исследование, разработка и применение высоких технологий в промышленности» (Санкт-Петербург, 2007 г)
Публикации По теме данной работы опубликовано 15 печатных работ, среди которых три статьи в научных изданиях, входящих в Перечень ВАК
Структура работы Работа состоит из введения, трех глав, заключения, списка литературы и приложения
