Содержание к диссертации
Введение
1 Технологии структурно -параметрического синтеза искусственных нейронных сетей 11
1.1 Искусственные нейронные сети 11
1.2 Применение генетических алгоритмов для параметрической настройки и синтеза структуры нейросетевой модели 21
1.3 Применение многокритериальных генетических алгоритмов для синтеза структуры нейросетевой модели 34
1.4 Применение параллельных генетических алгоритмов для синтеза структуры нейросетевой модели 47
1.5 Многокритериальный многопопуляционный параллельный генетический алгоритм 52
Выводы J 60
2 Выбор эффективной конфигурации GRID-системы для решения сложных задач 62
2.1 Технология GRID 62
2.2 Модель оценки производительности GRID-системы 71
2.3 Модель оценки надежности GRID-системы 88
2.4 Постановка задачи выбора эффективной конфигурации GRID-системы и методы ее решения 102
Выводы 107
3 Практическая реализация моделей и алгоритмов 1 109
3.1 Программная система «Генетические алгоритмы выбора структуры и настройки искусственных нейронных сетей» ПО
3.2 Система автоматизации проектирования искусственных нейронных сетей на основе разработанного многокритериального параллельного генетического алгоритма 115
3.3 Автоматизированная система поддержки принятия решений «Формирование эффективной конфигурации GRID-системы» 122
3.4 Проверка работоспособности автоматизированной системы поддержки принятия решений при выборе эффективной структуры централизованной GRID-системы 131
3.5 Проверка работоспособности системы автоматизации проектирования искусственных нейронных сетей 134
3.6 Прогнозирование деградации электрических характеристик солнечных батарей космического аппарата 144
Выводы 149
Заключение 151
Список использованных источников
- Применение генетических алгоритмов для параметрической настройки и синтеза структуры нейросетевой модели
- Применение параллельных генетических алгоритмов для синтеза структуры нейросетевой модели
- Постановка задачи выбора эффективной конфигурации GRID-системы и методы ее решения
- Автоматизированная система поддержки принятия решений «Формирование эффективной конфигурации GRID-системы»
Введение к работе
Актуальность. Искусственные нейронные сети успешно применяются для решения самых разнообразных научно-технических задач, таких как автоматизация процессов распознавания образов, адаптивное управление, аппроксимация функционалов, прогнозирование, создание экспертных систем, организация ассоциативной памяти и др. Однако эффективное применение на практике данного подхода широким кругом специалистов не всегда возможно по причине отсутствия формализованных процедур, полностью охватывающих весь процесс построения нейросетевых моделей.
Для автоматизации структурно-параметрического синтеза нейросетевой модели с произвольными связями между нейронами требуется решать сложные многопараметрические оптимизационные задачи выбора эффективной структуры нейросети и настройки ее весовых коэффициентов. При решении подобного рода задач оптимизации хорошо себя зарекомендовали генетические алгоритмы (ГА), которые не требуют информации о свойствах оптимизируемой функции и позволяют вести глобальный поиск в пространстве решений.
Генетические алгоритмы в процессе своей работы нуждаются в значительных вычислительных ресурсах, что затрудняет их применение. Однако ГА потенциально обладают свойством массового параллелизма при обработке информации, что допускает их эффективную параллельную реализацию. Распараллеливание генетических алгоритмов на базе распределенной вычислительной системы позволяет существенно сократить время, затрачиваемое на решение задачи, как за счет параллельного выполнения вычислений, так и за счет применения более эффективных, чем в последовательном случае, способов реализации алгоритмов.
Повсеместное использование высокопроизводительных и доступных по стоимости персональных компьютеров, разработка и массовое практическое применение сетевых информационных технологий различного уровня и назначения - все это позволяет говорить о распределенных компьютерных сетях как об эффективной и значительно более дешевой альтернативе многопроцессорным и многомашинным вычислительным системам в качестве аппаратных средств реализации параллельных вычислений при решении сложных и ресурсоемких задач. Однако основной проблемой широко распространённых технологий глобальных компьютерных сетей является невозможность универсально и эффективно использовать удалённые вычислительные ресурсы, поскольку изначально так называемые Internet-технологии ориентировались на доступ к данным, а не к вычислительным мощностям. Преодолеть ограничения и недоработки существующих в этой области решений позволяет интенсивное развитие и внедрение перспективной сетевой технологии GRID, в основе которой лежит идея создания географически распределенной вычислительной инфраструктуры, объединяющей ресурсы различных типов с коллективным доступом к этим ресурсам в рамках виртуальных организаций, состоящих из предприятий и специалистов, совместно использующих эти общие ресурсы. Используя эту технологию и наполняя ее конкретным содержанием, можно реализовать ту
или иную GRID-систему, предназначенную для решения того или иного класса прикладных задач. Особый интерес GRID-технология представляет для организаций и учреждений, уже имеющих в своём распоряжении большой парк персональных компьютеров, объединение которых в единую GRID-систему позволяет эффективно использовать простаивающие мощности и повысить производительность труда конечных пользователей.
Важным свойством GRID-систем является то, что вся работа по управлению, перераспределению и оптимизации использования ресурсов при решении конкретной задачи ложится на системное программное обеспечение и выполняется незаметно для пользователя, создавая тем самым единое виртуальное информационное пространство, обладающее огромными вычислительными мощностями и объемом памяти. Автоматизация распределения ресурсов GRID-системы и их координации в процессе решения сложных научно-технических задач требует разработки и применения формальных методов моделирования и оптимизации для формирования эффективной конфигурации вычислительных ресурсов GRID-системы, реализующей основные функции.
Таким образом, можно утверждать, что разработка математического и алгоритмического обеспечения формирования распределенных систем структурно-параметрического синтеза нейросетевых моделей на базе технологии GRID является актуальной научно-технической задачей.
Цель диссертационной работы состоит в повышении эффективности распределенного решения задач структурно-параметрического синтеза нейросетевых моделей сложных систем на базе технологии GRID посредством комплексного применения аппарата эволюционной оптимизации и теории массового обслуживания.
Сформулированная цель предопределила следующую совокупность решаемых задач:
Анализ существующих технологий нейросетевого моделирования.
Разработка подхода к автоматизации проектирования нейросетевых моделей произвольной архитектуры.
Формализация выбора эффективной структуры нейронных сетей с учетом качества получаемых решений и вычислительной сложности в виде задачи многокритериальной оптимизации.
Разработка параллельного генетического алгоритма решения задач многокритериальной оптимизации.
Реализация системы автоматизированного проектирования искусственных нейронных сетей произвольной архитектуры на основе разработанных формальных моделей и алгоритмов.
Построение математических моделей оценки производительности и надежности функционирования GRID-систем при решении сложных научно-технических задач.
Формализация задачи выбора эффективной конфигурации GRID-системы для решения сложных задач.
Разработка автоматизированной системы поддержки принятия решений при выборе эффективной структуры GRID-системы с использованием предложенных моделей.
Апробация разработанного математического и программного обеспечения при распределенном решении практических задач нейросетевого моделирования сложных систем на базе технологии GRID.
Методы исследования. При выполнении работы использовался аппарат системного анализа, теории массового обслуживания, теории оптимизации, теории вероятностей и математической статистики, нейросетевого моделирования, методика создания прикладных интеллектуальных систем.
Научная новизна работы заключается в следующем:
Разработан модифицированный многопопуляционный параллельный генетический алгоритм для решения задач многокритериальной оптимизации неиросетевых моделей, отличающийся от известных использованием оператора миграции на основе концепции Парето-доминирования.
Разработан новый многокритериальный многопопуляционный параллельный генетический алгоритм решения сложных задач оптимизации, отличающийся от известных использованием процедуры реструктуризации топологии связей между популяциями в ходе решения.
Построена новая математическая модель оценки производительности централизованного варианта GRID-системы при реализации задачи с синхронным стартом.
Построена новая математическая модель оценки надежности централизованного варианта GRID-системы при реализации задачи с синхронным стартом.
Практическая значимость. На основе предложенных моделей и алгоритмов разработаны современные программные системы, которые могут быть использованы для эффективной реализации структурно-параметрического синтеза искусственных нейронных сетей произвольной архитектуры в GRID-системах. «Система автоматизации проектирования искусственных нейронных сетей параллельными генетическими алгоритмами» позволяет широкому кругу специалистов производить эффективную настройку структуры и весов нейронной сети в процессе моделирования. Автоматизированная система поддержки принятия решений «Формирование эффективной конфигурации GRID-системы» может быть использована в ходе проектирования или модификации архитектуры систем типа GRID, настроенных на решение сложных задач определенного класса.
Работа выполнена в рамках ФЦНТП «Исследования и разработки по приоритетным направлениям развития науки и техники на 2002-2006 годы» по теме 2006-РИ-19.0/001/377 «Проведение научных исследований молодыми учеными» (IV очередь), НИР «Модели и алгоритмы автоматизации проектирования многопроцессорных информационных систем интеллектуального анализа данных в режиме реального времени» (государственный контракт № 02.442.11. 7337), в рамках НИР 4422 «Разработка и исследование эффективности гибридных методов оптимизации алгоритмически заданных функций дискретных пе-
ременных», выполняемой по ведомственной научной программе «Развитие научного потенциала высшей школы», по темпланам ЕЗН СибГАУ «Бионические методы идентификации и оптимизации сложных систем» (№ Б1.1.05), «Разработка теоретических основ решения задач автоматизации проектирования распределенных многопроцессорных вычислительных комплексов интеллектуального анализа данных в режиме реального времени» (№ Б1.7.08), а также инновационного молодежного проекта СибГАУ «Разработка системы поддержки принятия решения для формирования многопроцессорных вычислительных систем обработки информации и управления в реальном времени». Работа поддержана грантом 12BS107 Красноярского краевого фонда науки.
Реализация результатов работы. Математические модели оценки производительности и надежности функционирования централизованного варианта GRID-системы при реализации задачи с синхронным стартом, а также разработанная на их основе автоматизированная система поддержки принятия решений «Формирование эффективной конфигурации GRID-системы» использовались в ООО «Региональные информационные технологии-системы» (г. Красноярск) в качестве инструмента при проектировании GRID-системы, ориентированной на решение задач нейросетевого моделирования, что отражено в соответствующем акте о внедрении научных и практических результатов данной диссертационной работы.
«Система автоматизации проектирования искусственных нейронных сетей параллельными генетическими алгоритмами», реализованная на основе предложенного многокритериального многопопуляционного параллельного генетического алгоритма, включена в состав информационно-программного обеспечения ГПКК «Губернские аптеки» (г. Красноярск) и использована для повышения эффективности организации процесса товарооборота на основе прогнозирования объемов продаж товаров, что также отражено в соответствующем акте о внедрении.
Разработанные в процессе выполнения диссертационной работы программные системы «Генетические алгоритмы выбора структуры и настройки искусственных нейронных сетей», «Система автоматизации проектирования искусственных нейронных сетей параллельными генетическими алгоритмами» и «Формирование эффективной конфигурации GRID-системы» прошли отраслевую и государственную экспертизу и зарегистрированы в отраслевом фонде алгоритмов и программ, что делает их доступными для широкого круга пользователей.
Разработанные алгоритмы и программные системы используются в учебном процессе при проведении занятий по курсам «Интеллектуальные технологии и принятие решения», «Интеллектуальный анализ данных» и «Адаптивные и эволюционные методы принятия решений» в Сибирском государственном аэрокосмическом университете, по курсам «Эволюционные алгоритмы моделирования и оптимизации» и «Интеллектуальные технологии анализа данных» в Сибирском федеральном университете (г. Красноярск).
Основные положения, выносимые на защиту:
Применение модифицированного многопопуляционного параллельного генетического алгоритма для решения задач многокритериальной оптимизации нейросетевых моделей позволяет быстрее получать искусственные нейронные сети меньшей вычислительной сложности.
Многокритериальный многопопуляционный параллельный генетический алгоритм решения сложных задач оптимизации с реструктуризацией топологии связей между популяциями позволяет повысить эффективность эволюционного поиска при реализации алгоритма в распределенных вычислительных системах.
Комплекс математических моделей оценки производительности и надежности функционирования централизованной GRID-системы с синхронным стартом позволяет осуществлять автоматизированный выбор эффективной конфигурации такой системы.
Апробация работы. Процесс разработки и результаты, представленные в диссертации, докладывались и обсуждались на научных конференциях различного уровня, в том числе V, VII, VIII Межвузовской научно-практической конференции «Актуальные проблемы экономики, информатики и права» (г. Красноярск, 2005, 2007, 2008 гг.), X, XI Международной научной конференции «Решетневские чтения» (г. Красноярск, 2006, 2007 гг.), конференции-конкурсе «Технологии Microsoft в теории и практике программирования» (г. Новосибирск, 2008 г.), IV Всероссийской научно-практической конференции «Современные проблемы авиации и космонавтики» (г. Красноярск, 2008 г.), а также на трех молодежных научных конференциях.
Публикации. По теме данной работы опубликовано 19 печатных работ, среди которых четыре статьи в научном издании, входящем в Перечень ВАК.
Структура работы. Работа состоит из введения, трех глав, заключения и списка литературы.
Применение генетических алгоритмов для параметрической настройки и синтеза структуры нейросетевой модели
Адаптация ГА для выбора структуры ИНС. На первом этапе эволюционного проектирования архитектуры нейросети принимается решение относительно соответствующей формы ее описания. Во-первых, необходимо выбрать общую концептуальную структуру представления данных (матрицы, графы). Во-вторых, требуется принять решение, какая информация, характеризующая архитектуру сети, будет использоваться, а также выбрать соответствующую схему кодирования. Различают схему непосредственного кодирования (сильная схема спецификации) и схему косвенного кодирования (слабая схема спецификации). При использовании сильной схемы спецификации полная информация об архитектуре нсйросети непосредственно кодируется в виде двоичных последовательностей, то есть каждая связь и каждый узел (нейрон) прямо специфицируется определенным количеством битов. При использовании слабой схемы спецификации кодируются только важнейшие па-раметры или свойства архитектуры - количество узлов (нейронов), количество связей и вид активациониой функции на нейроне [47, 106].
Рассмотрим более детально схему непосредственного кодирования, которая применяется в данной работе. Матрица С размерностью п х п, С = [сч ]пхп представляет связи нейронной сети, состоящей из п узлов (нейронов), причем значение Су определяет наличие или отсутствие связи между /-м и j-м нейронами. Если cv—l, то связь существует, если су=0, то связь отсутствует. При таком подходе двоичная последовательность (хромосома), представляющая связи нейронной сети, имеет вид комбинации строк (столбцов) матрицы С.
В данной работе принимаются во внимание только однонаправленные связи, что позволяет учитывать только те элементы матрицы С, которые задают связи данного узла (нейрона) со следующими узлами.
В матрице связей имеются нулевые значения, которые можно опустить при кодировании хромосомы, а именно: первые столбцы матрицы связей, соответствующие входным нейронам, всегда содержат нули, поскольку никакие нейроны не могут быть связаны с нейронами входного слоя; - последние строки матрицы, соответствующие выходным нейронам, всегда содержат нули, так как нейроны выходного слоя не могут быть связаны ни с какими нейронами; элементы матрицы связей, расположенные ниже главной диагонали, всегда равны нулю, так как мы учитываем только однонаправленные связи; на главной диагонали матрицы всегда стоят нули, поскольку нейроны не могут быть связаны сами с собой.
Кроме этого, хромосома должна содержать информацию о виде акти ,1 - I вационной функции на каждом нейроне (двоичный порядковый номер этой функции в наборе всех используемых при решении задачи активационных функций). Данную информацию можно добавить, например, в конец после-! доватсльности бит соответствующего нейрона. На входном слое активацион-ная функция для каждого нейрона всегда имеет вид F_activ_inp(x) = х, и поэтому при кодировании не учитывается.
В качестве критерия оценки эффективности нейросетевых моделей при решении оптимизационной задачи выбора эффективной структуры ИНС обычно используется общая среднеквадратичная погрешность их обучения, которую необходимо минимизировать. Стремление получать более простые с вычислительной точки зрения структуры многосвязных ИНС без потери точности обучения говорит о целесообразности добавления критерия минимизации вычислительной сложности структуры, что приводит к многокритериальной постановке оптимизационной задачи синтеза структуры пейросете I вой модели.
Многокритериальная оптимизация представляет собой задачу нахож-дения вектора переменных-решений, которые удовлетворяют ограничениям и доставляют оптимум вектор-функции, элементами которой являются целевые функции. Целевые функции математически описывают критерии оптимизации, состоящей в нахождении такого рода решения, которое бы давало значения всех целевых функций, приемлемых для лица, принимающего решение (ЛПР) [21, 26]. (противоречивых) критериев, когда попытка улучшить один из них приводит к ухудшению других. В таком случае решение возможно только на основе компромисса. Математическая модель компромисса в оптимизации обычно строится на основе понятия множества Парето [54]. В нашем случае выбора эффективной структуры ИНС, критерии ошибки настройки и вычислительной сложности нейросети в общем случае можно считать конфликтующими. Следовательно, компромиссное решение следует искать как множество Парето.
Решение х0 є D, называется Парето-оптимальиым (недоминируемым, неулучшаемым, паретовским), если во множестве допустимых решений D не существует решения, которое по целевым функциям было бы не хуже чем х0 и, по крайней мере, по одной целевой функции было бы лучше, чем х0.
Все Парето-оптимальные решения называются множеством Парето или паретовским множеством; соответствующие целевые векторы формируют Парето-оптимальный фронт или поверхность [44]. мум по одному критерию вания множества Парето
Таким образом, для любой допустимой точки, лежащей вне множества Парето, найдется точка во множестве Парето, дающая по всем целевым функциям значения не хуже, чем в этой точке и хотя бы по одной целевой функции - строго лучше. Следовательно, решение многокритериальной задачи оптимизации целесообразно выбирать из множества Парето, т.к. любое другое, очевидно, может быть улучшено некоторой точкой Парето как мини без ухудшения других критериев. После формиро-задача может считаться математически решенной,
Применение параллельных генетических алгоритмов для синтеза структуры нейросетевой модели
В настоящее время! в мире интенсивно развивается концепция GRID, в основу которой положена идея интеграции определенного множества про I странственно распределенных информационных и вычислительных ресурсов различных типов с целью обеспечения возможности выполнения широкого класса приложений на любой совокупности этих ресурсов, независимо от места их расположения. В реализации GRID представляет собой компьютерную инфраструктуру, которая состоит из находящихся в разных местах ресурсов, соединяющих их телекоммуникаций (сетевые ресурсы) и взаимосогласованного по всей инфраструктуре связующего программного обеспечения (ПО) промежуточного уровня (между базовым и прикладным ПО), под I держивающего выполнение дистанционных операции, а также выполняющс i о функции контроля и управления операционной средой.
В [97] понятие GRID трактуется следующим образом: GRID является согласованной, открытой и стандартизованной средой, которая обеспечивает гибкое, безопасное, скоординированное разделение ресурсов в рамках виртуальной организации (ВО) - то есть динамически формирующейся совокупности независимых пользователей, учреждений и ресурсов. Таким образом, ключевым понятием инфраструктуры GRID является виртуальная организация, в которой кооперируются как потребители, так и владельцы ресурсов, при этом мотивы кооперации могут быть различными, а время существования ВО — ограниченным.
Технология GRID включает в себя лишь наиболееі общие и универсальные аспекты, одинаковые для любой GRID-системы - архитектура, протоколы, интерфейсы, сервисы. Используя эту технологию и наполняя ее конкретным содержанием, можно реализовать ту или иную GRID-систему, предназначенную для решения того или иного класса прикладных задач. Есть два основных критерия, выделяющих GRJD-системы среди других систем, обеспечивающих разделяемый доступ к ресурсам [22]:
Архитектура GRID определяет системные компоненты (протоколы, сервисы, интерфейсы, средства разработки программного обеспечения), цели и функции этих1 компонент, а также отражает способы взаимодействия компонент друг с другом. Fla сегодня базовым программным обеспечением GRID и международным стандартом де-факто является система Globus - совместный проект Аргоннской национальной лаборатории (ANL) и института информатики университета Южной Каролины (ISI USC) [25], поэтому рассмотрим принципы построения архитектуры GRID на примере данной системы.
Базовая архитектура программного обеспечения GRID. Архитектура ПО GRID построена иерархически и разделена на пять уровней — базовый, связывающий, ресурсный, коллективный и прикладной. Каждый из перечис , ленных уровней соответствует определенному уровню протоколов Internet. Компоненты каждого уровня архитектуры могут использовать возможности компонент любого из нижерасположеиных уровней [22].
Функционирование GRID-системы обеспечивается специальной формой ПО - сервисами, которые обладают сетевым интерфейсом, благодаря чему становится возможным удаленное обслуживание клиентов. Каждый тип
сервиса должен иметь стандартный протокол доступа, в соответствии с кото I рым реализуется прикладной интерфейс (API) клиентов. В рамках стандартных протоколов допустимы различные способы реализации сервисного обслуживания. Множества сервисов на разных ресурсах должны быть согласованными, что предполагает известную унификацию наборов сервисов на основе тождественности их семантики, а также наличие общих правил, регламентов и организационных соглашений, на которые опирается конфигурирование сервисов.
Базовый уровень (Fabric Layer) является нижним уровнем архитектурной иерархии и описывает службы, непосредственно работающие с ресурсами GRID-системы, к которым относятся вычислительные ресурсы, ресурсы внешней памяти, сетевые ресурсы, каталоги, хранилища программных ко-дов[25].
Над базовым уровнем располагается связывающий уровень (Connectivity Layer), который определяет коммуникационные протоколы, обеспечивающие обмен данными между компонентами базового уровня, и протоколы аутентификации, предоставляющие криптографические механизмы для идентификации и проверки подлинности пользователей и ресурсов. В настоящее время протоколы уровня связи в GRID-системах предполагают использование стека протоколов TCP/IP: на сетевом уровне - IP и ICMP, на транспорт ном уровне - TCP, UDP, безопасности передачи сообщений в GRID-системе основываются как на существующих стандартах безопасности, изначально разработанных для Internet (SSL, TLS), так и на новых разработках [22]. Ресурсный уровень1 (Resource Layer) построен над протоколами связывающего уровня и реализует информационные протоколы, которые обеспечивают получение информации о структуре и состоянии ресурса, а также протоколы управления, которые используются для согласования доступа к разделяемым ресурсам. Протоколы данного уровня взаимодействуют с ресурсами посредством унифицированного интерфейса без учета архитектурных особенностей конкретного ресурса [22, 24].
Коллективный уровень (Collective Layer) отвечает за глобальную интеграцию различных наборов ресурсов. На этом уровне выделяют общие протоколы (протоколы обнаружения и выделения ресурсов, системы мониторинга, авторизации сообществ и др.) и специфические протоколы для различных приложений GRID (например, протокол архивации распределенных данных, протоколы управления задачами сохранения состояния и т.п.). В протоколах коллективного уровня реализуются различные функции и сервисы по обеспечению совместного использования ресурсов.
Прикладной уровень (Application Layer) описывает пользовательские приложения, функционирующие в среде ВО с использованием сервисов, определенных на нижележащих уровнях. На каждом из уровней имеются определенные протоколы, обеспечивающие доступ к необходимым службам, а также прикладные программные интерфейсы (Application Programming Interface — API), соответствующие данным протоколам. Для облегчения работы с прикладными программными интерфейсами пользователям предоставляются наборы инструментальных средств для разработки программного обеспече-иия (Software Development Kit - SDK) [22, 88].
Распределение ресурсов в GRID-системах. Эффективное распределение ресурсов и их координация являются основными задачами системы GRID, и для их решения используется планировщик — брокер ресурсов. Пользуясь информацией о состоянии GRID-системы, планировщик определяет наиболее подходящие ресурсы для каждой конкретной задачи и резервирует их для се выполнения. Во время выполнения задача может запросить у планировщика дополнительные ресурсы или освободить избыточные. Таким образом, вся работа по управлению, перераспределению и оптимизации использования ресурсов ложится на планировщик и выполняется незаметно для пользователя, для которого создается иллюзия работы в едином информационном пространстве, обладающем огромными вычислительными мощностями и объемом памяти.
В GRID-системах используется сложная система обнаружения и классификации ошибок. Задача контроля над ошибками возлагается на систему мониторинга, которая следит за состоянием отдельных ресурсов. Данные о состоянии заносятся в информационные ресурсы, откуда они могут быть прочитаны планировщиком и другими сервисами, что позволяет иметь постоянно обновляющуюся достоверную информацию о состоянии ресурсов. Если ошибка произошла по вине задачи, то задача будет остановлена, а соответствующая диагностика направлена ее владельцу (пользователю). Если причиной сбоя послужил ресурс, то планировщик произведет перераспределение ресурсов для данной задачи и перезапустит ее.
Постановка задачи выбора эффективной конфигурации GRID-системы и методы ее решения
GRID является наиболее сложной информационной средой, когда-либо создаваемой человеком. Для информационно-вычислительных систем такого уровня сложности проблема обеспечения надежного функционирования и восстановления при сбоях особенно актуальна. Поэтому в процессе выбора эффективной конфигурации вычислительных ресурсов GRID для решения сложной задачи требуется оценивать не только производительность возможных конфигураций ресурсов GRID-системы, но и их надежность. Однако принципы, положенные в основу построения GRID-систем, требуют разработки и применения новых нетрадиционных подходов к решению проблемы надёжности подобного рода систем.
GRID-систему можно определить как пространственно распределенную операционную среду с гибким, безопасным и скоординированным разделением ресурсов для выполнения приложений в рамках определенных виртуальных организаций. Особенности организации функционирования систем
GRID позволяют классифицировать такие системы как большемасштабные распределенные ВС с программируемой структурой. Принцип программируемое структуры ВС заключается в том, что в системе заложены возможности хранения описания ее изначальной физической структуры, а также априорной автоматической (программной) настройки проблемно-ориентированных (виртуальных) конфигураций и их перенастройки в процессе функционирования с целью обеспечения адекватности структурам и параметрам решаемых задач и достижения эффективности при заданных условиях эксплуатации [76].
Под надёжностью большемасштабной распределенной ВС с программируемой структурой понимается ее способность к автоматической (программной) настройке и организации функционирования таких структурных схем, которые при отказах и восстановлении вычислителей обеспечивают заданный уровень производительности или, говоря иначе, возможность использовать фиксированное число исправных вычислителей (при реализации параллельных программ решения сложных задач). Это понятие характеризует возможности ВС по переработке информации при наличии структурной избыточности (представленной частью вычислителей) и при использовании параллельных программ с заданным числом ветвей [81].
При изучении надежности болылемасштабных распределенных ВС с программируемой структурой должна быть учтена следующая особенность: процесс восстановления обнаруженных отказавших элементарных машин (ЭМ) предусматривает не ремонт машин, а реконфигурацию системы. При этом проверка работоспособности ВС и поиск отказавших машин выполняются соответственно средствами (само)контроля и (само)диагностики (контролёром и диагностом соответственно). Реконфигурация і системы заключается в программной настройке новой конфигурации с заданным числом п исправных ЭМ - эту функцию выполняет реконфигуратор. Для создания новой конфигурации основной подсистемы могут быть использованы, в общем случае, машины из избыточности и/или резерва. Контролёр, диагност и реконфигуратор являются компонентами распределенной операционной системы (ОС). Эта композиция, по сути, является виртуальным восстанавливающим устройством (ВУ) для распределенной ВС.
В системах, построенных на основе технологии GRID, вся работа по управлению, распределению и оптимизации использования ресурсов системы динамически выполняется системным ПО в процессе функционирования GRlD-системы. Брокер ресурсов, используя систему мониторинга, постоянно следит за состоянием ресурсов и автоматически принимает необходимые меры по эффективному перераспределению ресурсов в случаях возникновения отказов в работе ресурсов, а также для предотвращения их перегрузок и простоя. Таким образом, система мониторинга GRID выполняет функцию контроля, а функции диагностики и реконфигурации осуществляет брокер ресурсов.
Для исследования различных характеристик проектируемой ВС с целью выбора ее эффективной структуры успешно применяется аналитическое моделирование, однако существующие аналитические методы оценки на дежности конфигурации вычислительных ресурсов GRID, предназначенной для решения сложной задачи, разработаны недостаточно. Один из широко применяемых подходов к расчету надежности вычислительной системы за ключается в описании и исследовании ее функционирования с помощью ап парата теории массового обслуживания, когда ВС представляется как систе ма массового обслуживания с ожиданием [49]. Построим аналитическую модель надежности централизованного вари ] I анта GRID-системы при реализации задачи с синхронным стартом. Пусть в конфигурацию GRID-системы входит произвольное количество клиентских вычислительных узлов различной производительности, соединенных концентратором с многопроцессорным сервером.
При расчёте показателей надёжности за основу берётся стохастическая модель функционирования ВС. Одним из основных требований, предъявляемых к методике расчёта показателей качества работы вычислительных систем, является требование адекватности стохастических моделей функционирования ВС реальному процессу их работы или реализации принципа квазианалогии, который применительно к рассматриваемой проблеме гарантирует не подобие между стохастическими моделями и функционированием ВС, а удовлетворительную для практики точность расчётов.
Автоматизированная система поддержки принятия решений «Формирование эффективной конфигурации GRID-системы»
Применение для решения поставленной задачи эвристического (т.н. «наивного») метода прогнозирования, когда предполагается, что изменения прогнозируемых величин в последующий период времени, для которого строится прогноз, будут точно такими же, как за прошедший аналогичный период, также показало худшие результаты, чем предлагаемый подход на ос I ! нове нейросетевого моделирования, что ооъясняется неинерционностыо процессов на рынке продаж фармацевтических товаров. Полученные результаты подтверждают эффективность примененного подхода к решению поставленной задачи.
Прогнозирование деградации электрических характеристик солнечных батарей космического аппарата
Необходимо по имеющимся результатам измерения параметров солнечных батарей (БС) в полёте (параметры секций БСЗ и БС4 на космическом аппарате (КА) ЭКСПРЕСС-Л №2) и результатам измерения параметров активного Солнца с КА ЭКСПРЕСС-А и GOES в период с 12.03.2000 по 20.12.2003 (всего 950 измерений) построить модель, прогнозирующую дегра-дацию электрических характеристик БС.
Таким образом, на основании полетных данных необходимо построить иейросетевую модель, в которой будут сформированы внутренние закономерности, позволяющие предсказывать значения выходных параметров для «пробного» набора внешних воздействий.
Для решения поставленной задачи использовалась разработанная система автоматизации проектирования искусственных нейронных сетей.
В результате моделирования была получена аппроксимация Парето I множества, состоящая из двух нейросетевых моделей, отличающихся ошибкой прогнозирования и сложностью структур.
Полученная нейросетевая модель №1 при сравнимой точности обладает значительно меньшей вычислительной сложностью, чем результаты полученные ранее.
Таким образом, для задачи прогнозирования деградации электрических характеристик солнечных батарей построена нейросетевая модель, позволяющая успешно предсказывать значения таких характеристик.
На основе предложенных в диссертационной работе моделей и алгоритмов разработаны современные программные системы, которые могут быть использованы для эффективной реализации структурно-параметрического синтеза нейросетевых моделей сложных систем различного назначения на базе технологии GRID.
Разработанная в процессе выполнения диссертационной работы программная система «Генетические алгоритмы выбора структуры и настройки искусственных нейронных сетей» прошла отраслевую и государственную экспертизу и зарегистрирована в отраслевом фонде алгоритмов и программ, что делает ее доступной для широкого круга пользователей.
Система автоматизации проектирования искусственных нейронных сетей на основе разработанного параллельного многокритериального генетического алгоритма использовалась при решении практической задачи прогнозирования объемов продаж товаров в аптеке №310 ГПКК «Губернские » (г. Красноярск), а также при решении задачи прогнозирования деграда I її ции электрических характеристик солнечных батарей на космическом аппарате ЭКСГ1РЕСС-А №2. Полученные результаты решения практической задачи прогнозирования свидетельствуют об эффективности разработанного подхода к построению нейросетевых моделей.
Автоматизированная система поддержки принятия решений «Формирование эффективной конфигурации GRID-системы» на основе разработанного комплекса математических моделей оценки эффективности функционирования GRID-систем применялась для решения задачи выбора эффективной структуры централизованной GRID-системы, настроенной на решение задачи структурно-параметрического синтеза нейросетевых моделей. Апробация данного программного средства показала, что разработанное программное обеспечение позволяет успешно решать задачи проектирования систем на базе технологии I GRID, предназначенных для решения сложных научно-технических задач.
Комплексное применение разработанных программных средств, реализующих предложенные модели и алгоритмы, позволяет повысить эффективность распределенного решения задач структурно-параметрического синтеза нейросетевых моделей сложных систем на базе технологии GRID.
В ходе выполнения диссертационной работы получены следующие результаты:
1. На основе анализа существующих технологий пейросетевого моделирования разработай подход к автоматизации проектирования нейросетевых моделей произвольной архитектуры с применением аппарата эволюционной оптимизации.
2. Формализована задача выбора эффективной структуры нейронных сетей с учетом их вычислительной сложности в виде многокритериальной задачи оптимизации.
3. Разработан модифицированный многопопуляционный параллельный генетический алгоритм решения задач многокритериальной оптимизации, отличающийся от известного использованием оператора миграции на основе концепции Парето-доминировапия.
4. Разработан новый многокритериальный многопопуляционный параллельный генетический алгоритм решения сложных задач оптимизации, отличающийся от известных использованием процедуры реструктуризации топологии связей между популяциями в ходе решения.
5. Разработана, апробирована и внедрена «Система автоматизации проектирования искусственных нейронных сетей параллельными генетическими алгоритмами» на основе разработанного многокритериального много-популяционного параллельного генетического алгоритма.
6. Построены математические модели оценки производительности и надежности функционирования GRID-систем при решении сложных научно-технических задач.
7. Формализована задача выбора эффективной конфигурации GRID-системы для решения сложных задач.
8. Разработана, апробирована и внедрена автоматизированная система поддержки принятия решений «Формирование эффективной конфигурации GRID-системы» на основе разработанного комплекса математических моделей оценки эффективности функционирования GRID-систем.
Таким образом, в данной диссертации разработаны модели и алгоритмы, позволяющие эффективно решать задачи структурно-параметрического синтеза искусственных нейронных сетей для моделирования сложных объектов и процессов в распределенных вычислительных сетях с использованием GRID-технологии, а также повысить обоснованность выбора эффективной конфигурации вычислительных ресурсов GRID-системы, что имеет сущест-венное значение для теории и практики системного анализа и обработки информации.
