Содержание к диссертации
Введение
ГЛАВА 1. Моделирование сложных систем на основе адаптивного нечеткого логического вывода 12
1.1. Исследование понятия сложной системы и ее основных элементов. 12
1.2. Математическая теория нечетких множеств 15
1.3. Нечеткие правила и способы нечеткого логического вывода 20
1.4. Эволюционный подход к построению моделей нечеткого вывода... 26
1.4.1. Генетический алгоритм с двоичным кодированием 27
1.4.2. Генетический алгоритм с вещественным кодированием 33
1.5. Структура адаптивной нечеткой модели с генетическим алгоритмом обучения 37
1.6. Классификация адаптивных моделей нечеткого вывода 38
1.7. Сравнительная характеристика методов генерации нечетких правил40
1.8. Методы параметрической адаптации нечетких систем, анализ их преимуществ и недостатков 42
1.9. Анализ существующих программных средств для построения адаптивных моделей нечетного вывода 44
Цель и задачи исследования 48
ГЛАВА 2. Разработка метода обучения нечеткой модели 51
2.1. Основные проблемы, возникающие на этапах обучения и настройки нечеткой модели. 51
2.2. Классификационный алгоритм генерации нечетких правил 60
2.3. Одноэтапный комбинированный метод обучения нечеткой модели Мамдани 65
2.3.1. Формализация задачи обучения и настройки адаптивной нечеткой модели 65
2.3.2. Схема кодирования вектора параметров нечеткой модели в хромосому для оптимизации генетическим алгоритмом 67
2.3.3. Алгоритм комбинированного метода обучения 75
2.3.4. Алгоритм поиска подобного правила при неполной базе нечетких правил 78
2.4. Разработка гибридного генетического алгоритма для использования в процедуре обучения нечеткой модели 81
2.5. Адаптация комбинированного метода обучения к нечетким правилам в форме TSK 87
Выводы 89
ГЛАВА 3. Численно-параметрические исследования 91
3.1. Описание разработанного программного обеспечения для построения адаптивной модели нечеткого вывода. 91
3.2. Исследование эффективности гибридного генетического алгоритма в задачах глобальной оптимизации 94
3.3. Исследование эффективности комбинированного метода обучения адаптивной нечеткой модели для идентификации нелинейных зависимостей 101
3.3.1. Описание тестовых функций. 101
3.3.2. Условия проведения эксперимента и принятые параметры алгоритмов 103
3.3.3. Результаты тестовых экспериментов 106
3.3.4. Анализ результатов численно-параметрического эксперимента 116
3.3.5. Восстановление поверхности многомодальной обобщенной функции Растригина нечеткой моделью 119
Выводы 124
ГЛАВА 4. Применение модели адаптивного нечеткого вывода для прогнозирования трудоемкости изготовления деталей в машиностроении 126
4.1. Анализ необходимости разработки новых методов нормирования. 126
4.2. Использование теории конструктивно-технологической сложности для формализованного описания групп машиностроительных деталей 129
4.3. Модель адаптивного нечеткого вывода для определения прогнозной трудоемкости изделий на основе теории конструктивно-технологической сложности 131
4.4. Построение адаптивной нечеткой модели для определения трудоемкости для класса корпусных деталей 138
Выводы 145
Заключение 147
Список литературы 151
Приложения 162
- Генетический алгоритм с вещественным кодированием
- Схема кодирования вектора параметров нечеткой модели в хромосому для оптимизации генетическим алгоритмом
- Исследование эффективности гибридного генетического алгоритма в задачах глобальной оптимизации
- Модель адаптивного нечеткого вывода для определения прогнозной трудоемкости изделий на основе теории конструктивно-технологической сложности
Введение к работе
Сложные системы характеризуются большим числом входов-выходов и элементов, связи между элементами носят разнотипный, нелинейный характер. Часть информации о системе представлена в качественном виде. Функционирование системы происходит в условиях нечеткости и неопределенности, которую вносит человеческий фактор. В этом случае, как правило, получение закона распределения параметров, воздействующих на систему, становится трудной, часто неразрешимой за ограниченное время задачей. Традиционные средства (вероятностный подход на основе аппарата математической статистики, имитационное моделирование) не позволяют строить модели таких систем в условиях ограниченности временных, материальных и трудовых ресурсов. Спектр таких задач постоянно расширятся: это управление производственными системами, распознавание сигналов и образов, классификация и многие другие.
Поэтому в последние годы наблюдается повышение научного и практического интереса к методам интеллектуальной обработки информации. К ним относятся: искусственные нейронные сети, гибридные нейронные сети, модели на основе нечеткой логики [15, 24, 25, 29, 71].
Нечеткая логика (англ.: fuzzy logic), основы которой заложил Л. Заде в 60-х годах прошлого столетия [18], за несколько десятилетий превратилась в мощный инструмент для построения моделей приближенных рассуждений человека в задачах принятия решений в условиях неопределенности, классификации и анализа данных. Математический аппарат теории нечетких множеств позволяет построить модель объекта, основываясь на нечетких рассуждениях и правилах. Нечеткие модели описывают явления и процессы реального мира на естественном языке при помощи лингвистических переменных, а механизм нечеткого вывода прозрачен и понятен человеку. Эти преимущества обусловили широкое применение нечеткой логики для решения задач автоматического управления, принятия решений, прогнозирования в различных прикладных областях науки, техники и экономики [2, 3, 6, 7, 38, 42].
7 Принято выделять три периода в развитии нечеткой логики и нечетких систем [30]. Первый период (конец 60-х-начало 70 гг.) характеризуется развитием теоретического аппарата нечетких множеств (Л. Заде, Е. Мамдани, Белл-ман). Во втором периоде (70-80-е годы) появляются первые практические результаты в области нечеткого управления техническими системами (поршневой двигатель). Одновременно ученые коллективы стали уделять внимание вопросам построения экспертных систем, построенных на нечеткой логике, разработке нечетких контроллеров. Наконец, в третьем периоде, который длится с конца 80-х годов и продолжается в настоящее время, появляются пакеты программ для построения нечетких экспертных систем, а области применения нечеткой логики заметно расширяются. Она применяется в автомобильной, аэрокосмической и транспортной промышленности, в области изделий бытовой техники, в сфере финансов, анализа и принятия управленческих решений и многих других [25,41,42].
К началу 90-х годов число научных работ, посвященных нечеткому моделированию, превышает 10 тыс., причем большая часть исследований ведется на Востоке (Япония, Китай) [30, 84]. Исследованиям в этой области посвящены работы ученых А.Н. Аверкина, А.Н. Борисова, Д.А. Поспелова, Л.А. Заде, А. Кофмана, Дж. Клира, Е.А. Мамдани, А.П. Рыжова и др.
Несмотря на достоинства нечетких экспертных систем (описание проблем на естественном языке с использованием лингвистических переменных, параллельное выполнение правил, возможность использования противоречивых правил и др.), они имеют недостатки, свойственные всем остальным экспертным системам - необходимость привлечения экспертов к формированию базы знаний [50]. В нечетких системах эксперты формируют правила и функции принадлежности. Особенно сложным этапом является выбор параметров, характеризующих функции принадлежности. Из-за субъективности экспертов построенные ими функции принадлежности могут не вполне отражать реальную действительность. Кроме того, для построения функций принадлежности
эксперт должен обладать высокой квалификацией, а это в конечном итоге увеличивает расходы на создание экспертной системы. Поэтому в начале 90-х годов появляются адаптивные модели нечеткого логического вывода. В них параметры нечеткой модели подбираются в процессе обучения на экспериментальных данных. Исследованиям в этой области посвящены работы ученых Ф. Херреры (F. Herrera), Т. Фукуды (Т. Fukuda), Ч. Kappa (Ch. Karr), М. Лозано (М. Lozano), М. Сакава (М. Sakawa), О. Кордона (О. Cordon), Ж. Касиласа (J. Casil-las), Ф. Хоффмана (F. Hoffman), Р. Янга, В.В. Круглова, А.П. Ротштейна, С.Д. Штовбы и др. География лидирующих стран, ученые которых занимаются проблемами построения адаптивных нечетких моделей, выглядит следующим образом (в скобках указана доля печатных работ от общего количества за период с 1993 по 2003 гг.): Япония (20,4%), США (19,2%), Тайвань (6,9%), Китай (6,6%), Великобритания (5,8%), Южная Корея (5,5%), Испания (5,1%) [79].
Таким образом, модели, построенные на нечеткой логике, в которых подбор параметров нечеткой модели ведется в процессе обучения на данных, описывающих исследуемую сложную систему, относят к классу адаптивных моделей нечеткого логического вывода.
Целью диссертации является создание, исследование и совершенствование методов автоматического построения (обучения) нечетких моделей на основе экспериментальных данных, что внесет существенный вклад в вопросы интеллектуального моделирования сложных систем и решение задач идентификации, классификации и прогнозирования.
Обучение нечетких моделей является трудной задачей. В настоящее время не существует какого-либо общепризнанного, классического метода обучения, и данная область остается не до конца проработанной. При подборе параметров адаптивной модели нечеткой решается задача минимизации нелинейной функции ошибки с ограничениями. В ходе ее решения имеются следующие проблемы:
1. Проблема получения (генерации) нечетких правил.
Алгоритм глобальной минимизации функции ошибки нечеткой модели. Градиентные методы обучения часто оказываются малоэффективными из-за разрывности, многоэкстремальности и большой размерности оптимизируемой функции.
Способ представления параметров нечеткой модели в векторе неизвестных.
В диссертации последовательно решаются все вышеназванные проблемы. Для этого поставлены следующие задачи:
Разработать и реализовать на ЭВМ метод обучения адаптивных нечетких моделей, позволяющий получать нечеткие правила и функции принадлежности из экспериментальных данных.
Исследовать способности разработанных нечетких моделей идентифицировать нелинейные зависимости.
Исследовать эффективность применения адаптивных нечетких моделей на практике.
Наиболее перспективным направлением исследования является применение генетических алгоритмов для построения адаптивных нечетких моделей. Научная новизна работы заключается в следующем.
1. Разработан метод обучения моделей нечеткого вывода Мамдани и Су-
гено, позволяющий получить нечеткие правила и функции принадлежности из
экспериментальных данных без участия эксперта.
2. Разработан новый гибридный генетический алгоритм, эффективно
справляющийся с оптимизацией многоэкстремальных функций большой раз
мерности и применяющийся в методе обучения нечеткой модели.
3. Впервые предложена методика определения прогнозной трудоемкости
изготовления машиностроительных изделий на основе нечеткой логики, что по
зволяет оперативно оценивать нормы времени без проектирования технологи
ческого процесса.
В первой главе диссертационной работы исследуется понятие сложной системы и ее основных элементов, приводится современная классификация методов моделирования сложных систем. Приводятся основные сведения из теории нечетких множеств и генетических алгоритмов, делается анализ существующих алгоритмов построения адаптивных нечетких моделей и программных продуктов на основе нечеткой логики.
Во второй главе подробно анализируются проблемы, возникающие на этапе обучения нечеткой модели. Описывается метод обучения нечетких моделей, названный комбинированным методом обучения с классификационным алгоритмом генерации правил (КМ-КАГП) и гибридный генетический алгоритм, применяемый при минимизации функции ошибки нечеткой модели.
В третьей главе приведены результаты численно-параметрических исследований адаптивных нечетких моделей. На тестовых функциях исследуются их способности идентифицировать зависимости, а также результаты оптимизации многоэкстремальных функций разработанным гибридным генетическим алгоритмом. Описывается программная среда, в которой выполнялись эксперименты, ее возможности и взаимодействие с пользователем.
В четвертой главе приводится решение практической задачи - прогнозирование трудоемкости изготовления машиностроительных изделий на основе адаптивной модели нечеткого логического вывода с использованием теории конструктивно-технологической сложности. Данная задача является очень актуальной в современных рыночных условиях функционирования любого машиностроительного предприятия. В качестве примера рассматривается построение адаптивной нечеткой модели для класса корпусных деталей.
Основным результатом диссертационной работы является то, что повышена эффективность использования моделей на основе нечеткой логики за счет разработки метода их обучения, что вносит существенный вклад в вопросы построения интеллектуальных систем обработки информации. На защиту выносятся:
метод обучения адаптивных моделей нечеткого логического вывода, включающий классификационный алгоритм генерации правил и схему кодирования параметров нечеткой модели;
гибридный генетический алгоритм с дополнительным обучением лидера, используемый для минимизации функции ошибки нечетких моделей;
результаты исследования способностей по идентификации нелинейных зависимостей адаптивными нечеткими моделями;
результаты применения адаптивного нечеткого вывода в прогнозировании трудоемкости изготовления машиностроительных деталей.
Генетический алгоритм с вещественным кодированием
При формировании новой популяции работает оператор отбора полученных в результате скрещивания и мутации новых индивидов. Новая популяция должна быть сокращена до исходного размера, и для этого из нее удаляются менее приспособленные особи, т.е. с наименьшими значениями функции фит-неса. На этапе отбора может использоваться стратегия элитизма, которая заключается в том, что часть особей (в простейшем случае — одна) с наибольшей приспособленностью гарантированно переходят в новую популяцию без всяких изменений [25]. Экспериментальные исследования показывают, что применение элитизма при использовании схемы с бинарным кодированием ускоряет сходимость ГА, но вместе с тем повышается вероятность попадания в локальный экстремум [4,15].
Критерием останова генетического алгоритма может выступать ограничение на максимальное количество поколений, или когда средняя приспособленность популяции, определяемая по формуле к перестает изменяться заданное число эпох.
Высокая эффективность отыскания глобального минимума или максимума генетическим алгоритмом теоретически обоснована в фундаментальной теореме генетических алгоритмов («теореме о шаблоне»), доказанной Холлан-дом [34]. В теореме для анализа ГА вводится понятие «схемы» (шаблона) (англ.: schemata), которая состоит из множества двоичных строк, описывающих некоторое множество хромосом. В схеме часть генов могут быть произвольными, а другие определены полностью. Например, шаблон {01 1 0} описывает следующее множество строк (знак означает 1 или 0): {010100,010110,011100,011110}. Обозначим: Н - определенный шаблон, присутствующий в популяции, m(H,i)— количество особей в популяции в момент времени t, / — длина хромосомы, F- средняя приспособленность всей популяции, F(H) - средняя приспособленность особей, входящих в шаблон Н. Дополнительно введем две характеристики шаблона: порядок шаблона о(Н), т.е. число зафиксированных позиций Я, содержащих 0 или 1, и длину шаблона 8{Н). Длина шаблона есть дистанция между первой и последней зафиксированными позициями в шаблоне. В фундаментальной теореме Холланда утверждается [92, 101], что после применения к популяции оператора скрещивания (с вероятностью выполнения Рс) и мутации (с вероятностью Рт) ожидаемое число особей на следующем шаге (t +1) определяется выражением:
Согласно (1.16) число шаблонов с короткой длиной 8(H) и низким порядком о(Н), имеющих приспособленность выше средней, растет экспоненциально в новой популяции.
Двоичное представление хромосом влечет за собой определенные трудности при выполнении поиска в непрерывных пространствах, которые связаны с большой размерностью пространства поиска. Это происходит, когда фенотип объекта представляется множеством вещественных чисел, например, при оптимизации сложной функции. Использование специального приема, в котором весь интервал допустимых значений признака объекта разбивается на участки с требуемой точностью, имеет недостатки. Согласно формуле (1.13), заданная точность р определяется выражением:
Из (1.17) видно, что р сильно зависит от N, т.е. точность представления определяется количеством разрядов, используемых для кодирования одной хромосомы. Поэтому при увеличении N пространство поиска расширяется и; становится огромным. Например, пусть для 100 переменных, изменяющихся в интервале [-500, 500], требуется найти минимум с точностью до шестого знака после запятой. В этом случае при использовании ГА с двоичным кодированием длина строки составит 3000 элементов, а пространство поиска - около Ю1000 [99].
Для решения таких задач в непрерывных пространствах возник новый тип ГА - генетический алгоритм с вещественным кодированием (англ.: Real-coded Genetic Algorithm, RGA) [91, 92,99, 101]. Основная идея RGA заключается в том, чтобы напрямую представлять гены в виде вещественных чисел, т.е. генотип объекта становится идентичным его фенотипу. Вектор хромосомы состоит из вектора вещественных чисел, и точность найденного решения р будет определяться не количеством разрядов для кодирования битовой строки, а будет ограничена возможностями ЭВМ, на которой реализуется вещественный ГА [92].
Применение вещественного кодирования может повысить точность найденных решений и повысить скорость нахождения глобального минимума или максимума. Скорость повышается из-за отсутствия процессов кодирования и декодирования хромосом на каждом шаге алгоритма.
Для RGA стандартные операторы скрещивания и мутации не подходят, т.к. алгоритм работает только с вещественными числами. По этой причине были разработаны и исследованы специальные операторы. Наиболее полный их обзор приведен в [92].
Схема кодирования вектора параметров нечеткой модели в хромосому для оптимизации генетическим алгоритмом
Основные функции и алгоритмы в расширении Fuzzy Logic Toolbox реализованы для механизма вывода Сугено (TSK). Предоставляется возможность работы как с дескриптивными, так и с аппроксимативными правилами в форме TSK. Обучение нечеткой модели проводится в два этапа. На первом этапе генерация правил и нахождение границ термов проводится на основе метода субтрактивной кластеризации. На втором этапе используется технология AN-FIS (Adaptive Network-based Fuzzy Inference System) - итерационная процедура для настройки функций принадлежности методом обратного распространения ошибки. Обучение моделей Мамдани в данном пакете не предусмотрено, не поддерживается и работа с аппроксимативными правилами в форме Мамдани. С применением дополнительного пакета Optimization Toolbox можно провести адаптивную настройку функций принадлежности по Мамдани, но нечеткие правила необходимо задать самостоятельно. Возможность применения эволюционных вычислений и генетических алгоритмов в методах настройки адаптивных нечетких моделей в Fuzzy Logic Toolbox также отсутствует. Эта возможность доступна в другом пакете расширения для MatLab - пакете FlexTool компании CynapSys. Это единственный из широко известных коммерческих пакетов, в котором имеется возможность полной генетической настройки всех частей нечеткой модели. На выбор исследователю предлагается три типа функций принадлежности (треугольная, трапецеидальная и гауссова), 10 способов нечеткой импликации (по Заде, Мамдани, Лукасевичу, Клене-Диенесу и др.), 19 способов суперпозиции нечетких множеств (включая такие редкие, как Дюбуа, Домби, Ягера и др.), 8 методов дефазификации и два механизма вывода — Мамдани и Сугено. Такое разнообразие нечетких моделей для адаптивного нечеткого вывода более чем достаточное, поскольку на практике используют, как правило, импликацию в виде минимума и суперпозицию операцией максимума или произведения. Адаптивная нечеткая модель способна настроиться под конкретный способ дефазификации, поэтому критерием выбора того или иного способа должна служить его наименьшая вычислительная сложность. Для обучения модели на экспериментальных данных есть возможность выбора из трех типов генетического алгоритма — стандартный ГА, микро-ГА (Micro-GA) и устойчивый ГА (Steady State GA). Последние два представляют собой модификации стандартного ГА и подробно описаны, например в [89].
У пакета FlexTool имеются следующие недостатки: 1. Высокая цена, к которой необходимо прибавить цену среды MATLAB, и тогда полная стоимость пакета составит от 2,5 до 4,5 тыс. долл. в зависимости от варианта поставки. 2. Полное отсутствие документации на русском языке к пакету FlexTool и российских информационных источников, посвященных использованию данного пакета. 3. Методы, используемые в пакете FlexTool для обучения нечеткой модели генетическим алгоритмом, неизвестны. Цель и задачи исследования В результате анализа возможностей применения методов теории нечетких множеств для моделирования сложных систем, существующих методов построения адаптивных нечетких моделей и программных средств на их основе установлено следующее. 1. Создание нечетких моделей сложных систем является мощным средством их исследования, в особенности, когда адекватная математическая модель рассматриваемой сложной системы не может быть получена традиционными аналитическими и статистическими методами. Кроме того, построение нечеткой модели в большинстве случаев осуществляется быстрее, чем при использовании классических математических методов. 2. Адаптивные модели нечеткого вывода относятся к группе методов интеллектуального анализа данных и стоят в одном ряду с такими технологиями, как искусственные нейронные сети, деревья решений, гибридные нейро-нечеткие модели. Все эти методы решают задачи идентификации нелинейных зависимостей в сложных системах. Преимуществом адаптивных нечетких моделей является прозрачность выводов, осуществляемых ими, и извлечение из данных нечетких правил, формулируемых на естественном языке. 3. Методы построения (обучения) адаптивных нечетких моделей являются более сложными и трудоемкими, чем методы других интеллектуальных моделей. Основные трудности связаны с генерацией базы нечетких правил и корректировкой формы функций принадлежности. В настоящий момент не существует какого-либо одного общепризнанного метода обучения нечетких моделей, поэтому актуальной задачей является разработка и поиск новых, эффективных методов. Наиболее перспективное направление исследований лежит в использовании генетических алгоритмов для обучения нечетких моделей. 4. Проведенный обзор известных пакетов программ для нечеткого моделирования показал, что большинство из них ориентированы на построение нечетких экспертных систем, когда параметры функций принадлежности и правила задаются экспертом. Только в одном пакете используются генетические алгоритмы для формирования нечеткой модели. Недостатком пакета является его высокая стоимость. Все вышеперечисленное позволило сформулировать главную цель диссертационной работы. Это создание, исследование и совершенствование методов автоматического построения нечетких моделей на основе экспериментальных данных, что внесет существенный вклад в вопросы интеллектуального моделирования сложных систем и повысит эффективность применения нечеткой логики. Для достижения поставленной цели в диссертации поставлены следующие основные задачи. 1. Разработать и реализовать на ЭВМ метод обучения адаптивной нечеткой модели, позволяющий получить нечеткие правила и функции принадлежности из экспериментальных данных. 2. Исследовать способность разработанной нечеткой модели идентифицировать нелинейные зависимости на тестовых функциях. 3. Исследовать на практике эффективность применения разработанных методов, алгоритмов и инструментальных средств. Методами исследования должны стать методы теории нечетких множеств, теории оптимизации, эволюционных алгоритмов, системного анализа и принятия решений, математической статистики, объектно-ориентированного программирования.
Исследование эффективности гибридного генетического алгоритма в задачах глобальной оптимизации
Основная задача, решаемая в данной главе настоящей работы - это проведение численно-параметрических исследований для проверки эффективности разработанных методов построения и обучения нечетких моделей при идентификации нелинейных зависимостей. Под эффективностью понимается высокая точность получаемых результатов на основе адаптивной нечеткой модели, ее интерпретируемость и прозрачность. В п. 3.1 описывается разработанная программная среда для проведения экспериментов, ее общие возможности и системные требования. В п. 3.2. исследуется гибридный генетический алгоритм на сложных многоэкстремальных функциях большой размерности в сравнении со стандартным генетическим алгоритмом. В п. 3.3. проводятся эксперименты по восстановлению поверхности нелинейных функций нечеткими моделями, обученной разработанным комбинированным методом с классификационным алгоритмом генерации правил с механизмами вывода Мамдани и Сугено. Для минимизации функции ошибки в комбинированном методе используется как стандартный ГА, так и предложенный гибридный ГА с дополнительным обучением лидера. В заключении делаются выводы и то, насколько полученные результаты согласуются с данными других исследователей. - Загрузка экспериментальных данных из текстовых файлов и их просмотр. - Назначение каждой входной и выходной переменной количества лингвистических термов. Минимальное число термов равно двум. - Задание параметров генетического алгоритма, используемого при обучении нечеткой модели: тип (бинарный, вещественный, гибридный), кроссовер (BLX, арифметический), вероятность скрещивания, тип оператора мутации: случайная или неравномерная (только для вещественного ГА), вероятность мутации и количество хромосом. - Обучение нечеткой модели по комбинированному методу с классификационным алгоритмом генерации правил. Предусмотрен дополнительный этап обучения, когда границы нечетких множеств остаются фиксированными. - Поддерживаются два типа нечетких правил: правила в форме Мамдани (механизм вывода Мамдани) и правила TSK (механизм вывода Сугено). - Задание доли обучающей и тестовой выборок в процентах. - Визуализация процесса обучения: на каждой итерации (эпохе) выводится усредненная ошибка MSE отдельно для обучающей и тестовой выборок, количество нечетких правил и графики зависимости желаемого результата от полученного адаптивным нечетким выводом. - Просмотр построенной адаптивной нечеткой модели: базы правил, границ нечетких множеств и функций принадлежности. Для работы программы необходимы следующие требования: - Intel-совместимый процессор с тактовой частотой от 200 МГц (рекомендуется 400 и выше); - 64 Мб оперативной памяти (рекомендуется 128 Мб и более); - Установленная ОС семейства Windows 9х и выше. При выборе языка программирования и средства разработки учитывались следующие факторы: быстрота создания приложений для платформы Windows и наличие объектно-ориентированной технологии программирования. Заметим, что распространенным решением является создание математического программного обеспечения в виде пакетов расширения к MatLab. У данного подхода имеются следующие недостатки: - конечное приложение способно работать только в составе среды MatLab или как внешний подключаемый модуль в виде библиотеки DLL; - возможности создания мощного графического интерфейса пользователя сильно ограничены; - низкая объектно-ориентированная направленность встроенного языка MatLab a. В результате анализа перечисленного для создания программного обеспечения было выбрано инструментальном средство разработки приложений Delphi 7.0 [37]. Программирование осуществлялось с применением как традиционного, так и объектно-ориентированного подходов. Гибридный генетический алгоритм был реализован в виде компонентов (классов) THybridBinaryCodedGA и THybridRealCodedGA. Такой подход позволяет использовать предложенный гибридный ГА с дополнительным обучением лидера в других задачах (оптимизация, синтез компонентов интеллектуальных систем) без повторного программирования алгоритмов. Предложенный гибридный генетический алгоритм, использующий принцип дополнительного обучения лидера по одному из градиентных методов (п. 2.4), представляет широкие возможности при его применении в задачах обучения и настройки параметров интеллектуальных систем, в том числе адаптивных нечетких моделей. Поскольку задача настройки параметров нечеткой модели связана с решением задачи глобальной оптимизации, то эффективность гибридного генетического алгоритма необходимо предварительно проверить на тестовых многомодальных и многоэкстремальных функциях большой размерности. Проведение такого эксперимента является целью данного раздела. Рассмотрим следующие комбинации: BGA+MHC, BGA+МСГ, BGA+МПМ, RGA+MHC, RGA+МСГ, RGA+МПМ. Комбинации BGA+MHC и RGA+MHC после анализа можно трактовать как неперспективные. Метод наискорейшего спуска по всем показателям значительно проигрывает методу сопряженного градиента и методу переменной метрики.
Модель адаптивного нечеткого вывода для определения прогнозной трудоемкости изделий на основе теории конструктивно-технологической сложности
По результатам проделанного эксперимента можно сказать следующее. 1. Адаптивные нечеткие модели с правилами в форме TSK Т\ и Гг, обученные методом КМ-КАГП, демонстрируют гораздо лучшие результаты, чем модели Мамдани М\ и М2. Ошибка обучения на тестовой выборке для модели TSK в 5-20 раз меньше, чем при использовании правил Мамдани. Коэффициент корреляции также выше в моделях TSK. 2. Эффективность применяемых в методе обучения генетического алгоритма с бинарным кодированием и генетического алгоритма с вещественным кодированием хромосомы одинакова. 3. Дополнительный этап обучения, проводимый при фиксированных границах нечетких множеств и базе правил, позволяет точнее настроить параметры адаптивной нечеткой модели. Это справедливо для всех четырех типов моделей. 4. Использование гибридного ГА с дополнительным обучением лидера на дополнительном этапе обучения в моделях М], Mj примерно в половине случаев позволяет уменьшить ошибку обучения. В моделях Т\ и Т2 его использование результата не приносит - ни в одном из случаев ошибка обучения не уменьшилась.
Полученный вывод о том, что нечеткая модель с правилами TSK лучше аппроксимирует нелинейные зависимости, совпадает с результатами многочисленных экспериментов других исследователей, несмотря на то, что исследователи использовали алгоритмы обучения нечетких моделей, отличные от разработанного метода КМ-КАГП. Например, в работе [31] автор В. Круглов, проде лав эксперименты на функции у = х , отмечает, что вычислительная реализация модели Сугено проще, а погрешность аппроксимации, получаемая ею, меньше модели Мамдани. В работе [74] эксперимент проводится для функции Fi (тестовая функция № 2 в пп. 3.3.1) с гауссовскими функциями принадлежности. Для модели Мамдани автор нечеткие правила сформулировал вручную, а в модели TSK использовал 4 правила аппроксимативного типа. В результате эксперимента ошибка обучения на тестовой выборке модели TSK получилась в 2.5 раза меньше модели Мамдани. В работах испанского исследователя Ф. Херрера [78, 83] проводятся многочисленные эксперименты дескриптивных и аппроксимативных моделях Мамдани и TSK, и модели TSK (как и все аппроксимативные нечеткие модели) демонстрируют лучшие качества в задачах идентификации нелинейных зависимостей в сравнении с дескриптивными моделями Мамдани.
Таким образом, после обучения нечеткая модель Мамдани проигрывает модели TSK в плане точности аппроксимации, но выигрывает в смысле интерпретируемости, т.к. лингвистические правила понятны человеку. Правила TSK имеют более низкую интерпретируемость, в частности, плохой интерпретации поддаются коэффициенты полинома в правой части правил. В случае использования аппроксимативных правил об интерпретируемости говорить не приходится вообще.
Выбор конкретной модели, Мамдани или TSK, должен производиться с учетом требований к результатам моделирования. Если на первом месте стоит точность, то выбор следует сделать в пользу СугеноSK. В случае, когда важно объяснить полученное нечеткой моделью решение, то выбор однозначно за Мамдани..
Поскольку эффективность генетических алгоритмов с различными способами кодирования - двоичным и вещественным - в задаче обучения нечеткой модели получилась примерно одинаковой, то наиболее предпочтительными нечеткими моделями следует признать Мг и Ті, в которых используется ГА с вещественным кодированием (RGA). Последний имеет меньшую вычислительную трудоемкость благодаря отсутствию процедур кодирования фенотипа в генотип и наоборот. Более точная настройка нечеткой модели на дополнительном этапе объясняется сужением пространства поиска.
Из графиков обучения моделей М\ для функций F\, F2, F3, приведенных на рис. 3.12, 3.17, 3.22 соответственно, видно, что на обучающей выборке генетический алгоритм последовательно уменьшает значение целевой функции, а на тестовой выборке наблюдаются хаотичное скачки значения ошибки Etest. Это объясняется вероятностным механизмом функционирования основных генетических операторов - отбора, скрещивания и мутации.
На всех трех графиках изменения правил от доли обучающей выборки (JV=1200) на рис. 3.14, 3.19, 3.24 отмечается резкий рост количества правил до доли обучающей выборки, равной 30%. После этого следует плавное увеличение количества правил. Поэтому использование доли обучающей выборки, большей 30%, не приведет к улучшению точности аппроксимации.
При увеличении количества лингвистических термов с 3 до 7 (доля обучающей выборки не меняется) происходит резкое уменьшение ошибки обуче 119 ния. При последующем увеличении количества термов уменьшение ошибки обучения происходит медленно (рис. 3.15, 3.20, 3.25). Это справедливо только для тестовых функций F\, F2, Fy. Для произвольной системы данных становится актуальной задача определения оптимального количества термов. Вместе с ростом числа термов растет объем базы правил и, как следствие, падает интерпретируемость нечеткой модели. Поэтому задание количества термов является задачей нахождения компромисса между лучшей интерпретируемостью модели (т.е. меньшего объема базы правил) и ее точностью.
