Содержание к диссертации
Введение
1. Состояние вопроса. цель и задачи исследований. обзор методов прогнозирования 8
1.1. Метод прогнозирования с использованием регрессионной модели...11
1.2. Метод экстраполяции 13
1.3. Использование теории распознавания образов 15
1.3.1. Основные задачи адаптивного распознавания образов 15
1.3.2. Метод дискриминантных функций 25
1.3.3. Метод потенциальных функций 30
1.3.4. Метод классификации с оценкой значимости признаков 34
1.3.5. Метод сравнения с прототипом 36
1.3.6. Метод k-ближайших соседей 37
1.3.7. Алгоритмы вычисления оценок ("голосования") 38
1.3.8. Коллективы решающих правил 40
1.4. Использование принципов нейронных сетей 42
1.5. Сравнительный анализ методов прогнозирования 44
1.6. Обзор операторов прогнозирования качества ЭРИ 51
1.7. Обзор программных средств прогнозирования 56
1.8. Краткие выводы и постановка задач 57
2. Управление качеством элементов и компонентов микросборок на этапе индивидуального прогнозирования 61
2.1. Структурная модель управления качеством микросборок... 61
2.2. Критерии информативности признаков ...65
2.3. Отбор информативных параметров 66
2.4. Технология проведения испытаний 70
2.5. Методика проведения обучающего эксперимента 75
2.6-Виды отказов полупроводниковых приборов 79
2.6.1. Полупроводниковые диоды и стабилитроны 82
2.6.2. Транзисторы биполярные 83
2.6.3. Транзисторы полевые 83
2.7. Дефекты конденсаторов 84
2.8. Виды отказов резисторов 85
3. Программное обеспечение прогнозирования 88
3.1. Выбор языка программирования 88
3.2. Выбор ЭВМ 90
3.3. Разработка алгоритма программы 92
3.4. Состав модулей программы 105
3.5. Описание работы с программой 112
4. Экспериментальные исследования и их анализ 118
4.1. Программа экспериментальных исследований 118
4.2. Методика экспериментальных исследований 119
4.3. Разработка операторов прогнозирования качества ЭРИ 123
4.3.1. Исследование выборки конденсаторов 124
4.3.2. Исследование выборки стабилитронов 136
4.3.3. Исследование выборки резисторов 140
4.4. Выводы 143
Общие выводы 146
Список использованных источников
- Основные задачи адаптивного распознавания образов
- Критерии информативности признаков
- Разработка алгоритма программы
- Разработка операторов прогнозирования качества ЭРИ
Введение к работе
Радиоэлектронная аппаратура (РЭА), являющаяся важнейшей составной частью сложных и разнообразных радиотехнических систем, должна в процессе эксплуатации выполнять возложенные на нее задачи формирования, усиления, преобразования, передачи и запоминания сигналов, несущих полезную информацию. Увеличение роли информации в жизни современного общества, рост потребностей в передаче, обработке, накоплении информации обусловливает широкое использование РЭА во всех областях народного хозяйства. Поэтому на РЭА возлагаются все более ответственные функции, что приводит к ее непрерывному усложнению. В связи с требованиями к повышению качества приборов и механизмов и все возрастающим значением сложных и дорогостоящих систем весьма актуальной в настоящее время становится задача оценки состояния сложной аппаратуры и ее элементов в процессе их изготовления и эксплуатации.
При разработке, изготовлении и эксплуатации объекта принимаются разнообразные меры, направленные на обеспечение его безотказности. Однако полностью устранить возможность появления отказов не удается. Поэтому задача поддержания работоспособного состояния объекта заключается, прежде всего, в своевременном прогнозировании отказов и устранении причин их появления. Прогнозирование отказов необходимо и для того, чтобы предупредить аварийные ситуации, которые могут повлечь за собой тяжелые последствия.
Наиболее действенными методами оценки состояния объектов и прогнозирования его изменения во времени являются методы технической диагностики, которая решает задачи распознавания состояний системы, определения причин нарушения работоспособности, а также установления вида и места дефекта.
Поэтому достаточно актуальной является разработка методов и средств прогнозирования, обладающих относительной простотой реализации, характеризующихся относительно невысокими требованиями к ресурсам ЭВМ и, при этом, позволяющих строить достаточно точные модели многомерных нелинейных объектов и процессов. Подмножеством таких методов являются эвристические методы — методы, не имеющие строгого теоретического обоснования, основанные на опыте и интуиции разработчика.
В настоящее время разработан большой арсенал методов технической диагностики, включающий статистические, вероятностные, логические [48; 50; 97; 111; 112; 3], нечеткие и нейросетевые методы [54; 56; 57].
Статистические, вероятностные и логические методы характеризуются относительной простотой реализации, однако требуют достаточно ольшого объема экспериментальных данных и не позволяют получать высокоточные модели многомерных объектов и процессов.
В свою очередь нейросетевые методы и методы нечеткой логики позволяют строить более точные модели в условиях ограниченного набора обучающих данных, но при этом характеризуются относительной сложностью практической реализации и высокими требованиями к ресурсам ЭВМ.
В настоящей работе для решения задач прогнозирования предлагается использовать комплексный подход к индивидуальному прогнозированию: комбинацию методов распознавания образов и экстраполяции. Это позволит сочетать достоинства обоих методов (используя ЭВМ и разработанный в рамках работы программный комплекс «Прогнозирование»), а также сократить временные и материальные затраты на индивидуальное прогнозирование, что имеет важное научное и промышленное значение.
Настоящая работа выполнена на основе тематического плана НИР, утвержденного ученым советом Самарского государственного аэрокосмического университета в 2000 году по теме «Индивидуальное прогнозирование параметров элементов и компонентов микросборок».
На основании выполненных исследований на защиту выносится: новая методика определения информативных параметров и выявления наилучших
7 операторов прогнозирования. В ходе работы были доработаны алгоритмы существующих методов прогнозирования применительно к их реализации на ЭВМ. В работе также представлены следующие научные положения:
Методика определения информативных параметров и выявления наилучших операторов прогнозирования.
Математическое, алгоритмическое и программное обеспечение комплексной реализации методов экстраполяции, метода дискриминантных функций (МДФ), метода потенциальных функций (МПФ) и регрессионных моделей.
Результаты теоретических исследований процессов прогнозирования методами экстраполяции, МДФ, МПФ и регрессионных моделей.
Полученные данные лабораторных исследований по изучению влияния различных операторов прогнозирования на качество прогнозирования.
Результаты производственных испытаний экспериментального программного комплекса для прогнозирования параметров элементов и узлов РЭА.
Диссертационная работа выполнена на кафедре «Конструирование и производство РЭС» и НИЛ-39 Самарского государственного аэрокосмического университета в 2000...2005 годах.
Основные задачи адаптивного распознавания образов
Распознавание представляет собой информационный процесс, реализуемый некоторым преобразователем информации (интеллектуальным информационным каналом, системой распознавания), имеющим вход и выход. На вход системы подается информация о том, какими признаками обладают предъявляемые объекты. На выходе системы отображается информация о том, к каким классам (обобщенным образам) отнесены распознаваемые объекты.
При создании и эксплуатации автоматизированной системы распознавания образов решается ряд задач [15; 28; 32]. Рассмотрим кратко и упрощенно эти задачи.
Задача формализации предметной области. По сути, эта задача является задачей кодирования. Составляется список обобщенных классов, к которым могут относиться конкретные реализации объектов, а также список признаков, которыми эти объекты в принципе могут обладать.
Задача формирования обучающей выборки. Обучающая выборка представляет собой базу данных, содержащую описания конкретных реализаций объектов на языке признаков, дополненную информацией о принадлежности этих объектов к определенным классам распознавания.
Задача обучения системы распознавания. Обучающая выборка используется для формирования обобщенных образов классов распознавания на основе обобщения информации о том, какими признаками обладают объекты обучающей выборки, относящиеся к этому классу и другим классам.
Задача снижения размерности пространства признаков. После обучения системы распознавания (получения статистики распределения частот признаков по классам) становится возможным определить для каждого признака его ценность для решения задачи распознавания. После этого наименее ценные признаки могут быть удалены из системы признаков. Затем система распознавания должна быть обучена заново, так как в результате удаления некоторых признаков статистика распределения оставшихся признаков по классам изменяется. Этот процесс может повторяться, т.е. быть итерационным.
Задача распознавания. Распознаются объекты распознаваемой выборки, которая, в частности, может состоять и из одного объекта. Распознаваемая выборка формируется аналогично обучающей, но не содержит информации о принадлежности объектов к классам, так как именно это и определяется в процессе распознавания. Результатом распознавания каждого объекта является распределение или список всех классов распознавания в порядке убывания степени сходства распознаваемого объекта с ними.
Задача контроля качества распознавания. После распознавания может быть установлена его адекватность. Для объектов обучающей выборки это может быть сделано сразу, так как для них просто известно, к каким классам они относятся. Для других объектов эта информация может быть получена позже. В любом случае может быть определена фактическая средняя вероятность ошибки по всем классам распознавания, а также вероятность ошибки при отнесении распознаваемого объекта к определенному классу.
Результаты распознавания должны интерпретироваться с учетом имеющейся информации о качестве распознавания.
Задача адаптации. Если в результате выполнения процедуры контроля качества установлено, что оно неудовлетворительное, то описания неправильно распознанных объектов могут быть скопированы из распознаваемой выборки в обучающую, дополнены адекватной классификационной информацией и использованы для переформирования решающих правил, т.е. учтены. Более того, если эти объекты не относятся к уже имеющимся классам распознавания, что и могло быть причиной их неверного распознавания, то этот список может быть расширен. В результате система распознавания адаптируется и начинает адекватно классифицировать эти объекты.
Обратная задача распознавания. Задача распознавания состоит в том, что для данного объекта по его известным признакам системой устанавливается его принадлежность к некоторому ранее неизвестному классу. В обратной задаче распознавания, наоборот, для данного класса распознавания системой устанавливается, какие признаки наиболее характерны для объектов данного класса, а какие нет (или какие объекты обучающей выборки относятся к данному классу).
Задачи кластерного и конструктивного анализа. Кластерами называются такие группы объектов, классов или признаков, что внутри каждого кластера они максимально сходны, а между разными кластерами — максимально различны.
Конструктом (в контексте, рассматриваемом в данном разделе) называется система противоположных кластеров. Таким образом, в определенном смысле конструкты есть результат кластерного анализа кластеров.
В кластерном анализе количественно измеряется степень сходства и различия объектов (классов, признаков), и эта информация используется для классификации. Результатом кластерного анализа является сама классификация объектов по кластерам. Эта классификация может быть представлена в форме семантических сетей.
Критерии информативности признаков
При решении задач распознавания в качестве критерия (в том числе и для оценки информативности признаков) использовался риск потерь. Он основан на оценке вероятностей ошибок распознавания и их стоимости. Говорить об оценке вероятностей можно лишь в рамках статистического подхода, поэтому в данной работе применялся также критерий типа: доля контрольной (экзаменационной) выборки, распознанная неправильно. Выше уже упоминали о том, что объекты обучающей выборки не должны входить в контрольную выборку. В тех случаях, когда общая выборка невелика по объёму, деление её на две части весьма нежелательный шаг (ухудшится и качество обучения, и доверие к результатам контроля) [27]. Для компенсации этого недостатка применялся метод так называемого скользящего контроля. Он состоит в следующем. Все объекты, кроме одного, предъявляются в качестве обучающей выборки. Один объект, не участвовавший в обучении, предъявляется на контроль. Затем из общей выборки отбирается другой объект для контроля, по оставшейся части выборки осуществляется обучение. Такая процедура повторяется столько раз, сколько объектов в общей выборке. В таком случае вся выборка участвует и в обучении, и в контроле, но контрольные объекты не участвуют в обучении. Этот положительный эффект достигается ценой того, что обучение производится не один раз, как это было бы при наличии двух разных выборок (обучающей и контрольной) достаточно большого объёма, а столько раз, сколько объектов в общей выборке. Такой недостаток существенен, поскольку процедура обучения обычно достаточно сложна и её многократное повторение нежелательно. Если же данная процедура используется для отбора информативных признаков, то количество "обучений" нужно ещё умножить на количество сравниваемых между собой наборов признаков. Поэтому для оценки информативности признаков и решения иных задач часто используется не относительное число ошибок распознавания, а другие критерии, с ним связанные. В любом случае эти критерии выражают степень различимости объектов разных образов. Ыапример, как это уже отмечалось при рассмотрении алгоритмов таксономии, отношение среднего расстояния между объектами разных образов к среднему расстоянию между объектами одного образа в ряде случаев оказывается весьма эффективным. При использовании подобных критериев контрольная выборка не нужна, но теряется взаимная однозначность связи с количеством ошибок распознавания.
Ясно, что среднее расстояние между объектами разных классов получается усреднением расстояний между всеми возможными парами объектов, принадлежащих разным классам. Если число классов велико и каждый из них представлен значительным количеством объектов, то процедура усреднения оказывается громоздкой. В этом случае можно воспользоваться усреднением расстояний между эталонами разных классов, а внутри классов - усреднением расстояний от объектов до эталона данного класса.
Вполне понятно, что такое упрощение не всегда допустимо. Всё зависит от формы и взаимного расположения областей признакового пространства, в которых сосредоточены объекты разных классов.
Считаем, что набор исходных признаков задан. Важно, чтобы в него вошли те признаки, которые действительно несут различительную информацию. Пусть исходное признаковое пространство задано. Следовательно, отбор меньшего числа наиболее информативных признаков (формирование признакового пространства меньшей размерности) поддаётся формализации. Пусть X = {х1,х1,...,хк} - исходное признаковое пространство, У = ІУІ УІ — УІ} преобразованное признаковое пространство, Y= F{X},1 ktF - некоторая функция.
Такого рода преобразования приводят к упрощению решающих правил, т.к. их приходится строить в пространстве меньшей размерности. Однако при этом возникает необходимость в реализации преобразования Г(). Поэтому суммарного упрощения может и не получиться, особенно при цифровой реализации преобразования признакового пространства. Желательно, чтобы датчики, измеряющие значения исходных признаков, по своей физической природе таковы, что попутно осуществляли требуемое преобразование.
Особо выделим следующий тип линейного преобразования: где [я J -диагональная матрица, причём её элементы равны либо 0, либо 1.
Это означает, что из исходной системы признаков часть отбрасывается. Разумеется, остающиеся признаки должны образовывать наиболее информативную подсистему. Таким образом, нужно разумно организовать процедуру отбора по одному из ранее рассмотренных критериев информативности. Рассмотрим некоторые подходы.
Оптимальное решение задачи даёт полный перебор. Если исходная система содержит К признаков, а нам нужно выбрать наилучшую подсистему, содержащую 1 К признаков, то придётся рассмотреть С к (число сочетаний из К элементов по /) возможных в данном случае подсистем. Причём рассмотрение каждой подсистемы состоит в оценке значения критерия информативности, что само по себе является трудоёмкой задачей, особенно если в качестве критерия использовать относительное число ошибок распознавания. Для иллюстрации укажем, что для отбора из 20 исходных признаков пяти наиболее информативных приходится иметь дело примерно с 15,5 10 вариантами. Если же количество исходных признаков — сотни, то полный перебор становится неприемлемым. В этом случае целесообразно переходить к разумным процедурам направленного отбора, которые в общем случае не гарантируют оптимального решения, но хотя бы обеспечивают не худший выбор [26].
Рассмотрим некоторые из применяемых в данной работе процедур.
1. Оценивается информативность каждого из исходных признаков, взятого в отдельности. Затем признаки ранжируются по убыванию информативности. После этого отбираются / первых признаков. Здесь число рассматриваемых вариантов С\ = К. При таком подходе оптимальность выбора гарантирована только в том случае, если все исходные признаки статистически не зависят друг от друга. В противном случае (а они чаще всего и встречаются на практике) решение может оказаться далеко не оптимальным.
2. Предполагается, что признаки статистически зависимы. Сначала отбирается самый индивидуально информативный признак (просматривается К вариантов). Затем к первому отобранному признаку присоединяется ещё" один из оставшихся, составляющий с первым самую информативную пару (просматривается К-\ вариантов). После этого к отобранной паре присоединяется ещё один из оставшихся признаков, составляющий с ранее отобранной парой наиболее информативную тройку (просматривается К-2 вариантов) и т.д. до получения совокупности из / признаков. Здесь число просматриваемых вариантов составляет величину (K-i) = 1(К- ). Для иллюстрации отметим, что для отбора 5 признаков из 20 при данном подходе требуется просмотреть 90 вариантов, что примерно в 170 раз меньше, чем при полном переборе.
Разработка алгоритма программы
Самый первый вопрос, возникающий при реализации того или иного алгоритма в виде программы, это вопрос выбора языка программирования.
Какие же конкретные требования должны предъявляться к языку программирования при решении задач ИП? Самое первое требование — возможность производить сложные математические расчеты и преобразования с высокой точностью, так как процесс прогнозирования является сложной математической задачей. Другими немаловажными требованиями являются требования по быстродействию и объему памяти для хранения данных и программ, но эти требования относятся скорее к конкретным реализациям различных версий того или иного языка на разных ЭВМ [96].
В настоящее время разработано огромное количество языков программирования, предназначенных для самых различных применений в самых различных областях. Сразу из рассмотрения можно исключить языки программирования машинного и системного уровней. Их основное назначение — создание специализированных системных утилит и драйверов внешних устройств. К таким языкам можно отнести ассемблер, Си и Си++. Наиболее мощным и гибким из всех языков является ассемблер. Едва ли существует что-то такое, что нельзя выполнить с его помощью. Однако написание даже самого простого приложения операционной системы (ОС) Windows на ассемблере является весьма сложным занятием, а полученный результат почти наверняка будет содержать ошибки. Главная причина — чрезмерная сложность использования этого языка. Си и Си++ компаний Microsoft и Borland предоставляют более удобный интерфейс пользователя, гибкость программирования и интегрированную среду разработки приложений Windows (Win32). Но они не обеспечивают, на мой взгляд, таких важных показателей, как простота формирования своего индивидуального удобного интерфейса пользователя в программе. По моему мнению, разработчик должен задумываться над разработкой алгоритма работы программы, а не над созданием ее интерфейса.
Существует два языка, которые, по моему мнению, очень схожи в том, что в них достигнут оптимальный баланс между сложностью и мощностью. Это Delphi и Java. Кроме этого, достоинством этих языков является их распространенность и на других компьютерных платформах, а не только на платформе Wintel (Windows+Intel-x86). A Java изначально разрабатывался как кроссплатформенный язык программирования.
Visual Basic исходно создавался как язык, достаточно простой, чтобы начинающие программисты могли быстро его освоить. Однако по мере добавления в него новых функций этот язык становился все более и более сложным. Несмотря на все усилия, прилагаемые с целью освобождения разработчиков от обременительных действий, язык Visual Basic по-прежнему включает несколько серьезных ограничений, которые требуется тем или иным образом обходить при создании достаточно сложных приложений.
Какому же языку отдать предпочтение? Взвесив все «за» и «против», окончательный выбор остановился на языке Delphi. По своей сути, Delphi — это дальнейшее развития языка Pascal и Object Pascal. В настоящий момент распространены три основные версии Delphi: Delphi 6.0, Delphi 7.0 for Win32 и его аналог для ОС Линукс - Kilyx for Linux [61; 139]. Для Delphi сторонними разработчиками программного обеспечения было разработано множество дополнительных компонент. При разработке программного комплекса «Прогнозирование» была использована Delphi 6.0 и библиотека визуальных и невизуальных компонентов RxLib 2.75. На сегодняшний день, на мой взгляд, работа в Delphi является самым продуктивным методом создания приложений для ОС Windows. 3.2. Выбор ЭВМ
Следующей задачей после выбора языка программирования является выбор электронной вычислительной машины (ЭВМ). На данный момент наиболее распространенной платформой является Wintel, под которую мы и выбрали язык программирования. Теперь необходимо лишь задаться требованиями по стоимости, быстродействию, объему оперативной памяти и возможности использования выбранного ранее языка программирования [78].
Эти требования были заданы следующими величинами: по быстродействию - не более 60 секунд на решение задачи с максимальным объемом входных данных; по объему оперативной памяти - возможность одновременного хранения нескольких массивов действительных чисел двойной (8 байт и 15-16 значащих цифр) или расширенной (10 байт и 19-20 значащих цифр) точности; по стоимости - наименьшая стоимость аппаратных средств ЭВМ и машинного времени при соблюдении остальных требований.
Кроме того, ЭВМ должна обеспечивать возможность графического вывода и обработки информации, а также получение текстовой документации в формате А4.
Разработка операторов прогнозирования качества ЭРИ
Результаты прогнозирования различными методами для выборки резисторов (графики получены в программе «Прогнозирование»): а — МДФ; б — МПФ; в — регрессионные модели.
Все операторы, созданные при помощи программного комплекса «Прогнозирование» имеют хорошие показатели качества, а следовательно, их можно использовать для проведения ИП стабильности новых выборок элементов с такими же параметрами конструктивно-технологического варианта исполнения.
1. Прогнозирование с классификацией по эвристическим критериям отбраковки не обеспечивает высокой точности и малых рисков изготовителя и потребителя. Для всех выборок получена неприемлемая величина риска потребителя.
2. Значительно лучшие характеристики прогнозирования получены при использовании МПФ. Полученные вероятности удовлетворяют, как правило, и потребителя и изготовителя.
3. Прогнозирование с классификацией МДФ позволило для ряда выборок повысить точность прогнозирования и уменьшить риски потребителя и изготовителя по сравнению с МПФ и методом регрессионных моделей. Это, видимо, является следствием того, что классы хорошо разделяются.
4. Наибольшая точность получена при прогнозировании экстраполяцией. Это связано с предварительным определением наиболее информативного параметра в МДФ и МПФ. Метод экстраполяции, в итоге, обеспечивает минимальный риск потребителя.
5. Установлено, что в нашем.случае никаких ограничений на выбор метода прогнозирования не накладывается, так как прогнозируемые признаки легко измеримы и доступны для наблюдения в любой требуемый момент времени и поэтому возможно прогнозирование как по информативным параметрам, так и экстраполяцией.
6. Наиболее простая реализация ИП по информативным признакам была получена для МПФ. Учитывая это, а также то, что МПФ обеспечивает высокое качество прогнозирования, можно надеяться на возможность широкого внедрения данного метода в практику ИП как исследованного класса элементов, используемых в микросборках, так и других классов миниатюрных элементов. Экспериментально подтверждено, что применение МПФ наиболее рационально в тех случаях, когда классы стабильных и нестабильных элементов имеют взаимопроникновения.
7. Установлено, что классы для ряда выборок хорошо разделяются. Поэтому наилучшие результаты прогнозирования получены при использовании МДФ. МДФ более прост, чем МПФ. Следовательно, для ИП стабильности рассмотренных классов элементов и компонентов микросборок по информативным параметрам наиболее эффективным методом является МДФ.
8. ИП экстраполяцией требует больших затрат времени; до 1000 часов для некоторых видов электрорадиокомпонентов. Поэтому, несмотря на высокие характеристики, прогнозирование экстраполяцией с экономической точки зрения более целесообразно использовать на этапе эксплуатации. На этапе изготовления рассмотренного класса ЭРИ более эффективно прогнозирование по информативным параметрам МДФ.
9. Анализ результатов прогнозирования методами экстраполяции показал следующее: - наиболее точно поведение параметров большинства ЭРИ во времени описывает логарифмическая квазидетерминированная модель. Она дает не только наименьшую ошибку интерполяции, но и наиболее точно повторяет поведение исследуемых параметров в моменты времени, не входящие в исследуемый временной диапазон; - полиномиальная квазидетерминированная модель высоких порядков хоть и дает ошибку интерполяции меньше, но при прогнозировании значительно увеличивается расхождение параметров реального объекта и математической модели;
10. Использование предварительного определения информативных параметров в МДФ, МПФ или регрессионными моделями дает возможность значительно снизить количество контролируемых параметров.
