Введение к работе
Актуальность проблемы. В настоящее время большое значение имеют опросы, связанные с анализом, прогнозом состояния и управлением азличными объектами. При этом информация о данных объектах часто меет вид набора наблюдений некоторых случайных характеристик. В вязи с этим актуальной является задача разработки математических етодов регрессионного и дискриминантного анализа .- -.--.- -аблвдений и построении на их оонове адекватной математической одели, описывающей свойства рассматриваемого объекта и позволяю-,ей осуществлять эффективное управление им (стохастической иден-ификации объекта управления). Данные задачи возникают, как пра-ило, в условиях, когда исходная информация описывается характе-истиками разных типов (количественными и качественными), при ин-ормационной неопределенности (ограниченном объеме данных, отсут-твии априорных сведений о характере распределений). Кроме того, асто требуется получить математическую модель объекта управле-ия, сформулированную на языке логических суждений ("знаний"^, іетода, основанные на логических решающих функциях, в отличие от олыпинства других, успешно решают такие задачи. Поэтому важным опросом становится дальнейшая разработка и теоретическое иссле-рвание этих методов.
Известно, что прогресс в области оптимального управления в начительной степени связан с разработкой и использованием мето-;ов решения экстремальных задач. Ранее ([4]) был предложен подход :. нахождению глобального экстремума, основанный- на многошаговом ідаптивном случайном поиске с использованием на каждом шаге адап-ации методов регрессионного анализа в. классе логических решающих іункций. Для повышения качества получаемых решений необходимо юздание новых эффективных методов решения задач регрессионного, інализа в данном классе.
Другим важным вопросом, связанным с разрабатываемыми методами t случае регрессионного анализа, является адаптивное планирование жсперимента, которое позволяет получить максимальную информацию >б объекте при минимуме затрат. Поскольку данная задача ранее не юшалась с использованием класса логических решающих функций, юзникает необходимость в разработке методов ее решения. Цель работы состоит в разработке новых, более эффективных етодов и алгоритмов построения логических решающих функций для )ешения задач регрессионного и дискриминантного анализа.
Поставленная задача включает в себя ряд взаимосвязанных теорі тических и технических вопросов, к которым относятся:
- исследование свойств логических решающих функций: сходимос*
логических функций к оптимальным; представления логических фут
ций в виде .деревьев решений; свойств критериев оптимальности.
- применение разработанных алгоритмов для решения зада^
оптимизации многоэкстремальных функций и задачи регрессионно]
анализа с использованием активного эксперимента;
- создание на основе разработанных алгоритмов программной систс-
для решения прикладных задач в различных областях научш
исследований.
Методы исследования включают в себя аппарат теоретическс кибернетики, теории вероятностей и математической статистик! функционального анализа; математическое моделирование применением средств вычислительной техники. Научная новизна. В диссертационной' работе получены следуквд научные результаты:
Доказана сходимость (в смысле величины средних потерь) после довательности логических решающих функций к оптимальной решающе функции при любом заданном распределении для задачи регрессиоїшс го анализа. Ранее свойство сходимости для логических решающ функций было доказано лишь для задачи дискриминантного анализа.
Впервые найдена оценка сложности дерева решений (число коне1-ных вершин дерева), в виде которого может быть представлена прс извольная логическая решающая функция.
Введено понятие линейно-аддитивного критерия оптимальное: дерева решений и найдено необходимое условие его оптимальности.
Разработан рекурсивный метод построения дерева решений с опті мизируемой степенью ветвления в каадой вершине и регулируемс глубиной перебора ("R-метод").
Разработан алгоритм поиска приближенного значения глобальної экстремума вещественной фупкции' от разнотипных (дискретных непрерывных) переменных с применением R-метода.
Впервые рассмотрена задача регрессионного анализа в класс логичеких решающих функций с использованием активного эксперимет та. Предложен метод решения данной задачи в виде процедуры адаї тивного планирования эксперимента с привлечением разработашюі R-метода.
Создана программная система ЛАСТАН, реализующая разработанш алгоритмы регрессионного и дискриминантного анализа.
Практическая ценность и реализация результатов работы.
Основную практическую ценность работы составляет разработанный R-метод, который может применяться при решении широкого круга задач многомерного статистического анализа (регрессионного и дис-кримипантного анализа; кластер - анализа; анализа временных рядов). В отличие от большинства других методов этот метод позволяет строить логико-вероятностные модели изучаемых объектов или явлений. Применение деревьев решений дает возможность строить сложные иерархические модели, что позволяет находить иерархические взаимосвязи между различными свойствами объектов. Использование деревьев с произвольной степенью ветвления делает модель более естественной и удобной для восприятия. Регулируемая глубина перебора позволяет оптимальным образом сочетать требуемое качество решения с имеющимися возможностями ЭВМ (объемом памяти и быстродействием).
Созданный на основе R-метода алгоритм поиска' приближенного значения глобального экстремума функции дает возможность ,решать сложтів задачи поиска оптимальных параметров различных моделей, описывающих изучаемые объекты.
Разработанная методика адаптивного планирования регрессионного эксперимента с использованием класса логических функций позволяет управлять ходом чэксперимента, минимизируя стоимость затрат, связанных со сбором и анализом наблюдений.
Программная система ЛАСТАН, реализующая разработанные методы, может применяться широким кругом исследователей, не являющихся специалистами в области поиска оптимальных решающих функций. В отличии от ранее существовавших пакетов, основанных на логических решающих функциях, система ЛАСТАН является интегрированным программным продуктом с широким спектром дополнительных возможностей.
' Разработанные алгоритмы использовались в Институте терапии СО РАМН (г.Новосибирск) для решения задач поиска маркеров атеросклероза, в лаборатории экологической информатики Института, химии нефти СО РАН (г. Томск) для решения задач моделирования и прогнозирования состояния окружающей среды, в Институте цитологии и генетики СО РАН (г. Новосибирск) для анализа селекционных признаков злаковых культур, на ПО "Кировский завод" (г. Санкт-' Петербург) для решения задач, связанных с модернизацией оборудования цеха выпуска кабин тракторов, в Центральной клинической больнице СОРАМН для определения степени эффективности метода
лечения больных сахарным диабетом, в Институте общей паталогии и экологии человека СО РАМН для определения риска общепатологических синдромов, в Сибирском научно - исследовательском гидрометеорологическом институте для оперативного прогнозирования погода в аэропортах Сибири. Модификация разработанной программной системы (система СПАРК) передана в Региональный Центр экстремальной медицинской помощи (г.Новосибирск) для анализа и прогнозирования чрезвычайных ситуаций [14].
Апробация работы. Основные положения работы докладывались и обсуждались на: школе-семинаре "Статистические метода распознавания образов и компьютерной кластеризации", г.Киев, сентябрь. 1989 г.; XI Всесоюзной конференции "Проблемы теоретической кибернетики", г.Волгоград, 1990 г.; Республиканской научной конференции "Математическое и программное обеспечение анализа данных", г.Минск, декабрь 1990 г.; I Всероссийской конференции "Математические проблемы экологии",г.Новосибирск, июнь 1992 г.; школе-семинаре "Компьютерный анализ данных и.моделирование", г.Минск, декабрь 1992 г.; II Всероссийской конференции "Математические проблемы экологии", г.Новосибирск,-июнь 1994 г.; Международной конференции по математической логике, посвященной 85-летию со дня рождения А.И.Мальцева, ноябрь 1994 г.; конференции "Математические метода распознавания образов" (ММРО-7), г.'Пущино, сентябрь 19Э5 г., -Международной конференции "Компьютерный анализ данных и моделирование", г. Минск, сентябрь 1995 г., семинарах Института математики СО РАН и кафедры теоретической кибернетики НГУ.
Публикации. По теме, диссертации опубликовано, тринадцать научных работ.
Структура и объем работы. Диссертационная работа состоит из введения, четырех глав, заключения, изложенных на 147 странице машинописного текста, 22 рисунков, 6 таблиц, библиографию из 134 наименований отечественной.и зарубежной литературы и приложение.