Содержание к диссертации
Введение
Глава I. Современные взгляды на проблемы воспалительных заболеваний предстательной железы
1.1 Распространенность и заболеваемость воспалительными 10 заболеваниями предстательной железы
1.2 Классификации простатитов 15
1.3 Этиология простатитов 19
1.4 Патогенетические аспекты простатитов 23
1.5 Клинические варианты простатитов 29
1.6 Современные способы диагностики воспалительными за болеваниями предстательной железы
1.5. Цель и задачи исследования 50
ГЛАВА II. Современные методы исследований в урологии и математической обработки диагностической информации 56
2.1. Лабораторные методы исследований воспалительных заболеваний предстательной железы
2.2. Специальные методы исследования воспалительных заболеваний предстательной железы 2.3. Методы математического моделирования, использованные в исследовании
2.3.1. Структура и свойства искусственного нейрона 66
2.3.2. Классификация нейронных сетей и их свойства 70
ГЛАВА III. Характеристика обследованного контингента и результаты проведенных исследований
3.1. Характеристика клинических групп больных включенных в исследование
3.2. Результаты клинического и ультразвукового обследования больных с воспалительными заболеваниями предстательной железы
3.3. Изменение ультразвуковой картины предстательной железы в процессе комплексной терапии хронических простатитов
Выводы третьей главы 110
ГЛАВА IV. Неиросетевые технологии как эффективный способ обработки диагностической информации у урологических больных
4.1. Постановка и пути решения задачи обучения нейронных сетей
4.2. Оценка состояния больных урологического профиля на основе нейросетевого моделирования
Выводы четвертой главы
- Этиология простатитов
- Современные способы диагностики воспалительными за болеваниями предстательной железы
- Методы математического моделирования, использованные в исследовании
- Изменение ультразвуковой картины предстательной железы в процессе комплексной терапии хронических простатитов
Введение к работе
Актуальность темы. Заболевания предстательной железы по своей .распространенности, потерям рабочего времени, материальным затратам, связанными с расходами на лечение и реабилитацию, представляют собой актуальную медицинскую проблему. Заболевания предстательной железы, особенно воспалительного характера, относятся к одним из самых распространённых болезней мужчин. Принято считать, что простатитами страдают мужчины самого трудоспособного и репродуктивного возраста - 20-45 лет. Постоянная тенденция к ежегодному увеличению числа воспалительных заболеваний простаты и семенных пузырьков, сравнительно молодой и наиболее трудоспособный возраст больных простатитами, снижение не только копулятивной, но и репродуктивной функции у части из них придают этому заболеванию особую социальную значимость.
Диагностика заболеваний предстательной железы до последнего времени основывалась в основном на клинических данных. Несмотря на большое значение пальцевого ректального исследования в диагностике простатитов, этот метод остаётся субъективным и во многом зависит от личного опыта врача. На сегодняшнем этапе развития медицины, основой диагностики воспалительных заболеваний предстательной железы является лабораторная диагностика. Обнадёживающие результаты в этом вопросе дало внедрение в клиническую практику современных лучевых методов, и прежде всего - ультразвуковой диагностики. В то же время вопросы диагностики воспалительных изменений предстательной железы до конца остаются нерешёнными. Целенаправленных научных работ, посвященных применению ультразвуковой диагностики в данном направлении, не проводилось. Несмотря на более чем десятилетнее существование ультразвуковой диагностики в российской медицине, отсутствует чёткое определение места ультразвуковых исследований (УЗИ) в диагностике воспалительных изменений предстательной железы, не определена чёткая концепция трактовки изменений эхографической картины при хронических простатитах, не выявлены его типичные эхографические формы. Кроме того, не выработана система показаний к трансперинеальной биопсии предстательной железы при воспалительных её заболеваниях под контролем УЗИ, так как зачастую даже применение всех имеющихся клинических, лабораторных и инструментальных исследований не освобождает от
необходимости морфологического подтверждения предположительного диагноза - проведения пункции.
Поэтому возникла необходимость в определении формализованных ультразвуковых признаков воспалительных заболеваний предстательной железы, в разработке алгоритмов комплексного применения основных ультразвуковых методов для их эффективной диагностики.
Работа выполнена в соответствии с основным научным направлением ГОУ ВПО «Воронежский государственный технический университет» ГБ 2007.27 «Интеллектуализация принятия управленческих решений в медицинских системах при диагностике и лечении» и «Проблемно-ориентированные системы управления».
Цель и задачи исследования. Целью работы является повышение эффективности диагностики больных с воспалительными заболеваниями урогенитального тракта на основе математического моделирования.
Для достижения поставленной цели необходимо решить следующие задачи:
провести комплексный анализ данных клинического, лабораторного и ультразвукового исследования в диагностике заболеваний урогенитального тракта;
проанализировать возможности ультразвукового метода при обследовании репродуктивной системы мужчин и сформировать эхографические симптомокомплексы воспалительных заболеваний предстательной железы;
изучить эхографическую семиотику острых и хронических воспалительных заболеваний и выявить их дополнительные дифференциально-диагностические критерии и типичные эхографические формы на основе сопоставления сданными морфологических исследований;
изучить возможности ультразвуковых методов исследования в определении стадии воспалительного процесса и контроле за эффективностью лечения на основе динамического наблюдения;
проанализировать значение методов нейросетевого моделирования для клинического использования в урологической практике;
разработать элементы экспертной системы оценки состояния больных с воспалительными заболеваниями урологического профиля на основе нейросетевого моделирования и оценить эффективность их практического применения.
Методы исследования. Для решения поставленных задач были использованы методы лабораторного и инструментального обследования, теории управления в медицинских и биологических системах, основные положения теории вероятностей и математической статистики, нейросете-вого моделирования.
Научная новизна результатов исследования. В работе получены следующие результаты, характеризующиеся научной новизной:
методика анализа эхографических данных у пациентов с воспалительными заболеваниями предстательной железы, базирующаяся на данных ультразвукового исследования;
способ комплексной оценки данных ультразвукового и морфологических исследований, позволяющий повысить эффективность диагностического процесса;
методика интеллектуальной поддержки принимаемых решений при диагностике воспалительных заболеваний урологического профиля, учитывающая клиническое состояние пациентов;
интегрированные процедуры, оптимизирующие дифференциальную диагностику урологических заболеваний, с использованием нейросетевого моделирования;
элементы экспертной системы на базе нейронной сети, обеспечивающие информационную поддержку принимаемых врачом решений для повышения эффективности проводимых диагностических мероприятий.
Практическая значимость и реализация результатов работы.
Разработан, научно обоснован метод динамического ультразвукового мониторинга за пациентами с воспалительными заболеваниями предстательной железы, основанный на оценке основных эхографических признаков и клинических данных позволяющий повысить эффективность диагностического процесса.
Разработаны элементы экспертной системы дифференциальной диагностики воспалительных заболеваний предстательной железы на основе нейросетевого моделирования, которые внедрены в практику диагностического отделения стационара Медико-санитарной части Управления Федеральной службы безопасности России по Воронежской области и Анд-рологического центра г. Воронежа.
Материалы диссертации внедрены в учебный процесс кафедры «Системный анализ и управление в медицинских системах» ГОУ ВПО «Воронежский государственный технический университет». Результаты внедрения подтверждены соответствующими актами.
Апробация работы. Основные положения диссертации были обсуждены на III Съезде Российской ассоциации специалистов ультразвуковой диагностики в медицине (Москва, 1999), на IV Съезде Российской ассоциации специалистов ультразвуковой диагностики в медицине (Москва, 2003), Всероссийской конференции «Интеллектуализация управления в социальных и экономических системах» (Воронеж, 2008).
Публикации. По материалам диссертации опубликовано 18 научных работ, в том числе 3 - в изданиях, рекомендованных ВАК РФ.
В работах, опубликованных в соавторстве и приведенных в конце автореферата, соискателем сформирована база данных для анализа состояния заболеваемости урологической патологией [1, 10, 15], обоснованы методы ультразвуковой диагностики воспалительных заболеваний мужской половой системы [2, 3, 5, 7, 8, 12, 14, 18], обоснованы методы интеллектуальной поддержки принимаемых решений при выборе рациональной лечебно-диагностической тактики ведения пациентов с хроническими воспалительными урологическими заболеваниями [3, 9].
Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы из 197 наименований и приложения. Основная часть работы изложена на 162 страницах, содержит 16 таблиц, 29 рисунков.
Этиология простатитов
Несмотря на успехи в изучении этиологии, патогенеза и лечения, проблема хронических простатитов (ХП) является актуальной в связи с ростом заболеваемости и трудностями в подборе лекарственной терапии. По распространённости ВЗПЖ занимают первое место среди воспалительных заболеваний мужской половой сферы. По некоторым данным частота ВЗПЖ в России за последние десятилетия увеличилась почти вдвое. В настоящее время этой болезни подвержено до 35 % мужского населения в возрасте от 20 до 50 лет, а по результатам исследования ткани простаты в пределах 6-98 % [31,66].
С точки зрения медицинской географии наиболее подвержены ХП жители городов, расположенных в местностях с низкими сезонными температурами, особенно в сочетании со значительными перепадами температур и высокой влажностью. Заболеваемость в данной популяции составляет 72,2 % [14, 17, 40, 41, 66].
В настоящее время ХП наблюдаются, как сопутствующий процесс при доброкачественной гиперплазии простаты у пожилых мужчин. В связи с этим ХП приобретают и социально значимый аспект [6, 14, 41, 59, 66].
Всегда было принято считать, что заболеванию простатитом подвержены мужчины наиболее трудоспособного и репродуктивного возраста — 30-45 лет. В последние десятилетия в связи с увеличением продолжительности жизни мужчин в развитых странах, возраст больных с ВЗПЖ значительно увеличился (до 55 лет и более). Изменились представления о том, что аденома предстательной железы не может возникнуть у больного, длительно страдающего хроническим простатитом. Больной может страдать одновременно и аденомой, и хроническим простатитом, тогда как клинически продолжительно проявляется лишь одно из этих заболеваний. Течение простатита чаще не угрожает жизни больного, но отличается длительностью, малой эффективностью проводимой терапии и нарушениями половой функции.
Простатит одновременно и «помолодел», то есть стал встречаться у лиц моложе 25 лет. Самоуверенный, обеспеченный молодой человек сейчас нередко имеет большие материальные возможности к беспорядочным половым связям. Это увеличивает риск заражения урогенитальными скрытыми инфекциями, что придает социальный аспект проблеме неспецифических воспалительных заболеваний половых органов у мужчин, а, следовательно, и у женщин [14, 17, 40, 41, 59, 66].
Молодой и средний, наиболее работоспособный возраст больных простатитом, снижение не только копулятивной, но и репродуктивной функции у части из них придают ХП большое социальное значение.
Появление даже незначительных сексуальных нарушений у больных с простатитом, особенно у молодых мужчин, служит источником больших переживаний и от сознания собственной неполноценности может привести к возникновению нервных расстройств и длительному лечению.
Хронический простатит нечасто приводит к опасным для жизни тяжелым осложнениям. Они могут иметь место лишь при гнойных простатитах, особенно при абсцессе предстательной железы и парапростатической флегмоне у больных, ослабленных тяжелыми интеркуррентными заболеваниями и, прежде всего, сахарным диабетом. Исход длительно текущего хронического простатита в рубцевание с образованием рубцового сужения предстательной железы может привести к тяжелой форме почечной недостаточности [66].
Можно не сомневаться, что из-за недостаточной специфичности и выраженности начальных проявлений простатита число болеющих им гораздо больше, чем число пациентов, обращающихся за помощью. Это не может не сказываться на частоте осложнений, включая и те, что снижают мужскую фертильность и соответственно показатель рождаемости [16, 31, 59, 66].
Одним из серьезных осложнений простатита может быть нарушение оплодотворяющей способности. Простатогенное снижение фертильности может иметь различные причины, и чаще всего связано с контаминацией микрофлоры на спермиях и их ранней акросомной реакцией. Наличие сопутствующего простатиту везикулита усложняет патогенетическую основу имеющейся инфертильности в связи с ухудшением подвижности спермиев из-за-уменьшения содержания фруктозы и цитрата в простатическом секрете и сдвига его рН в кислую сторону [11, 16, 26, 59, 62].
Известно, что в» предстательной железе осуществляется метаболизм половых гормонов, в1 связи, с чем- снижение ее андрогентрансформирующих свойств, при воспалении может приводить к угнетению сперматогенеза. Определенную роль в нарушении фертильности могут также играть нарушения копулятивной функции, связанные с длительно протекающим? воспалительным процессом в предстательной железе [17, 41, 59» 60, 66].
Нередким вариантом снижения фертильности при простатите может бьітьі развитие инфекционно-токсического бесплодия. У 80 % бесплодных мужчин с контаминацией уреаплазм на сперматозоидах, снижающей их подвижность, был выявлен микоплазматический простатит [59].
Эндодифференциальное распространение инфекции из предстательной железы может приводить к экскреторному бесплодию в результате обтурации просвета семявыбрасывающих или семявыносящих протоков и к развитию орхоэпидидимита.
Современные способы диагностики воспалительными за болеваниями предстательной железы
A. Doble и S.S.C. Carter (1989), сравнив результаты сонографических и соответствующих гистологических данных, отмечают, что высокоэхогенные участки при хроническом простатите ассоциируются с амилоидными тельцами, а низкоэхогенные представляют собой участки воспаления. Авторы также указывают, что эхогенная картина воспаленной предстательной железы меняется при ее динамическом исследовании: новые участки повышенной эхогенности появились у 40 % больных, тогда как подобные участки исчезали у 47 %. У 30 % больных со временем также исчезали низкоэхогенные участки. В целом же, при длительном наблюдении за такими больными, появление новых эхосигналов отмечалось чаще, чем исчезновение ранее существовавших. Эти данные свидетельствуют о том, что повторные сонографические исследования могут повышать точность ультразвуковой диагностики хронического простатита [9, 13, 15, 25, 27, 28].
Вместе с тем следует учитывать, что обнаруживаемые при ТРУЗИ участки пониженной и/или повышенной эхогенности в тканях предстательной железы не могут считаться критериями, достаточными для установления диагноза хронического простатита. Однородная структура, характерная для ультразвуковой картины нормальной предстательной железы, может определяться во время УЗИ и при наличии воспалительного процесса в ее ткани [5, 25, 47, 94, 145].
ТРУЗИ заняло прочные позиции в диагностике заболеваний предстательной железы благодаря отсутствию лучевой нагрузки, неинвазивности и высокой диагностической точности. В последнее десятилетие диагностические возможности данного метода значительно увеличились с появлением методик ультразвуковой ангиографии (цветовое допплеровское и энергетическое картирование, трехмерная ангиография), позволяющих визуализировать сосудистый рисунок предстательной железы и семенных пузырьков [133, 154, 163, 169]. По данным M.D. Rifldn и соавт. (1991), при хроническом простатите повышение кровотока отмечается вблизи уретры; очень редко фокусное усиление кровотока бывает в периферической зоне железы.
Эффективность диагностики заболеваний предстательной железы зависит не только от выбора конкретного лучевого метода, но и от технических характеристик прибора. В частности, возможности ультразвуковой диагностики во многом зависят от уровня и модели ультразвукового аппарата, характеристик датчика и, прежде всего от варианта сканирования. Спор о преимуществах продольного и поперечного сканирования полностью решает применение биплановых и мультиплановых датчиков:
Эхографическая картина острого простатита весьма вариабельна из-за чередования периодов обострения и ремиссии. Чаще наблюдается увеличение размеров железы, локальное или диффузное снижение эхогенности железы, "пестрая" эхоструктура железы. Реже отмечается нарушение контуров железы, локальное повышение эхогенности паренхимы железы в периферической зоне, наличие мелкосотового рисунка [11, 94, 145, 190].
Для острого простатита характерна "пестрая " железа, в структуре которой чередуются участки повышенной и пониженной эхогенности. При выраженном воспалительном процессе может происходить снижение дифференцировки железы по зонам. При УЗ-ангиографии наблюдается неравномерность степени васкуляризации железы [78, 133, 154, 163, 169].
Часто острый простатит сопровождается появлением участков сниженной эхогенности с четкими ровными контурами. У пациентов старше 50 лет дифференциальную диагностику подобных участков следует проводить с карциномой предстательной железы. В таких случаях использование УЗ-ангиографии позволяет выявить отсутствие деформации сосудистого рисунка железы в участке, симметричное повышение степени васкуляризации железы [25, 27, 28, 53, 78, 79].
При преобладании застойных явлений при остром простатите наблюдается появление "мелкосотового" рисунка, выраженность которого коррелирует со степенью застойных явлений. К признакам застойных явлений также относят расширение семенных пузырьков и развитие везикулита, расширение вен перипростатического сплетения [5, 62, 101, 147, 157, 188].
Использование ТРУЗИ с УЗ-ангиографией в мониторинге лечения пациентов с обострением хронического простатита обсуждалось ранее в ряде работ. Исследование показало, что восстановление васкуляризации железы происходит раньше, чем восстановление структуры железы, определяемое в режиме серой шкалы. На фоне лечения положительная "сосудистая" динамика (симметричность сосудистого рисунка и снижение степени васкуляризации) была зарегистрирована быстрее, чем изменения данных В-режима. После окончания лечения в случаях его неэффективности сохранялись изменения васкуляризации железы, что коррелировало с результатами клинических и лабораторных исследований [78, 79, 133].
Таким образом, ТРУЗИ с УЗ-ангиографией является информативным и неинвазивным методом оценки эффективности лечения обострения хронического простатита с развитием везикулита, позволяющим проводить мониторинг и корректировать тактику лечения в зависимости от результатов.
При компьютерной томографии неизмененная ПЖ представляется однородным по структуре органом в силу одинаковой рентгеновской плотности различных ее отделов. Однородной остается структура предстательной железы и при возникновении в ней большинства патологических образований [38, 42, 136, 170, 196].
Методы математического моделирования, использованные в исследовании
Среди 260 больных возрастной разброс наблюдался от 16-ти до 57-ми лет. Как видно из таблицы, наибольшую по численности возрастную группу составили лица в возрасте от 31 до 40 лет - 113 человек (43,5 %), от 21 до 30 лет - 59 человек (22,7 %) и от 41 до 50 лет - 48 человек (18,4 %), то есть наиболее трудоспособная и активная часть мужского населения, чьи трудопотери являются наиболее чувствительными для общества. Средний возраст больных составил - 36,54 ± 3,67 лет. Анализ данных представленных в таблице показывает, что наиболее часто встречающимся воспалительным заболеванием добавочных половых желез мужчин является хронический простатит - 218 человек (83,4 %). Следующим по частоте встречаемости идет воспалительный процесс в семенных пузырьках (везикулит) - 49 человек (18,9 %). Изолированно везикулит встретился в 12-ти случаях, в сочетании с хроническим простатитом - в 28, а с острым простатитом - в 9-ти случаях, что говорит о вторичности процесса и восходящем пути проникновения инфекции в семенные пузырьки из предстательной железы и уретры. Процентный состав представлен на рис. 3.2. :У
Далее следуют острые воспалительные поражения предстательной железы: острый простатит - 15 случаев (5,8 %) и абсцесс предстательной железы - 9 случаев (3,4 %). У 8-ми пациентов нами был выявлен воспалительный процесс в бульбоуретральных железах. Во всех случаях куперит сопровождался хроническим простатитом. Реже всего встречался туберкулез предстательной железы - 6 случаев (2,3 %).
Обращают на себя внимание высокие цифры выявляемости острых воспалительных заболеваний предстательной железы и туберкулеза простаты, что по-видимому связано со спецификой работы диагностических центров, как головного диагностического учреждения областного здравоохранения, основным предназначением которого является диагностика сложных случаев патологии, вызвавших дифференциально-диагностические затруднения в районных поликлиниках и больницах города и области.
Большинству больных - 178 человек, ранее уже проводилось лечение по поводу хронического простатита. Я провел ранжирование пациентов включенных в исследование по срокам постановки диагноза «хронический простатит», данные представлены на рис. 3.3: - менее 1-го года была выявлена у 19-ти больных (10,7 %); Ранжирование пациентов по времени постановки диагноза хронический простатит 17,9 % больных диагноз «хронический простатит» был поставлен впервые (п=39). Таким образом, наибольшая обращаемость была у мужчин с давностью заболевания от 1-го до 5-ти лет. Большое количество впервые выявленных хронических простатитов, по видимому связано с латентным бессимптомным течением хронического простатита и игнорированием больными слабо выраженных первоначальных симптомов данного заболевания. Значительная степень хронизации процесса отмечена у мужского населения районов области, что по-видимому связано с отсутствием квалифицированных специалистов урологической направленности и качественных методов обследования пациентов. В табл. 3.3. представлены данные о распределении различных нозологических форм в различных возрастных группах пациентов. Распределение нозологических форм в различных возрастных группах Возраст Хрон. простатит Острый простатит Абсцесс простаты Везикулит Тубер. простаты Куперит до 20 лет 26 - - 5 - 1 21 - 30 лет 55 1 - 8 - 2 31 - 40 лет 102 3 2 23 1 4 41 - 50 лет 29 8 5 10 4 1 51 - 60 лет 6 3 2 3 1 Как и все воспалительные заболевания придаточных половых желез у мужчин, хронический простатит наиболее характерен для наиболее трудоспособной части мужского населения - 31 -40 лет - 102 случая. Острые воспалительные заболевания предстательной железы преимущественно встречаются в старшей возрастной группе - старше 40 лет, что по-видимому свидетельствует о снижении иммунных сил организма. Это же характерно и для туберкулезного поражения предстательной железы. Воспаление бульбоуретральных желез в основном выявлено в молодой возрастной группе - 7. Один куперит, выявленный в возрастной группе - 41-50 лет, являлся первично хроническим, с латентным течением. Характеристика наиболее часто предъявляемых жалоб пациентами представлена в табл.3.4.
Изменение ультразвуковой картины предстательной железы в процессе комплексной терапии хронических простатитов
Очевидно, что процесс функционирования нейронной сети, сущность действий, которые она способна выполнять, зависит от величин синаптических связей. Поэтому, определив структуру сети, необходимо найти оптимальные значения всех переменных весовых коэффициентов (некоторые синаптические связи могут быть постоянными). Этот этап называется обучением нейронной сети, и от того, насколько качественно он будет выполнен, зависит способность сети решать поставленные перед ней проблемы во время функционирования.
В процессе функционирования нейронная сеть формирует выходной сигнал Y в соответствии с входным сигналом X, реализуя некоторую функцию q: Y=q(X). Если архитектура сети задана, то вид функции q определяется значениями синаптических весов и смещений сети. Обозначим через G множество всех возможных функций q, соответствующих заданной архитектуре сети.
Пусть решение некоторой задачи есть функция г. Y=r(X), заданная парами входных-выходных данных (Xі, Y), ..., (X , Y ), для которых Y =r(x ), k=l ...N. Е - функция ошибки (функционал качества), показывающая для каждой из функций q степень близости к г.
Решить поставленную задачу с помощью нейронной сети заданной архитектуры - это значит построить (синтезировать) функцию є , подобрав параметры нейронов (синаптические веса и смещения) таким образом, чтобы функционал качества обращался в оптимум для всех пар (Xk, Y ). Таким образом, задача обучения нейронной сети определяется совокупностью пяти компонентов: Х, Y, г, G, Е . Обучение состоит в поиске (синтезе) функции q, оптимальной по Е. Оно требует длительных вычислений и представляет собой итерационную процедуру. Число итераций может составлять от 10 до 10 . На каждой итерации происходит уменьшение функции ошибки. Функция Е может иметь произвольный вид. Если выбраны множество обучающих примеров и способ вычисления функции ошибки, обучение нейронной сети превращается в задачу многомерной оптимизации, для решения которой могут быть использованы следующие методы: локальной оптимизации с вычислением, частных производных первого порядка; локальной оптимизации с вычислением частных производных первого и второго порядка; стохастической оптимизации; глобальной оптимизации.
К первой группе относятся: градиентный метод (наискорейшего спуска); методы с одномерной и двумерной оптимизацией целевой функции в направлении антиградиента; метод сопряженных градиентов; методы, учитывающие направление антиградиента на нескольких шагах алгоритма.
Ко второй группе относятся: метод Ньютона, методы оптимизации с разреженными матрицами Гессе, квазиньютоновские методы, метод Гаусса-Ньютона, метод Левенберга-Маркардта.
Стохастическими методами являются: поиск в случайном направлении, имитация отжига, метод Монте-Карло (численный метод статистических испытаний). Задачи глобальной оптимизации решаются с помощью перебора значений переменных, от которых зависит целевая функция. Для сравнения методов обучения нейронных сетей необходимо использовать два критерия: количество шагов алгоритма для получения решения; количество дополнительных переменных для организации вычислительного процесса.
Для иллюстрации термина «дополнительные переменные» приведем следующий пример. Пусть pi и р2 - некоторые параметры нейронной сети с заданными значениями. В процессе обучения сети на каждом шаге, по меньшей мере, два раза потребуется выполнить умножение pi P2-Дополнительная переменная требуется для сохранения значение произведения после первого умножения.
Предпочтение следует отдавать тем методам, которые позволяют обучить нейронную сеть за небольшое число шагов и требуют малого числа дополнительных переменных. Это связано с ограничением ресурсов вычислительных средств. Как правило, для обучения используются персональные компьютеры.
Пусть нейронная сеть содержит Р изменяемых параметров (синаптических весов и смещений). Существует лишь две группы алгоритмов обучения, которые требуют менее 2Р дополнительных параметров и при этом дают возможность обучать нейронные сети за приемлемое число шагов. Это алгоритмы с вычислением частных производных первого порядка и, возможно, одномерной оптимизации. Именно эти алгоритмы и будут рассмотрены в следующих разделах.
