Содержание к диссертации
Введение
1 Идентификация импульсных сигналов на фоне шума с помощью вейвлет-преобразования 22
1.1 Постановка задачи 22
1.2 Основные недостатки метода пороговой сортировки 27
1.3 Современные методы идентификации импульсов и их сравнительный анализ 32
1.4 Влияние шума на эффективность методов идентификации . 42
1.5 Предлагаемый метод уменьшения ошибки идентификации . 47
1.6 Выводы по главе 1 52
2 Анализ структуры точечных процессов 71
2.1 Постановка задачи 71
2.2 Случай отсутствия собственной динамики 74
2.3 Случай наличия собственной динамики 92
2.4 Выводы по главе 2 95
3 Применение вейвлет-анализа в исследованиях динамики нелинейных систем с несколькими временными масштабами 112
3.1 Постановка задачи 113
3.2 Предлагаемый метод исследования 114
3.3 Результаты 118
3.4 Выводы по главе 3 122
Заключение 132
Приложение 134
Литература 139
Благодарности 154
- Современные методы идентификации импульсов и их сравнительный анализ
- Предлагаемый метод уменьшения ошибки идентификации
- Случай отсутствия собственной динамики
- Предлагаемый метод исследования
Введение к работе
Очень многие процессы в природе являются нестационарными и демонстрируют изменения во времени своих статистических свойств. Примерами могут служить переходные процессы в радиофизических устройствах, атмосферная и гидродинамическая турбулентность, нестационарные волны в океане, нестационарные геофизические и физиологические сигналы и т.д. Классические методы анализа структуры сигналов [1-5] представляют собой инструменты исследования стационарных случайных процессов; их применение для обработки нестационарных данных зачастую приводит к различным проблемам в интерпретации полученных результатов. В частности, наличие двух пиков в спектре мощности с некратными частотами может соответствовать принципиально разным ситуациям: в динамике изучаемой системы могут одновременно присутствовать два независимых ритма или может наблюдаться процесс переключения частоты, и в каждый момент времени удается зафиксировать только один ритмический процесс.
Довольно часто при исследовании экспериментальных данных используется идеология анализа систем с медленно-меняющимися параметрами: предполагается, что на небольших промежутках времени свойства процесса меняются незначительно, и его можно рассматривать как стационарный, применяя
классический аппарат статистической обработки. Такой подход следует признать эффективным, если нестационарность ассоциируется с низкочастотной областью спектра по отношению к динамике, представляющей интерес для исследователя. Если же свойства процесса даже на коротких временных промежутках успевают существенно поменяться, то есть два варианта дальнейших действий - либо отказываться от классических методов анализа временных рядов и ориентироваться на специальные методики, либо тщательно проводить предварительную обработку экспериментальных данных, выбирая только те участки, на которых сигналы можно считать приближенно стационарными. Но даже при условии осуществления такой предварительной обработки данных может быть целесообразно проводить анализ структуры сигналов с применением наиболее универсальных методов, эффективно работающих независимо от свойства стационарности данных. Таких универсальных инструментов существует не так много. К числу наиболее известных и популярных подходов можно отнести метод аналитического сигнала, использующий преобразование Гильберта [1,6-8], метод анализа флуктуации относительно тренда (АФТ)1 [9-12] и вейвлет-анализ [13-24].
Метод аналитического сигнала позволяет ввести понятие мгновенной амплитуды, фазы и частоты для узкополосного случайного процесса; с его помощью можно анализировать, каким образом мгновенная амплитуда и частота меняются во времени. Такой подход может быть эффективен при изучении взаимосвязи сигналов (например, при рассмотрении явления фазовой синхронизации в нестационарной динамике автоколебательных систем).
*В зарубежной литературе используется сокращение DFA (detrended fluctuation analysis).
Техника АФТ является новым инструментом изучения эффектов длительных корреляций в структуре нестационарных случайных процессов. Основная идея этого метода состоит в переходе от анализируемого сигнала к одномерным «случайным блужданиям» [9]. Фактически, данный переход осуществляется путем приведения исходного сигнала к нулевому среднему значению и последующего вычисления интеграла с переменным верхним пределом. Далее рассматриваются отклонения «случайных блужданий» от прямой, описывающей локальный тренд на небольших участках процесса. Как показано в работах [9], вычисляемые методом АФТ величины связаны с характеристиками, описывающими спад корреляционной функции и частотную зависимость функции спектральной плотности мощности. Таким образом, с помощью данного подхода можно проводить спектрально-корреляционный анализ, причем, уже не ограничиваясь только стационарными случайными процессами.
Вейвлет-анализ является наиболее мощным на сегодняшний день инструментом исследования структуры нестационарных данных [14-22]. К настоящему времени вейвлеты продемонстрировали свою эффективность при решении очень широкого круга задач, связанных с подавлением шумов, сжатием больших объемов информации, анализом изображений, синтезом сигналов и т.д. Вероятно, еще не было ни одного математического подхода, который бы всего за 10 лет приобрел столь широкое прикладное значение в самых разных областях науки. Возможности вейвлет-анализа очень широки. Также, как и метод аналитического сигнала, он позволяет определять мгновенную ампли-ТУДУ> фазу и частоту ритмических компонент нестационарных процессов, не
ограничиваясь при этом узкополосными сигналами. Взаимосвязь мгновенной фазы по Гильберту и мгновенной фазы, введенной на основе вейвлетов, продемонстрирована, в частности, в работе [25]. При изучении явления синхронизации в динамике систем с несколькими временными масштабами использование вейвлетов может быть более эффективным чем исследования на основе метода аналитического сигнала [26,27]. Это связано с тем, что вейвлет-преобразование является инструментом многомасштабного анализа, позволяющим одновременно анализировать структуру сигналов в разных диапазонах масштабов наблюдения.
С точки зрения изучения корреляционных свойств случайных процессов, базирующийся на вейвлет-преобразовании мультифрактальный формализм [28-38] обладает не только теми же возможностями, что и техника АФТ, но еще и рядом преимуществ, например, возможностью проводить спектрально-корреляционный анализ нестационарных случайных процессов по сигналам малой длительности [39]. Для метода АФТ требуется, во-первых, большая длительность временного ряда; во-вторых, АФТ менее эффективен при анализе корреляций на малых временных интервалах. Таким образом, из всех перечисленных методов исследования структуры нестационарных сигналов вейвлеты обладают наиболее широкими возможностями.
Вейвлет-преобразование сигнала x(t) состоит в его разложении по некоторому базису, сконструированному из солитоноподобной функции ф (вейвле-та), посредством ее перемасштабирования и переносов вдоль оси времени:
Шф{а, Ъ) = -±= f x(t)i/>* (^) dt. (1)
-оо
Здесь \ф(а, b) - коэффициенты преобразования, а - масштаб наблюдения, Ъ - параметр смещения вдоль оси времени, символом «*» обозначена операция комплексного сопряжения. Базисная функция ф должна быть локализована во временной и в частотной областях и обладать такими свойствами как нулевое среднее значение, ограниченность и автомодельность (последнее означает, что при масштабных преобразованиях количество осцилляции функции не меняется) [20]. Выбор ф определяется целями исследования. Каждая функция ф имеет свои особенности во временной и в частотной областях, поэтому с помощью разных функций можно лучше выявить те или иные свойства рассматриваемого процесса. Часто метод вейвлет-преобразования называют математическим микроскопом: параметр b определяет точку фокусировки микроскопа, параметр а - увеличение, базисная функция характеризует оптические свойства [20].
В некоторых случаях (например, при изучении локальной регулярности сигналов [39]) результаты преобразования (1) не зависят от выбора базиса. При решении задач сжатия данных, анализа изображений или фильтрации шума предпочитают применять действительные вейвлеты (Хаар, Добеши, WAVE, МНАТ и другие) [20], при проведении спектрального анализа экспериментальных данных используют комплексные вейвлеты (функция Морле и различные ее модификации) [7]. В зависимости от решаемой проблемы меняется и форма вейвлет-преобразования: рассматривают либо непрерывное (1) , либо дискретное преобразование (2):
N-1 ,. _ , v
W+іа, Ъ) = a'1'2 х{г)ф* Г—^\ , (2)
где N длина временного ряда а;(г), параметр смещения b принимает целые значения из области [0;iV — 1], а масштаб наблюдения а - целые значения из области [2; N]. Непрерывное преобразование является избыточным и требует большего времени вычисления, однако в ряде задач анализа структуры сигналов избыточность может быть полезным свойством, позволяющим более детально исследовать особенности анализируемого процесса. В результате преобразования (1) получается поверхность в трехмерном пространстве, и для ее визуализации могут применяться самые разные способы. Например, может рассматриваться проекция поверхности на плоскость с нанесенными изоуровнями (по аналогии с географическими картами, иллюстрирующими рельеф местности) либо так называемый скелетон (картины локальных экс-тремумов поверхности). Считается, что скелетон отражает наиболее информативные сведения о преобразовании (1).
Вейвлет-анализ несомненно является очень мощным современным инструментом исследования структуры сигналов различной природы. Если необходимо только проиллюстрировать сам факт наличия каких-либо ритмических составляющих анализируемого процесса, то с этой целью может применяться классический Фурье-анализ. Если же требуется проследить за эволюцией характерных ритмов во времени, вейвлеты оказываются предпочтительнее: двумерные частотно-временные спектры вейвлет-преобразования являются более информативными чем усредненные (одномерные) спектры, полученные на основе финитного преобразования Фурье. Одной из особенностей вейвле-тов является то, что при проведении анализа частота и время интерпретируются как независимые величины, и существует возможность одновременно
изучать свойства процесса во временной и в частотной областях. Несомненным достоинством метода является возможность извлечения информации о быстрых изменениях в анализируемом процессе из коротких участков сигнала, о медленных изменениях - из более длительных. Эта возможность обеспечивается за счет меняющегося с масштабом наблюдения частотно-временного окна преобразования (1). Вейвлеты представляют собой инструмент спектрального анализа, который может применяться к коротким, зашумленным и нестационарным случайным процессам. Поскольку такие процессы довольно часто регистрируются в натурных экспериментах, изучение возможностей вейвлет-анализа является актуальной задачей исследования структуры сигналов.
Наряду с этим, следует отметить, что несмотря на большое число публикаций, посвященных данному методу, остается много открытых вопросов. Большинство исследователей акцентируют внимание только на преимуществах вейвлет-анализа по сравнению с другими подходами, умалчивая о недостатках. Необходимо подчеркнуть, что как и любой другой подход, вейвлеты имеют как свои преимущества, так и свои недостатки, и было бы неправильно идеализировать вейвлет-анализ. Известно, например, что вейвлеты могут не различать эффекты амплитудной и частотной модуляции. Как показано в работе [40], при наличии только амплитудной модуляции вейвлет-анализ может показывать дополнительные «ложные» эффекты частотной модуляции и наоборот. Эти «ложные» эффекты можно оценить, и при проведении численных исследований существует возможность сформулировать критерии достоверности полученных результатов, но для этого необходимо изучить не
только достоинства, но и ограничения метода.
Актуальность работы определяется важностью проблемы выявления потенциальных возможностей и существующих ограничений вейвлет-преоб-разования при решении задач анализа структуры сигналов. В настоящее время именно вейвлеты все чаще и чаще применяются при изучении спектрального состава случайных процессов, регистрируемых в различных экспериментах (это относится, в первую очередь, к системам, где нестационарная динамика является типичным явлением). Однако известно очень мало работ, где бы делался акцент на формулировку ограничений вейвлет-анализа, а ведь для того, чтобы пользоваться любым методом, исследователь должен знать границы его применимости.
Например, в последние годы вейвлет-преобразование стало применяться для решения задачи автоматической идентификации сигналов отдельных элементов из процессов, характеризующих суммарную динамику некоторого малого ансамбля данных элементов (такие задачи возникают, в частности, в активной радиолокации при анализе движения группы объектов либо при исследовании процессов кодирования информации в малых нейронных сетях путем анализа структуры внеклеточных электрических сигналов). В работах [52-54] было продемонстрировано, что использование вейвлетов к решению задачи автоматической идентификации сигналов типа одиночных импульсов на фоне шума эффективнее стандартных подходов. Но численные исследования показывают, что выводы статей [52-54] далеко не всегда справедливы - можно найти примеры, где вейвлеты действительно представляют собой эффективный метод идентификации, но часто встречается обратная си-
туация - классические методы могут работать лучше (или, по крайней мере, не хуже). В таких случаях важно определить условия применимости различных подходов, чтобы иметь представление, когда целесообразнее пользоваться тем или иным инструментом.
К настоящему времени вейвлет-анализ мало применялся при исследовании структуры точечных процессов [41,42], т.е. процессов, в которых информация о динамике содержится во временах каких-либо событий, например, во временах переключений случайного телеграфного сигнала, или во временах, соответствующих генерации потенциалов действия нейронами. Применение вейвлетов для изучения процессов кодирования информации (в частности, генерируемого нейронами информационного кода) является новой актуальной задачей, представляющей интерес для представителей разных специальностей.
Довольно часто вейвлет-анализ противопоставляется каким-то другим (классическим) подходам. В ряде случаев это справедливо, например, для изучения спектрального состава нестационарных сигналов малой длительности использование преобразования (1) целесообразнее классического Фурье-анализа. Вместе с тем, представляется перспективным не только заниматься противопоставлением разных подходов, но и искать способы их «сочетания». Методы исследования, построенные на сочетании вейвлет-анализа с классическими алгоритмами, могут быть эффективнее использования этих подходов по-отдельности. Это, в частности, будет проиллюстрировано в первой главе настоящей диссертационной работы, где на основе сочетания вейвлет-преобразования и техники анализа главных компонент предложен метод
уменыпения ошибки автоматической идентификации импульсных сигналов сложной формы при наличии флуктуации большой интенсивности: ошибка предложенного метода меньше, чем ошибка обычного вейвлет-анализа или классических алгоритмов. В третьей главе диссертационной работы будет показано, что сочетание вейвлет-анализа с расчетами мер сложности временной динамики позволяет лучше понять изменения структуры нестационарных процессов с несколькими характерными ритмами.
В рамках данной диссертационной работы рассматривается применение вейвлет-анализа к исследованию сигналов сложной структуры, однако эти сигналы могут иметь разную природу, а разработанные методы могут применяться как в радиофизике (активная и пассивная радиолокация, радиометрия и т.д.), так и в других областях науки, в частности при исследовании процессов кодирования и передачи информации в биологических системах (малые нейронные ансамбли). Рассмотрение биологических приложений представляет интерес по нескольким причинам. Во-первых, проведение экспериментов в низкочастотном диапазоне проще и дешевле, чем качественная оцифровка сигналов, например, в СВЧ-диапазоне. В то же время, методы анализа структуры сигналов, эффективно работающие в низкочастотной области, будут столь же эффективны и в высокочастотной (в случае вейвлет-анализа нет ограничений на область частот, и качество исследования структуры сигналов определяется исключительно качеством их дискретизации, т.е. характеристиками АЦП). Во-вторых, современные биологические исследования невозможны без самого широкого использования физических методов (в том числе и радиофизических). Это отмечают многие физики; можно в частности
упомянуть высказывание Нобелевского лауреата В.Л. Гинзбурга о том, что «биологическая и околобиологическая тематика должна и будет занимать в физических институтах, на физических факультетах и на страницах физических журналов все большее место. Нужно это понимать и активно этому содействовать.» [43]. Биологические приложения радиофизических подходов и методов обогащают и саму радиофизику, инициируя создание новых инструментов исследования.
Цель диссертационной работы заключается в выявлении возможностей и ограничений вейвлет-анализа при решении задачи автоматической идентификации сигналов типа одиночных импульсов на фоне шума и при исследовании точечных процессов, а также в разработке методов анализа структуры сигналов, базирующихся на вейвлет-преобразовании.
Для достижения указанной цели необходимо решить следующие основные задачи:
Выявить возможности и ограничения вейвлет-анализа при решении задачи идентификации сигналов типа одиночных импульсов на фоне шума большой интенсивности и разработать метод уменьшения ошибки идентификации, базирующийся на сочетании техники вейвлет-преобразования и классического метода анализа главных компонент.
Провести сравнительный анализ методов исследования структуры сигналов на входе пороговых устройств по выходным (точечным) процессам, рассмотреть возможность применения вейвлетов для изучения процессов кодирования информации в пороговых системах.
Разработать метод исследования нестационарной динамики нелинейных
систем, основанный на сочетании техники вейвлет-анализа с оценкой сложности временных зависимостей мгновенных частот ритмических компонент. Научная новизна работы состоит в следующем:
Выявлены ограничения вейвлет-анализа при решении задачи идентификации сигналов типа одиночных импульсов на фоне шума большой интенсивности. Впервые показано, что низкочастотная фильтрация позволяет существенно уменьшить ошибку идентификации методов, основанных на вейвлет-преобразовании (в два и более раза) и не оказывает принципиального влияния на эффективность работы стандартных алгоритмов идентификации.
Впервые показано, что сочетание техники вейвлет-анализа и классического алгоритма анализа главных компонент позволяет минимизировать ошибку автоматической идентификации импульсных сигналов.
Установлено, что при решении задачи исследования сложного режима колебаний на входе порогового устройства по выходному сигналу расчет динамических характеристик (при выполнении достаточно общих условий) позволяет охарактеризовать входной процесс независимо от амплитуды колебаний или величины порога.
На основе исследования сложной динамики мгновенных частот ритмических компонент в системах с несколькими характерными временными масштабами предложен эффективный метод количественного описания изменений структуры сигналов.
Научно-практическое значение результатов работы: 1. Сформулированы практические рекомендации по предварительной фильтрации экспериментальных данных, позволяющие улучшить качество
решения задачи идентификации импульсных сигналов отдельных элементов из процессов, характеризующих динамику малого ансамбля данных элементов.
2. Предложенный метод анализа нестационарной динамики систем с
несколькими ритмическими компонентами может рассматриваться в качестве
нового инструмента исследования сигналов различной природы, позволяюще
го получать более детальную количественную информацию об изменениях в
их структуре.
Алгоритм уменьшения ошибки идентификации сигналов типа одиночных импульсов может быть использован в приложении к исследованию процессов кодирования информации в нейронных сетях. !
Результаты диссертационной работы могут быть использованы (и уже используются), в учебном процессе при чтении лекций студентам кафедры | радиофизики и нелинейной динамики Саратовского государственного университета в рамках спецкурса «Анализ временных рядов».
Достоверность научных выводов работы подтверждается соответствием результатов, полученных разными методами численного анализа, а также их воспроизводимостью. Результаты численных и экспериментальных исследований соответствуют теоретическим предпосылкам.
Основные положения и результаты, выносимые на защиту: 1. Методы автоматической идентификации сигналов типа одиночных импульсов, основанные на вейвлет-преобразовании, работают эффективнее стандартного алгоритма анализа главных компонент при выполнении одного из следующих условий:
при наличии низкочастотного шума большой интенсивности;
при существовании характерных различий между формами импульсов, проявляющихся только на малых временных масштабах.
Низкочастотная фильтрация сигналов типа одиночных импульсов позволяет уменьшить ошибку автоматической идентификации алгоритмов, основанных на вейвлет-анализе, и в меньшей степени влияет на эффективность работы метода анализа главных компонент.
Новый метод уменьшения ошибки идентификации сигналов типа одиночных импульсов при наличии шума на основе сочетания техники вейвлет-преобразования и классического метода анализа главных компонент.
Динамические характеристики хаотических колебаний на входе порогового устройства могут быть определены по точечному процессу на выходе (последовательности времен возврата) с погрешностью порядка 10%, если среднее время возврата не превышает характерный временной масштаб, приближенно соответствующий величине, обратной старшему ляпуновскому показателю.
Метод исследования нестационарной динамики систем с несколькими характерными временными масштабами, основанный на сочетании вейвлет-анализа с оценкой сложности зависимостей мгновенных частот ритмических компонент.
Апробация работы и публикации. Основные материалы диссертации были доложены на научных конференциях: «Нелинейные дни в Саратове для молодых-2003» (Саратов, 2003), «Complex Dynamics, Fluctuations, Chaos,
and Fractals in Biomedical Photonics» (Сан-Хосе, США, 2004), «Нелинейные дни в Саратове для молодых-2004» (Саратов, 2004), «Physics and Control» («PhysCon2005»), Санкт-Петербург, 2005.
Результаты неоднократно обсуждались на научных семинарах кафедры радиофизики и нелинейной динамики Саратовского государственного университета, рабочей группы Гумбольдского университета г. Берлин (под руководством проф. В. Эбелинга) и рабочей группы университета Комплютенсе г. Мадрида (под руководством проф. Ф. Панетсоса).
По теме диссертации опубликовано и принято к печати 9 работ (5 статей в журналах и 4 статьи в материалах конференций), которые включены в общий список литературы под номерами [113-121]. Результаты работы использованы при выполнении международного проекта ИНТАС (01-2061), грантов CRDF (REC-006), Министерства Образования и Науки (тема «Амплитуда»), а также индивидуальных грантов НОЦ «Нелинейная динамика и биофизика» и Федерального Агентства по образованию РФ (А04-2.9-520).
Личный вклад автора. Основные результаты, на которых базируется диссертация, получены лично автором. В совместных работах автором выполнено программирование всех задач и проведены численные эксперименты. Формулировка поставленных задач, а также объяснение и интерпретация полученных результатов проведены совместно с научным руководителем и соавторами.
Структура и объем диссертации. Диссертация состоит из введения, трех содержательных глав, заключения, приложения и списка цитируемой литературы. В ней содержится 114 страниц текста, 40 рисунков, библиогра-
фия из 121 наименования на 15 страницах. Общий объем диссертации 154 страницы.
Во введении обосновывается актуальность работы, определяются цели исследования, ставятся основные задачи, раскрывается научная новизна полученных результатов и формулируются положения, выносимые на защиту.
Первая глава посвящена сравнительному анализу методов идентификации импульсных сигналов и разработке методики уменьшения ошибки автоматической сортировки форм импульсов.
В разделе 1.1 обсуждается проблема идентификации импульсных сигналов с помощью различных подходов. Рассматриваются стандартные алгоритмы, основанные на пороговой (или амплитудной) сортировке и геометрических характеристиках, анализируются условия их применимости. Обсуждаются более эффективные подходы - анализ главных компонент и вейвлет-преобразование.
В разделе 1.2 формулируются основные ограничения метода пороговой сортировки импульсов. Рассматриваются количественные критерии качества идентификации: процент пропущенных импульсов, «положительные» и «отрицательные» ошибки идентификации.
Современные методы идентификации импульсов и их сравнительный анализ
Общий подход к выбору методов идентификации импульсов состоит в том, что эффективность любого специального метода должна прежде всего сравниваться со стандартными алгоритмами: новые методы применяются только при условии, что классические алгоритмы не позволяют обеспечить качественное решение представленной задачи. На практике сопоставление обычно проводится с двумя стандартными алгоритмами, упомянутыми в разделе методом пороговой сортировки и методом анализа главных компонент. Поэтому прежде чем переходить к рассмотрению задачи идентификации сигналов на базе вейвлет-преобразования, необходимо выяснить, в каких случаях классические методы сортировки работают неэффективно.
Многие из основных проблем, встречающихся при решении данной задачи, проиллюстрированы на рисунке 1.3, где изображены типичные формы импульсов, которые могут быть выбраны из экспериментальных данных (отмечены стрелками). Сразу возникает ряд вопросов, определяющих основные проблемы в решении задачи идентификации импульсов. Во-первых, соответствуют ли наблюдаемые импульсы различным объектам (разным нейронам)? Если да, то как установить соответствие между ними? Во-вторых, сигнал содержит значительный уровень фонового шума и непонятно, можно ли надежно разделить импульсы разных объектов в его присутствии?
Наиболее простым методом решения задачи идентификации импульсных сигналов является разделение их по амплитудам (пороговая сортировка). Амплитуда или высота импульса является одной из самых важных его характеристик. Изначально вводится предположение о том, что каждый элемент ансамбля генерирует сигнал строго определенной формы, которая не претерпевает значительных изменений во времени (хотя такое предположение не всегда справедливо, в большинстве практических ситуаций оно вполне корректно). Если в эксперименте точка регистрации расположена очень близко к одному из элементов ансамбля, то генерируемые им сигналы, будут существенно превосходить сигналы от удаленных элементов и шумовой фон. В этом случае можно провести идентификацию по крайней мере одного типа импульсов с помощью порогового триггера (что позволяет говорить об «изоляции» исследуемого объекта). Устанавливая специально подобранные пороговые уровни, можно получить разделение импульсов различной высоты. Преимущества метода пороговой сортировки состоит в том, что этот способ требует минимального оборудования и программного обеспечения, может проводится в реальном времени, и в ряде случаев дает достаточно точную информацию, необходимую экспериментатору. Очевидным недостатком такого подхода является то, что далеко не всегда удается достичь приемлемого разделения по группам сигналов, близких по амплитуде.
Качество идентификации импульсов можно проконтролировать, наблюдая их формы, наложенные друг на друга. На рисунке 1.4 приведены примеры хорошей и плохой идентификации форм импульсных сигналов. Очевидно, что в последнем случае метод порогового разделения типов импульсов оказывается неэффективным.
Очень часто с помощью техники амплитудного детектирования невозможно с достаточной точностью отделить сигнал от фонового шума. Изменением порогового уровня можно регулировать количество пропущенных импульсов (так называемые отрицательные ошибки идентификации) и число фоновых событий, которые пересекают порог (положительные ошибки), что проиллюстрировано на рисунке 1.5. Если порог установлен на уровне А, определяются все импульсы от первого элемента малого ансамбля, но возникает большое число положительных ошибок из-за того, что сигналы второго элемента также пересекают порог. Если порог увеличить до уровня Б, выделится лишь часть импульсов первого элемента, но довольно большое их число останется ниже порога. В идеальном случае порог должен быть установлен так, чтобы отношение положительных и отрицательных ошибок было оптимальным. Если уровень фонового шума мал по сравнению с амплитудой сигнала, и распределение амплитуд позволяет говорить о хорошем разделении групп импульсов, то обе эти ошибки будут близки к нулю, и положение порога не имеет принципиального значения.
Кроме фонового шума, который в первом приближении можно считать нормально распределенным (часто рассматривают также пуассоновское распределение флуктуации), высота импульса может значительно изменяться, если происходит наложение двух разных сигналов друг на друга, как это показано на рисунке 1.6а, и такие импульсы не удастся идентифицировать, так как они будут пропущены. Насколько часто будет происходить наложение максимума одного импульса и отрицательной фазы другого можно приблизительно оценить следующим образом: где г - средняя частота генерации импульсов, d - средняя продолжительность отрицательной фазы.
Другая возможная ошибка возникает, когда два независимых (малых по амплитуде) импульса складываются, и за счет сложения потенциалов происходит пересечение порога триггера (рис. 1.66). Если импульсы возникают с частотами г і и Гг, то за счет сложения сигналов пересечение порога происходит с частотой, пропорциональной Г\ тч d, где d - длительность импульса. Приведенные оценки погрешностей являются приближенными. Отметим, что рассматриваемые ошибки возникают при использовании методики амплитудного детектирования; более совершенные алгоритмы классификации зачастую позволяют их избежать, так как учитывают разные детали формы импульсов. В то же время положительные и отрицательные ошибки классификации будут у любого метода, только их число будет меньше, чем при амплитудном детектировании.
Предлагаемый метод уменьшения ошибки идентификации
Задача получения информации о динамике системы из экспериментальных данных очень важна при исследовании систем, которые представляют собой. подобие черного ящика, т.е. объектов, для которых неизвестны ни приближенные математические модели, ни полный набор переменных состояния. Можно выделить два подхода к записи экспериментальных данных, предназначенных для дальнейшей обработки. Традиционный подход состоит в выборе фиксированного шага дискретизации At и записи значений некоторой доступной для измерения переменной состояния S(t) в соответствующие моменты времени iAt.
Такой метод является универсальным, однако, в ряде ситуаций он может приводить к тому, что будет регистрироваться сигнал, несущий много избыточной информации. Поэтому следует отметить еще один способ регистрации экспериментальных данных, основанный на том, что процесс эволюции многих систем сопровождается повторяющимися резкими изменениями во времени физических переменных.
Анализ систем, демонстрирующих подобное поведение, часто проводится на основе обработки точечных процессов (ТП)1, генерируемых в ходе эволюции, например, интервалов времени между моментами переключения случайного телеграфного сигнала. В простейшем случае для получения последовательностей таких интервалов (if) применяется следующий подход. На значения переменной состояния S(t) накладывается определенное условие, и записываются интервалы Ij между моментами времени, для которых выполняется заданное условие.
Проблема анализа ТП является актуальной в случае исследования динамики пороговых систем, а именно когда необходимо охарактеризовать свойства входного неизвестного процесса S(t), располагая только записью выходного сигнала. Примером служит сигнал на выходе триггера или сигнал на выходе сенсорного нейрона, представляющего собой некоторое пороговое устройство, преобразующее входной сигнал S(t) в последовательность «спай-ков», генерируемых при превышении порога.
Преобразование непрерывного входного сигнала в выходной точечный процесс является нелинейным. Более того, оно сопровождается частичной потерей информации о свойствах входного процесса (например, о форме сигнала). Целью настоящего исследования является проведение сравнительного анализа, который позволил бы определить набор характеристик, наименее чувствительных к способу кодирования информации о динамике системы в последовательности временных интервалов. Если решается задача исследования динамики на входе порогового устройства по выходному сигналу, то необходимо определить, какую информацию о входном сигнале мы можем извлечь из точечных процессов, и насколько достоверно можно оценить те или иные характеристики сложной динамики.
Вышесказанное справедливо в том случае, если рассматривается пороговое устройство, не имеющее собственной динамики и генерирующее некий отклик при превышении порога в ответ на внешнее воздействие. Такой подход используется довольно часто в самых разных задачах; он будет рассмотрен в разделе 2.2 настоящей диссертационной работы. Однако следует отметить, что может встречаться и более сложная динамика. В частности, кодирование информации в нейронных сетях отличается от простой реакции типа «воздействие-отклик». Реальные нейроны могут генерировать потенциалы действия, реагируя не только на один конкретный вид внешнего воздействия, но и дополнительно отражая информацию о каких-то других внешних (или внутренних) факторах [69]. В результате, регистрируемый в эксперименте точечный процесс будет содержать информацию не только об одном воздействующем сигнале S(t). Данная ситуация будет проанализирована в разделе 2.3. Случай, когда пороговое устройство может «срабатывать» и в отсутствии специально подаваемого внешнего воздействия (сигнала на входе), будем называть случаем наличия собственной динамики.
В настоящее время известно множество моделей, описывающих преобразование сигнала на входе порогового устройства в точечный процесс на выходе. Отметим две достаточно простые, но в то же время очень популярные модели, названия которых в дословном переводе «интегрируй и стреляй» и «пересечение порога»2. При достижении порога обе модели генерируют импульс одной и той же формы. В рамках модели «интегрируй и стреляй» (сокращенно ИС) [42,72,73], в качестве входного сигнала S(t) часто рассматривается переменная маломерной динамической системы. Времена ТІ, соответствующие моментам генерации импульсов, определяются следующим условием: где в - пороговый уровень, Ii - временные интервалы. При достижении заданного порога 9 происходит генерация импульса, после чего значение интеграла обнуляется. Модель ИС является достаточно простой и хорошо изученной и поэтому в дальнейшем рассматриваться не будет.
Модель «пересечение порога» (ПП) [71] также предполагает наличие некоторого порогового уровня 0. Для реализации S(t) некоторой динамической системы dx/dt = / он определяет уравнение секущей плоскости S(t) = 0. Затем измеряются интервалы времени Д между моментами пересечений данного уровня сигналом S(t) в одном направлении (в качестве альтернативы можно измерять интервалы времени между локальными максимумами S(t)) (рис. 2.1). Интервалы времени Ii можно охарактеризовать как времена воз 2От английских названий «integrate-and-fire» и «threshold-crossing» соответственно [71].
Случай отсутствия собственной динамики
Предложенный в [81] подход был протестирован в рамках данной диссертационной работы. Он приводит к увеличению значения Di на единицу, но не устраняет проблем, существующих при решении задачи корректного оценивания метрических характеристик хаотического режима динамики по последовательности времен возврата. Таким образом, оба подхода приводят к значительной чувствительности метрических характеристик к выбору величины порога.
Смещение секущей плоскости создает значительно меньше проблем при вычислении динамических характеристик [82], хотя следует отметить, что результаты численного анализа сильно зависят от деталей используемых алгоритмов [75,83,84].
Рассмотрим ту же систему Ресслера (2.2) с одним положительным показателем Ляпунова Лі. Если уравнения ДС, генерирующей фазовую траекторию, известны, то определить величину максимального показателя (или полный спектр показателей Ляпунова) можно с помощью хорошо известного алгоритма, предложенного в работах [85,86]. Данный метод иногда называют «стандартным алгоритмом» расчета ляпуновских экспонент [87], и состоит он в следующем.
Проводится исследование системы обыкновенных дифференциальных уравнений на устойчивость ее частного решения xp(t). Для этого анализируются уравнения в вариациях и вводится понятие /с-мерного ляпуновского показателя. Алгоритм [85, 86] существенно упрощается, если ограничиться только вычислением старшего ляпуновского показателя. Искомая величина Ai будет определять эволюцию во времени вектора возмущения где го - расстояние между двумя близлежащими траекториями в фазовом пространстве в момент to — О (го = x(to) Xp(to) )- Экспоненциальный закон разбегания траекторий (2.7) справедлив лишь для малых значений векторов г, поэтому при расчете Ai проводятся перенормировки, в ходе которых задаются новые возмущения - малые по величине, но выбранные в направлении, соответствующем максимальному разбеганию траекторий. В результате вычисляется усредненная вдоль фазовой траектории количественная характеристика степени хаотичности. Задача вычисления Ai существенно усложняется, если уравнения динамической системы неизвестны, однако в настоящее время известно множество алгоритмов расчета ляпуновских экспонент по экспериментальным данным [82,88-93]. В данном случае, необходимость работы с единственной траекторией ограничивает возможности при выборе вектора возмущения, вынуждая искать компромисс между уменьшением ошибки его ориентации в фазовом пространстве и сокращением его длины. Ошибки ориентации обусловлены невозможностью выбора вектора возмущения в строго заданном направлении, а ограничения на его длину могут быть сформулированы следующим образом:
Необходимость введения минимального значения її вызвана тем, что при г її сказывается влияние шума, способного индуцировать дополнительное разбегание траекторий; 1ч задает условие линейного приближения и обычно может быть введено заранее в процентном отношении от размера аттрактора (например, 5- 10%). По аналогии с [85,86] проводятся перенормировки вектора, если расстояние между траекториями перестает удовлетворять условию линейного приближения (г 1 і). Поскольку вычисление Ai предполагает реконструкцию аттрактора, результат расчета данной величины будет зависеть от качества реконструкции [94], что приводит к появлению дополнительных параметров численной схемы - размерности пространства вложения, задержки и т.п. [80]. Также следует отметить, что в реальных экспериментах часто трудно или невозможно определить динамическую природу сигнала. В этом случае вместо ляпуновских показателей можно получить лишь некоторую количественную характеристику степени чувствительности системы к выбору начальных условий или меру предсказуемости, если исследуемый сигнал окажется недетерминированным по своей природе.
В работе [81] помимо вычисления размерности также была проведена оценки старшего показателя Ляпунова (Аі) для системы Ресслера по временам возврата в случае правильного представления секущей плоскости (G = 0) в области изменения параметра с в пределах [5.5; 11.5]. Было продемонстрировано совпадение количественных значений полученных показателей Ляпунова с вычисляемыми непосредственно по координате x(t) показателями во всей области значений параметра.
Важным моментом является то, что значение Ai может быть вычислено и в случае, когда некоторые траектории не пересекают секущую плоскость, если среднее время возврата не превышает некоторый характерный временной масштаб, приближенно соответствующий величине, обратной Ai, [95] (рис. 2.66). В рассматриваемой системе Ресслера (2.2) различие между ля-пуновским показателем Ai, вычисленным по последовательности времен возврата и ляпуновским показателем, полученным по хаотическому сигналу x(t), не превышает 10-12% в области 0 0 12.5, где Ai слабо зависит от выбора секущей плоскости (зависимость 1 на рис. 2.6в). Вне данной области рассчитанный показатель Ai отличается в несколько раз от истинного значения. На этом же рисунке приведены результаты проведенных в процессе выполнения диссертационной работы расчетов второго показателя Ляпунова (Л2), являющегося более чувствительным к выбору 0. Истинное значение получается только для секущих плоскостей, выбранных вблизи состояний равновесия аттрактора Ресслера (0 близко к нулю). При вычислении второго показателя даже в случае задания уравнения секущей плоскости для значений 0 5.3 может возникать проблема получения правильного результата численного анализа.
Предлагаемый метод исследования
Рассмотрим процесс кодирования информации пороговым устройством наблюдаемым в природе (нейроном). Пример экспериментальной записи нейронной активности представлен на рисунке 2.11а (данные экспериментов на крысах, в лапки которых вживлялся специальный микроэлектрод). Для изучения были специально отобраны только такие сигналы, для которых потенциалы действия одного нейрона были хорошо отделены от фонового шума. Это позволяло выделять импульсы (спайки) с помощью простейшего метода пороговой сортировки. Отметим, что таких сигналов было немного, в большинстве случаев выделение спайков целесообразно проводить с помощью более эффективных подходов, рассмотренных в первой главе диссертационной работы. В данном случае исследование проводилось на сигналах, для которых фиксировались минимальные ошибки идентификации спайков.
На рисунке 2.11а представлены все потенциалы действия, зарегистрированные в эксперименте. Чтобы продемонстрировать, что они имеют одинаковую форму, потенциалы действия были отцентрированы по их минимумам и наложены друг на друга. В данном случае часть импульсов соответствует динамике до воздействия, часть - динамике во время воздействия (воздействие осуществлялось путем легкого покалывания лапки крысы с периодичностью раз в секунду). Такое воздействие меняло структуру сигнала: до воздействия происходили лишь редкие «зажигания» нейрона, при воздействии они становились частыми.
Проводилось исследование отклика на каждое одиночное воздействие, в результате чего оказалось, что отклик может существенно меняться. Довольно часто наблюдается регулярная структура интервалов времени между спайками, например, два спайка на единичное воздействие или три спайка, причем отклики могут чередоваться (рис. 2.12а). Предположительно, это может быть связано с интенсивностью воздействия. Но иногда отклик на воздействие был очень сложным и отсутствовала четкая регулярность во временах генерации импульсов. Отметим, что в таких случаях расчет ляпуновских показателей, динамических энтропии и т.д. будет приводить к неправильной интерпретации результатов, так как подаваемое внешнее воздействие является одинаковым (периодическим), а отклик может существенно варьироваться. Динамические характеристики могут служить мерами сложности режима функционирования нейрона (вне зависимости от того, чем вызван данный режим), но результаты их расчета становится сложно «увязать» с подаваемым внешним воздействием.
До воздействия структура точечного процесса выглядит хаотической (рис. 2.126), и для того, чтобы выяснить, есть ли какие-то характерные ритмы в данном процессе, был проведен анализ с помощью вейвлет-преобразования (в качестве базисной функции вновь выбран вейвлет Морле (2.12)).
Рассмотрим вначале, как меняется спектр сигнала при воздействии. До стимуляции в структуре межспайковых интервалов можно зафиксировать несколько ритмов с периодами 20 секунд и 8 секунд (рис. 2.13а). При воздействии в спектре четко проявляется пик на 1 Гц, т.е. на частоте внешнего воздействия (рис. 2.136). Однако наряду с этим пиком остается низкочастотная динамика, которая была и раньше.
Частотно-временные диаграммы вейвлет-анализа позволяют более наглядно проследить за изменениями в структуре сигнала (рис. 2.13в,г). До воздействия можно зафиксировать несколько ритмов, частоты которых «плавают» во времени. При воздействии появляется новая частота ( 1 Гц), но этот ритм не является постоянным, а демонстрирует осцилляции. Это означает, что при воздействии происходит не простая реакция типа «воздействие-отклик», а наложение «собственной» динамики и динамики, обусловленной самим воздействием.
Полученные результаты требуют дальнейшего исследования. В частности, остается открытым вопрос о том, можно ли рассматривать процесс кодирования информации о собственной динамике в терминах частотной модуляции? Возможная интерпретация рисунка 2.13 заключается в том, что «навязанный» ритм 1 Гц является чем-то вроде несущей частоты, которая модулируется медленными процессами в динамике нейрона. Как известно, в радиофизике частотная модуляция является одним из способов передачи информации, и не исключено, что процесс кодирования информации нейроном допускает интерпретацию в терминах частотной модуляции.
Исходя из этой гипотезы, можно определить характеристики модуляции (частоту, глубину), базируясь на технике двойного вейвлет-анализа, предложенной в работах [99-102]. С этой целью временная зависимость мгновенной частоты ритма в окрестности 1 Гц рассматривается как входной сигнал для еще одного вейвлет-преобразования. В результате можно идентифицировать все ритмы, принимающие участие в модуляции (рис. 2.14) и определить глубину частотной модуляции для каждого процесса в отдельности. Видно, что модулирующий сигнал качественно соответствует динамике нейрона, наблюдаемой до подачи внешнего воздействия.
Возможная интерпретация отмеченных эффектов может состоять в следующем. Рассмотрим случай порогового устройства, обладающего некоторой собственной (подпороговой) динамикой (рис. 2.15а). Пересечения порога в данном случае могут возникать лишь за счет шума, и происходить достаточно случайно. Предположим теперь, что на вход данного устройства подается последовательность импульсов вида, изображенного на рисунке 2.156. Время пересечения порога будет определяться фазой подпороговых колебаний (рис. 2.15в). Из-за наличия собственной динамики временные интервалы между моментами генерации импульсов будут варьироваться с частотой подпороговых колебаний.
