Введение

Вейвлеты относительно независимо были предложены в квантовой физике, физике электромагнитных явлений, математике, электронике и сейсмогеологии. Междисциплинарные исследования привели к новым приложениям данных методов, в частности, в сжатии образов для архивов и телекоммуникаций, в исследованиях турбулентности, в физиологии зрительной системы, в анализе радарных сигналов и предсказании землетрясений. Во многих университетах мира начато преподавание теории вейвлет-преобразований. Приложениям вейвлетов посвящены специализированные конференции (так, например, под эгидой одного только общества SPIE в 1996 году прошло две конференции по вейвлетам). К сожалению, объем русскоязычной научной литературы по тематике вейвлет-преобразований (да и нейронных сетей) относительно невелик.

Базовая идея восходит к временам 200-летней давности и принадлежит Фурье: аппроксимировать сложную функцию взвешенной суммой простых функций, каждая из которых, в свою очередь, получается из одной функции-прототипа. Эта функция-прототип выполняет роль строительного блока, а искомая аппроксимация получается комбинированием одинаковых по структуре блоков. При этом, если "хорошая" аппроксимация получается при использовании небольшого числа блоков, то тем самым достигается значительное уплотнение информации. В качестве таких блоков Фурье использовал синусоиды с различными периодами.

Что прежде всего отличает вейвлет-анализ от анализа Фурье? Основным недостатком Фурье-преобразования является его "глобальная" чувствительность к "локальным" скачкам и пикам функции. При этом модификация коэффициентов Фурье (например, обрезание высоких гармоник с целью фильтрации шума) вносит одинаковые изменения в поведение сигнала на всей области определения. Это особенность оказывается полезной для стационарных сигналов, свойства которых в целом мало меняются со временем.

При исследовании же нестационарных сигналов требуется использование некоторых локализованных во времени компактных волн, коэффициенты разложения по которым сохраняют информацию о дрейфе параметров аппроксимируемой функции. Первые попытки построения таких систем функций сводились к сегментированию сигнала на фрагменты ("окна") с применением разложения Фурье для этих фрагментов. Соответствующее преобразование - оконное преобразование Фурье - было предложено в 1946-47 годах Jean Ville и, независимо, Dennis Gabor. В 1950-70-х годах разными авторами было опубликовано много модификаций времени-частотных представлений сигналов.

В конце 70-х инженер-геофизик Морле (Jean Morlet) столкнулся с проблемой анализа сигналов, которые характеризовались высокочастотной компонентой в течение короткого промежутка времени и низкочастотными колебаниями при рассмотрении больших временных масштабов. Оконные преобразования позволяли проанализировать либо высокие частоты в коротком окне времени, либо низкочастотную компоненту, но не оба колебания одновременно. В результате был предложен подход, в котором для различных диапазонов частот использовались временные окна различной длительности. Оконные функции получались в результате растяжения-сжатия и смещения по времени гаусиана. Морле назвал эти базисные функции вейвлетами (wavelets) - компактными волнами. В дальнейшем благодаря работам Мейера (Yves Meyer), Добечи (Ingrid Daubechies), Койфмана (Ronald Coifman), Маллы (Stephane Mallat) и других теория вейвлетов приобрела свое современное состояние.

Среди российских ученых, работавших в области теории вейвлетов, необходимо отметить С.Б. Стечкина, И.Я. Новикова, В.И. Бердышева.

1.Основы вейвлет-анализа.

1.1 Теория и применение вейвлет-анализа.

На протяжении многих десятилетий основным средством анализа реальных физических процессов, в том числе случайных, являлся гармонический анализ. Математической основой гармонического анализа является преобразование Фурье (ряды Фурье для конечных отрезков времен и интегралы Фурье для процессов, не ограниченных по времени). Гармонический Фурье-анализ позволяет наглядно выявить быстрые и медленные изменения в исследуемом процессе и исследовать их по отдельности. Все необходимые свойства и формулы выражаются с помощью одной базисной функции или двух действительных функций и . Таким образом, преобразование Фурье разлагает произвольный процесс на элементарные гармонические колебания с различными частотами. Гармонические колебания имеют широчайшее распространение в природе. Поэтому смысл преобразования Фурье интуитивно понятен независимо от строгих математических доказательств.

Преобразование Фурье обладает рядом замечательных свойств, упрощающих его практическое применение. Оно является ортогональным оператором, т.е. оператор обратного преобразования совпадает с выражением для комплексно - сопряженного оператора. Областью определения преобразования Фурье является пространство L₂ интегрируемых с квадратом функций. Это весьма широкий класс функций, и многие реальные физические процессы, наблюдаемые в природе, можно считать функциями времени, принадлежащими этому классу. Собственными функциями преобразования Фурье являются хорошо изученные полиномы Эрмита. Разработаны эффективные вычислительные процедуры типа алгоритма быстрого преобразования Фурье (БПФ), обеспечивающие нахождение Фурье-образа функций с минимальными затратами. Эти процедуры к настоящему времени включены во все пакеты прикладных программ и реализованы аппаратно в различных процессорах обработки сигналов.

Вейвлет-преобразование имеет много общего с преобразованием Фурье. В то же время имеется ряд существенных отличий. Рассмотрение свойств вейвлет-преобразования и преобразования Фурье будем вести параллельно, при необходимости обращаясь к аналогиям между ними.

Напомним некоторые математические определения. В пространстве функций одного переменного, определенных на конечном промежутке вводится норма как корень из скалярного произведения

. (1)

Функции, для которых такой интеграл сходится и имеет конечное значение, принадлежат пространству L₂(0,2p). В частности, все кусочно - непрерывные на промежутке (0,2p) функции принадлежат этому пространству. Любая функция из этого пространства может быть представлена в виде ряда Фурье

Коэффициенты с_n в этом разложении выражаются в виде интегралов

Ряд Фурье равномерно сходится к по норме, определенной в (1):

Заметим, что есть ортонормированный базис пространства L₂(0,2p), построенный из единственной функции с помощью масштабного преобразования независимой переменной (времени), так что .

Напомним также, что для коэффициентов ряда Фурье справедливо равенство Парсеваля

. (5)

Аналогично определяется функциональное пространство L₂(R) на всей числовой прямой. К нему принадлежат функции, определенные на всей числовой оси и обладающие конечной энергией (нормой)

Однако, свойства функций из пространств L₂(0,2p) и L₂(R) существенно различны. В частности, бесконечные синусоидальные волны не принадлежат пространству L₂(R) и, следовательно, семейство синусоид не является базисом в этом пространстве. Попытка сконструировать базис пространства L₂(R) из функций, принадлежащих этому же пространству, привела к созданию вейвлет-преобразования.

Рассмотрим простые эвристические соображения. Функции, принадлежащие пространству L₂(R), должны стремиться к нулю на бесконечности. Чем быстрее эти функции стремятся к нулю, тем практически удобнее использовать их в качестве базиса преобразования при анализе реальных сигналов. Пусть - такая функция. Назовем ее базисной функцией. Пока будем считать, что она равна нулю за пределами некоторого конечного интервала.

Так же как в случае пространства L₂(0,2p), попытаемся сконструировать базис в пространстве L₂(R) на основе функции с помощью масштабных преобразований независимой переменной. Пусть коэффициенты преобразования пропорциональны степеням двойки. Для того чтобы перекрыть с помощью финитных функций всю числовую ось, устроим систему переносов (сдвигов) вдоль оси. Пусть они пока для простоты будут целочисленными, т.е вида

С помощью таким образом определенной системы функций мы можем перекрыть всю действительную ось. Если базисная функция имеет единичную норму, то и все функции

будут нормированы на единицу, то есть

Если семейство функций является ортонормированным базисом пространства L₂(R), то есть

и каждая функция может быть представлена в виде ряда (разложения по базису)

который равномерно сходится в L₂(R), то есть

тогда базисная функция преобразования называется ортогональным вейвлетом. Ортогональность системы функций может быть проверена непосредственно. Доказательства полноты и замкнутости базиса для каждой конкретной системы должны проводиться отдельно. Как правило, они весьма сложны и громоздки. Ссылки на них можно найти в обзорах [2,4]. Для практического применения, однако, достаточно приблизительного соблюдения всех этих свойств. Как правило, на практике используются именно такие системы функций. Будем в дальнейшем называть их вейвлетами. Дословный перевод этого слова означает "маленькая волна" или "всплеск". Смысл такого названия станет ясен из дальнейшего.

Простейшим примером ортогональной системы функций такого типа является преобразование Хаара. Базисная функция этого преобразования определяется соотношением

(13)

Легко проверить, что две любые функции, полученные с помощью этого базисного вейвлета путем масштабных преобразований и переносов, имеют единичную норму и ортогональны. Оказывается также, что эта система функций замкнута и полна в пространстве L₂(R), то есть является базисом. Доказательство полноты и замкнутости базиса преобразования Хаара можно найти в [5].

Для функций, заданных на всей числовой оси ряд Фурье заменяется интегралом Фурье по непрерывному спектру частот. Аналогично определим континуальный базис вейвлетов в пространстве L₂(R) на основе системы непрерывных преобразований масштаба и переносов:

, . (14)

При этом параметры переноса b и масштабного преобразования a принимают произвольные значения из непрерывного спектра. Формула интегрального вейвлет-преобразования на его основе записывается в виде

С помощью этого соотношения можно формально выразить коэффициенты дискретного вейвлет-преобразования:

Далее для сокращения записи вместо выражения будем использовать обозначения , или просто .

Рассмотрим теперь вопрос об обратном преобразовании, позволяющем по известным коэффициентам преобразования восстановить исходную функцию из пространства L₂(R). В случае Фурье-преобразования мы имеем дело с ортонормированной системой базисных функций, и проблем с обратным преобразованием Фурье не возникает. В случае вейвлет-преобразования ортонормированность базиса и существование обратного преобразования требует отдельного доказательства. Их можно найти в [5].

Обратное преобразование для непрерывного вейвлет-преобразования (15) записывается в том же виде, что и прямое

Входящий в эту формулу коэффициент представляет собой нормировочную константу, аналогично коэффициенту , нормализующему преобразование Фурье:

где означает Фурье-трансформанту базисной функции вейвлет-преобразования.

Условие конечности нормализующего коэффициента накладывает ограничение на класс базисных функций вейвлет-преобразования . В частности, для сходимости интеграла (18) в нуле требуется по крайней мере, чтобы , т.е.

. (19)

Для дискретного вейвлет-преобразования существование обратного преобразования определяется с помощью неравенства Рисса. Пусть - базис вейвлет-преобразования, определенный с помощью формулы (8). Тогда, если существуют две положительные вещественные константы , для которых неравенство

справедливо для любой ограниченной, суммируемой с квадратом последовательности :

такая базисная функция называется R-функцией. Для любой такой функции существует базис – двойник базиса . Для любых двух элементов этих базисов выполняется свойство ортогональности

На основе этого базиса строится формула реконструкции:

Если - ортонормированный базис и – ортогональный вейвлет, тогда базисы и совпадают и формула (23) является точной формулой обратного преобразования. Если – не ортогональный вейвлет, но является R-функцией, тогда базис-двойник также имеет базисную функцию, на основе которой он строится по выражению (23). В общем случае формула реконструкции (23) не является вейвлет-рядом в том смысле, что базис-двойник не может быть построен по типу (8).

В качестве средства анализа физических процессов вейвлет- функции имеют ряд привлекательных свойств. Преобразование Фурье, являющееся одним из основных средств такого анализа, не обладает свойством локализации во времени. Дельта-функция Дирака представляет собой функционал, ставящий в соответствие некой функции ее значение в данной точке. Такое преобразование абсолютно локализовано во времени, но при этом полностью теряется информация о частоте процесса. В этой ситуации мы сталкиваемся с проявлением закона типа квантового соотношения неопределенности, т.е. с невозможностью одновременно определить мгновенную частоту процесса и его значение в данный момент времени. Попытка уточнить один из этих параметров немедленно приводит к ухудшению наших знаний о другом параметре. Вейвлет-анализ по существу представляет собой семейство функций, реализующих различные варианты соотношения неопределенности и предоставляющих исследователю возможность гибкого выбора между ними. Фурье-анализ и его модификации (дискретное косинусное преобразование и пр.) такими свойствами не обладают.

Теперь попытаемся более строго сформулировать свойства вейвлет-преобразования и ограничения, налагаемые на его базисные функции. Поскольку в настоящее время полная теория вейвлетов еще не построена, рассмотрим одно из наиболее простых определений вейвлета, опирающееся на уже введенные выше понятия.

Любая локализованная R-функция называется R-вейвлетом (или просто вейвлетом), если для нее существует функция - двойник такая, что базисы и , построенные согласно вышеописанному правилу, являются парными взаимными базисами функционального пространства . Каждый таким образом определенный вейвлет, независимо от того, является ли он ортогональным или нет, позволяет представить любую функцию из пространства L₂(R) представить в виде ряда (23), коэффициенты которого определяются интегральным преобразованием.

Вейвлет-двойник – единственен и тоже является R-вейвлетом. В свою очередь, является двойником для вейвлета . Если – ортогональный R-вейвлет, то и – ортогональный базис.

Для многих практических целей достаточно, чтобы вейвлет обладал лишь свойством полуортогональности, т.е. при .

Любой R–вейвлет называется неортогональным, если он не является полуортогональным вейвлетом. Однако, поскольку он удовлетворяет условию Рисса, он имеет двойника, который позволяет построить формулу обратного преобразования (23).

Большинство ограничений, накладываемых на вейвлет, связано с необходимостью иметь обратное преобразование. Рассмотрим основные из этих ограничений.

1.   Локализация. Вейвлет - преобразование использует базисную функцию, локализованную в пространстве времен и частот. Функции, не стремящиеся к нулю за пределами некоторой ограниченной окрестности, не могут являться вейвлетами.

2.   Ограниченность

. (24)

Практическая оценка ограниченности и локализации может быть записана в виде неравенств

Число n должно быть возможно большим, – доминантная частота вейвлета.

3.   Нулевое среднее. Как можно видеть из формулы (18), для ограниченности нормировочной константы обратного преобразования вейвлет должен удовлетворять условию равенства нулю нулевого момента (среднего по времени)

. (26)

Часто для практических приложений оказывается необходимыми, чтобы нулю были равны не только нулевой, но и первые m моментов вейвлета:

Такой вейвлет называется вейвлетом порядка m. Вейвлеты высокого порядка, обладающие большим количеством нулевых моментов, позволяют освободиться от влияния регулярных (полиномиальных) составляющих исследуемого процесса и сосредоточить внимание на анализе мелкомасштабных флуктуаций и особенностей высокого порядка.

4.   Автомодельность базиса. Самоподобие базиса вейвлет-преобразования является его характерным признаком. Действительно, все функции данного семейства имеют одинаковое количество нулей, поскольку получены из базисного вейвлета с помощью системы преобразований подобия. Это облегчает применение вейвлет–преобразования для анализа фрактальных сигналов.

Рассмотрим несколько конкретных примеров различных функций, часто встречающихся в анализе реальных сигналов. Дельта-функция и бесконечная синусоида не удовлетворяют необходимому условию одновременной локализации по времени и частоте: дельта-функция не обладает этим свойством в пространстве частотного спектра, а синусоида в пространстве времен.

Функция Габора

(28)

представляет собой модулированную функцию Гаусса с четырьмя параметрами: сдвиг по времени , стандартное среднеквадратичное отклонение s, частота модуляции W и фазовый сдвиг q. Разложение по функциям Габора является разложением по модулированным фрагментам синусоид. Длина фрагментов для всех частот постоянна, что дает различное число осцилляций для различных гармоник. Отсюда следует, что функция Габора не может быть базисной функцией вейвлет-преобразования. Хотя она хорошо локализована в пространствах времен и частот, построенный на ее основе базис не обладает свойством самоподобия.

Вейвлет Хаара представляет собой пример ортогонального дискретного вейвлета, порождающего ортонормированный базис. Недостатком этого вейвлета является отсутствие гладкости, вследствие чего в пространстве частот он не слишком хорошо локализован. Часто применяется очень похожий на него FHAT-вейвлет, известный под названием French Hat - французская шляпа (цилиндр):

, , (29)

где – функция Хевисайда определяется соотношением

Характерным примером вейвлета с противоположными свойствами является вейвлет Литтлвуда-Пэли[2], недостаточно быстро спадающий на больших временах, но хорошо локализованный в пространстве частот. Все остальные вейвлеты можно считать занимающими промежуточное положение между этими двумя крайними предельными случаями.

Основой для конструирования многих вейвлетов является функция Гаусса . Кроме условия нулевого среднего, она обладает всеми необходимыми качествами вейвлета. Можно показать, что функция Гаусса минимизирует значение соотношения неопределенности по времени и частоте. Производные функции Гаусса уже удовлетворяют условию нулевого среднего и, следовательно, являются базисными функциями вейвлет-преобразования:

(31)

(32)

Более высокие производные имеют больше нулевых моментов. На основе функции Гаусса строится также известный DOG-вейвлет (DOG – Difference of Gaussians, то есть разность гауссиан)

Для работы с комплексными процессами применяются комплексные вейвлеты. Одним из наиболее часто применяемых вейвлетов является вейвлет Морле (Morlet):

Вейвлет Морле есть не что иное, как плоская волна, модулированная функций Гаусса единичной ширины.

Другим примером комплексного вейвлета является вейвлет Пауля, находящий применение в квантовой механике:

(37)

(38)

Параметр m определяет количество нулевых моментов вейвлета. Оба эти комплексных вейвлета являются прогрессивными. Так называются вейвлеты, спектр которых равен нулю для отрицательных значений пространственных частот. Они хорошо приспособлены для анализа процессов, подчиняющихся принципу причинности. Эти вейвлеты сохраняют направление движения времени и не создают паразитной интерференции между прошлым и будущим.

На рис. 2.10 показаны наиболее широко применяемые вейвлеты (для комплексных вейвлетов показаны их действительные части).

Рис.2.10. Примеры наиболее часто используемых вейвлетов: а) WAVE б) MHAT в)Morlet г)Paul д) LMB e)Daubechies. Cлева показаны базисные функции вейвлетов, справа – их образы Фурье.