Что представляет собой ортогональный базис: определение и свойства

Ортогональные базисы широко используются в математике и естественных науках благодаря удобству вычислений в них. Рассмотрим подробнее, что это такое и почему они так полезны.

Определение ортогонального базиса

Начнем с определений. Базисом линейного пространства называется линейно независимая система векторов, разлагающая это пространство. Векторы называются ортогональными, если их скалярное произведение равно нулю.

Ортогональный базис – это базис, составленный из попарно ортогональных векторов.

Такой базис обладает рядом удобных свойств по сравнению с произвольным базисом. Линейная независимость векторов следует автоматически из их ортогональности. Кроме того, ортогональный базис тесно связан с такими важными математическими объектами, как внутренние произведения, нормы и расстояния.

Свойство самодуальности

Одно из важнейших свойств ортогональных базисов – их самодуальность. Это означает, что дуальный к ортогональному базис совпадает с ним самим.

Доказать это свойство можно следующим образом. Пусть {e_i} – ортогональный базис, {eⁱ} – дуальный базис. Тогда:

• e_i(e_j) = δ_ij
• eⁱ(e_j) = δⁱ__j

Отсюда видно, что eⁱ = e_i, то есть дуальный и исходный базисы совпадают.

Благодаря самодуальности, записи в ортогональном базисе существенно упрощаются. Например, можно использовать только нижние или только верхние индексы.

Координаты вектора в ортогональном базисе

Еще одно преимущество ортогональных базисов заключается в простых формулах для координат разложения векторов. Координаты вектора \mathbf{x} в ортогональном базисе {e_i} выражаются через скалярное произведение:

x_i = (x, e_i)

При этом также выполняется соотношение:

|x|2 = ∑|x_i|2

То есть квадрат нормы вектора равен сумме квадратов его координат. Это существенно упрощает многие вычисления по сравнению с общим случаем.

Например, найдем разложение вектора \mathbf{x} = (1, 2, 3) по стандартному ортогональному базису \mathbf{e}_1 = (1, 0, 0), \mathbf{e}_2 = (0, 1, 0), \mathbf{e}_3 = (0, 0, 1) трехмерного евклидова пространства:

x₁ = (x, e₁) = 1·1 + 0·2 + 0·3 = 1
x₂ = (x, e₂) = 0·1 + 2·1 + 0·3 = 2 x₃ = (x, e₃) = 0·1 + 0·2 + 3·1 = 3

Получаем искомое разложение: \mathbf{x} = 1·\mathbf{e}_1 + 2·\mathbf{e}_2 + 3·\mathbf{e}_3.

Как видим, благодаря ортогональности базиса, вычисления существенно упрощаются.

Ряды Фурье в ортонормированных базисах

Если в ортогональном базисе нормы всех элементов равны единице, то такой базис называется ортонормированным. Для него справедливы соотношения:

(e_i, e_j) = δ_ij

В ортонормированных базисах определяются так называемые ряды Фурье – разложения элементов гильбертова пространства H по базису. Пусть {e_n} – ортонормированный базис H. Тогда для любого x ∈ H определен ряд Фурье:

x = ∑_n (x,e_n) e_n

Для гильбертовых пространств с ортонормированным базисом такие ряды Фурье обладают сходимостью по норме. Это один из фундаментальных результатов функционального анализа, имеющий множество приложений в гармоническом анализе.

Сходимость рядов Фурье

Доказательство сходимости рядов Фурье в ортонормированных базисах опирается на теорему Бесиковича, устанавливающую критерий сходимости рядов в гильбертовом пространстве. Применительно к нашему случаю она утверждает, что ряд Фурье элемента x сходится по норме тогда и только тогда, когда выполнено условие:

∑_n |(x,e_n)|2 < ∞

Это условие для ортонормированного базиса {e_n} выполняется, так как |(x,e_n)|2 = |x_n|2, а сумма квадратов коэффициентов Фурье конечна по предположению x ∈ H.

Метод наименьших квадратов

Свойства ортогональных базисов полезны и при решении задач аппроксимации функций. Рассмотрим метод наименьших квадратов для приближения функции рядом Фурье. Пусть задан набор значений функции f(x_i), i = 1..n. Требуется найти наилучшее приближение в виде:

g(x) = ∑_kc_kφ_k(x)

где φ_k - заданная ортогональная система функций. Коэффициенты c_k находят из условия минимума суммы квадратов невязок. Для ортогональной системы {φ_k} это условие приводит к простым формулам:

c_k = (f,φ_k) / (φ_k,φ_k)

дополнить векторы ортогонального базиса

Иногда требуется дополнить некоторый набор линейно независимых векторов {v₁,...,v_n} до ортогонального базиса всего пространства V. Это можно сделать, например, при помощи ортогонализации Грама-Шмидта. Алгоритм состоит в последовательном вычитании из очередного вектора v_k его проекций на предыдущие v₁,...,v_k-1. В результате получаются ортогональные векторы w₁=v₁, w₂,..., w_n, которые потом можно дополнить до базиса пространства V.

Применение в регрессионном анализе

Методы регрессионного анализа широко используют ортогонализацию переменных модели для повышения устойчивости оценок параметров. Рассмотрим линейную модель регрессии:

y = β₀ + β₁x₁ + ... + β_px_p + ε

Здесь y - зависимая переменная, x₁,...,x_p - предикторы, β_i - коэффициенты модели, ε - случайная ошибка. Для оценки параметров модели часто используется метод наименьших квадратов. Его результаты можно улучшить, предварительно ортогонализовав предикторы методом Грама-Шмидта. Это позволяет повысить численную устойчивость вычислений и точность оценок β_i.

Ортогонализация и регуляризация

Помимо регрессионного анализа, ортогонализация также применяется в методах регуляризации для решения некорректно поставленных задач. Например, при решении интегральных уравнений Фредгольма первого рода возникают трудности из-за плохой обусловленности ядра интегрального оператора.

В таких случаях используют регуляризирующие операторы, "вытягивающие" решение на некоторое подпространство с хорошими свойствами обусловленности. Часто в качестве такого подпространства берут линейную оболочку некоторого ортогонального базиса.

Ортогональные многочлены

Рассмотрим пространство многочленов на отрезке [a, b]. Зададим на нем скалярное произведение:

(f, g) = ∫_a^b f(x)·g(x) dx

Тогда можно построить ортогональный базис из алгебраических многочленов. Наиболее известные примеры — многочлены Чебышева, Лежандра, Эрмита и пр. Они часто используются для аппроксимации функций.

Соболевские пространства

Еще один класс функциональных пространств, тесно связанный с ортогональными базисами — соболевские пространства W^k,p. Они определяются как множества функций с интегрируемыми слабыми производными до порядка k. На этих пространствах задаются скалярные произведения с помощью интегралов от произведения функций и их производных. Для W^k,2 строятся ортогональные базисы из собственных функций дифференциальных операторов.

Всплески и вейвлеты

Помимо гладких функций, ортогональные базисы также строятся для представления локализованных "всплесков" и вейвлетов. Известны вейвлеты Хаара, Добеши, Мейера, Койфмана и др. Ортогональные вейвлет-базисы широко используются в цифровой обработке сигналов и изображений.

Обобщения и открытые вопросы

Существует множество обобщений понятия ортогонального базиса, таких как гильбертовы базисы, биортогональные базисы, фреймы и др. Остается открытым вопрос о существовании ортогональных базисов для широких классов функциональных пространств. В частности, известна гипотеза о несуществовании ортогонального базиса из C∞-функций для пространства L2.