Метод наименьших квадратов в случае интегральной и дискретной нормы Гаусса

Метод наименьших квадратов в случае интегральной и дискретной нормы Гаусса

1. Постановка задачи

При решении многих задач физики и других прикладных наук возникает необходимость вместо функции , рассматривать функцию , представляющую функцию  как можно «хорошо».

Например:  может быть, в частности, и непрерывной функцией на , а  соответствующая  - алгебраическим или тригонометрическим многочленом, который «достаточно хорошо» приближает функцию .

Например: всякую  функцию из  можно представить приближённо соответствующим многочленом степени  с помощью формулы Тейлора:

(1)

т.е.

; (2)

где ,  - многочлен степени , приближающий функцию ,  - остаточный член. Ясно, что

(3)

т.е.  - характеризует абсолютную погрешность приближения функции  многочленом  в точке .

Известно также, что  можно приблизить с помощью тригонометрического многочлена – отрезка ряда Фурье.

В утверждение, что функция  хорошо приближает функцию  на компакте , может быть вложен разный смысл. Например:

а) можно потребовать, чтобы приближающая функция  совпадала с  в  точках промежутка , т.е. выполнялись условия , для .

Если  - многочлен степени , то рассматриваемый процесс приближения называется параболическим интерполированием или процессом построения интерполяционного многочлена (частным примером является многочлен Лагранжа, т.е. );

б) функцию  можно выбрать так, чтобы норма  - отклонения невязки – достигала минимального значения, причём норма может быть определена по-разному, и разным нормам соответствуют различные степени приближения.

В функциональном пространстве Гильберта , норме невязки имеет вид (интегральная норма Гаусса):

(4)

часто, в качестве нормы рассматривают Чебышевскую норму (Т – первая буква фамилии Чебышева на немецком языке):

(5)

При использовании нормы (5) говорят о равномерном приближении функции , функцией .

Подробная теория Т-приближений была развита в работах немецкого математика Л. Коллатца.

На практике, для оценки характера приближения, часто применяют метод наименьших квадратов, при котором невязка вычисляется по дискретной норме Гаусса:

(6)

Ясно, что метод наименьших квадратов (6) – является дискретным аналогом функции Гаусса (4).

Принципиальную возможность приближения любой непрерывной функции  многочленом даёт теорема Вейерштрасса: Если , тогда ,  - многочлен, что  имеет место неравенство:

(7)

2. Метод наименьших квадратов в случае приближения функции

Мы ранее рассматривали задачу аппроксимации результатов неточного эксперимента линейной функцией . Сейчас рассмотрим общий случай, когда функция  приближается некоторой системой линейно независимых функций .

Как известно, для линейной независимости системы функций  необходимо и достаточно, чтобы определитель Грама этой системы был отличен от нуля, т.е.

(8)

где  означают скалярные произведения. Тогда для приближения (аппроксимации) функции  применяется линейная комбинация системы базисных функций, т.е.

(9)

В приближающей функции , неизвестными являются коэффициенты разложения , которые подбираются из условия минимума невязки, подсчитываемой по соответствующей норме. Вообще говоря,  является элементом линейной оболочки, натянутой на систему базисных функций .

2.1 Квадратичное приближение таблично заданной функции  по дискретной норме Гаусса

Рассмотрим задачу приближения функции  в случае использования невязки в форме (6). Т.е. используем дискретную норму Гаусса:

(10)

где неизвестная функция  аппроксимируется функцией  из (9). Для  известны лишь значения в  различных точках , т.е. , где . Таким образом, для определения  имеем задачу: найти точку минимума  - невязки функции Гаусса  - для таблично заданной функции , если

, (где ). (11)

 

Очевидно, что условия минимума дискретной функции невязки Гаусса  - имеют вид:

, (12)

 

Эти условия для (11) преобразуются к виду:

, (13)

Раскрывая систему (13) получаем систему уравнений для определения коэффициентов разложения  в виде:

(14)

Нетрудно увидеть, что вводя скалярные произведения в соответствующем функциональном пространстве в виде:

(15)

систему (14) можно переписать в нормальном виде Гаусса:

(16)

Ясно, что эта система имеет единственное решение, т.к. определитель системы (16) совпадает с определителем

Грама для базисных функций  - которая отлична от нуля вследствие линейной независимости базисных функций.

Найдя  из системы (16) и подставляя в (9) мы получаем функцию:

(17)

которая является приближением к функции  в смысле минимума квадратичного отклонения Гаусса (10) по норме индуцированной скалярным произведением (15), действительно:

(18)

а дискретная норма Гаусса невязки имеет вид:

(19)

2.2 Интегральное приближение функции  заданной аналитически

 

В предыдущем параграфе мы рассматривали приближение функции  методом наименьших квадратов, предполагая, что значения функции  заданы таблично, поэтому мы пользовались дискретной нормой Гаусса .

Рассмотрим теперь случай, когда аналитически заданную, на интервале , функцию  - надо аппроксимировать обобщённым многочленом:

(20)

так, чтобы минимизировалась интегральная норма невязки Гаусса :

(21)

 

иначе говоря, нам нужно минимизировать интеграл

(22)

Для решения этой задачи подставим (20) в (22), тогда функционал (22) превратится в функцию многих переменных, т.е. . Условия же минимума функции многих переменных имеют вид:

, (23)

Эти условия приобретают вид:

(24)

т.е.

(25)

Определитель этой системы представляет собой определитель Грама для функций , в , поэтому система (25) имеет единственное решение . Подставляя эти значения в разложение (20) имеем приближение для . Характер приближения оценивается соответствующей нормой невязки .

Задача аппроксимации функции заданной аналитически часто применяется для вычисления интегралов.