part2 / vm

нормированы. Ортогональная система элементов линейно независима, так как ее определитель Грама отличен от нуля.

Из системы линейно независимых элементов всегда можно получить ортогональную систему такую, что ее элементы будут представляться в виде линейной комбинации элементов исходной системы и наоборот. Опишем метод ортогонализации Грама–Шмидта, который часто используют для получения

ортогональных систем.

Пусть f1, f2,…, fn – система линейно независимых элементов. Построим систему ортогональных элементов g1, g2,…, gn. В силу линейной независимости

f	i	имеем ‹f	, f	›≠0, i=1,2,…,n. Положим g = f														. Определим элемент g																	2		f	2	(2) g	;
		i	i												1		1																						1 1
подберем коэффициент								(2) так, чтобы элемент g															2		был ортогонален элементу g																:
								1																															1
				g	2	, g		f		2	(2) g				, g	f			2	, g			(2)					g		, g		0.
							1					1		1	1							1					1	1			1
		Следовательно, (2)							f 2 , g1			. Следующий элемент g																			3	представим также в
					1				g1 , g1
виде линейной комбинации											f ,		g	1	и	g	:		g		3	f				3		(3) g		1	(3) g			.	Из			условий
											3					2												1				2	2
ортогональности ‹g3, g1›=0 и ‹g3, g2›=0 следует, что
									(3)				f3 , g1			, (3)								f3 , g2					.
								1					g1 , g1				2							g2 , g2

Повторяя эту процедуру, можно получить всю ортогональную систему. На n – м шаге имеют место формулы

		n 1		fn , gk
	gn	fn (kn) gk ,	(kn)		.
		k 1		gk , gk

Замечание. Используя процесс ортогонализации Грама–Шмидта можно получить ортонормированную систему элементов h1, h2,…, hn, если сначала

положить

h

g1

f1

и далее,

на каждом i –

м шаге, после вычисления

1

g1

f1

коэффициентов (i) , k 1, 2, , i 1,

нормировать g , т.е. выбирать h

gi

.

k

i

i

gi

Ряд Фурье. Система ортогональных элементов называется полной, если ее

нельзя пополнить никаким другим ненулевым элементом, ортогональным к элементам данной системы.

71

			Пусть φ1, φ2, …, φn,… – бесконечная ортогональная система элементов
	функционального пространства со					скалярным произведением. Числа
	i		f , i		называют коэффициентами	Фурье функции f по ортогональной
			i , i

системе φ1, φ2, …, φn, … Функции f можно поставить в соответствие ряд f~ α1φ1+ α2φ2+ …+ αnφn+ … (4.35)

Этот ряд называется рядом Фурье по ортогональной системе функций φ1,

φ2, …, φn, …. Можно показать, что если система {φi} полна, то конечные суммы ряда (4.35)

n

n x k k x

k 1

сходятся к функции f в среднем, т.е.

f n 0

n

или

f , n	L	0.
	2	n

Построение многочлена наилучшего приближения в среднеквадратичной метрике. Пусть функция задана на некотором множестве A, дискретном или непрерывном. Выберем систему линейно независимых функций φ0, φ1 ,…, φm,

заданных на множестве A. Рассмотрим задачу приближения функции f на множестве A многочленом Pm вида

m

Pm x ak k x .

k 0

При фиксированной системе функций φ0, φ1, …, φm многочлен Pm

однозначно определяется коэффициентами a0, a1, …, am, т.е. Pm(x)=Pm(x, a0, …, am). Многочлен Pm называется многочленом наилучшего среднеквадратичного

приближения (МНСП) функции f на множестве A, если выполняется соотношение

2 f , P*			min 2 f , P		L	. (4.36)
m L			m
	2		a0 , ,am		2
Задача построения МНСП		P*	сводится	к		задаче вычисления таких
		m

коэффициентов многочлена Pm, которые минимизируют квадрат погрешности

72

a0 , a1 , , am .

i 0m

приближения (4.36). Обозначим эти коэффициенты через a0 , a1 , , am и

приведем процедуру их вычисления.

Квадрат погрешности приближения ρ2 есть функция коэффициентов a0, a1,

…, am многочлена Pm. Эта погрешность представляет собой квадратичную форму

2 f , Pm L					m		m
	f Pm , f Pm f ak k , f ak							k
	2				k 0		k 0
	m			m		m
f , f 2 f , ak		k	ak k			, a j j			(4.37)
	k 0			k 0		j 0
	m			m	m
f , f 2 ak f , k				ak a j k , j .
	k 0			k 0	j 0

В силу аксиом расстояния формула (4.37) является положительно определенной. Следовательно, она имеет единственный экстремум – минимум.

Это означает,

что искомые

коэффициенты

a , a , , a

существуют

и

0

1

m

единственны. Приравняем к

нулю

частные

производные

2 f , P

по

m L

2

переменным a0, a1,…, am:

2 f , Pm L2

m

m

m

f , f 2 ak f , k ak a j k , j

ai

ai

k 0

k 0 j 0

m

2 f , i 2 ak k , i

0,

i 0,1, , m.

k 0

Получаем систему линейных алгебраических уравнений относительно

искомых коэффициентов:

a0 0 ,0 a1 0 ,1 am 0 ,m f ,0 ,

a0 1 ,0 a1 1 ,1 am 1 ,m

f ,1

,

(4.38)

a0 m ,0 a1 m ,1 am m ,m f ,m .

Эта система называется системой нормальных уравнений. Ее определитель является определителем Грама G(f1, f2,…, fn). В силу линейной независимости системы функций он отличен от нуля. Поэтому система (4.38) имеет единственное решение. Из теории функций нескольких переменных следует,

что это решение дает минимум функции ρ2, т.е. решение системы (4.38) –

искомые коэффициенты

73

Таким образом, если система функций φ0, φ1, …, φm линейно независима,

то коэффициенты МНСП функции f могут быть вычислены как решение системы нормальных уравнений (4.38). Описанный метод построения МНСП называют методом наименьших квадратов.

Построение МНСП для функции f упрощается, если система функций φ0,

φ1, …, φm ортогональна. В этом случае матрица системы уравнений (4.38)

становится диагональной, и коэффициенты МНСП вычисляются по формулам

f ,

ai i ,ii , i 0, 1, , m. (4.39)

Коэффициенты ai совпадают с коэффициентами Фурье для функции f по системе функций φ0, φ1, …, φm, а МНСП совпадает с отрезком ряда Фурье Φm(x) (4.35)

Pm(x)≡Φm(x)=a0φ0(x)+ a1φ1(x)+…+ amφm(x). (4.40)

Квадрат погрешности приближения описывается формулой

2 f , Pm L2 f , f a0 f , 0 am f , m

m

f

2L

ai2

i

L .

2

i 0

2

Из последней формулы явно видно, что с расширением ортогональной системы функций (ростом m) погрешность, вообще говоря, не увеличивается.

Часто бывает удобнее при построении МНСП использовать ортонормированную систему функций h0, h1, …, hm. В этом случае,

соответственно, коэффициенты имеют вид

ai f , hi ,

i 0,1, , m,

и квадрат погрешности вычисляется по формуле

2 f , Pm	L										m
						f				2	ai2 .
	2									L
									2		i 0

Замечание. Следует иметь в виду, что близость двух непрерывных функций в смысле среднеквадратичного отклонения не гарантирует малости их отклонения на всем интервале приближения. Например, на рис.4.3 приведены графики функций g(x)≡2 и функции f(x), отличающейся от g(x) одним пиком высоты 2+n и длиной основания, равной 1/n3.

74

В этом случае расстояние

		b		12		1
	2 f , g L2	f x g x 2 dx						.
		a				3n
Очевидно, 2 f , g L	0, т.е.	функции могут быть сколь угодно близки в
2	n

смысле среднеквадратичной метрики, однако сколь угодно далеки в смысле
равномерной метрики: max f x g x n .
[a,b]	n

Приближение функций алгебраическими многочленами. Часто для среднеквадратичных приближений используют системы алгебраических многочленов. Система степенных функций является простейшей и имеет вид

1, x, x2,…, xm. (4.41)

Такая система линейно независима в пространстве C[a,b] непрерывных на интервале [a,b] функций. В пространстве En+1 функций, таблично заданных на множестве точек x j 0n , система (4.41) линейно независима при m≤n+1 и

зависима в противном случае.

Пример. Построить на интервале [0,1] линейный МНСП для функции f(x)=ex.

Решение. Приближающий многочлен имеет вид P1(x)=a0+a1x, т.е. φ0(x)=1,

φ1(x)=x. Вычислим коэффициенты системы нормальных уравнений по формулам для скалярных произведений (1.6)

‹φ0,φ0›=1; ‹φ0,φ1›= ‹φ1,φ0›=½; ‹φ1,φ1›=⅓;

75

x j 0n

‹f,φ0›=e –1; ‹f,φ1›=1.

Запишем нормальную систему

a0 12 a1 e 1

1 a0 1 a1 1.2 3

Решая систему, получаем коэффициенты

a0=4e–10≈0,87; a1=18–6e≈1,69.

Отсюда ex 0,87 1,69x на интервале [0, 1].

Замечание. В общем случае при вычислении коэффициентов системы

нормальных уравнений можно использовать формулу

		b	bk i 1	a k i 1
k	, i	xk i dx			.
		a	k i 1

Эта формула достаточно проста. Однако при вычислении правых частей системы (4.36) интегралы

b

f , i f x xi dx

a

могут оказаться очень сложными. Поэтому часто переходят к дискретному варианту метода наименьших квадратов. А именно: строят МНСП в пространстве En+1 на множестве узлов на интервале [a,b], полагая n+1

равным от 1,5∙m до 2∙m. Построенный многочлен принимают за аппроксимирующий на всем интервале [a,b]. В этом случае коэффициенты системы нормальных уравнений вычисляют по формулам (1.7) и погрешность приближения подсчитывают в среднеквадратичной метрике (1.9).

Основным достоинством системы степенных функций является ее простота. Однако решение системы нормальных уравнений представляет самостоятельную задачу линейной алгебры. Проблема усложняется тем, что при больших n (n>50) матрица системы (4.38) становится плохо обусловленной.

Чтобы избежать указанных трудностей, часто используют ортогональные системы многочленов. Рассмотрим некоторые из них.

Многочлены Лежандра описываются выражением

76

L	x	1		d n	x2 1 n (4.42)
	n	2n n! dxn

Можно показать [5], что степень многочлена Ln равна n.

Для многочленов Лежандра имеет место рекуррентное соотношение

(n + 1)Ln+1(x) – (2n+1) x L n (x) + n Ln–1(x) = 0.

Учитывая, что L0(x)=1, L1(x)=x можно вычислить многочлен любой степени. Например, второй и третий, соответственно, имеют вид

L x 3	2	x2	1	2	;	L x 5	2	x3	3	2	x.
2						3

Покажем, что многочлены Лежандра образуют ортогональную систему на стандартном отрезке [–1,1], т.е. выполняется соотношение

1	x Lm x dx 0,
Ln , Lm Ln		n m.
1

Прежде всего, покажем, что многочлены Ln(x) ортогональны одночленам xm

при m<n. Записывая условие ортогональности и интегрируя по частям,

получаем

L

x , x m

1

1

d n

x 2 1 n x m dx

n

2n n! 1 dx n

m

1

d n 1

n

x m 1

x 2 1 dx.

2

n

n!

dx

n 1

1

Выполняя (m–1) раз интегрирование по частям и учитывая, что при k<n

выражение

d k

x2 1 n

обращается

в

ноль

на

концах промежутка [–1,1],

dxk

получаем ‹Ln(x), xm›=0. Отсюда следует, что многочлен Ln(x) ортогонален каждому одночлену xk из Lm(x) (k≤m) и, следовательно, всему многочлену Lm(x).

Замечание. Многочлены Лежандра можно получить из системы степенных функций, если применить к ним процесс ортогонализации Грама-Шмидта.

Покажем, что система многочленов Лежандра не является ортонормированной на интервале [–1,1]. Для этого вычислим норму многочлена Ln:

L		2 L		, L .
n		L2	n	n

Интегрируя n раз по частям, имеем

77

		2L		1	n	1	x2 1 n	d	2n		x2 1 n dx.
Ln
					2			dx		2n
	2			2n n!		1

Вычисляя производную порядка 2n от (x2–1)n, получаем

		2		1 n 2n! 1		n		2
Ln						x2 1	dx
		L		2				2n 1
2				2n n!	1

или

Ln			2	. (4.43)
			2n 1
		L2

Можно показать, что многочлены Лежандра образуют полную систему функций. Поэтому для произвольной функции f последовательность ее МНСП

P0, P1, …, Pm,…, построенных для соответствующих подсистем многочленов {L0}, {L0, L1},…, {L0,…, Lm} сходится в среднем при m→∞ к функции f, т.е. выполняются соотношения

																										f Pm						L2		0.
																																	m
			Пример. Построить на интервале [–π, π] МНСП для функции f(x)=sin(x),
используя первые три многочлена Лежандра.
			Решение. Сделаем замену переменных x=πt, чтобы перевести отрезок [–π,π]
																			t sin t, t 1,1 .														Обозначим через																				3 t МНСП для
в отрезок [–1,1]. Тогда																		f																																	P
		t на [–1,1].							Вычислим коэффициенты																								ai многочлена																3 t						по формулам
	f																																															P
ai			f , Li				с учетом нормы (4.43).
			Li , Li
																	a			1		1 sin t dt 0;										a				3					1 t sin t dt				3		;
																		0
																			2													1	2
																						1																		1
							a					5	1	1	3t 2			1 sin t dt 0; a															7		1			1			5t 3		3t sin t dt									7				105	.
								2																				3
									2				2																				2 2																							3
													1																						1
Следовательно,
											3 t					3	L		t				7		105		L t							15							21	1 t		35		1				15					t 3 .
										P
																		1									3														2									2
																									3									2										2

Переходя к отрезку [–π, π] с помощью обратной замены переменных t x ,

получаем

78

P x	15	21		1 x	35	1	15	x3	0,8x 0,09x3 .
3	2 2		2		2 4		2

Многочлены Чебышева определяются соотношением

Tn x cos n arccos x ,

n 0,1,2, (4.44)

Введя обозначение

t arccos x, cos t x , (4.45)

и используя метод математической индукции, можно показать, что Tn(x) –

многочлен степени n, а его старший коэффициент равен 2n–1 (n≥1).

Из тождества

cos n 1 t 2cos t cos nt cos n 1 t,

где t определяется заменой (4.45), в соответствии с формулой (4.44) получаем рекуррентное соотношение для многочленов Чебышева:

Tn+1(x)= 2xTn (x) – Tn–1(x),

n=1, 2, …

Первые четыре многочлена Чебышева имеют вид

T0(x)=1; T1(x)=x; T2(x)=2x2–1; T3(x)=4x3–3x.

Покажем, что многочлены Чебышева образуют ортогональную систему на

интервале [–1,1] со скалярным произведением

1

1

Tn ,Tm Tn x Tm x

dx,

1 x2

1

где

1

– весовая функция. Вычислим это скалярное произведение

x 2

1

1

1

u arccos x

Tn ,Tm cos n arccoc x cos m arccoc x

dx

dx

du

1 x

2

1`

1 x 2

1

1

cos nu cos mu du

cos n m u du

cos n m u du 0,

n m.

2

2

0

0

0

Покажем, что система многочленов Чебышева не является нормированной на интервале [–1,1].

79

1, cos x,sin x, cos 2x, sin 2x, .

2

1

cos 2 n arccoc x

1

u arccos x

T

T ,T

dx

du

dx

n

L2

n n

1 x

2

1`

1 x 2

n 1 ,

2L2 .

cos

2 nu du

T0

2

0

Пример. Для функции f (x) arccos x построить на интервале [–1,1] МНСП,

используя первые четыре многочлена Чебышева.

Решение. МНСП ищем в виде

P3 x a0T0 x a1T1 x a2T2 x a3T3 x .

Вычисляем коэффициенты ak, k=0, 1, 2, 3, учитывая выражение для нормы

Tk(x).

			1	1		arccos x
a0									dx					;
												2
						1 x 2
					1
			2	1		arccos x cos k arc cos x
ak																	dx
									1 x 2
			1
	2										2							2
		u cos ku du											sin ku du
											k
		0											0

u arccos x
du			dx
			1 x 2
	1 k		1		, k 1, 2, 3.
	k 2

Откуда получаем a		4	; a		0; a						4		.
				2					3
1											9
Таким образом,
	P x						4	T x				4		T x			4	2		x	4		3
																						x		.
	3				2					1		9		3	2						9
																	3

Приближение функций тригонометрическими многочленами. В ряде случаев для среднеквадратичных приближений используется система функций вида Легко проверить, что такая система тригонометрических функций ортогональна на интервале [–π,π].

Соответствующая ортонормированная система получается из исходной

умножением на множители		1							и			1				:
				2
		1				,			cos			x	,	sin			x		,	cos 2x			,	sin 2x			, .
			2

80