книги / Линейная алгебра

Из приведенных рассуждений видно, что этот способ равносилен применению формулы (6.72) для отыскания нормального решения си­ стемы. Кроме того, отсюда становится понятным, почему псевдообратная матрица в п. 6.13 определена формулой (6.53).

О методе отыскания нормального и общего псевдорешений си­ стемы, основанном на использовании сингулярного разложения ма­ трицы системы см. в п. 6.19.

Обозначим через L* подпространство, натянутое на правые син­ гулярные векторы ei, ег, ..., е* матрицы А системы (6.60), и будем искать проекции Xk = прькХ псевдорешений X на подпространство

Lk, к =	1,п. Учитывая формулы (6.66), (6.67), (6.69), (6.70), получим
(см. п.	6.4)
	X* = aiei + ... +	fc = l,n .	(6.73)
В частности,
	Х г = Х ° = ага +	... + агег.	(6.74)

Примечательно, что прп к < г проекция Xk любого псевдорешения X совпадает с проекцией Xk нормального решения Х°.

Для отыскания проекции Xk при к = 1, г можно также в сингуляр­ ном разложении А = фЕР^матрицы А разбить матрицу Е на клетки следующим образом:

s -

(

t

4 * ) ’

где Ejbjb — матрица, построенная на первых к строках и первых к столбцах матрицы Е, и искать нормальное решение системы

J ) P *X = 6.

(6.75)

При этом такая проекция определяется следующей формулой:

Х к = р ( S{ fcl °0 ) Q % к = Т7г.

(6.76)

Можно также найти любым способом общее или нормальное псев­ дорешение системы (6.60), определить проекции Xk при к = 1,п по общему правилу отыскания проекции на подпространства, указан­ ному в п. 6.4.

П ример 1.	Для системы
	{	XI	+	Х4	=		4,
			Х2	+Х 4	=	~4,
			Хз + Х4		=		4
найти общее и нормальное псевдорешения и их проекции на подпро­
странства правых сингулярных векторов.
Реш ение.	Составим систему А*АХ = А*Ь нормальных уравнений,
которая в данном случае имеет вид
	xi		+		х4	=	4,
	i		х2	+ Х4		=	-4 ,
				Х3 + Х4		=	4,
	Х\		+ Х2 +	Хз +	Х4	=	4.
Решив эту систему, найдем общее псевдорешение
	X =	(4 -	я4, - 4 -	х4,4 -	ж4, я4)т			(6.77)

Заметим, что в рассматриваемом примере прц^Ь = 6. Поэтому си­ стема АХ = прцд)Ь совпадает с заданной и ее общее решение также определяется формулой (6.77).

Теперь составим функцию

Ф(Х) = |Х|2 = (4 - *4)2 + ( - 4 - *4)2 + (4 - *4)2 + (*4)2

и из равенства нулю ее производной по я4 найдем я4 = 1, при котором из общего псевдорешения X , заданного формулой (6.77), получается нормальное псевдорешение Х° = (3, —5 ,3 ,1)т

Для отыскания общего и нормального псевдорешений соответст­ венно по формулам (6.64) и (6.72) заметим, что в примере 1 из п. 6.13 для матрицы А рассматриваемой системы найдена псевдообратная матрица

3	- 1	- 1	\
- 1	3	- 1
- 1	- 1	3
i	l l	/

По формулам (6.72) и (6.64) соответственно получаем

	3	- 1	- 1	\			3	\
А+Ь= I	- 1	3	- 1	(	- 4	^ =	- 5
4	- 1	- 1	3	V	4	/	3
	1	1	ч	\	4	/	Ч

X = А+Ь + ( Е - А+А)С =

3	^		с 1	3	—1	—1 \
- 5		+		- 1	3	- 1
3			Е ~ 4	- 1	- 1	3
1	)			1	1	1 /

	(	3 + jj(ci + С2	+ Сз + С4 ) ^
	( Cl >	—5 + £(ci + С2	+ Сз + С4 )
	С2
		з 4- \(ci + С2+ Сз + С4 )
	Сз

\ С4 У

^1 ^(ci + С2 + Сз + С4 ) У

Если положить 7 = Х4 = 1 — ^(ci 4- С2 4- С3 4- С4), то найденное решение примет вид выражения (6.77)

Чтобы вычислить проекции найденных решений на подпростран­ ства правых сингулярных векторов, замечаем, что для матрицы дан­

ной системы в примере из п. 6.10 найдены сингулярные числа						= 2,
с-2 = os = 1 и правые сингулярные векторы
ех =		2 7 з ( и , 1 ’ 3 ) /’			е2 = ^ ( 1--1 .0 .0 )т ,
е3	=	- ^ (1 ,1 ,—2,0)т ,			е4 = 2 (1 Д . 1 , - 1 ) т
Пользуясь выражением (6.77) для X , найдем по общему правилу
(см. п. 6.4), например, проекцию Х 2. Для этого положим
X = c*iei + а 2е2 4-			где	c*iei 4- с*2С2 = Х 2 = прь2Х } zLe\, z±e2.
У м н ож ая э т о	р а в е н ств о			ска л яр н о н а e i, з а т ее2)м нпар и д ем к		си стем е

из которой находим а\ = 2/^3, <*2 = 8/ л/5. Поэтому

	2	8	1		3)т
Х2 = aiei 4- <*2С2 = ^=е1 +			=
Если в о сп о л ь з о в а т ь ся ф о р м у л а(м6и.66),			(6.67), (6.68),		т о п о л у ч и м
_	( А е ^ _ _ 1 _ . ! 1} ( J \ = ±
~	2VS1 ,		4 /	V T

15~ 1307

				(Ле2, 6)	_	1		4	8
		<*2						- 4
									" V 2 ’
								4
				(Лез,Ь)	_	J _ ,	,	4	_ 8_
		<*3						- 4
				- 2	_	V 6 ( ’	, }		л/2’
				А				4
	X	=	aiei + а 2е2 + <*звз + «464 =					—( 1 , 1 ,1 ,3 )т +
		+	4(1, - 1 , 0,0)т -		| (1 ,1, - 2 , 0)т + а 4 •1(1, 1,1, - 1 ) Т =
		=	(3, —5,3,1)т + «4 •1(1,1,1, —1)т,
	о?4	—	произвольное число;
	Х °	=	сцех + агег + осв^з = (3, —5 ,3 ,1)т
и по формулам (6.73) и (6.74) находим
* 1	=	<*!«! =		1 ( 1 ,1 ,1,3)т ,		Х 2 = а 1е1 + а 2е2 =			| ( 1 3 ,- 1 1 ,1 ,3 )т ,
Хз	=	Х°	=	c*iei +ос2б2 + ос^ез =			(3, —5 , 3 , 1)т ,		Х± — X.

Если воспользоваться сингулярным разложением матрицы А (см. п. 6.10, пример 1), то по формуле (6.76) при к = 1,2,3 соответственно получим

		(	1/2	0	0
		1		0	0
Хг = Р \			0			j Q * f t = ± ( l , l , l , 3 ) T,
		1	0	0	0
х 2		/	1/2	0	0
	=	Р ■|	0	1	0
		V	0	0	0
		/	1/2	0	0
Хз	=	Р -	0	1	0
		V	0	0	1

П ример 2 . Найти нормальное решение системы

2xi	—Х2	= 1,
—Xi	+Х2	+ Хз = 0,

Х2 +2хз = 1

путем сведения ее к решению систем с невырожденными матрицами.

Решение. В примере из п. 6.12 для матрицы А рассматриваемой системы было найдено скелетное разложение

Поэтому данную систему перепишем в виде

Полагая здесь

y = c x = { \ 1 О* y=(s)'

придем к системе

Здесь имеем первый из рассмотренных выше случаев. Поэтому полу­ ченную систему домножаем слева на матрицу

Тогда придем к системе

П роведя ум н о ж е н и е м а т р и ц , перепиш ем э т у с и с т е м у в виде

или, ч т о т о ж е сам ое, в виде

Г	5yi - 3j/2	=	2,
\	— 3 y i + З у г	=	0 .

15*

Получена система с невырожденной матрицей. Из нее находим

-	О	-	О	)
Подставим найденное У в равенство СХ = У		Тогда получим систему

( о 1 г ) х = ( О

Здесь имеем второй из рассмотренных выше случаев. Поэтому будем искать X = (а?!, я2, яз)т в виде

Тогда придем к системе

Проведя умножение матриц, запишем эту систему в виде

С ОСИ!)

Таким образом, снова получим систему

Г 2zi +2z2 = 1,

\ 2 zi + 5Z2 = 1

с невырожденной матрицей.		Отсюда		находим Z — (zi,z2)T =
= (1 /2 ,0)т	Поэтому
X = х° = c*z =					) = 1/2 -
П ример 3.	Найти нормальное псевдорешение системы
	Xl	+	112	=	1,
	—**1	+	®2	=	1,
	*1	+	®2	=	1.

Решение. Следуя общему правилу, составим систему А*АХ = А*Ъ нормальных уравнений, которая в данном случае имеет вид

Г	3xi +	(1 + 2г)х2	=	2 + г,
\	(1 -	2i)xi + 3x2	=	2 - г.

Решая эту систему, найдем единственное решение Х = | ( 1 ,1 ) т Оно и является нормальным решением.

Для решения задачи по формуле (6.72) замечаем, что в примере 3 из п. 6.13 для матрицы А данной системы найдена псевдообратная матрица

,+ _ 1 f 1 + * - 1 + * 2 - 2 * \

“ 4 V - 1 - i	1 - 2 2 + 2i )
Поэтому по формуле (6.72) получаем
	1
Х° = А+Ъ “ 4 V - 1 - 2	-К1

6.15.М етод регуляризации для систем линейных уравнении

Пусть дана произвольная (совместная или несовместная) система m линейных уравнений с действительными или комплексными коэф­ фициентами и п неизвестными

АХ = 6.

(6.78)

Для получения нормального псевдорешения этой системы, кроме указанных в п. 6.14 способов, применим также метод регуляризации. Он состоит в следующем.

1.Составляют функцию

Fa(X) = \AX-b\2 + a\X\2 = Y l	У . а'Эх3 “ bj +	(6.79)
1= 1	;= i	i=i

где а > 0, и находят вектор Х а, при котором эта функция достигает своего минимума. Таким вектором является решение Х а системы

(А*А + аЕ)Х = А*Ь,

(6.80)

потому что для функции

Fa(X) =	\АХ-Ь\2 + а\Х\2 = (А Х -Ь У (А Х -Ъ ) + аХ *Х =
=	(А*Х* - Ь*)(АХ - Ь) + аХ *X =
=	Х * А * А Х -Ь * А Х -Х * А Ч + Ь*Ь + аХ*Х

дифференциал

dFa(X) = dXm-А*АХ + X* A*AdX - Ь*AdX - dX* •А*Ь +

+adX*X + aX*dX = dX* •A*AX + dX* •A*AX - - dX* •АЧ - dX* •A* 6 + adX 'X + adX* •X =

=2йХф•[(ЛМ + а г Д - Л Ч ]

обращается в нуль лишь при таких X , которые являются решениями системы (6.80).

2. В полученном векторе Х а переходят к пределу при а —►0+. Этот предел дает нормальное псевдорешение системы (6.78).

При реализации обсуждаемого метода на ЭВМ функцию (6.79) рассматривают при конкретных значениях параметра а.. При ка­ ждом таком значении а из системы (6.80) определяют конкретное приближение Х а к искомому нормальному псевдорешению системы (6.78).

Для вычисления вектора Х а применимы также формулы

X •	=	(A'A + aE)~1A'b,		(6.81)
x «	=	U	a + ai	(6.82)
va	_	\ л	л* r	(6.83)

■£ « + < - ? ■ u

где г - ранг (m x п)-матрицы A, <ri, <r2, . . <rr - ненулевые сингулярные числа матрицы A, e,, e2, . . e„ и fi, f 2, .. •>fm ~ сингулярные базисы пространств X n и Ym.

Если матрица А порядка п и ранга г симметрическая, то приме­ нима формула

(ej >fr) j= 1 a + A? h

где eij ег, . . еп — ортонормированная система собственных векто­ ров оператора с матрицей А , принадлежащих соответственно соб­ ственным значениям Ai, А2, . . An (Aj ф 0 при j = Т7г).

Пример 1. Методом регуляризации найти нормальное псевдоре­ шение системы

{ 2 x i-	*2	= 1,	О,
—X i+	Х2	+Жз =
	х2	+2х3 =	1.

Решение. Составим систему (А*А + аЕ) = А*6, которая в данном

случае имеет вид

(5 + се)х1 — 3x2 — х3 = 2, 3xi + (3 + <*)х2 + Зхз = О,

—xi + 3x2 + (5 + ос)хз = 2.

Решая эту систему, находим
18 + 2а	18 + 2а \ Т

36 + 13а + а2 ’ О, 36 + 13а + а2/

Отсюда, переходя к пределу при а —►0+, получим искомое нормаль­ ное псевдорешение

Х ° = 1(1, О, 1)т

Для отыскания Х а по формуле (6.84) сначала найдем собственные значения Ах = 3, А2 = 2, Аз = 0 матрицы А и соответствующие им собственные векторы

ei — ^=(1, —1, —1)т ,		е2 — ^ _ (1 ,0 ,1) , е з —		^-(1,2, 1)
Затем по фформуле (6.84)		получаем
х - =	Аг(в2,6)		= 4 - а , о, 1)т -	1 (1,о, 1)т
	а + А2 ^ ’ а + А2		а + 4'

при а -*■ 0+ .

Пример 2. Методом регуляризации найти нормальное псевдорешение системы

{ Xi + ( 1 + * ) * 2 =	1 ,
(1 - »>1 + Я?2 =	1,

*1 + *2 = I*

Норму (т х п)-матрицы А называют согласованной с век тор ­ ной нормой, если для любого n-мерного вектора х выполняется усло­ вие

1И *П < И Н М 1 -

Часто норму матрицы А вводят через нормы векторов, полагая

1И11 = sup	11*11	= SUP 11^11-
		||г||<1

Такую норму матрицы называют м атричной норм ой, подчинен­ ной векторной норме, или м атричной норм ой, индуцирован­ ной векторной нормой.

Приведем примеры подчиненных матричных норм. 1. Для октаэдрической нормы вектора, т.е. для

Nil =Е м .

*=1

подчиненной нормой матрицы А является

IH li = m a x E M

«

2. Для евклидовой (сферической) нормы вектора, т.е. для

Nl2= N I*=(f>|2

\»=1

подчиненной матричной нормой является спектральная норма

1И|| = -/т а х А д -л ,

где Аа*а — характеристические числа матрицы А' А.

3.Для кубической нормы вектора, т.е. для ||z||oo = шах» |*,-|, под­ чиненной матричной нормой является

И 1оо = m a x E l a o l-

3

Между различными матричными нормами устанавливаются опре­ деленные соотношения. Особенно много таких соотношений приве­ дено в [34].