[ Буслов, Яковлев ] Введение в численный анализ
.pdfè
|
gn |
|
= |
jjAnjj |
|
= |
|
max |
|
hPmaxg; gi + O([ 0= max]2n) |
= |
|||
jj |
|
jj |
|
jjAn 1gjj |
|
j |
|
|
jrhPmaxg; gi + O([ 0= max]2n 2) |
|
||||
|
|
|
|
= |
|
max |
1 + O([ 0= max]2n 2) |
g |
: |
|
||||
|
|
|
|
j |
|
|
|
jf |
|
|
|
|
Т ким о р ом сли ст рто ый ктор g им л н нул ую про кцию н со ст нно по простр нст о от ч ющ м к- сим льному по мо улю со ст нному н ч нию (то сть Pmaxg =6 0 ), то при нн я ит р ционн я проц ур при о ит к н хо нию max . О н ко, хотя форм льно, пр ы ущ р ссмотр ни рно лишь случ н нул ой про кции,
йст ит льности и - оши ок окpу л ния при ычисл ниях эт пpо кция н pняк поя ится н н котором ш ильн йш прим н ни м то ит р ций при т к л мому р ульр ту. Попутно м тим, что сли по простр н- ст о от ч ющ max î íîì ðíî, òî ì òî èò ð öèé î íî ð ì ííî ïðè î èò ê í õî íèþ ñî ñò ííî î êòîð
îò ÷ þù î max . тим ктором с точностью о нормиро ки я ля тся
xmax = lim gn :
n!1
Ç ì ÷ íè . Äëÿ í õî íèÿ max мо но прим нять м то ит р ций и ол простой пост но к . Пусть l- я компон нт м ксим льно о со ст нно о ктор ст н ртном кли о ом ис н р н нулю (хотя ы о н т к я сущ ст у т), то
(Ang)l
max = nlim!1 (An 1g)l :
) Ì òî ñë î
И стно, что сл м трицы (сумм и он льных эл м нто ) р н сумм ¼ со ст нных н ч ний с уч том кр тности: P i = T rA , ò êèì î ð îì P mi = T rAm , è, ñë î ò ëüíî
T rAm = mmax[1 + ( 0= max)m + : : :] ;
0 сл ующ по мо улю м ксим льным со ст нно н ч ни . Т ким о р ом max ìî íî èñê òü ê ê ñë ó- þùèé ïð ë
|
|
j maxj = mlim |
m |
|
|
|
|
|
||||
|
|
pT rAm ; |
||||||||||
|
|
|
|
!1 |
|
|
|
|
|
|
||
èëè, í ïðèì ð, è |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
max = |
lim |
T rAm+1 |
: |
|||||||
|
|
T rA |
m |
|||||||||
|
|
|
|
m!1 |
|
|
|
|||||
Проц уру о ния м трицы ст п нь мо но оптими иpо ть: |
|
|||||||||||
|
|
A A A A ; |
|
|||||||||
|
|
|
A2 |
|
|
|
A2 |
|
|
|
|
|
|
|
| |
{z } |
A4 |
| {z |
} |
|
|
|
|||
и т к л , ч стности A16 = (A8)2 = A2222 . |
| |
|
{z |
|
} |
|
|
|
||||
) Ì òî ñê ëÿpíûõ ïpîè íèé |
|
|
|
|
|
|
|
|
|
|
|
|
тот м то я ля тся о о щ ни м м то ит р ций. Пусть |
x è |
|
y |
прои ольны н ч льны кторы. Опр лим |
||||||||
èò ð öèè ym = Aym 1 = Amy = |
mPsy ; |
xm = Axm 1 = |
|
|
|
mPsx . Àí ëî è÷íî ì òî ó èò ð öèé ó ìñÿ, |
||||||
|
s |
|
|
|
|
|
|
|
s |
|
|
|
÷òî |
P |
|
|
|
|
|
|
P |
|
|
71
hym; xmi ! max :
hym; xm 1i
6.2.3Î p òíû èò p öèè
Поиск миним льно о по мо улю со ст нно о н ч ния
Пусть y н который ст рто ый ктор. Опр лим о р тны ит р ции к к y(n) = Ay(n+1) èëè (y(n+1)
òî ñòü ýòî ïpÿì ÿ ÷ ëÿ í õî íèÿ ì êñèì ëüíî î ñî ñò ííî î í ÷ íèÿ max ì òpèöû B = A 1 о р тной к исхо ной м триц . Оч и но, что миним льно по мо улю со ст нно н ч ни м трицы A р но м ксим льному по мо улю со ст нному числу о р тной м трицы.
B |
= A 1 |
1 |
|
|
; ( i = |
) : |
|
|
|
||
i |
i |
i |
Ì òî î p òíûõ èò p öèé ñî ñ è îì
Пусть A н ыро нн я эрмито м триц и н которо про но число. Р ссмотpим м трицу (A I) , со ст нными н ч ниями я ляются числ ( i ) , i со ст нны н ч ния исхо ной м трицы A . У о р тной м трицы (A I) 1 со ст нны н ч ния это личины i 1 . Ïpîö óp ì òî î ð òíûõ èò ð öèé cî ñ è îì
|
|
|
|
y(n) = (A I)y(n+1) ; |
|
|
ïpè î èò ê í õî íèþ max |
|
1 |
|
. Иными сло ми мы н хо им то со ст нно н ч ни j |
, которо я ля тся |
|
j |
i j |
|||||
i |
|
|
||||
ли йшим к про ному числу |
. В рьируя про но и но ь прим няя м то о р тных ит р ций со с и ом |
мо но н йти с со ст нны н ч ния м трицы A .
6.3Н эрмито ы м трицы
6.3.1Дополнит льны с ния
В случ сли л р ич ск я и ом трич ск я кр тности со ст нных чис л оп р тор A со п ют, то унит рным пр о р о ни м (то сть пр о р о ни м сохр няющим ск лярно прои ни : hUx; Uyi = hx; yi ) ( RN | орто он льным пр о р о ни м) оп р тор при о ится к и он льному и у и н и он ли стоят со ст нны числ A с уч том кр тности. О н ко н р к ситу ция, ко л р ич ск я кр тность со ст нно о н ч ния пр ыш том трич скую (о р тно , кст ти, н о мо но).
 CN при опр л нном ы ор ис (н ы мым ор но ым или к нонич ским исом оп р тор A ) м триц оп р тор ст но ится лочно- и он льной. В к ом и локо ( ор но ых кл ток) м триц оп р тор я ля тся рхн тр у ольной и им т и
0 |
|
1 |
0 |
: : : |
0 |
0 |
1 |
|
||
0 |
|
1 |
: : : |
0 |
0 |
|
||||
|
0 |
0 |
|
: : : |
0 |
0 |
: |
(1) |
||
|
. . . . |
. |
|
. |
. |
|||||
|
. . . |
. . |
|
|
||||||
|
. . . |
|
|
. . . |
|
|
||||
@ |
0 |
0 |
0 |
: : : |
|
1 |
A |
|
||
|
|
|
|
|
|
|
|
|
||
B0 |
0 |
0 |
: : : |
0 |
C |
|
||||
Р м ры ор но ых кл ток, их колич ст о, т к к к и числ |
|
(корни х р кт ристич ско о ур н ния) я ляются |
èí ðè íò ìè îï ð òîð A (òî ñòü í èñÿò îò û îð îð íî èñ ).
72
 RN ор но ис при о ит к кл тк м и (1) сли щ ст нный кор нь х р кт ристич ско о ур н ния м трицы оп р тор A к ком ли о ис . Поскольку коэффици нты х р кт ристич ско о полином м трицы оп р - тор RN щ ст нны, то м ст с к ым компл ксным корн м = +i он о т и компл ксно сопря нным= i . Жор но кл тк этом случ им т и
0
00
00
00
00
... ...
00
B 0 0 @ 0 0
1 |
0 |
0 |
0 |
: : : |
0 |
0 |
1 |
|
0 |
1 |
0 |
0 |
: : : |
0 |
0 |
||
|
|
1 |
0 |
: : : |
0 |
0 |
|
|
|
|
0 |
1 |
: : : |
0 |
0 |
|
|
0 |
0 |
|
|
: : : |
0 |
0 |
|
|
0 |
0 |
|
|
: : : |
0 |
0 |
: |
|
|
||||||||
. . . . |
|
|
. . |
|
||||
. . . . .. |
|
. . |
|
|||||
. . . . |
|
. . . |
|
|||||
0 |
0 |
0 |
0 |
: : : |
0 |
1 |
|
|
0 |
0 |
0 |
0 |
: : : |
|
|
A |
|
|
|
|
|
|
|
|
|
|
0 |
0 |
0 |
0 |
: : : |
|
C |
6.3.2М то ит p ций ля м ксим льно о по мо улю со ст нно о числ кp т- ности 2 случ оp но ой ном лии
От но имся по ро но н случ , ко м ксим льному по мо улю со ст нному н ч нию оп р тор A соот тст у т
ор но кл тк р м р 2 2 . В к нонич ском ис |
u1; u2; : : : ; uN ì òðèö îï ð òîð |
A èì ò è |
||||||
|
|
1 |
j |
0 |
: : : |
0 |
|
|
0 0 |
|
|
|
0 1 |
|
|
||
|
j |
0 |
: : : |
|
|
|||
|
|
|
|
|
|
|
: |
|
|
0 |
0 |
j |
|
|
|
|
|
|
|
|
|
|
|
|||
|
. . |
|
|
|
|
|
||
B |
|
|
B |
C |
|
|
||
0 |
0 |
|
|
|
|
|||
|
. . |
|
|
|
|
|
||
@ |
. . |
j |
|
|
A |
|
|
|
|
|
|
|
|
|
|||
|
|
j |
|
|
|
|
||
З сь B м триц , от ч ющ я ост шимся со ст нным н ч ниям, конкр тный и которой н с н инт р су т. |
||||||||
О о н чим у льный ис ч р v1; v2; : : : ; vN : Òî |
|
|
|
|
|
|||
Au1 = u1 |
|
A v1 = v1 |
|
|
||||
Au2 = u2 + u1 |
A v2 = v2 + v1 : |
|
||||||
 êòîð u1 я ля тся со ст нным ля оп р тор A соот тст ующим со ст нному н ч нию |
. Â êòîð u2 í û - |
|||||||
тся присо ин нным. Для сопря нно о оп р тор A |
со ст нным и присо ин нным ктор ми, соот тст ующими |
со ст нному н ч нию ( RN просто ) я ляются кторы у льно о ис v1 è v2 ñîîò òñò ííî. Ç ì òèì, ÷òî u1 = v2 , è u2 = v1 , то сть со ст нный ктор ля оп р тор я ля тся присо ин нным ля сопря нно о и н о орот.
Н при о ность о ычно о м то ит р ций
Бу м счит ть, что со ст нны н ч ния пронум тро ны поря к у ы ния мо уля и что 1 = . Пусть x прои ольный ктор. Р ло им о по ктор м ор но ис и у льно о к н му
|
N |
hx; viiui ; x = |
N |
hui; xivi |
|
x = |
P |
P |
: |
||
|
i=1 |
|
i=1 |
|
|
73
Ïî éñò ó ì í |
x оп р тором A и сопря нным: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
N |
hx; viiAui ; A x |
|
|
N |
hui; xiA vi ; |
|
|
|
|
||||||||||||
|
|
|
|
Ax = |
P |
= |
P |
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
èëè |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
N |
|
|
|
|
|
|
|
|
Ax = ( < x; v1 > + < x; v2 >)u1 + < x; v2 > u2 |
+ |
X |
< x; vi > Aui ; |
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=3 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
N |
|
|
|
|
|
|
|
|
A x = ( < u1 ; x > + < u2; x >)v1 + < u2; x > v2 |
|
+ |
X |
< ui; x > A vi : |
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=3 |
|
|
|
|
|
Ан ло ично, поскольку |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
n n n 1 |
|
j |
|
0 : : : 0 |
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
0 0 |
n |
|
|
|
|
|
|
|
|
|
0 1 |
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
j |
|
0 : : : |
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
An = |
|
|
|
|
|
|
|
|
|
|
; |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
0 |
0 |
|
j |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
. |
. |
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
B |
|
|
|
|
|
|
|
|
|
|
C |
|
|
|
|
|
||||
|
|
|
|
|
|
|
0 |
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
. |
. |
|
|
|
|
|
|
B |
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
@ |
. |
. |
|
j |
|
|
|
|
|
|
|
A |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
òî |
|
|
|
|
|
|
|
|
|
j |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
Anx = ( n < x; v1 > +n n 1 < x; v2 >)u1 + n < x; v2 > u2 + : : : : |
|
|
(2) |
||||||||||||||||||||
К р тичн я форм n-ой ст п ни оп р тор A с исполь о ни м (2) мо т ыть пис н к к |
|
||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
N |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
X |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
hAnx; xi = hAnx; |
1 |
hui; xivii |
= |
|
|
|
|
|
|
||||||||||||
|
1 |
1 |
|
2 |
|
2 |
|
n |
|
|
|
1 |
|
|
|
|
1 |
|
o |
|
|
n |
|
2 |
1 |
|
|
|
|
|
|
|
|
= n |
|
a + b n |
+ O |
[ 0 |
= ]n |
|
|
; |
|
|
|
|
|
|
|||||||
a =< x; v >< u ; x > + < x; v |
>< u ; x > (= 2 < x; v |
|
>< u ; x > R ), |
b =< x; v |
|
>< u ; x > è 0 |
|||||||||||||||||||||
ñë óþù ïî ìî óëþ |
ñî ñò ííî í ÷ íè . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
В н ш й ситу ции щ ст нно. По н ло ии с м то ом ск лярных прои ний, прим ня мым ля эрмито ых м триц, р ссмотpим отнош ни Р л я
h |
|
|
i |
h |
|
i |
|
|
|
|
a + |
(2n+1)b |
|
|
|
|
|
|
2n |
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0 |
|
|
|||||||||||||||
An+1x; A nx |
A2n+1x; x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
n = h Anx; A nx i = h A2nx; x i = |
|
|
|
|
|
2nb |
|
+ O |
|
|
= |
||||||||||||||||||||
|
|
a + |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 + |
a + |
b |
|
|
|
|
|
|
2n |
|
|
n |
|
|
1 |
o |
|
|
|
|
||||||||
|
= |
|
+ O |
0= |
|
= |
1 + O |
: |
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
a + 2nb |
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Èò ê, n = f1 + O(1=n)g , то сть схо имость при |
n |
|
! 1 |
|
н стольно н у о л т орит льн я, что т ря т пр кти- |
ч ский смысл. Т ким о р ом о ычными ит р ционными м то ми со ст нно число случ оp но ой ном лии у о л т орит льно сосчит ть н пр ст ля тся о мо ным. Н о хо им к кой-то ру ой по хо .
Мо ифициро нный м то ит р ций
Сост им к р тно ур н ни , ля которо о я ля тся корн м кp тности 2
|
(t )2 = t2 + pt + q = 0 p = 2 ; q = 2 : |
Коэффици нты p и q |
р н н и стны, поскольку н и стно с мо . Попыт мся их опр лить. О о н чим |
xn = Anx и р ссмотрим |
ûð íè |
74
|
|
|
xn+1 + pxn + qxn 1 =< x; v1 > f |
1n+1 + p |
1n |
+ q 1n 1 |
g u1+ |
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
| |
|
|
{z |
|
|
} |
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
2 |
|
|
n |
n |
1 |
|
|
|
n 2 |
1 |
|
|
2 |
|
n+1 |
|
|
n |
|
|
n 1 |
|
2 |
|
||||||
+ < x; v |
|
> f(n + 1) 1 |
+ pn 1 |
|
+ q(n |
1) 1 |
gu |
|
+ < x; v |
|
|
> f 1 |
+ p 1 |
+ q 1 |
g u |
|
+ : : : = |
||||||||||||||
=< x; v > fn ( + p + q) + q gu + : : : =< x;|v > {z( |
q) u |
}+ : : : ; |
|||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=0 |
|
|
|
|
|
|
|
|
|
|
|
2 |
n 2 |
2 |
|
|
|
|
n |
n 2 |
1 |
|
|
|
1 |
n 2 |
2 |
|
|
1 |
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
4 |
|
|
| {z |
|
|
|
} |
|
|
|
|
|
|
|
|
|
|
|
|
| |
|
|
{z |
|
} |
|
|
|
|
|
|
|
|
|
=0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=0 |
|
|
|
|
поскольку |
2 |
q) = |
p2 |
q = 0 . Ò êèì î p îì x |
n+1 |
+ px |
n |
+ qx |
n |
|
1 |
= o(x |
n+1 |
) . Ïðè ýòîì êîîð èí òû n-îé èò ð öèè |
||||
( |
|
|
|
|
|
|
|
|
||||||||||
xk óò ñ ÿ ê ê ñîîò òñò óþù ÿ ñò ï íü : |
xin |
= (Anx)i |
nxi |
, поэтому ст ст нно сти три ктор |
||||||||||||||
yn+1;n;n 1 |
= |
x |
n+1;n;n 1 |
. Для коор ин т этих кторо , к к сл у т и пр ы ущ о ыполн но |
||||||||||||||
|
|
n+1 |
|
ykn+1 + pykn + qykn 1 = O([ 0= ]n+1) :
Выпиш м соот тст ующи р нст ля п ры коор ин т, ск м k и l.
|
yn |
|
yn+1 + pyn + qyn 1 = O [ 0= ]n+1 |
|
|
|
|
0 |
yn 1 |
|
||||||||||||||
|
l |
|
k |
|
k |
|
k |
|
[ 0= ]n+1 |
|
|
|
|
|
l |
: |
||||||||
|
ykn |
yln+1 + pyln + qyln 1 = O |
0 |
ykn 1 |
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
Домно я п р о р нст о н |
n |
1 |
, òîðî í |
|
n |
1 |
|
|
|
|
|
|
|
|
|
|||||||||
yl |
|
|
yk |
|
и ычит я и п р о о р нст торо , получ м |
|||||||||||||||||||
|
|
p = |
|
ykn+1yln 1 |
yln+1ykn 1 + O |
|
0= |
|
n+1 |
|
= |
|
||||||||||||
|
|
|
|
|
yknyln 1 |
ylnykn 1 |
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
= xkn+1xln 1 xln+1xkn 1 + O |
|
0 |
= |
n+1 |
|
: |
|
||||||||||||||
|
|
|
|
n |
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|||||
|
|
|
xnxn 1xnxn 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
k |
l |
|
l |
|
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Àí ëî è÷íî, îìíî ÿ ï ð î ð íñò î í yl |
, òîðî í |
yk |
и ычит я их п р о о р нст торо , получ м |
|||||||||||||||||||||
|
|
|
q = |
xkn+1xln |
xln+1xkn |
+ O |
|
0= |
|
n+1 |
|
: |
|
|
||||||||||
|
|
|
|
|
xkn 1xln |
xln 1xkn |
|
|
|
|
|
|
|
|
|
|||||||||
З м тим, что н о хо имо колич ст о ит р ций пр ло нном м то , мо но контролиро ть исхо я и то о, что |
||||||||||||||||||||||||
ол но ыполнятся р нст о |
p2=4 = q . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
75
76
Ãë 7
Поиск минимум
7.1Ñëó÷ é î íîé ï ð ì ííîé
7.1.1 |
М то олото о с ч ния |
|
Пусть |
(x) : [a; b] ! R и и стно, что н пром утк [a; b] функция |
им т хотя ы о ин лок льный минимум. |
Для прим н ния и л мо о ни м то олото о с ч ния, от функции |
(x) н тр у тся н пр ры ность, |
ост точно лишь кусочной н пр ры ности. Бу м пок счит ть, что им т н пром утк лишь о ин лок льный минимум (он и ло льный).
М то осно н н ср н нии н ч ний функции р личных точк х, с посл ующим от р сы ни м пром утко , н которых минимум у точно н мо т н хо иться. сно, что что ы осущ ст лять по о ную проц уру, н о хо имон ть н ч ния функции, оо щ о оря, 4-х точк х. Д йст ит льно, пусть a = x0 < x1 < x2 < x3 = b , и пусть, ск м, точк x2 н ч ни функции н им ньш и этих ч тыр х личин. То минимум омо н мо т н хо иться н пром утк [x0; x1] и поэтому этот пром уток мо но от росить. Т п рь н ост ш мся пром утк [x1; x3] н м и стны кр йни н ч ния функции и н ч ни о ной нутр нн й точк . До ляя но ую точку x4 мы мо м по торить ср н ни н ч ний и но ь су ить опустимый пром уток. К к н и ол р умно р м - щ ть о ля мы точки? Пр ст ля тся ст ст нным, что ы л ни отр ко происхо ило по о но пр ы ущ мул нию.
x0 x1 x2 x4 x3
то о н ч т, ч стности, что нутр нни точки ол ны р спол ться симм трично, то сть jx1 x0j = jx3 x2j = h . Если лин исхо но о пром ут р н l , то ол но ыполняться соотнош ни
= h |
= x1 x0 |
= x2 x1 = l 2h |
; |
||||||||
l |
x3 x0 |
|
x3 x1 |
l h |
|
||||||
îòêó |
|
|
|
|
|
|
|
|
|
|
|
= h = 1 2 |
h |
= 1 2 |
|
|
|||||||
l |
: |
|
|||||||||
|
l 1 |
|
h |
|
|
1 |
|
|
|||
|
l |
|
|
|
|
||||||
Р р ш я к р тно ур н ни относит льно , получ м = |
3 2p |
|
0; 38 , то сть н к ом ш ( исключ ни м |
||||||||
5 |
|||||||||||
|
|||||||||||
ычисл ния ст рто ых нутр нних точ к x1 è |
x2 ) îòð îê ñîêð ù òñÿ |
1=(1 ) 1; 61 р и схо имость м то |
|||||||||
ëèí éí ÿ. |
|
|
|
|
|
|
|
|
|
|
|
77
Т ким о р ом, ля то о, что ы н ч ть проц сс олото о с ч ния, к р ничным точк м x0 = a è x3 = b о ляются
точки x1 = x0+ (x3 x0) x2 = x3 (x3 x0). З т м посл от p сы ния точ к и о л ния но ых, н посл ующих ш х ном р точ к п p м ш ны споpя очно. Д им им ном p j,k,l,m , и пусть (xj ) < (xk;l;m) . При л нии по олотому с ч нию от р сы тся отр ок о ним, и концо которо о я ля тся точк н и ол у л нн я от xj . Пусть этой точкой я ля тся xk (оч и но, что это о н и кр йних точ к). З т м н о о ить но ую точку xn . Пусть ля опp л нности xk < xj < xm . То силу симм трии р споло ния нутр нних точ к он опр ля тся соотнош ни м xn = xk + xj xi (т. . сумм кp йних точ к минус нутр нняя).
Если функция им т н исхо ном пром утк н сколько лок льных минимумо , то м то олото о с ч ния с¼ р но сой тся к о ному и них, н о я т льно к ло льному.
7.1.2Ì òî ï p îë
Если функция о л т ост точной л костью (им т тоpую пpои о ную) то ст ст нно исполь о ть это о стоят льст о при поиск минимум . В этой точк 0(x) = 0, и мо но иск ть нуль п p ой пpои о ной, ск м м то ом Ньютон
0(xn) xn+1 = xn 00(xn) :
ту фоpмулу л ко получить и н посp ст нно p ло и (x) pя Т йлоp точк xn и о p ничи шись тp мя чл н ми, т. . ппpоксимиpуя кpи ую п p олой
(x) (xn) + (x xn) 0(xn) + (x 2xn)2 00(xn) :
Минимум этой п p олы н хо ится к к p точк xn+1. В с я и с этим м то и н ы тся м то ом п р ол. Вычислять и п p ую и тоpую пpои о ную н к ом ш о ольно н кл но. Поэтому их пpи ли нно м няют
p ностными прои о ными, ычисл нными с помощью спомо т льно о ш h :
0(xn) |
! |
(xn + h) (xn h) ; |
|
|
|||
|
|
|
|
2h |
|
|
|
00(xn) |
! |
(xn + h) 2 (xn) + (xn h) |
; |
|
|||
|
|
|
h2 |
|
|
||
и м то приним т и |
|
|
|
|
|
|
|
xn+1 = xn |
|
h |
(xn + h) (xn h) |
|
: |
||
|
|
|
|
||||
|
|
2 (xn + h) 2 (xn) + (xn h) |
|
Кст ти, этот по хо эк и л нт н м н кpи ой н инт pполяционную п p олу, постpо нную по тp м точк м xn h; xn; xn + h с посл ующим н хо ни м минимум этой п р олы (точки xn+1).
З м ч ни . Ум стно ср нить м то ы поиск минимум и м то ы поиск корня ур н ния. Т к м то олото о с - ч ния по о н ихотомии. И том и ру ом н функцию н кл ы ются миним льны о р нич ния. Они чр ыч йно просты и н ны, поря ок схо имости о оих м то х лин йный. М то п р ол этом смысл по о н м то у Ньютон . От функции тр у тся ольш , схо имость ыстр . Поиск минимум по м то у п р ол соот тст у т поиску корня по м то у с кущих.
7.2Функции мно их п р м нных
Пусть : M ! R ; M RN и пусть 2 CM2 . В точк х минимум = 0 ; i = 1 ; : : : ; N, к к пpоч м и точк х м ксимум и с ло ых точк х. Но р ло ни pя Т йлоp окp стности н ыро нной точки минимум x
78
(x) = (x ) + |
1 |
|
N |
@2 2 xi xj + : : : |
||||
|
|
|
|
|
2 |
X |
@x |
|
|
|
|
|
|
|
i;j=1 |
i |
|
|
N |
@2 |
|
|
|
|
|
|
û ë íî ò ì, ÷òî ê ð òè÷í ÿ ôîðì |
|
xi xj |
поло ит льно опр л н (н помним, что к р тичн я |
|||||
|
2 |
|||||||
|
i;j=1 |
@x |
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ôîðì í û òñÿ ïîëî èò ëüíî îïð ë ííîé,P ñëè |
P |
aijzizj jjzjj2; > 0, z = (z1; z2 : : : ; zN )T ). |
7.2.1Коор ин тный спуск
Проц уру коор ин тно о спуск р ссмотрим н прим р функции ух п р м нных (x:y). Пусть (x0; y0) н котор я точк . З фиксиру м п р м нную y и н й м минимум функции (x; y0) к ким ли о и у и стных спосо о поиск минимум функции о но о п р м нно о (спуск по п р ой коор ин т ). Пусть этот минимум ости тся точк x1. З фиксиро это н ч ни н й м минимум функции (x1; y) (спуск по торой коор ин т ). Пусть он н хо итсяточк y1. Т п рь н й м минимум функции (x; y1) (сл ующий спуск по п р ой коор ин т ) и т. . Т кой м то поиск минимум н ы тся коор ин тным спуском. В исимости от с ойст функции и поло ния н ч льной точки, проц сс мо т сойтись к экстр м льной точк или н т. Отм тим ост точый при н к схо имости коор ин тно о спуск . Если ы н пр ры но ифф р нциру м о л сти M, со р щ й точку минимум x и к р тичн я
|
N |
@2 |
|
|
поло ит льно опр л н , то н которой окр стности x м то коор ин тно о спуск схо ится |
|||||||||
ôîðì |
P |
|
xi xj |
|||||||||||
|
2 |
|
||||||||||||
|
i;j=1 |
@x |
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
к ук нному минимуму. Док т льст о про м ля случ я ух п р м нных. Пусть xx |
|
a ; yy |
|
b ; |
j |
xy |
j |
c, |
||||||
|
|
|
|
|
|
|
|
|
|
|
a; b; c > 0 è ab > c2 о л сти M (это о н ч т ч стности, что м триц торых прои о ных поло ит льно опр л н ). Бу м счит ть, что точк A = (x0; y0) получ н р ульт т спуск по п р м нной y , т. . y(A) = 0 . Пусть j x(A)j = 1 .  òî÷ê B = (x1; y0) î ð ù òñÿ íóëü x , ìî óëü y р н н которому числу . Т ким о р ом
1 = j x(A) x(B)j = j xx( )j (A; B) a (A; B) ;
= j y(A) y(B)j = j xy( 0)j (A; B) c (A; B) ;
îòêó
c 1 a : |
(1) |
 òî÷ê C = (x1; y1) : y = 0; è x = 2, ïðè ýòîì
2 = j x(C) x(B)j = j xy( )j (C; B) c (C; B) ; |
|
||
= j y(C) y(B)j = j yy( 0)j (C; B) b (C; B) ; |
|
||
è, ñë î ò ëüíî, |
|
||
|
c b 2 : |
(2) |
|
È (1) è (2) êëþ÷ ì, ÷òî 2 q 1, 0 q |
c2 |
< 1. Т ким о р ом с к ым циклом x |
óì íüø òñÿ ê ê |
ab |
минимум q р . Ан ло ично у ы т и ч стн я прои о н я по п р м нной y. Т ким о р ом коор ин тный спускйст ит льно схо ится к точк минимум .
79
7.2.2Н искор йший спуск
Спуск мо но осущ ст лять н только оль коор ин тных ос й, оо щ оль лю о о н пр л ния. Пусть a прои -ольный иничный ктор, ющий н пр л ни . Функция '0(t) = (r0 + at) сть функция о ной п р м нной иминимум я ля тся минимумом функции (r) н прямой r0 + at . Åñëè û ð òü a = a0 = grad jr0 , то a у т я ляться н пр л ни м н и ольш о у ы ния функции точк r0 . Осущ ст им спуск оль это о н пр л ния (то сть н й м минимум функции '(t) ). Пусть он н хо ится точк r1. Ò ï ðü ýòîé òî÷ê û ð ì íî î í ïð - ë íè a1 = grad jr1 и осущ ст им спуск оль н о и т. . З м тим, кст ти, что кторы a0 è a1 орто он льны. Опис нный м то спуск н ы тся н искор йшим.
Хотя при н искор йш м спуск и ни происхо ит оль н пр л ния н ольш о у ы ния функции т кущ й точк rk , о н ко поря ок схо имости ост тся т ким , к к и при покоор ин тном спуск (при этом прихо ится к ой точк rn но о счит ть р и нт). Д ло сь том, что при с и от точки rn н пр л ни н и ыстр йш о у ы ния функции и м ня тся. О ычно спуск прои о ят н точно о минимум , н сколько м ньш . То сть, сли 'n(t) = (rn + ant) , и минимум функции 'n(t) îñòè òñÿ òî÷ê tn , то спуск осущ ст ля тся о точки tn ,
< 1 . В "и л "мо но спуск ться н скон чно м лую личину и но о корр ктиро ть н пр л ни . При этом кри я спуск r(t) у т у о л т орять ур н нию
dr(t) = grad (r(t)) : dt
О н ко инт риро ни т кой сист мы ур н ний ч стных прои о ных пр ст ля т со ой от льную н простую
÷ó.
7.2.3М то сопря нных н пр л ний
В окр стности точки минимум функция (r) т с я о ычно к к к р тичн я функция. Бу м счит ть ля н ч л , что он я ля тся точности к р тичной, т. .
(r) = hr; Ari + hr; bi + c :
Ç ñü b 2 RN (Cn), c 2 R, A поло ит льно опр л нн я м триц . Поскольку A поло ит льно опр л н , то к р тичн я форм
hx; yiA = hx; Ayi
у о л т оря т с м с ойст м ск лярно о прои ния. В м ортонормиро нный ис feigNi=1 ëèí éíîì ïðî-
стр нст с нормой h ; iA. Бу м н ы ть н пр л ния, мы им, сопря нными. Если r0 н котор я точк , то
N
ïðîè îëüí ÿ òî÷ê r ïð ñò ëÿ òñÿ è r = r0 + P iei. Òî
1
(r) = r0 + X iei; Ar0 + X iAei + r0 + X iei; b + c =
N
= (r0) + X 2i + 2 ihei; r0i + ihei; bi :
i=1
В этой сумм отсутст уют п р кр стны чл ны, т ким о р ом спуск оль лю о о н пр л ния ei миними иру т лишь с ой чл н суммы. то о н ч т, что осущ ст и спуск по к ому и сопря нных н пр л ний лишь о ин р мы точности ости м минимум . В точк минимум
@ |
i |
|
0 |
|
|
= 2 i + 2he |
; Ar |
|
+ b=2i = 0 ; i = 1; 2; : : : N ; |
@ i |
|
îòêó i = hei; Ar0 + b2 i.
80