MN09: Różnice pomiędzy wersjami

Z Studia Informatyczne
Przejdź do nawigacjiPrzejdź do wyszukiwania
Sank (dyskusja | edycje)
Przykry (dyskusja | edycje)
Nie podano opisu zmian
Linia 1: Linia 1:
<!--
Konwertowane  z pliku LaTeX przez latex2mediawiki, zob. http://www.ii.uj.edu.pl/&nbsp;pawlik1/latex2mediawiki.php.
Niezb�dne rozszerzenia i modyfikacje oryginalnego latex2mediawiki
wprowadzi� przykry@mimuw.edu.pl
-->
=Interpolacja wielomianowa=
=Interpolacja wielomianowa=
{{powrot |Metody numeryczne | do strony głównej
przedmiotu <strong>Metody numeryczne</strong>}}


Zadanie interpolacji, czyli poprowadzenia krzywej zadanego rodzaju przez zestaw
Zadanie interpolacji, czyli poprowadzenia krzywej zadanego rodzaju przez zestaw
danych punktów, jest jednym z podstawowych zadań obliczeniowych. Stosuje się je
danych punktów, jest jednym z podstawowych zadań obliczeniowych. Stosuje się je
nagminnie w najróżniejszych dziedzinach życia, np.
nagminnie w najróżniejszych dziedzinach życia, np. wtedy, gdy trzeba
* Na podstawie próbki sygnału dźwiękowego (to znaczy: ciągu wartości
* na podstawie próbki sygnału dźwiękowego (to znaczy: ciągu wartości amplitud sygnału zmierzonych w kolejnych odstępach czasu), odtworzyć jego przebieg;
amplitud sygnału zmierzonych w kolejnych odstępach czasu) odtwarzanie jego przebiegu.
* przybliżyć wykres skomplikowanej (lub wręcz nieznanej) funkcji na podstawie jej wartości uprzednio stablicowanych w wybranych punktach;
* Przybliżanie wykresu skomplikowanej (lub wręcz nieznanej) funkcji na
podstawie jej wartości uprzednio stablicowanych w wybranych punktach
* Interpolację stosuje się szczególnie chętnie w samej numeryce. Na przykład idea
metody siecznych polega na tym, by funkcję, której miejsca zerowego szukamy,
przybliżyć prostą interpolującą tę funkcję w dwóch punktach. Metody numerycznego
całkowania oraz rozwiązywania równań różniczkowych także korzystają z
interpolacji.
   
   
Interpolację stosuje się szczególnie chętnie w samej numeryce. Na przykład idea metody siecznych polega na tym, by funkcję, której miejsca zerowego szukamy, przybliżyć prostą interpolującą tę funkcję w dwóch punktach. Metody numerycznego całkowania oraz rozwiązywania równań różniczkowych także korzystają z interpolacji.
[[Image:MNinterpolacja.png|thumb|550px|center|Wielomian <math>\displaystyle w</math> (czerwony) stopnia 6, interpolujący 7 zadanych wartości (zaznaczone na zielono) danej funkcji <math>\displaystyle f</math>]]
Niech <math>\displaystyle D\subsetR</math> i niech <math>\displaystyle F</math> będzie pewnym zbiorem funkcji  
Niech <math>\displaystyle D\subsetR</math> i niech <math>\displaystyle F</math> będzie pewnym zbiorem funkcji  
<math>\displaystyle f:D\toR</math>. Niech <math>\displaystyle x_0,x_1,\ldots,x_n</math> będzie ustalonym zbiorem  
<math>\displaystyle f:D\toR</math>. Niech <math>\displaystyle x_0,x_1,\ldots,x_n</math> będzie ustalonym zbiorem  
parami różnych punktów z <math>\displaystyle D</math> zwanych później <strong>węzłami</strong>.  
parami różnych punktów z <math>\displaystyle D</math>, zwanych później <strong>węzłami</strong>.  


Powiemy, że wielomian <math>\displaystyle w</math> <strong>interpoluje</strong> funkcję <math>\displaystyle f\in F</math>  
Powiemy, że wielomian <math>\displaystyle w</math> <strong>interpoluje</strong> funkcję <math>\displaystyle f\in F</math>  
Linia 32: Linia 39:


Zadanie znalezienia wielomianu interpolującego zadane wartości nazywamy
Zadanie znalezienia wielomianu interpolującego zadane wartości nazywamy
zadaniem interpolacji Lagrange'a.
zadaniem <strong>interpolacji Lagrange'a</strong>.


[[grafika:Lagrange.jpg|thumb|right|| Lagrange<br>  [[Biografia Lagrange|Zobacz biografię]]]]
{{twierdzenie|o istnieniu i jednoznaczności zadania interpolacji Lagrange'a|o istnieniu i jednoznaczności zadania interpolacji Lagrange'a|


{{twierdzenie|Istnienie i jednoznaczność zadania interpolacji Lagrange'a|interpolacja_lagrangea|
Dla dowolnej funkcji <math>\displaystyle f:D\toR</math> istnieje  
Dla dowolnej funkcji <math>\displaystyle f:D\toR</math> istnieje  
dokładnie jeden wielomian <math>\displaystyle w_f\in\Pi_n</math> interpolujący <math>\displaystyle f</math>  
dokładnie jeden wielomian <math>\displaystyle w_f\in\Pi_n</math> interpolujący <math>\displaystyle f</math>  
Linia 74: Linia 79:
</math></center>
</math></center>


Aby wykazać, że układ ten ma jednoznaczne rozwiązanie wystarczy,  
Aby wykazać, że układ ten ma jednoznaczne rozwiązanie [[Algebra liniowa
aby wektor zerowy był jedynym rozwiązaniem układu jednorodnego.  
z geometrią analityczną/Wykład 8: Zastosowania wyznacznika. Układy równań liniowych|wystarczy, aby wektor zerowy był jedynym rozwiązaniem układu jednorodnego]].  
Rzeczywiście, układ jednorodny odpowiada interpolacji danych zerowych,  
Rzeczywiście, układ jednorodny odpowiada interpolacji danych zerowych,  
<math>\displaystyle f(x_i)=0</math>, <math>\displaystyle \forall i</math>. Istnienie niezerowego rozwiązania byłoby  
<math>\displaystyle f(x_i)=0</math>, <math>\displaystyle \forall i</math>. Istnienie niezerowego rozwiązania byłoby  
Linia 93: Linia 98:
<math>\displaystyle \Pi_n</math> wielomianów stopnia co najwyżej <math>\displaystyle n</math>. Zadanie  
<math>\displaystyle \Pi_n</math> wielomianów stopnia co najwyżej <math>\displaystyle n</math>. Zadanie  
interpolacji wielomianowej polega na obliczeniu dla danej funkcji <math>\displaystyle f</math>  
interpolacji wielomianowej polega na obliczeniu dla danej funkcji <math>\displaystyle f</math>  
współ\-czyn\-ni\-ków <math>\displaystyle c_j</math> takich, że wielomian  
współczynników <math>\displaystyle c_j</math> takich, że wielomian  


<center><math>\displaystyle  
<center><math>\displaystyle  
Linia 101: Linia 106:
interpoluje <math>\displaystyle f</math> w punktach <math>\displaystyle x_j</math>, <math>\displaystyle 0\le j\le n</math>.  
interpoluje <math>\displaystyle f</math> w punktach <math>\displaystyle x_j</math>, <math>\displaystyle 0\le j\le n</math>.  
}}
}}
==Uwarunkowanie==
Danymi w zadaniu interpolacji są zarówno wartości interpolowanej funkcji, jak i
węzły interpolacji.  Traktując węzły jako sztywno zadane parametry
zadania i dopuszczając jedynie zaburzenia wartości funkcji, możemy pokazać, że
jeśli zamiast <math>\displaystyle f</math> rozpatrzyć jej zaburzenie <math>\displaystyle f+\Delta f</math>, gdzie <math>\displaystyle |\Delta f| \leq
\epsilon</math>, to
<center><math>\displaystyle |w_f(x) - w_{f+\Delta f}(x)| \leq  \mbox{cond(x,f)} |w_f(x)|\epsilon,
</math></center>
gdzie
<center><math>\displaystyle  \mbox{cond(x,f)}  = \frac{\sum_{j=0}^n |l_j(x) f(x_j)|}{|p_n(x)|} \geq 1.
</math></center>


==Wybór bazy wielomianowej==
==Wybór bazy wielomianowej==
Linia 127: Linia 116:
mniejsze trudności (w zależności np. od uwarunkowania macierzy układu, który
mniejsze trudności (w zależności np. od uwarunkowania macierzy układu, który
musimy rozwiązać).
musimy rozwiązać).
<blockquote  style="background-color: #fefeee; padding:1em;  margin-left,margin-right:2em;  margin-top,margin-bottom: 1em;"> 
W matematyce, jeden byt może być opisany na wiele równoważnych sposobów. W numeryce, każdy z nich może mieć diametralnie różne własności numeryczne: od odporności na błędy zaokrągleń, po koszt rozwiązania.
Dlatego, optymalizacja algorytmów numerycznych zaczyna się często od wyrażenia tego samego --- inaczej.
</blockquote>


W naturalny  sposób powstaje więc problem wyboru "wygodnej" bazy w <math>\displaystyle \Pi_n</math>.  
W naturalny  sposób powstaje więc problem wyboru "wygodnej" bazy w <math>\displaystyle \Pi_n</math>.  
Rozpatrzymy trzy bazy: Lagrange'a, potęgową i Newtona.  
Rozpatrzymy trzy bazy: Lagrange'a, potęgową i Newtona.  


====Baza Lagrange'a (kanoniczna)====
===Baza Lagrange'a (kanoniczna)===


Zdefiniujmy dla <math>\displaystyle 0\le j\le n</math> wielomiany  
Zdefiniujmy dla <math>\displaystyle 0\le j\le n</math> wielomiany  
Linia 148: Linia 143:


Teraz widać, że wielomiany te stanowią bazę w <math>\displaystyle \Pi_n</math>,  
Teraz widać, że wielomiany te stanowią bazę w <math>\displaystyle \Pi_n</math>,  
którą nazywamy bazą Lagrange'a. Macierz układu zadania interpolacji  
którą nazywamy <strong>bazą Lagrange'a</strong>. Macierz układu zadania interpolacji  
jest w takim wypadku identycznością i w konsekwencji <math>\displaystyle c_j=f(x_j)</math>, <math>\displaystyle \forall j</math>.  
jest w takim wypadku identycznością i w konsekwencji <math>\displaystyle c_j=f(x_j)</math>, <math>\displaystyle \forall j</math>.  
Wielomian interpolacyjny dla funkcji <math>\displaystyle f</math> można więc  
Wielomian interpolacyjny dla funkcji <math>\displaystyle f</math> można więc  
zapisać jako  
zapisać jako  


<center><math>\displaystyle w_f(\cdot)\,=\,\sum_{j=0}^n f(x_j)l_j(\cdot).
<center><math>\displaystyle w_f(x)\,=\,\sum_{j=0}^n f(x_j)l_j(x).
</math></center>
</math></center>


Koszt kombinatoryczny rozwiązania zadania interpolacji jest przy tym  
Koszt kombinatoryczny rozwiązania zadania interpolacji jest przy tym  
zerowy.  
zerowy.  
====Wzory barycentryczne====


Przypuśćmy, że chcielibyśmy obliczyć wartość wielomianu  
Przypuśćmy, że chcielibyśmy obliczyć wartość wielomianu  
Linia 179: Linia 176:


gdzie <math>\displaystyle q_j(x)=w_j/(x-x_j)</math>. W ostatniej równości wykorzystaliśmy fakt,  
gdzie <math>\displaystyle q_j(x)=w_j/(x-x_j)</math>. W ostatniej równości wykorzystaliśmy fakt,  
że <math>\displaystyle p_n(x)\equiv (\sum_{j=0}^n q_j(x))^{-1}</math>, co można łatwo zobaczyć rozpatrując
że <math>\displaystyle p_n(x)\equiv (\sum_{j=0}^n q_j(x))^{-1}</math>, co łatwo widzieć, rozpatrując
zadanie interpolacji funkcji <math>\displaystyle f\equiv 1</math>. Drugi wzór barycentryczny jest korzystniejszy w implementacji.
zadanie interpolacji funkcji <math>\displaystyle f\equiv 1</math>. Drugi wzór barycentryczny jest korzystniejszy w implementacji.


Dla wielu układów węzłów wagi <math>\displaystyle w_j</math> są zadane jawnymi wzorami, np. dla węzłów
Dla wielu układów węzłów, wagi <math>\displaystyle w_j</math> są zadane jawnymi wzorami, np. dla węzłów
równoodległych (niezależnie od tego, na jakim odcinku!) wagi w <strong>drugim</strong> wzorze
równoodległych (niezależnie od tego, na jakim odcinku!) wagi w <strong>drugim</strong> wzorze barycentrycznym wynoszą po prostu  
barycentrycznym wynoszą po prostu  


<center><math>\displaystyle w_j = (-1)^j \begin{pmatrix}  n \\ j \end{pmatrix} .
<center><math>\displaystyle w_j = (-1)^j \begin{pmatrix}  n \\ j \end{pmatrix} .
</math></center>
</math></center>


Również dla [[wCzeb|Dodaj link: węzłów Czebyszewa]] istnieją eleganckie wzory na takie współczynnki.
Również dla \link{wCzeb}{węzłów Czebyszewa}istnieją eleganckie wzory na takie współczynnki.


Można pokazać, że wartość <math>\displaystyle \widetilde{w_f(x)}</math> wielomianu iterpolacyjnego obliczona
Można pokazać, że wartość <math>\displaystyle \widetilde{w_f(x)}</math> wielomianu iterpolacyjnego obliczona w arytmetyce <math>\displaystyle fl_\nu</math> według pierwszego wzoru barycentrycznego spełnia  
w arytmetyce <math>\displaystyle fl_\nu</math> według pierwszego algorytmu barycentrycznego spełnia  


<center><math>\displaystyle  
<center><math>\displaystyle  
Linia 200: Linia 195:
gdzie <math>\displaystyle |\epsilon_j| \leq 5(n+1)</math>, a więc jest to algorytm numerycznie poprawny.
gdzie <math>\displaystyle |\epsilon_j| \leq 5(n+1)</math>, a więc jest to algorytm numerycznie poprawny.
Zachowanie drugiej postaci wzoru barycentrycznego w arytmetyce <math>\displaystyle fl_\nu</math> jest nieco
Zachowanie drugiej postaci wzoru barycentrycznego w arytmetyce <math>\displaystyle fl_\nu</math> jest nieco
bardziej skomplikowane w typowych zadaniach.
bardziej skomplikowane.


====Baza potęgowa (naturalna)====
===Baza potęgowa (naturalna)===


Znacznie prościej można obliczyć wartość wielomianu interpolacyjnego,  
Znacznie prościej można obliczyć wartość wielomianu interpolacyjnego,  
(a także jego pochodnych), gdy jest on dany w najczęściej używanej  
(a także jego pochodnych), gdy jest on dany w najczęściej używanej  
bazie potęgowej, <math>\displaystyle \varphi_j(x)=x^j</math>, <math>\displaystyle \forall j</math>. Jeśli bowiem
<strong>bazie potęgowej</strong>, <math>\displaystyle \varphi_j(x)=x^j</math>, <math>\displaystyle \forall j</math>. Jeśli bowiem


<center><math>\displaystyle w_f(x)\,=\,a_0+a_1x+\cdots+ a_nx^n,
<center><math>\displaystyle w_f(x)\,=\,a_0+a_1x+\cdots+ a_nx^n,
Linia 219: Linia 214:
do obliczenia <math>\displaystyle w_f(x)</math>:  
do obliczenia <math>\displaystyle w_f(x)</math>:  


{{algorytm|Algorytm Hornera||
{{algorytm|Algorytm Hornera|Algorytm Hornera|
<pre>
<pre><math>\displaystyle v_n = a_n;</math>
 
<math>\displaystyle v_n = a_n;</math>
for (j=n-1; j >= 0 ; j--)
for (j=n-1; j >= 0 ; j--)
<math>\displaystyle v_j\, = \,v_{j+1}\cdot x\,+\,a_j</math>;
<math>\displaystyle v_j\, = \,v_{j+1}\cdot x\,+\,a_j</math>;
Linia 229: Linia 222:
Po wykonaniu tego algorytmu <math>\displaystyle w_f(x)=v_0</math>. Schemat Hornera wymaga wykonania  
Po wykonaniu tego algorytmu <math>\displaystyle w_f(x)=v_0</math>. Schemat Hornera wymaga wykonania  
tylko <math>\displaystyle n</math> mnożeń i <math>\displaystyle n</math> dodawań. Ma on również głębszy sens,  
tylko <math>\displaystyle n</math> mnożeń i <math>\displaystyle n</math> dodawań. Ma on również głębszy sens,  
bo jego produktem ubocznym mogą być także wartości pochodnych naszego wielomianu w <math>\displaystyle x</math>.
bo jego produktem ubocznym mogą być także wartości pochodnych naszego wielomianu w <math>\displaystyle x</math>. Algorytm Hornera okazuje się ''optymalny''. Każdy inny algorytm obliczający dokładną wartość wielomianu, gdy danymi są  współczynniki wielomianu, wymaga wykonania co najmniej <math>\displaystyle n</math> mnożeń i <math>\displaystyle n</math> dodawań. Algorytm Hornera jest też numerycznie poprawny.
Algorytm Hornera okazuje się optymalny. Każdy  
inny algorytm znając współczynniki wielomianu obliczający jego dokładną wartość wymaga wykonania co najmniej <math>\displaystyle n</math> mnożeń i <math>\displaystyle n</math>  
dodawań. Algorytm Hornera jest też numerycznie poprawny.


Zauważmy jednak, że w przypadku bazy potęgowej macierz  
Zauważmy jednak, że w przypadku bazy potęgowej macierz  
<math>\displaystyle (x_i^j)_{i,j=0}^n</math> układu zadania interpolacji jest pełna. Jest to tzw.  
<math>\displaystyle (x_i^j)_{i,j=0}^n</math> układu zadania interpolacji jest pełna. Jest to tzw.  
<strong>macierz Vandermonde'a</strong>. Obliczenie współczynników wielomianu  
<strong>macierz Vandermonde'a</strong>. Obliczenie współczynników wielomianu  
interpolacyjnego w bazie potęgowej bezpośrednio z tego układu stosując  
interpolacyjnego w bazie potęgowej bezpośrednio z tego układu, stosując  
jedną ze znanych nam już metod kosztowałoby rzędu <math>\displaystyle n^3</math> operacji  
jedną ze znanych nam już metod, kosztowałoby rzędu <math>\displaystyle n^3</math> operacji  
arytmetycznych. Co gorsza, w często spotykanym przypadku, gdy węzły interpolacji
arytmetycznych. Co gorsza, w często spotykanym przypadku, gdy węzły interpolacji
są równoodległe, ta macierz jest bardzo źle uwarunkowana!
są równoodległe, ta macierz jest bardzo źle uwarunkowana!


====Baza Newtona====
===Baza Newtona===


Rozwiązaniem pośrednim, które łączy prostotę obliczenia  
Rozwiązaniem pośrednim, które łączy prostotę obliczenia  
współczynników z prostotą obliczenia wartości <math>\displaystyle w_f(x)</math> i ewentualnie jego
współczynników z prostotą obliczenia wartości <math>\displaystyle w_f(x)</math> i ewentualnie jego
pochodnych,
pochodnych, jest wybór <strong>bazy Newtona</strong>,  
jest wybór bazy Newtona,  


<center><math>\displaystyle \aligned p_0(x) &= 1, \\
<center><math>\displaystyle \aligned p_0(x) &= 1, \\
Linia 270: Linia 259:
algorytmu Hornera:
algorytmu Hornera:


{{algorytm|Algorytm Hornera dla bazy Newtona||
{{algorytm|Algorytm Hornera dla bazy Newtona|Algorytm Hornera dla bazy Newtona|
<pre>
<pre><math>\displaystyle v_n = b_n;</math>
 
<math>\displaystyle v_n = b_n;</math>
for (j=n-1; j >= 0 ; j--)
for (j=n-1; j >= 0 ; j--)
<math>\displaystyle v_j\, = \,v_{j+1}\cdot (x-x_j)\,+\,b_j</math>;
<math>\displaystyle v_j\, = \,v_{j+1}\cdot (x-x_j)\,+\,b_j</math>;
Linia 294: Linia 281:
Zachodzi następujące ważne twierdzenie.  
Zachodzi następujące ważne twierdzenie.  


{{twierdzenie|O różnicach dzielonych||
{{twierdzenie|O różnicach dzielonych|O różnicach dzielonych|
   
   
Współczynniki <math>\displaystyle b_j</math> wielomianu  
Współczynniki <math>\displaystyle b_j</math> wielomianu  
Linia 315: Linia 302:
</math></center>
</math></center>


Aby ją pokazać, wystarczy że prawa strona tej równości, którą   
Aby ją pokazać wystarczy, że prawa strona tej równości, którą   
oznaczymy przez <math>\displaystyle v(x)</math>, przyjmuje wartości <math>\displaystyle f(x_s)</math> dla <math>\displaystyle x=x_s</math>,  
oznaczymy przez <math>\displaystyle v(x)</math>, przyjmuje wartości <math>\displaystyle f(x_s)</math> dla <math>\displaystyle x=x_s</math>,  
<math>\displaystyle i\le s\le j</math>. Rzeczywiście, jeśli <math>\displaystyle i+1\le s\le j-1</math> to
<math>\displaystyle i\le s\le j</math>. Rzeczywiście, jeśli <math>\displaystyle i+1\le s\le j-1</math> to
Linia 359: Linia 346:
}}
}}


Różnicę dzieloną <math>\displaystyle f(x_0,x_1,\ldots,x_n)</math> możemy łatwo  
Różnicę dzieloną <math>\displaystyle f(x_0,x_1,\ldots,x_n)</math> można łatwo  
obliczyć na podstawie wartości <math>\displaystyle f(x_j)</math>, <math>\displaystyle 0\le j\le n</math>,  
obliczyć na podstawie wartości <math>\displaystyle f(x_j)</math>, <math>\displaystyle 0\le j\le n</math>,  
budując następującą tabelkę:  
budując następującą tabelkę:  
Linia 372: Linia 359:
</math></center>
</math></center>


<div class="thumb tright"><div><flash>file=Interpolacja.swf</flash><div.thumbcaption>Wyznaczenie wielomianu <math>\displaystyle w</math> interpolującego zestaw punktów <math>\displaystyle (0,2)\displaystyle (1,5)\displaystyle (-1,7)</math> algorytmem różnic dzielonych</div></div></div>
<div class="center"><div class="thumb tnone"><div style="width:552px;"><flash>file=Interpolacja.swf|width=550|height=300</flash> <div class="thumbcaption">Wyznaczenie wielomianu <math>\displaystyle w</math> interpolującego zestaw punktów <math>\displaystyle (0,2)\displaystyle (1,5)\displaystyle (-1,7)</math> algorytmem różnic dzielonych</div></div></div></div>


Zauważmy przy tym, że "po drodze" obliczamy  
Zauważmy przy tym, że "po drodze" obliczamy  
<math>\displaystyle f(x_i,x_{i+1},\ldots,x_j)</math> dla wszystkich <math>\displaystyle 0\le i < j\le n</math>, a więc  
<math>\displaystyle f(x_i,x_{i+1},\ldots,x_j)</math> dla wszystkich <math>\displaystyle 0\le i < j\le n</math>, a więc  
w szczególności również interesujące nas różnice dzielone  
w szczególności również interesujące nas różnice dzielone  
<math>\displaystyle f(x_0,x_1,\ldots,x_j)</math>. Stąd i z twierdzenia o różnicach dzielonych  
<math>\displaystyle f(x_0,x_1,\ldots,x_j)</math>. Stąd i z twierdzenia o różnicach dzielonych
wynika algorytm obliczania współczynników  
wynika algorytm obliczania współczynników  
<math>\displaystyle b_j</math> wielomianu interpolacyjnego w bazie Newtona.  
<math>\displaystyle b_j</math> wielomianu interpolacyjnego w bazie Newtona.  
Po wykonaniu następującego algorytmu,
Po wykonaniu następującego algorytmu,


{{algorytm|Metoda różnic dzielonych||
{{algorytm|Metoda różnic dzielonych|Metoda różnic dzielonych|
<pre>
<pre>for (j = 0; j <= n; j++)
 
for (j = 0; j <= n; j++)
<math>\displaystyle b_j</math> = <math>\displaystyle f(x_j)</math>;  
<math>\displaystyle b_j</math> = <math>\displaystyle f(x_j)</math>;  
for (j = 0; j <= n; j++)
for (j = 0; j <= n; j++)
Linia 396: Linia 381:
początku tego wykładu, zgadłbyś, do czego może służyć?!
początku tego wykładu, zgadłbyś, do czego może służyć?!


<div class="thumb tright"><div><flash>file=Interpolacjainsitu.swf</flash><div.thumbcaption>Wyznaczenie tego samego wielomianu <math>\displaystyle w</math>, interpolującego zestaw punktów <math>\displaystyle (0,2)\displaystyle (1,5)\displaystyle (-1,7)</math> algorytmem różnic dzielonych --- wykonanym ''in situ''.</div></div></div>
<div class="center"><div class="thumb tnone"><div style="width:552px;"><flash>file=Interpolacjainsitu.swf|width=550|height=300</flash> <div class="thumbcaption">Wyznaczenie tego samego wielomianu <math>\displaystyle w</math>, interpolującego zestaw punktów <math>\displaystyle (0,2)\displaystyle (1,5)\displaystyle (-1,7)</math> algorytmem różnic dzielonych --- wykonanym tym razem ''in situ''.</div></div></div></div>


Okazuje się, że przy realizacji w <math>\displaystyle fl_\nu</math>  
Okazuje się, że przy realizacji w <math>\displaystyle fl_\nu</math>  
algorytmu różnic dzielonych istotną rolę odgrywa porządek  
algorytmu różnic dzielonych istotną rolę odgrywa porządek  
węzłów. Można pokazać, że algorytm liczenia <math>\displaystyle f(t_0,\ldots,t_n)</math>  
węzłów. Można pokazać, że --- o ile węzły są uporządkowane nierosnąco lub
niemalejąco ---  algorytm liczenia <math>\displaystyle f(t_0,\ldots,t_n)</math>  
jest numerycznie poprawny ze względu na dane interpolacyjne  
jest numerycznie poprawny ze względu na dane interpolacyjne  
<math>\displaystyle f^{(i)}(t_j)</math>, o ile węzły są uporządkowane nierosnąco lub
<math>\displaystyle f(t_j)</math>, a cały algorytm różnic dzielonych daje w arytmetyce <math>\displaystyle fl_\nu</math> współczynniki wielomianu interpolacyjnego, będące niewiekim zaburzeniem wartości dokładnych.
niemalejąco.
 
==Uwarunkowanie==
 
Danymi w zadaniu interpolacji są zarówno wartości interpolowanej funkcji, jak i
węzły interpolacji. Traktując węzły jako sztywno zadane parametry zadania i dopuszczając jedynie zaburzenia wartości funkcji, można pokazać, że jeśli zamiast <math>\displaystyle f</math> rozpatrzyć jej zaburzenie <math>\displaystyle f+\Delta f</math>, gdzie <math>\displaystyle |\Delta f| \leq \epsilon</math>, to
 
<center><math>\displaystyle |w_f(x) - w_{f+\Delta f}(x)| \leq  \mbox{cond} (x,f)|w_f(x)|\epsilon,
</math></center>
 
gdzie
 
<center><math>\displaystyle  \mbox{cond} (x,f) = \frac{\sum_{j=0}^n |l_j(x) f(x_j)|}{|p_n(x)|} \geq 1.
</math></center>
 
Znacznie rzadziej rozważa się uwarunkowanie zadania interpolacji ze względu na zaburzenie węzłów. Warto zaznaczyć, że zaburzenie danych interpolacji tylko w jednym punkcie może mieć wpływ na przebieg całego wielomianu interpolacyjnego, co ukazuje poniższy przykład:
 
<div style="margin-top:1em; padding-top,padding-bottom:1em;">
<span  style="font-variant:small-caps;">Przykład</span>
<div class="solution" style="margin-left,margin-right:3em;">
 
Pokażemy zmianę kilku bazowych wielomianów Lagrange'a stopnia 10 (dla węzłów równoodległych w <math>\displaystyle [0,1]</math>) w sytuacji, gdy trzeci węzeł interpolacji zostanie zaburzony o 0.01.
 
[[Image:MNlagrangebasis.png|thumb|550px|center|Wybrane wielomiany bazowe Lagrange'a oparte na węzłach równoodległych (zielone) kontra te same wielomiany, oparte na tych samych węzłach, z jednym wyjątkiem: węzeł <math>\displaystyle x_3 = 0.2</math> został zmieniony na <math>\displaystyle x_3 = 0.21</math> (czerwone).]]
 
Jak widać, to ''lokalne'' zaburzenie danych może powodować wyraźne ''globalne'' zaburzenie całego wielomianu interpolacyjnego (zwróć uwagę na prawy koniec przedziału!).
 
</div></div>
 
==Biblioteki==
 
MATLAB i Octave mają wbudowaną funkcję wyznaczającą wielomian, interpolujący zadane wartości: jeśli <code style="color: #006">x</code> jest wektorem zawierającym <math>\displaystyle N</math> węzłów, a <code style="color: #006">y</code> --- wektorem zawierającym wartości w węzłach, to
 
<div style="margin: 1em; padding:1em; color: #006; background-color:#fcfcfc;"><pre>c = polyfit(x,y,N-1);
</pre></div>
daje współczynniki wielomianu interpolacyjnego (Ostatni argument jest równy <math>\displaystyle N-1</math>, bo taki powinien być stopień wielomianu interpolacyjnego Lagrange'a!).
 
Co ciekawe (i budzące trochę zgrozy!) --- wielomian (zarówno w MATLABie, jak w Octave) jest wyznaczany w bazie naturalnej, przez rozwiązanie układu równań z macierzą Vandermonde'a, a więc w sposób najgorszy z możliwych. Nie sądzisz, że czas najwyższy, aby to zmienić? Napisz odpowiedni kod i wyślij do [http://octave.sf.net  Octave-forge]!
 
Aby teraz wyznaczyć wartości takiego wielomianu w zadanych punktach <math>\displaystyle X</math>, także musimy użyć specjalnej funkcji,
 
<div style="margin: 1em; padding:1em; color: #006; background-color:#fcfcfc;"><pre>Y = polyval(c,X);
</pre></div>
Domyślamy się, że implementuje ona algorytm Hornera.
 
<div style="margin-top:1em; padding-top,padding-bottom:1em;">
<span  style="font-variant:small-caps;">Przykład</span>
<div class="solution" style="margin-left,margin-right:3em;">
 
Interpolujemy tabelkę
 
{| border=1
|+ <span style="font-variant:small-caps"> </span>
|-
| <math>\displaystyle x</math>  ||  2  ||  1  ||  0
|-
| <math>\displaystyle y</math>  ||  5  ||  2  ||  1
 
|}
 
wielomianem stopnia co najwyżej 2.
 
<div style="font-family: monospace; white-space: pre; border-style: dashed; border-width: thin; border-color: black; margin: 1em; padding:1em; color: #444; background-color:#fdfdfd;"><nowiki>octave:1> x = [2, 1, 0]
x =
  2  1  0
 
octave:2> y = [5, 2, 1]
y =
  5  2  1
 
octave:3> c = polyfit(x,y,2)
c =
  1  0  1
 
octave:4> polyval(c,3)
ans =  10
</nowiki></div>
Zgodnie z przewidywaniami, otrzymaliśmy wielomian <math>\displaystyle 1\cdot x^2 + 0\cdot x + 1</math>.
Wartość tego wielomianu dla <math>\displaystyle x=3</math> rzeczywiście jest równa 10.
 
A co się stanie, gdy będziemy szukać wielomianu stopnia niższego?
<div style="font-family: monospace; white-space: pre; border-style: dashed; border-width: thin; border-color: black; margin: 1em; padding:1em; color: #444; background-color:#fdfdfd;"><nowiki>octave:6> c1 = polyfit(x,y,1)
c1 =
  2.00000  0.66667
</nowiki></div>
Też "coś" zostało obliczone --- wielomian (jak domyślamy się) <math>\displaystyle 2\cdot x + \frac{2}{3}</math>. Nie dziwi, że ten wielomian nie jest wielomianem interpolacyjnym (dlaczego?) --- więc czym może być? Okazuje się, że to coś to wielomian nalepiej pasujący do danych w sensie \link{sec:lznk}{aproksymacji średniokwadratowej}, o czym będzie mowa w innym wykładzie.
 
Warto jeszcze może wiedzieć, że <code style="color: #006">polyfit</code> można także wywołać dla jeszcze wyższego stopnia wielomianu, jednak, co niespodziewane, wynikiem ''nie będzie'' wielomian stopnia 2, uzyskany poprzednio:
 
<div style="font-family: monospace; white-space: pre; border-style: dashed; border-width: thin; border-color: black; margin: 1em; padding:1em; color: #444; background-color:#fdfdfd;"><nowiki>octave:7> c3 = polyfit(x,y,3)
c3 =
  0.21429  0.35714  0.42857  1.00000
</nowiki></div>
Wynika to stąd, że gdy dopuszczalny stopień wielomianu jest wyższy niż wymagany w zadaniu interpolacji Lagrange'a, zadanie interpolacji ma nieskończenie wiele rozwiązań. Funkcja <code style="color: #006">polyfit</code> wybiera z nich to, które spełnia warunek, że ''norma euklidesowa wektora współczynników wielomianu jest najmniejsza z możliwych''.
 
</div></div>
 
Pragnąc wykorzystać interpolację we własnym  programie w C, najlepiej samemu zaprogramować bądź drugi wzór barycentryczny, bądź algorytm różnic dzielonych --- w zależności od potrzeb.


==Przypadek węzłów wielokrotnych==
==Przypadek węzłów wielokrotnych==
Linia 424: Linia 511:
rozwiązanie.
rozwiązanie.
}}
}}
[[grafika:Hermite.jpg|thumb|right|| Hermite<br>  [[Biografia Hermite|Zobacz biografię]]]]


{{dowod|||
{{dowod|||
Linia 470: Linia 555:
stosując schemat podobny do tego z przypadku węzłów jednokrotnych.  
stosując schemat podobny do tego z przypadku węzłów jednokrotnych.  


{{twierdzenie|||
{{twierdzenie|O różnicach dzielonych dla interpolacji Hermite'a|O różnicach dzielonych dla interpolacji Hermite'a|
Współczynniki <math>\displaystyle b_j</math> wielomianu interpolacyjnego  
Współczynniki <math>\displaystyle b_j</math> wielomianu interpolacyjnego  
Hermite'a w bazie Newtona,  
Hermite'a w bazie Newtona,  
Linia 533: Linia 619:
</math></center>
</math></center>


a stąd <math>\displaystyle b_n=f^{(n)}(x_0)//(n!)=f(\underbrace{x_0,\ldots,x_0}_{n+1})</math>.  
a stąd <math>\displaystyle b_n=f^{(n)}(x_0)/(n!)=f(\underbrace{x_0,\ldots,x_0}_{n+1})</math>.  
Jeśli zaś <math>\displaystyle \bar x_0\ne\bar x_j</math>, to równość  
Jeśli zaś <math>\displaystyle \bar x_0\ne\bar x_j</math>, to równość  
<math>\displaystyle b_n\,=\,f(\bar x_0,\bar x_1,\ldots,\bar x_n)</math> wynika z wcześniej  
<math>\displaystyle b_n\,=\,f(\bar x_0,\bar x_1,\ldots,\bar x_n)</math> wynika z wcześniej  
Linia 539: Linia 625:
}}
}}


{{uwaga|||
<div style="margin-top:1em; padding-top,padding-bottom:1em;">
<span  style="font-variant:small-caps;">Uwaga</span>
<div class="solution" style="margin-left,margin-right:3em;">
 
Zauważmy, ze pojęcie różnicy dzielonej     
Zauważmy, ze pojęcie różnicy dzielonej     
formalnie zdefiniowaliśmy jedynie dla ciągu węzłów postaci  
formalnie zdefiniowaliśmy jedynie dla ciągu węzłów postaci  
Linia 552: Linia 641:
</math></center>
</math></center>


}}
</div></div>


==Błąd interpolacji==
==Błąd interpolacji==
Linia 558: Linia 647:
Gdy mamy do czynienia z funkcją, która jest  
Gdy mamy do czynienia z funkcją, która jest  
"skomplikowana", często dobrze jest zastąpić ją  
"skomplikowana", często dobrze jest zastąpić ją  
funkcją "prostszą". Mówimy wtedy o <strong>aproksymacji
funkcją "prostszą". Mówimy wtedy o <strong>aproksymacji</strong>
(przybliżaniu) funkcji</strong>. Funkcję musimy również  
funkcji. Funkcję musimy również  
aproksymać wtedy, gdy nie jesteśmy w stanie uzyskać  
aproksymać wtedy, gdy nie jesteśmy w stanie uzyskać  
pełnej o niej informacji. Na przykład, gdy funkcja  
pełnej o niej informacji. Na przykład, gdy funkcja  
Linia 566: Linia 655:
tej funkcji w pewnych punktach. Jasne jest, że chcielibyśmy  
tej funkcji w pewnych punktach. Jasne jest, że chcielibyśmy  
przy tym, aby błąd aproksymacji był możliwie mały.  
przy tym, aby błąd aproksymacji był możliwie mały.  
Podobnie ma się sprawa w przypadku implementacji funkcji elementarnych (<math>\displaystyle \sin, \exp, ...</math>) w bibliotece funkcji matematycznych, czy wręcz w procesorze. Tam również najchętniej poszukiwalibyśmy sposobu taniego przybliżenia wartości dokładnej funkcji. I rzeczywiście, często w tym celu stosuje się m.in. specjalnie konstruowaną aproksymację wielomianową.


Z tego punktu widzenia, intepolacja wielomianowa może być  
Z tego punktu widzenia, intepolacja wielomianowa może być  
Linia 581: Linia 672:
mamy do czynienia z interpolacją Lagrange'a.  
mamy do czynienia z interpolacją Lagrange'a.  


{{lemat|Postać błędu interpolacji||
{{lemat|Postać błędu interpolacji|Postać błędu interpolacji|
   
   
Dla dowolnego punktu  
Dla dowolnego punktu  
Linia 673: Linia 764:
gdzie <math>\displaystyle 0<M<\infty</math>. Mamy następujące twiedzenie.  
gdzie <math>\displaystyle 0<M<\infty</math>. Mamy następujące twiedzenie.  


{{twierdzenie|||
{{twierdzenie|O najgorszym możliwym błędzie interpolacji w klasie|O najgorszym możliwym błędzie interpolacji w klasie|
 
Załóżmy, że każdą funkcję  
Załóżmy, że każdą funkcję  
<math>\displaystyle f\in F^r_M([a,b])</math> aproksymujemy jej wielomianem  
<math>\displaystyle f\in F^r_M([a,b])</math> aproksymujemy jej wielomianem  
Linia 699: Linia 791:


Z drugiej strony zauważmy, że dla wielomianu  
Z drugiej strony zauważmy, że dla wielomianu  
<math>\displaystyle v(x)=Mx^{r+1}//(r+1)!</math> mamy <math>\displaystyle v\in F^r_M([a,b])</math> oraz  
<math>\displaystyle v(x)=M\frac{x^{r+1}}{(r+1)!}</math> mamy <math>\displaystyle v\in F^r_M([a,b])</math> oraz  


<center><math>\displaystyle \|v-w_v\|_{ C([a,b])}\,=\,\frac M{(r+1)!}\cdot
<center><math>\displaystyle \|v-w_v\|_{ C([a,b])}\,=\,\frac M{(r+1)!}\cdot
Linia 707: Linia 799:
co kończy dowód.}}
co kończy dowód.}}


<div style="margin-top:1em; padding-top,padding-bottom:1em;">
===Zjawisko Rungego===
<span  style="font-variant:small-caps;">Przykład: Zjawisko Rungego</span>
<div class="solution">


Rozważmy zadanie interpolacji funkcji  
Rozważmy zadanie interpolacji funkcji  
Linia 718: Linia 808:
w <math>\displaystyle N</math> równoodległych węzłach na przedziale <math>\displaystyle [-5,5]</math>. Okazuje się, że dla dużych wartości <math>\displaystyle N</math>, wielomian interpolacyjny ma poważne kłopoty z aproksymacją tej funkcji przy krańcach przedziału:
w <math>\displaystyle N</math> równoodległych węzłach na przedziale <math>\displaystyle [-5,5]</math>. Okazuje się, że dla dużych wartości <math>\displaystyle N</math>, wielomian interpolacyjny ma poważne kłopoty z aproksymacją tej funkcji przy krańcach przedziału:


[[Image:MNrunge17rowno.png|thumb|450px|center|Zjawisko Rungego: interpolacja w <math>\displaystyle N=17</math> węzłach równoodległych dla <math>\displaystyle f(x) = \frac{1}{1+x^2}</math>]]
[[Image:MNrunge17rowno.png|thumb|550px|center|Zjawisko Rungego: interpolacja w <math>\displaystyle N=17</math> węzłach równoodległych dla <math>\displaystyle f(x) = \frac{1}{1+x^2}</math>]]


Z kolei wielomian oparty na węzłach Czebyszewa znacznie lepiej przybliża tę funkcję.
Z kolei wielomian oparty na [[#O optymalnym doborze węzłów|węzłach Czebyszewa]] znacznie lepiej przybliża tę funkcję.


[[Image:MNrunge17rownoczeby.png|thumb|450px|center|Zjawisko Rungego: interpolacja w węzłach równoodległych, kontra interpolacja w węzłach Czebyszewa]]
[[Image:MNrunge17rownoczeby.png|thumb|550px|center|Zjawisko Rungego: interpolacja w węzłach równoodległych, kontra interpolacja w węzłach Czebyszewa]]


Rzeczywiście, węzły Czebyszewa zagęszczają się w pobliżu krańców odcinka.
Rzeczywiście, węzły Czebyszewa zagęszczają się w pobliżu krańców odcinka.


[[Image:MNrunge17czeby.png|thumb|450px|center|Zjawisko Rungego: interpolacja w węzłach Czebyszewa]]
[[Image:MNrunge17czeby.png|thumb|550px|center|Zjawisko Rungego: interpolacja w węzłach Czebyszewa]]


Wiąże się to z zachowaniem się samych wielomianów bazowych: wielomiany oparte na węzłach równoodległych właśnie silnie oscylują w pobliżu krańców przedziału (jasne: nasz wielomian jest wysokiego stopnia, musi mieć dużo zer, a z drugiej strony, jako wielomian wysokiego stopnia, chce szybko uciec do nieskończoności, dlatego "wije się" jak może). Natomiast wielomiany bazowe oparte na węzłach Czebyszewa są \link{thm:minimax}{najspokojniejsze}: wiją się, ale z umiarem, bo zagęszczone przy krańcach węzły skutecznie je "duszą".
</div></div>
</div></div>


Linia 740: Linia 831:
względem węzłów <math>\displaystyle x_j</math>.   
względem węzłów <math>\displaystyle x_j</math>.   


{{twierdzenie|O "optymalnym" doborze węzłów||
{{twierdzenie|O optymalnym doborze węzłów|O optymalnym doborze węzłów|
 
Błąd aproksymacji w klasie funkcji <math>\displaystyle F^r_M([a,b])(x_0,\cdots,x_r)</math>  
Błąd aproksymacji w klasie funkcji <math>\displaystyle F^r_M([a,b])(x_0,\ldots,x_r)</math>  
jest minimalny gdy węzły interpolacji są zadane jako <strong>węzły Czebyszewa</strong> na <math>\displaystyle (a,b)</math>, tzn.
jest minimalny gdy węzły interpolacji są zadane jako <strong>węzły Czebyszewa</strong> na <math>\displaystyle (a,b)</math>, tzn.


Linia 773: Linia 864:
\endaligned</math></center>
\endaligned</math></center>


[[grafika:Czebyszew.jpg|thumb|right|| Czebyszew<br>  [[Biografia Czebyszew|Zobacz biografię]]]]
[[grafika:Czebyszew.jpg|thumb|right||Pafnutij Lwowicz Czebyszew<br>  [[Biografia Czebyszew|Zobacz biografię]]]]


Zauważmy, że <math>\displaystyle T_k</math> jest wielomianem stopnia dokładnie  
Zauważmy, że <math>\displaystyle T_k</math> jest wielomianem stopnia dokładnie  
Linia 793: Linia 884:
co jest równoważne formule rekurencyjnej dla <math>\displaystyle T_{k+1}</math>.  
co jest równoważne formule rekurencyjnej dla <math>\displaystyle T_{k+1}</math>.  


[[Image:MNczebyszew.png|thumb|450px|center|Kilka pierwszych wielomianów Czebyszewa na odcinku <math>\displaystyle [-1,1]</math>]]
[[Image:MNczebyszew.png|thumb|550px|center|Kilka pierwszych wielomianów Czebyszewa na odcinku <math>\displaystyle [-1,1]</math>]]


Ze wzoru <math>\displaystyle T_k(x) = \cos(k\arccos x)</math> wynikają również inne ważne  
Ze wzoru <math>\displaystyle T_k(x) = \cos(k\arccos x)</math> wynikają również inne ważne  
Linia 818: Linia 909:
</math></center>
</math></center>


Miejsca zerowe wielomianu Czebyszewa będziemy nazywać <strong>węzłami Czebyszewa</strong>.
Konsekwencją wymienionych własności jest następująca własność ekstremalna
Konsekwencją wymienionych własności jest następująca własność ekstremalna
wielomianów Czebyszewa.  
wielomianów Czebyszewa.  
Linia 828: Linia 920:
</math></center>
</math></center>


{{twierdzenie|o minimaksie||
{{twierdzenie|O minimaksie|O minimaksie|
 
Niech <math>\displaystyle k\ge 1</math>. W klasie  
Niech <math>\displaystyle k\ge 1</math>. W klasie  
<math>\displaystyle \overline{\Pi}_k</math> minimalną normę jednostajną na  
<math>\displaystyle \overline{\Pi}_k</math> minimalną normę jednostajną na  
Linia 840: Linia 932:
}}
}}


[[Image:MNczebyszewkontrarownoodlegle.png|thumb|450px|center|Wielomian stopnia 9 oparty na węzłach
[[Image:MNczebyszewkontrarownoodlegle.png|thumb|550px|center|Wielomian stopnia 9 oparty na węzłach
Czebyszewa kontra oparty na węzłach równoodległych. Zwróć uwagę na wielkie
Czebyszewa kontra oparty na węzłach równoodległych. Zwróć uwagę na wielkie
oscylacje tego drugiego pry końcach odcinka.]]
oscylacje tego drugiego pry końcach odcinka.]]
Linia 881: Linia 973:
-->
-->
   
   
Miejsca zerowe wielomianu Czebyszewa będziemy nazywać <strong>węzłami Czebyszewa</strong>.
Możemy teraz przeprowadzić dowód twierdzenia [[#O optymalnym doborze węzłów|o optymalnym doborze węzłów]]:


{{dowod|Twierdzenia o optymalnym doborze węzłów||
{{dowod|||
Dowód wynika teraz bezpośrednio z twierdzenia o minimaksie. Zauważmy bowiem, że  
Dowód wynika teraz  
bezpośrednio z twierdzenia o minimaksie. Zauważmy bowiem, że  
wielomian <math>\displaystyle (x-x_0)(x-x_1)\cdots(x-x_r)</math> jest w klasie  
wielomian <math>\displaystyle (x-x_0)(x-x_1)\cdots(x-x_r)</math> jest w klasie  
<math>\displaystyle \overline\Pi_{r+1}</math>. Stąd dla <math>\displaystyle [a,b]=[-1,1]</math> optymalnymi  
<math>\displaystyle \overline\Pi_{r+1}</math>. Stąd dla <math>\displaystyle [a,b]=[-1,1]</math> optymalnymi  
Linia 912: Linia 1002:
i węzły <math>\displaystyle x^*_j</math> są optymalne.}}
i węzły <math>\displaystyle x^*_j</math> są optymalne.}}


Wielomiany Czebyszewa znajdują bardzo wiele czasem zaskakujących zastosowań w różnych działach numeryki, m.in. w konstrukcji metod iteracyjnych rozwiązywania równań liniowych.
Wielomiany Czebyszewa znajdują bardzo wiele, czasem zaskakujących, zastosowań w różnych działach numeryki, m.in. w konstrukcji metod iteracyjnych rozwiązywania równań liniowych.


Równie interesujący jest fakt, że wielomian interpolacyjny oparty na węzłach Czebyszewa jest prawie optymalnym przybliżeniem wielomianowym zadanej funkcji:
Równie interesujący jest fakt, że <strong>wielomian interpolacyjny oparty na węzłach Czebyszewa jest prawie optymalnym przybliżeniem</strong> wielomianowym zadanej funkcji:


{{twierdzenie|Jacksona||
{{twierdzenie|Jacksona, o prawie optymalnej interpolacji w węzłach Czebyszewa|Jacksona, o prawie optymalnej interpolacji w węzłach Czebyszewa|


Dla <math>\displaystyle f\in C[-1,1]</math> dostatecznie gładkiej, wielomian interpolacyjny  <math>\displaystyle w_f</math> stopnia co najwyżej <math>\displaystyle n</math>, oparty na węzłach Czebyszewa, spełnia
Dla <math>\displaystyle f\in C[-1,1]</math>, wielomian interpolacyjny  <math>\displaystyle w_f</math> stopnia co najwyżej <math>\displaystyle n</math>, oparty na węzłach Czebyszewa, spełnia


<center><math>\displaystyle ||f-w_f||_{C[-1,1]}  \leq \left(2+\frac{2}{\pi}\log(n+1)\right) ||f-w_f^*||_{C[-1,1]}
<center><math>\displaystyle ||f-w_f||_{C[-1,1]}  \leq \left(2+\frac{2}{\pi}\log(n+1)\right) ||f-w_f^*||_{C[-1,1]}
</math></center>
</math></center>


gdzie <math>\displaystyle w_f^*</math> jest wielomianem stopnia co najwyżej <math>\displaystyle n</math> najlepiej aproksymującym <math>\displaystyle f</math> w sensie normy jednostajnej.  
gdzie <math>\displaystyle w_f^*</math> jest wielomianem stopnia co najwyżej <math>\displaystyle n</math>, najlepiej aproksymującym <math>\displaystyle f</math> w sensie normy jednostajnej.  
}}
}}


Linia 958: Linia 1048:
-->
-->
   
   
Jeśli więc <math>\displaystyle n \leq 5</math>, to wielomian oparty na węzłach Czebyszewa jest co najwyżej 3.02 razy, a gdy <math>\displaystyle n \leq 20</math>, maksymalnie 4 razy gorszy od optymalnego. Można więc powiedzieć, że jest ''prawie optymalny''.
Jeśli więc <math>\displaystyle n \leq 5</math>, to wielomian oparty na węzłach Czebyszewa jest co najwyżej 3.02 razy, a gdy <math>\displaystyle n \leq 20</math> --- maksymalnie 4 razy gorszy od optymalnego. Można więc powiedzieć, że jest ''prawie optymalny''.
 
==Literatura==
 
W celu dogłębnego zapoznania się z omawianym na wykładzie materiałem, przeczytaj <b>rozdział 6.1--6.3</b> w
* D. Kincaid, W. Cheney <cite>Analiza numeryczna</cite>, Wydawnictwa Naukowo-Techniczne, Warszawa 2006, ISBN 83-204-3078-X.

Wersja z 19:37, 29 wrz 2006


Interpolacja wielomianowa

<<< Powrót do strony głównej przedmiotu Metody numeryczne

Zadanie interpolacji, czyli poprowadzenia krzywej zadanego rodzaju przez zestaw danych punktów, jest jednym z podstawowych zadań obliczeniowych. Stosuje się je nagminnie w najróżniejszych dziedzinach życia, np. wtedy, gdy trzeba

  • na podstawie próbki sygnału dźwiękowego (to znaczy: ciągu wartości amplitud sygnału zmierzonych w kolejnych odstępach czasu), odtworzyć jego przebieg;
  • przybliżyć wykres skomplikowanej (lub wręcz nieznanej) funkcji na podstawie jej wartości uprzednio stablicowanych w wybranych punktach;

Interpolację stosuje się szczególnie chętnie w samej numeryce. Na przykład idea metody siecznych polega na tym, by funkcję, której miejsca zerowego szukamy, przybliżyć prostą interpolującą tę funkcję w dwóch punktach. Metody numerycznego całkowania oraz rozwiązywania równań różniczkowych także korzystają z interpolacji.

Wielomian w (czerwony) stopnia 6, interpolujący 7 zadanych wartości (zaznaczone na zielono) danej funkcji f

Niech Parser nie mógł rozpoznać (nieznana funkcja „\subsetR”): {\displaystyle \displaystyle D\subsetR} i niech F będzie pewnym zbiorem funkcji Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle f:D\toR} . Niech x0,x1,,xn będzie ustalonym zbiorem parami różnych punktów z D, zwanych później węzłami.

Powiemy, że wielomian w interpoluje funkcję fF w węzłach xj, gdy

w(xj)=f(xj),0jn.

Oznaczmy przez Πn przestrzeń liniową wielomianów stopnia co najwyżej n o współczynnikach rzeczywistych,

Parser nie mógł rozpoznać (nieznana funkcja „\inR”): {\displaystyle \displaystyle \Pi_n\,=\,\{\,w(x)=a_nx^n+a_{n-1}x^{n-1}+\cdots+a_1x+a_0:\; a_j\inR, 0\le j\le n\,\}. }

Zadanie znalezienia wielomianu interpolującego zadane wartości nazywamy zadaniem interpolacji Lagrange'a.

Twierdzenie o istnieniu i jednoznaczności zadania interpolacji Lagrange'a

Dla dowolnej funkcji Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle f:D\toR} istnieje dokładnie jeden wielomian wfΠn interpolujący f w węzłach xj, 0jn.

Dowód

Wybierzmy w Πn dowolną bazę wielomianów φj, 0jn,

Πn=span{φ0,φ1,,φn}.

Wtedy każdy wielomian z Πn można jednoznacznie przedstawić w postaci rozwinięcia względem wybranej bazy. Warunkiem koniecznym i dostatecznym na to, aby wielomian wf()=j=0ncjφj() interpolował f jest spełnienie układu n+1 równań liniowych

j=0ncjφj(xi)=f(xi),0in,

z n+1 niewiadomymi cj, który w postaci macierzowej wygląda następująco:

(φ0(x0)φ1(x0)φn(x0)φ0(x1)φ1(x1)φn(x1)φ0(xn)φ1(xn)φn(xn))(c0c1cn)=(f(x0)f(x1)f(xn)).

Aby wykazać, że układ ten ma jednoznaczne rozwiązanie [[Algebra liniowa z geometrią analityczną/Wykład 8: Zastosowania wyznacznika. Układy równań liniowych|wystarczy, aby wektor zerowy był jedynym rozwiązaniem układu jednorodnego]]. Rzeczywiście, układ jednorodny odpowiada interpolacji danych zerowych, f(xi)=0, i. Istnienie niezerowego rozwiązania byłoby więc równoważne istnieniu niezerowego wielomianu stopnia nie większego od n, który miałby n+1 różnych zer xi, co jest niemożliwe.

Zadanie znalezienia dla danej funkcji f jej wielomianu interpolacyjnego stopnia co najwyżej n jest więc dobrze zdefiniowane, tzn. rozwiązanie istnieje i jest wyznaczone jednoznacznie. Zauważmy, że wielomian interpolacyjny wf jako taki nie może być wynikiem obliczeń w naszym modelu obliczeniowym. Możemy natomiast wyznaczyć jego współczynniki cj w wybranej bazie.

Definicja

Niech (φj)j=0n będzie bazą w przestrzeni Πn wielomianów stopnia co najwyżej n. Zadanie interpolacji wielomianowej polega na obliczeniu dla danej funkcji f współczynników cj takich, że wielomian

wf()=j=0ncjφj()

interpoluje f w punktach xj, 0jn.

Wybór bazy wielomianowej

Jak już wiemy, zadanie interpolacji Lagrange'a sprowadza się do rozwiązania układu równań liniowych. Okazuje się, że w zależności od wyboru sposobu reprezentacji naszego wielomianu (czyli od wyboru bazy wielomianowej (φj)j=0n), układ ten może być albo bardzo łatwy do rozwiązania, albo bardzo trudny. Co więcej, jego rozwiązanie w arytmetyce flν może napotykać na większe bądź mniejsze trudności (w zależności np. od uwarunkowania macierzy układu, który musimy rozwiązać).

W matematyce, jeden byt może być opisany na wiele równoważnych sposobów. W numeryce, każdy z nich może mieć diametralnie różne własności numeryczne: od odporności na błędy zaokrągleń, po koszt rozwiązania.

Dlatego, optymalizacja algorytmów numerycznych zaczyna się często od wyrażenia tego samego --- inaczej.

W naturalny sposób powstaje więc problem wyboru "wygodnej" bazy w Πn. Rozpatrzymy trzy bazy: Lagrange'a, potęgową i Newtona.

Baza Lagrange'a (kanoniczna)

Zdefiniujmy dla 0jn wielomiany

lj(x)=(xx0)(xx1)(xxj1)(xxj+1)(xxn)(xjx0)(xjx1)(xjxj1)(xjxj+1)(xjxn).

Zauważmy, że każdy z lj jest stopnia dokładnie n oraz

lj(xi)={0ij,1i=j.

Teraz widać, że wielomiany te stanowią bazę w Πn, którą nazywamy bazą Lagrange'a. Macierz układu zadania interpolacji jest w takim wypadku identycznością i w konsekwencji cj=f(xj), j. Wielomian interpolacyjny dla funkcji f można więc zapisać jako

wf(x)=j=0nf(xj)lj(x).

Koszt kombinatoryczny rozwiązania zadania interpolacji jest przy tym zerowy.

Wzory barycentryczne

Przypuśćmy, że chcielibyśmy obliczyć wartość wielomianu interpolacyjnego wf w punkcie x różnym od xj, 0jn. Podstawiając

wj=1(xjx0)(xjx1)(xjxj1)(xjxj+1)(xjxn)

oraz pn(x)=(xx0)(xxn) mamy pierwszy wzór barycentryczny

wf(x)=pn(x)j=0nwjf(xj)xxj,

i ostatecznie dostajemy tzw. drugi wzór barycentryczny na wielomian interpolacyjny,

wf(x)=j=0nqj(x)f(xj)j=0nqj(x),

gdzie qj(x)=wj/(xxj). W ostatniej równości wykorzystaliśmy fakt, że pn(x)(j=0nqj(x))1, co łatwo widzieć, rozpatrując zadanie interpolacji funkcji f1. Drugi wzór barycentryczny jest korzystniejszy w implementacji.

Dla wielu układów węzłów, wagi wj są zadane jawnymi wzorami, np. dla węzłów równoodległych (niezależnie od tego, na jakim odcinku!) wagi w drugim wzorze barycentrycznym wynoszą po prostu

wj=(1)j(nj).

Również dla \link{wCzeb}{węzłów Czebyszewa}istnieją eleganckie wzory na takie współczynnki.

Można pokazać, że wartość wf(x)~ wielomianu iterpolacyjnego obliczona w arytmetyce flν według pierwszego wzoru barycentrycznego spełnia

wf(x)~=pn(x)j=0nwjxxjf(xj)(1+ϵj),

gdzie |ϵj|5(n+1), a więc jest to algorytm numerycznie poprawny. Zachowanie drugiej postaci wzoru barycentrycznego w arytmetyce flν jest nieco bardziej skomplikowane.

Baza potęgowa (naturalna)

Znacznie prościej można obliczyć wartość wielomianu interpolacyjnego, (a także jego pochodnych), gdy jest on dany w najczęściej używanej bazie potęgowej, φj(x)=xj, j. Jeśli bowiem

wf(x)=a0+a1x++anxn,

to również

wf(x)=((anx+an1)x+an2)x++a1)x+a0,

co sugeruje zastosowanie następującego schematu Hornera do obliczenia wf(x):

Algorytm Algorytm Hornera


<math>\displaystyle v_n = a_n;</math>
for (j=n-1; j >= 0 ; j--)
	<math>\displaystyle v_j\, = \,v_{j+1}\cdot x\,+\,a_j</math>;

Po wykonaniu tego algorytmu wf(x)=v0. Schemat Hornera wymaga wykonania tylko n mnożeń i n dodawań. Ma on również głębszy sens, bo jego produktem ubocznym mogą być także wartości pochodnych naszego wielomianu w x. Algorytm Hornera okazuje się optymalny. Każdy inny algorytm obliczający dokładną wartość wielomianu, gdy danymi są współczynniki wielomianu, wymaga wykonania co najmniej n mnożeń i n dodawań. Algorytm Hornera jest też numerycznie poprawny.

Zauważmy jednak, że w przypadku bazy potęgowej macierz (xij)i,j=0n układu zadania interpolacji jest pełna. Jest to tzw. macierz Vandermonde'a. Obliczenie współczynników wielomianu interpolacyjnego w bazie potęgowej bezpośrednio z tego układu, stosując jedną ze znanych nam już metod, kosztowałoby rzędu n3 operacji arytmetycznych. Co gorsza, w często spotykanym przypadku, gdy węzły interpolacji są równoodległe, ta macierz jest bardzo źle uwarunkowana!

Baza Newtona

Rozwiązaniem pośrednim, które łączy prostotę obliczenia współczynników z prostotą obliczenia wartości wf(x) i ewentualnie jego pochodnych, jest wybór bazy Newtona,

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned p_0(x) &= 1, \\ p_j(x) &= (x-x_0)(x-x_1)\cdots(x-x_{j-1}),\qquad 1\le j\le n. \endaligned}

W tym przypadku współczynniki rozwinięcia wielomianu interpolacyjnego będziemy oznaczać przez bj,

wf=j=0nbjpj.

Zwróćmy od razu uwagę na ważną własność bazy Newtona. Jeśli wf,jΠj jest wielomianem interpolacyjnym dla funkcji f opartym na węzłach x0,x1,,xj, 0jn, to wf,0=b0 oraz

wf,j=wf,j1+bjpj,1jn.

Wartość wf(x) możemy obliczyć, stosując prostą modyfikację algorytmu Hornera:

Algorytm Algorytm Hornera dla bazy Newtona


<math>\displaystyle v_n = b_n;</math>
for (j=n-1; j >= 0 ; j--)
	<math>\displaystyle v_j\, = \,v_{j+1}\cdot (x-x_j)\,+\,b_j</math>;

Ponadto układ równań zadania interpolacji jest trójkątny dolny, o specyficznej strukturze, dzięki czemu można stworzyć elegancki algorytm, który teraz przedstawimy.

Algorytm różnic dzielonych

Różnicę dzieloną funkcji f opartą na różnych węzłach t0,t1,,ts, gdzie s1, definiuje się indukcyjnie jako

f(t0,t1,,ts)=f(t1,t2,,ts)f(t0,t1,,ts1)tst0.

Zachodzi następujące ważne twierdzenie.

Twierdzenie O różnicach dzielonych

Współczynniki bj wielomianu interpolacyjnego Newtona dla danej funkcji f dane są przez różnice dzielone f w węzłach x0,x1,,xj, tzn.

bj=f(x0,x1,,xj),0jn.

Dowód

Dla 0ijn, oznaczmy przez wi,j wielomian z Πji interpolujący f w węzłach xi,xi+1,,xj. Wtedy ma miejsce następująca równość (i<j):

wi,j(x)=(xxi)wi+1,j(x)(xxj)wi,j1(x)xjxi,x.

Aby ją pokazać wystarczy, że prawa strona tej równości, którą oznaczymy przez v(x), przyjmuje wartości f(xs) dla x=xs, isj. Rzeczywiście, jeśli i+1sj1 to

v(xs)=(xsxi)f(xs)(xsxj)f(xs)xjxi=f(xs).

Ponadto

v(xi)=(xixj)xjxif(xi)=f(xi),

oraz podobnie v(xj)=f(xj). Stąd v jest wielominem z Πji interpolującym f w węzłach xs, isj, czyli wi,j=v.

Dalej postępujemy indukcyjnie ze względu na stopień n wielomianu interpolacyjnego. Dla n=0 mamy oczywiście b0=f(x0). Niech n1. Ponieważ, jak łatwo zauważyć,

w0,n(x)=w0,n1(x)+bnpn(x),

z założenia indukcyjnego mamy bj=f(x0,,xj) dla 0jn1. Aby pokazać podobną równość dla bn, zauważmy, że

w0,n(x)=(xx0)w1,n(x)(xxn)w0,n1(x)xnx0.

Zauważmy teraz, że bn jest współczynnikiem przy xn w wielomianie w0,n. Z założenia indukcyjnego wynika, że współczynniki przy xn1 w wielomianach w1,n i w0,n1 są ilorazami różnicowymi opartymi odpowiednio na węzłach x1,,xn i x0,,xn1. Stąd

bn=f(x1,,xn)f(x0,,xn1)xnx0=f(x0,x1,,xn),

co kończy dowód.

Różnicę dzieloną f(x0,x1,,xn) można łatwo obliczyć na podstawie wartości f(xj), 0jn, budując następującą tabelkę:

x0f(x0)x1f(x1)f(x0,x1)x2f(x2)f(x1,x2)f(x0,x1,x2)xnf(xn)f(xn1,xn)f(xn2,xn1,xn)f(x0,x1,,xn).
<flash>file=Interpolacja.swf|width=550|height=300</flash>
Wyznaczenie wielomianu w interpolującego zestaw punktów (0,2)(1,5)(1,7) algorytmem różnic dzielonych

Zauważmy przy tym, że "po drodze" obliczamy f(xi,xi+1,,xj) dla wszystkich 0i<jn, a więc w szczególności również interesujące nas różnice dzielone f(x0,x1,,xj). Stąd i z twierdzenia o różnicach dzielonych wynika algorytm obliczania współczynników bj wielomianu interpolacyjnego w bazie Newtona. Po wykonaniu następującego algorytmu,

Algorytm Metoda różnic dzielonych


for (j = 0; j <= n; j++)
	<math>\displaystyle b_j</math> = <math>\displaystyle f(x_j)</math>; 
for (j = 0; j <= n; j++)
	for (k = n; k >= j; k--)
		<math>\displaystyle b_j</math> = <math>\displaystyle (b_k-b_{k-1})/(x_k - x_{k-j})</math>;

współczynniki bj na końcu algorytmu zawierają wspólczynniki wielomianu interpolacyjnego w bazie Newtona. Czy gdybyś zobaczył ten algorytm na samym początku tego wykładu, zgadłbyś, do czego może służyć?!

<flash>file=Interpolacjainsitu.swf|width=550|height=300</flash>
Wyznaczenie tego samego wielomianu w, interpolującego zestaw punktów (0,2)(1,5)(1,7) algorytmem różnic dzielonych --- wykonanym tym razem in situ.

Okazuje się, że przy realizacji w flν algorytmu różnic dzielonych istotną rolę odgrywa porządek węzłów. Można pokazać, że --- o ile węzły są uporządkowane nierosnąco lub niemalejąco --- algorytm liczenia f(t0,,tn) jest numerycznie poprawny ze względu na dane interpolacyjne f(tj), a cały algorytm różnic dzielonych daje w arytmetyce flν współczynniki wielomianu interpolacyjnego, będące niewiekim zaburzeniem wartości dokładnych.

Uwarunkowanie

Danymi w zadaniu interpolacji są zarówno wartości interpolowanej funkcji, jak i węzły interpolacji. Traktując węzły jako sztywno zadane parametry zadania i dopuszczając jedynie zaburzenia wartości funkcji, można pokazać, że jeśli zamiast f rozpatrzyć jej zaburzenie f+Δf, gdzie |Δf|ϵ, to

|wf(x)wf+Δf(x)|cond(x,f)|wf(x)|ϵ,

gdzie

cond(x,f)=j=0n|lj(x)f(xj)||pn(x)|1.

Znacznie rzadziej rozważa się uwarunkowanie zadania interpolacji ze względu na zaburzenie węzłów. Warto zaznaczyć, że zaburzenie danych interpolacji tylko w jednym punkcie może mieć wpływ na przebieg całego wielomianu interpolacyjnego, co ukazuje poniższy przykład:

Przykład

Pokażemy zmianę kilku bazowych wielomianów Lagrange'a stopnia 10 (dla węzłów równoodległych w [0,1]) w sytuacji, gdy trzeci węzeł interpolacji zostanie zaburzony o 0.01.

Wybrane wielomiany bazowe Lagrange'a oparte na węzłach równoodległych (zielone) kontra te same wielomiany, oparte na tych samych węzłach, z jednym wyjątkiem: węzeł x3=0.2 został zmieniony na x3=0.21 (czerwone).

Jak widać, to lokalne zaburzenie danych może powodować wyraźne globalne zaburzenie całego wielomianu interpolacyjnego (zwróć uwagę na prawy koniec przedziału!).

Biblioteki

MATLAB i Octave mają wbudowaną funkcję wyznaczającą wielomian, interpolujący zadane wartości: jeśli x jest wektorem zawierającym N węzłów, a y --- wektorem zawierającym wartości w węzłach, to

c = polyfit(x,y,N-1);

daje współczynniki wielomianu interpolacyjnego (Ostatni argument jest równy N1, bo taki powinien być stopień wielomianu interpolacyjnego Lagrange'a!).

Co ciekawe (i budzące trochę zgrozy!) --- wielomian (zarówno w MATLABie, jak w Octave) jest wyznaczany w bazie naturalnej, przez rozwiązanie układu równań z macierzą Vandermonde'a, a więc w sposób najgorszy z możliwych. Nie sądzisz, że czas najwyższy, aby to zmienić? Napisz odpowiedni kod i wyślij do Octave-forge!

Aby teraz wyznaczyć wartości takiego wielomianu w zadanych punktach X, także musimy użyć specjalnej funkcji,

Y = polyval(c,X);

Domyślamy się, że implementuje ona algorytm Hornera.

Przykład

Interpolujemy tabelkę

x 2 1 0
y 5 2 1

wielomianem stopnia co najwyżej 2.

octave:1> x = [2, 1, 0] x = 2 1 0 octave:2> y = [5, 2, 1] y = 5 2 1 octave:3> c = polyfit(x,y,2) c = 1 0 1 octave:4> polyval(c,3) ans = 10

Zgodnie z przewidywaniami, otrzymaliśmy wielomian 1x2+0x+1. Wartość tego wielomianu dla x=3 rzeczywiście jest równa 10.

A co się stanie, gdy będziemy szukać wielomianu stopnia niższego?

octave:6> c1 = polyfit(x,y,1) c1 = 2.00000 0.66667

Też "coś" zostało obliczone --- wielomian (jak domyślamy się) 2x+23. Nie dziwi, że ten wielomian nie jest wielomianem interpolacyjnym (dlaczego?) --- więc czym może być? Okazuje się, że to coś to wielomian nalepiej pasujący do danych w sensie \link{sec:lznk}{aproksymacji średniokwadratowej}, o czym będzie mowa w innym wykładzie.

Warto jeszcze może wiedzieć, że polyfit można także wywołać dla jeszcze wyższego stopnia wielomianu, jednak, co niespodziewane, wynikiem nie będzie wielomian stopnia 2, uzyskany poprzednio:

octave:7> c3 = polyfit(x,y,3) c3 = 0.21429 0.35714 0.42857 1.00000

Wynika to stąd, że gdy dopuszczalny stopień wielomianu jest wyższy niż wymagany w zadaniu interpolacji Lagrange'a, zadanie interpolacji ma nieskończenie wiele rozwiązań. Funkcja polyfit wybiera z nich to, które spełnia warunek, że norma euklidesowa wektora współczynników wielomianu jest najmniejsza z możliwych.

Pragnąc wykorzystać interpolację we własnym programie w C, najlepiej samemu zaprogramować bądź drugi wzór barycentryczny, bądź algorytm różnic dzielonych --- w zależności od potrzeb.

Przypadek węzłów wielokrotnych

Uogólnieniem rozpatrzonego zadania interpolacji jest zadanie interpolacji Hermite'a. Zakładamy, że oprócz (różnych) węzłów xj dane są również ich krotności nj, 0jk, przy czym j=0knj=n+1. Należy skonstruować wielomian wfΠn taki, że

wf(i)(xj)=f(i)(xj) dla 0inj1,0jk.

Oczywiście zakładamy przy tym, że odpowiednie pochodne funkcji f istnieją.

Lemat

Zadanie interpolacji Hermite'a ma jednoznaczne rozwiązanie.

Dowód

Istnienie i jednoznaczność rozwiązania można uzasadnić tak samo jak w przypadku węzłów jednokrotnych. Przedstawiając wielomian w dowolnej bazie otrzymujemy układ n+1 równań z n+1 niewiadomymi, który dla zerowej prawej strony ma jedynie rozwiązanie zerowe. Inaczej bowiem istniałby wielomian niezerowy stopnia nie większego niż n, który miałby zera o łącznej krotności większej niż n.

Nas oczywiście interesuje konstrukcja wielomianu wf. W tym celu ustawimy węzły xj w ciąg

(x¯0,x¯1,,x¯n)=(x0,,x0n0,x1,,x1n1,,xk,,xknk)

i zdefiniujemy uogólnioną bazę Newtona w Πn jako

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned p_0(x) &= 1, \\ p_j(x) &= (x-\bar x_0)(x-\bar x_1)\cdots (x-\bar x_{j-1}), \qquad 1\le j\le n. \endaligned}

Uogólnimy również pojęcie różnicy dzielonej na węzły powtarzające się, kładąc

f(x¯i,x¯i+1,,x¯j)=f(ji)(x¯i)(ji)!

dla x¯i=x¯i+1==x¯j, oraz

f(x¯i,x¯i+1,,x¯j)=f(x¯i+1,,x¯j)f(x¯i,,xj1)x¯jx¯i

dla x¯ix¯j. Zauważmy, że przy tej definicji różnice f(x¯i,,x¯j) możemy łatwo obliczyć stosując schemat podobny do tego z przypadku węzłów jednokrotnych.

Twierdzenie O różnicach dzielonych dla interpolacji Hermite'a

Współczynniki bj wielomianu interpolacyjnego Hermite'a w bazie Newtona,

wf()=j=0nbjpj(),

dane są przez odpowiednie różnice dzielone, tzn.

bj=f(x¯0,x¯1,,x¯j),0jn.

Dowód

Dowód przeprowadzimy podobnie jak dla węzłów jednokrotnych. Niech wi,jΠji oznacza wielomian interpolacyjny Hermite'a oparty na (być może powtarzających się) węzłach x¯i,x¯i+1,,x¯j. To znaczy, wi,j interpoluje f w węzłach xs takich, że xs występuje w ciągu x¯i,x¯j, a jego krotność jest liczbą powtórzeń xs w tym ciągu.

Zauważmy najpierw, że dla x¯ix¯j zachodzi znany nam już wzór,

wi,j(x)=(xx¯i)wi+1,j(x)(xx¯j)wi,j1(x)x¯jx¯i.

Rzeczywiście, oznaczmy przez v(x) prawą stronę powyższej równości. Dla k mniejszego od krotności danego węzła xs w ciągu x¯i,x¯j, mamy wi+1,j(k1)(xs)=wi,j1(k1)(xs), a ponieważ

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned v^{(k)}(x)&=\frac{k\,(w_{i+1,j}^{(k-1)}(x)-w_{i,j-1}^{(k-1)}(x))} {\bar x_j-\bar x_i} \\ && \qquad +\, \frac{(x-\bar x_i)w_{i+1,j}^{(k)}(x)-(x-\bar x_j)w_{i,j-1}^{(k)}(x)} {\bar x_j-\bar x_i}, \endaligned}

to

v(k)(xs)=(xsx¯i)wi+1,j(k)(xs)(xsx¯j)wi,j1(k)(xs)x¯jx¯i.

Korzystając z tego wzoru sprawdzamy, że v spełnia odpowiednie warunki interpolacyjne, a stąd wi,j=v.

Dalej postępujemy indukcyjnie ze względu na n. Dla n=0 mamy b0=f(x0). Dla n1 wystarczy pokazać, że bn=f(x¯0,x¯1,,x¯n). W tym celu rozpatrzymy dwa przypadki.

Jeśli x¯0=x¯n, to mamy jeden węzeł x0 o krotności n+1. Wielomian interpolacyjny jest wtedy postaci

wf(x)=j=0nf(j)(x0)j!(xx0)j,

a stąd bn=f(n)(x0)/(n!)=f(x0,,x0n+1). Jeśli zaś x¯0x¯j, to równość bn=f(x¯0,x¯1,,x¯n) wynika z wcześniej wyprowadzonych wzorów oraz z założenia indukcyjnego.

Uwaga

Zauważmy, ze pojęcie różnicy dzielonej formalnie zdefiniowaliśmy jedynie dla ciągu węzłów postaci x0,,x0,x1,,x1,,xk,,xk, gdzie xj są parami różne. Tą definicję można rozszerzyć do dowolnego ciągu węzłów. Można bowiem powiedzieć, że f(t0,t1,,tn) jest współczynnikiem przy xn wielomianu wt0,,tnΠn interpolującego f w węzłach tj (uwzględniając krotności). Równoważnie,

f(t0,t1,,tn)=wt0,,tn(n)n!.

Błąd interpolacji

Gdy mamy do czynienia z funkcją, która jest "skomplikowana", często dobrze jest zastąpić ją funkcją "prostszą". Mówimy wtedy o aproksymacji funkcji. Funkcję musimy również aproksymać wtedy, gdy nie jesteśmy w stanie uzyskać pełnej o niej informacji. Na przykład, gdy funkcja reprezentuje pewien proces fizyczny, często zdarza się, że dysponujemy jedynie ciągiem próbek, czyli wartościami tej funkcji w pewnych punktach. Jasne jest, że chcielibyśmy przy tym, aby błąd aproksymacji był możliwie mały.

Podobnie ma się sprawa w przypadku implementacji funkcji elementarnych (sin,exp,...) w bibliotece funkcji matematycznych, czy wręcz w procesorze. Tam również najchętniej poszukiwalibyśmy sposobu taniego przybliżenia wartości dokładnej funkcji. I rzeczywiście, często w tym celu stosuje się m.in. specjalnie konstruowaną aproksymację wielomianową.

Z tego punktu widzenia, intepolacja wielomianowa może być traktowana jako jeden ze sposobów aproksymacji funkcji, opartym na próbkowaniu. Naturalnym staje się więc pytanie o błąd takiej aproksymacji.

Niech x0,x1,,xn będą (niekoniecznie różnymi) węzłami należącymi do pewnego (być może nieskończonego) przedziału Parser nie mógł rozpoznać (nieznana funkcja „\subsetR”): {\displaystyle \displaystyle D\subsetR} . Dla danej funkcji Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle f:D\toR} , przez wf rozważamy, tak jak w całym wykładzie, wielomian interpolacyjny stopnia co najwyżej n interpolujący f w zadanych węzłach. W przypadku węzłów wielokrotnych jest to oczywiście wielomian interpolacyjny Hermite'a; gdy węzły są jednokrotne, mamy do czynienia z interpolacją Lagrange'a.

Lemat Postać błędu interpolacji

Dla dowolnego punktu x¯D błąd interpolacji w x¯ wyraża się wzorem

f(x¯)wf(x¯)=(x¯x0)(x¯x1)(x¯xn)f(x0,x1,,xn,x¯).

Jeśli ponadto fC(n+1)(D), czyli pochodna f(n+1) w D istnieje i jest ciągła, to

f(x¯)wf(x¯)=(x¯x0)(x¯x1)(x¯xn)f(n+1)(ξ)(n+1)!,

gdzie ξ=ξ(x¯) jest pewnym punktem należącym do najmniejszego przedziału zawierającego punkty x0,x1,,xn,x¯.

Dowód

Możemy założyć, że x¯ nie jest żadnym z węzłów xj, 0jn. Niech w¯fΠn+1 będzie wielomianem interpolacyjnym funkcji f opartym na węzłach x0,,xn i dodatkowo na węźle x¯. Mamy wtedy

w¯f(x)=wf(x)+(xx0)(xx1)(xxn)f(x0,x1,,xn,x¯),

a ponieważ z warunku interpolacyjnego f(x¯)=w¯f(x¯), to mamy też pierwszą równość w lemacie.

Aby pokazać drugą część lematu, rozpatrzmy funkcję Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle \psi:D\toR} ,

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned \lefteqn{\psi(x) \;=\; f(x)-\bar w_f(x)} \\ &= \, f(x)-w_f(x)-(x-x_0)(x-x_1)\cdots(x-x_n) f(x_0,\ldots,x_n,\bar x). \endaligned}

Z warunków interpolacyjnych na w¯fΠn+1 wynika, że funkcja ψ ma punkty zerowe o łącznej krotności co najmniej n+2. Wykorzystując twierdzenie Rolle'a wnioskujemy stąd, że ψ ma zera o łącznej krotności co najmniej n+1, ψ ma zera o łącznej krotności co najmniej n, itd. W końcu funkcja ψ(n+1) zeruje się w co najmniej jednym punkcie ξ=ξ(x¯) należącym do najmniejszego przedziału zawierającego x0,x1,,xn,x¯. Wobec tego, że wf(n+1)0, a (n+1)-sza pochodna wielomianu (xx0)(xxn) wynosi (n+1)!, mamy

0=ψ(n+1)(ξ)=f(n+1)(ξ)(n+1)!f(x0,,xn,x¯).

Stąd

f(x0,x1,,xn,x¯)=f(n+1)(ξ)(n+1)!,
co kończy dowód.

Zwykle interesuje nas nie tyle błąd w ustalonym punkcie x¯D, ale na całym przedziale D. Zakładając teraz, że przedział D jest domknięty, czyli

D=[a,b]

dla pewnych <a<b<+, błąd ten będziemy mierzyć w normie jednostajnej (Czebyszewa). Dla funkcji ciągłej Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle g:[a,b]\toR} , norma ta jest zdefiniowana jako

gC([a,b])=maxxD|g(x)|.

Niech FMr([a,b]), gdzie r0, będzie klasą funkcji

FMr([a,b])={fC(r+1)([a,b]):f(r+1)C([a,b])M},

gdzie 0<M<. Mamy następujące twiedzenie.

Twierdzenie O najgorszym możliwym błędzie interpolacji w klasie

Załóżmy, że każdą funkcję fFMr([a,b]) aproksymujemy jej wielomianem interpolacyjnym wfΠr opartym na r+1 węzłach x0,,xr[a,b]. Wtedy maksymalny błąd takiej aproksymacji wynosi

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned e(F^r_M([a,b]);x_0,x_1,\ldots,x_r) &= \max_{f\in F^r_M([a,b])} \|f-w_f\|_{ C([a,b])} \\ &= \frac M{(r+1)!}\cdot \max_{a\le x\le b}|(x-x_0)\cdots(x-x_r)|. \endaligned}

Dowód

Oszacowanie górne wynika bezpośrednio z lematu o postaci błędu interpolacji, bowiem dla fFMr([a,b]) mamy

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned \|f-w_f\|_{ C([a,b])}&=\max_{a\le x\le b}|f(x)-w_f(x)| \\ &= \max_{a\le x\le b}|(x-x_0)\cdots(x-x_r)| \frac{|f^{(r+1)}(\xi(x))|}{(r+1)!} \\ &\le & \frac{M}{(r+1)!}\max_{x\in D}|(x-x_0)\cdots(x-x_r)|. \endaligned}

Z drugiej strony zauważmy, że dla wielomianu v(x)=Mxr+1(r+1)! mamy vFMr([a,b]) oraz

vwvC([a,b])=M(r+1)!maxaxb|(xx0)(xxr)|,
co kończy dowód.

Zjawisko Rungego

Rozważmy zadanie interpolacji funkcji

f(x)=11+x2

w N równoodległych węzłach na przedziale [5,5]. Okazuje się, że dla dużych wartości N, wielomian interpolacyjny ma poważne kłopoty z aproksymacją tej funkcji przy krańcach przedziału:

Zjawisko Rungego: interpolacja w N=17 węzłach równoodległych dla f(x)=11+x2

Z kolei wielomian oparty na węzłach Czebyszewa znacznie lepiej przybliża tę funkcję.

Zjawisko Rungego: interpolacja w węzłach równoodległych, kontra interpolacja w węzłach Czebyszewa

Rzeczywiście, węzły Czebyszewa zagęszczają się w pobliżu krańców odcinka.

Zjawisko Rungego: interpolacja w węzłach Czebyszewa

Wiąże się to z zachowaniem się samych wielomianów bazowych: wielomiany oparte na węzłach równoodległych właśnie silnie oscylują w pobliżu krańców przedziału (jasne: nasz wielomian jest wysokiego stopnia, musi mieć dużo zer, a z drugiej strony, jako wielomian wysokiego stopnia, chce szybko uciec do nieskończoności, dlatego "wije się" jak może). Natomiast wielomiany bazowe oparte na węzłach Czebyszewa są \link{thm:minimax}{najspokojniejsze}: wiją się, ale z umiarem, bo zagęszczone przy krańcach węzły skutecznie je "duszą".

Zauważmy, że błąd aproksymacji e(FMr([a,b]);x0,,xr) w istotny sposób zależy od wyboru węzłów xj. Naturalne jest więc teraz następujące pytanie: w których punktach xj przedziału [a,b] należy obliczać wartości funkcji, aby błąd był minimalny? Problem ten sprowadza się oczywiście do minimalizacji wielkości maxaxb|(xx0)(xxr)| względem węzłów xj.

Twierdzenie O optymalnym doborze węzłów

Błąd aproksymacji w klasie funkcji FMr([a,b])(x0,,xr) jest minimalny gdy węzły interpolacji są zadane jako węzły Czebyszewa na (a,b), tzn.

xj*=ba2cos(2j+12r+2π)+a+b2,0jr.

Ponadto, dla optymalnych węzłów xj* mamy

e(FMr([a,b]);x0*,,xr*)=2M(r+1)!(ba4)r+1.

Dowód tego twierdzenia opiera się na własnościach pewnego ważnego ciągu wielomianów, który teraz przedstawimy.

Wielomiany Czebyszewa

Ciąg {Tk}k0 wielomianów Czebyszewa (pierwszego rodzaju) zdefiniowany jest indukcyjnie jako

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned T_0(x) &= 1, \\ T_1(x) &= x, \\ T_{k+1}(x) &= 2xT_k(x)-T_{k-1}(x),\qquad \mbox{ dla } \quad k\ge 1. \endaligned}
Pafnutij Lwowicz Czebyszew
Zobacz biografię

Zauważmy, że Tk jest wielomianem stopnia dokładnie k o współczynniku przy xk równym 2k1 (k1). Ponadto wielomian Tk można dla |x|1 przedstawić w postaci

Tk(x)=cos(karccosx).

Rzeczywiście, łatwo sprawdzić, że jest to prawdą dla k=0,1. Stosując podstawienie cost=x, 0tπ, oraz wzór na sumę cosinusów otrzymujemy dla k1

cos((k+1)t)=2costcos(kt)cos((k1)t),

co jest równoważne formule rekurencyjnej dla Tk+1.

Kilka pierwszych wielomianów Czebyszewa na odcinku [1,1]

Ze wzoru Tk(x)=cos(karccosx) wynikają również inne ważne własności wielomianów Czebyszewa. Norma wielomianu Czebyszewa na [1,1] wynosi

TkC([1,1])=max1x1|Tk(x)|=1

i jest osiągana w k+1 punktach tego przedziału równych

yj=cos(jkπ),0jk,

przy czym Tk(yj)=(1)j.

W końcu, k-ty wielomian Czebyszewa Tk ma dokładnie k pojedynczych zer w [1,1] równych

zj=cos(2j+12rπ),0jk1.

Miejsca zerowe wielomianu Czebyszewa będziemy nazywać węzłami Czebyszewa. Konsekwencją wymienionych własności jest następująca własność ekstremalna wielomianów Czebyszewa.

Przez Πk oznaczymy klasę wielomianów stopnia k o współczynniku wiodącym równym 1, tzn.

Πk={wΠk:w(x)=xk+}.

Twierdzenie O minimaksie

Niech k1. W klasie Πk minimalną normę jednostajną na przedziale [1,1] ma wielomian w*=21kTk, tzn.

minwΠkwC([1,1])=w*C([1,1])=12k1.
Wielomian stopnia 9 oparty na węzłach Czebyszewa kontra oparty na węzłach równoodległych. Zwróć uwagę na wielkie oscylacje tego drugiego pry końcach odcinka.


Możemy teraz przeprowadzić dowód twierdzenia o optymalnym doborze węzłów:

Dowód

Dowód wynika teraz bezpośrednio z twierdzenia o minimaksie. Zauważmy bowiem, że wielomian (xx0)(xx1)(xxr) jest w klasie Πr+1. Stąd dla [a,b]=[1,1] optymalnymi węzłami są zera zj wielomianu Czebyszewa, przy których

(xz0)(xz1)(xzr)=Tr+1(x)2r.

Jeśli przedział [a,b] jest inny niż [1,1], należy dokonać liniowej zamiany zmiennych tak, aby przeszedł on na [1,1]. Bezpośrednie sprawdzenie pokazuje, że w klasie Πr+1 minimalną normę Czebyszewa na przedziale [a,b] ma wielomian

wa,b*(x)=(ba2)r+1w*(2x(a+b)ba).

Stąd

wa,b*C([a,b])=(ba2)r+112r=2(ba4)r+1
i węzły xj* są optymalne.

Wielomiany Czebyszewa znajdują bardzo wiele, czasem zaskakujących, zastosowań w różnych działach numeryki, m.in. w konstrukcji metod iteracyjnych rozwiązywania równań liniowych.

Równie interesujący jest fakt, że wielomian interpolacyjny oparty na węzłach Czebyszewa jest prawie optymalnym przybliżeniem wielomianowym zadanej funkcji:

Twierdzenie Jacksona, o prawie optymalnej interpolacji w węzłach Czebyszewa

Dla fC[1,1], wielomian interpolacyjny wf stopnia co najwyżej n, oparty na węzłach Czebyszewa, spełnia

||fwf||C[1,1](2+2πlog(n+1))||fwf*||C[1,1]

gdzie wf* jest wielomianem stopnia co najwyżej n, najlepiej aproksymującym f w sensie normy jednostajnej.


Jeśli więc n5, to wielomian oparty na węzłach Czebyszewa jest co najwyżej 3.02 razy, a gdy n20 --- maksymalnie 4 razy gorszy od optymalnego. Można więc powiedzieć, że jest prawie optymalny.

Literatura

W celu dogłębnego zapoznania się z omawianym na wykładzie materiałem, przeczytaj rozdział 6.1--6.3 w

  • D. Kincaid, W. Cheney Analiza numeryczna, Wydawnictwa Naukowo-Techniczne, Warszawa 2006, ISBN 83-204-3078-X.