MN09

Z Studia Informatyczne
Przejdź do nawigacjiPrzejdź do wyszukiwania


Interpolacja wielomianowa

<<< Powrót do strony głównej przedmiotu Metody numeryczne

Zadanie interpolacji, czyli poprowadzenia krzywej zadanego rodzaju przez zestaw danych punktów, jest jednym z podstawowych zadań obliczeniowych. Stosuje się je nagminnie w najróżniejszych dziedzinach życia, np. wtedy, gdy trzeba

  • na podstawie próbki sygnału dźwiękowego (to znaczy: ciągu wartości amplitud sygnału zmierzonych w kolejnych odstępach czasu), odtworzyć jego przebieg;
  • przybliżyć wykres skomplikowanej (lub wręcz nieznanej) funkcji na podstawie jej wartości uprzednio stablicowanych w wybranych punktach;

Interpolację stosuje się szczególnie chętnie w samej numeryce. Na przykład idea metody siecznych polega na tym, by funkcję, której miejsca zerowego szukamy, przybliżyć prostą interpolującą tę funkcję w dwóch punktach. Metody numerycznego całkowania oraz rozwiązywania równań różniczkowych także korzystają z interpolacji.

Wielomian w (czerwony) stopnia 6, interpolujący 7 zadanych wartości (zaznaczone na zielono) danej funkcji f

Niech Parser nie mógł rozpoznać (nieznana funkcja „\subsetR”): {\displaystyle \displaystyle D\subsetR} i niech F będzie pewnym zbiorem funkcji Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle f:D\toR} . Niech x0,x1,,xn będzie ustalonym zbiorem parami różnych punktów z D, zwanych później węzłami.

Powiemy, że wielomian w interpoluje funkcję fF w węzłach xj, gdy

w(xj)=f(xj),0jn.

Oznaczmy przez Πn przestrzeń liniową wielomianów stopnia co najwyżej n o współczynnikach rzeczywistych,

Parser nie mógł rozpoznać (nieznana funkcja „\inR”): {\displaystyle \displaystyle \Pi_n\,=\,\{\,w(x)=a_nx^n+a_{n-1}x^{n-1}+\cdots+a_1x+a_0:\; a_j\inR, 0\le j\le n\,\}. }

Zadanie znalezienia wielomianu interpolującego zadane wartości nazywamy zadaniem interpolacji Lagrange'a.

Twierdzenie o istnieniu i jednoznaczności zadania interpolacji Lagrange'a

Dla dowolnej funkcji Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle f:D\toR} istnieje dokładnie jeden wielomian wfΠn interpolujący f w węzłach xj, 0jn.

Dowód

Wybierzmy w Πn dowolną bazę wielomianów φj, 0jn,

Πn=span{φ0,φ1,,φn}.

Wtedy każdy wielomian z Πn można jednoznacznie przedstawić w postaci rozwinięcia względem wybranej bazy. Warunkiem koniecznym i dostatecznym na to, aby wielomian wf()=j=0ncjφj() interpolował f jest spełnienie układu n+1 równań liniowych

j=0ncjφj(xi)=f(xi),0in,

z n+1 niewiadomymi cj, który w postaci macierzowej wygląda następująco:

(φ0(x0)φ1(x0)φn(x0)φ0(x1)φ1(x1)φn(x1)φ0(xn)φ1(xn)φn(xn))(c0c1cn)=(f(x0)f(x1)f(xn)).

Aby wykazać, że układ ten ma jednoznaczne rozwiązanie wystarczy, aby wektor zerowy był jedynym rozwiązaniem układu jednorodnego. Rzeczywiście, układ jednorodny odpowiada interpolacji danych zerowych, f(xi)=0, i. Istnienie niezerowego rozwiązania byłoby więc równoważne istnieniu niezerowego wielomianu stopnia nie większego od n, który miałby n+1 różnych zer xi, co jest niemożliwe.

Zadanie znalezienia dla danej funkcji f jej wielomianu interpolacyjnego stopnia co najwyżej n jest więc dobrze zdefiniowane, tzn. rozwiązanie istnieje i jest wyznaczone jednoznacznie. Zauważmy, że wielomian interpolacyjny wf jako taki nie może być wynikiem obliczeń w naszym modelu obliczeniowym. Możemy natomiast wyznaczyć jego współczynniki cj w wybranej bazie.

Definicja

Niech (φj)j=0n będzie bazą w przestrzeni Πn wielomianów stopnia co najwyżej n. Zadanie interpolacji wielomianowej polega na obliczeniu dla danej funkcji f współczynników cj takich, że wielomian

wf()=j=0ncjφj()

interpoluje f w punktach xj, 0jn.

Wybór bazy wielomianowej

Jak już wiemy, zadanie interpolacji Lagrange'a sprowadza się do rozwiązania układu równań liniowych. Okazuje się, że w zależności od wyboru sposobu reprezentacji naszego wielomianu (czyli od wyboru bazy wielomianowej (φj)j=0n), układ ten może być albo bardzo łatwy do rozwiązania, albo bardzo trudny. Co więcej, jego rozwiązanie w arytmetyce flν może napotykać na większe bądź mniejsze trudności (w zależności np. od uwarunkowania macierzy układu, który musimy rozwiązać).

W matematyce, jeden byt może być opisany na wiele równoważnych sposobów. W numeryce, każdy z nich może mieć diametralnie różne własności numeryczne: od odporności na błędy zaokrągleń, po koszt rozwiązania.

Dlatego, optymalizacja algorytmów numerycznych zaczyna się często od wyrażenia tego samego --- inaczej.

W naturalny sposób powstaje więc problem wyboru "wygodnej" bazy w Πn. Rozpatrzymy trzy bazy: Lagrange'a, potęgową i Newtona.

Baza Lagrange'a (kanoniczna)

Zdefiniujmy dla 0jn wielomiany

lj(x)=(xx0)(xx1)(xxj1)(xxj+1)(xxn)(xjx0)(xjx1)(xjxj1)(xjxj+1)(xjxn).

Zauważmy, że każdy z lj jest stopnia dokładnie n oraz

lj(xi)={0ij,1i=j.

Teraz widać, że wielomiany te stanowią bazę w Πn, którą nazywamy bazą Lagrange'a. Macierz układu zadania interpolacji jest w takim wypadku identycznością i w konsekwencji cj=f(xj), j. Wielomian interpolacyjny dla funkcji f można więc zapisać jako

wf(x)=j=0nf(xj)lj(x).

Koszt kombinatoryczny rozwiązania zadania interpolacji jest przy tym zerowy.

Wzory barycentryczne

Przypuśćmy, że chcielibyśmy obliczyć wartość wielomianu interpolacyjnego wf w punkcie x różnym od xj, 0jn. Podstawiając

wj=1(xjx0)(xjx1)(xjxj1)(xjxj+1)(xjxn)

oraz pn(x)=(xx0)(xxn) mamy pierwszy wzór barycentryczny

wf(x)=pn(x)j=0nwjf(xj)xxj,

i ostatecznie dostajemy tzw. drugi wzór barycentryczny na wielomian interpolacyjny,

wf(x)=j=0nqj(x)f(xj)j=0nqj(x),

gdzie qj(x)=wj/(xxj). W ostatniej równości wykorzystaliśmy fakt, że pn(x)(j=0nqj(x))1, co łatwo widzieć, rozpatrując zadanie interpolacji funkcji f1. Drugi wzór barycentryczny jest korzystniejszy w implementacji.

Dla wielu układów węzłów, wagi wj są zadane jawnymi wzorami, np. dla węzłów równoodległych (niezależnie od tego, na jakim odcinku!) wagi w drugim wzorze barycentrycznym wynoszą po prostu

wj=(1)j(nj).

Również dla węzłów Czebyszewa istnieją eleganckie wzory na takie współczynnki.

Można pokazać, że wartość wf(x)~ wielomianu iterpolacyjnego obliczona w arytmetyce flν według pierwszego wzoru barycentrycznego spełnia

wf(x)~=pn(x)j=0nwjxxjf(xj)(1+ϵj),

gdzie |ϵj|5(n+1), a więc jest to algorytm numerycznie poprawny. Zachowanie drugiej postaci wzoru barycentrycznego w arytmetyce flν jest nieco bardziej skomplikowane.

Baza potęgowa (naturalna)

Znacznie prościej można obliczyć wartość wielomianu interpolacyjnego, (a także jego pochodnych), gdy jest on dany w najczęściej używanej bazie potęgowej, φj(x)=xj, j. Jeśli bowiem

wf(x)=a0+a1x++anxn,

to również

wf(x)=((anx+an1)x+an2)x++a1)x+a0,

co sugeruje zastosowanie następującego schematu Hornera do obliczenia wf(x):

Algorytm Algorytm Hornera


<math>\displaystyle v_n = a_n;</math>
for (j=n-1; j >= 0 ; j--)
	<math>\displaystyle v_j\, = \,v_{j+1}\cdot x\,+\,a_j</math>;

Po wykonaniu tego algorytmu wf(x)=v0. Schemat Hornera wymaga wykonania tylko n mnożeń i n dodawań. Ma on również głębszy sens, bo jego produktem ubocznym mogą być także wartości pochodnych naszego wielomianu w x. Algorytm Hornera okazuje się optymalny. Każdy inny algorytm obliczający dokładną wartość wielomianu, gdy danymi są współczynniki wielomianu, wymaga wykonania co najmniej n mnożeń i n dodawań. Algorytm Hornera jest też numerycznie poprawny.

Zauważmy jednak, że w przypadku bazy potęgowej macierz (xij)i,j=0n układu zadania interpolacji jest pełna. Jest to tzw. macierz Vandermonde'a. Obliczenie współczynników wielomianu interpolacyjnego w bazie potęgowej bezpośrednio z tego układu, stosując jedną ze znanych nam już metod, kosztowałoby rzędu n3 operacji arytmetycznych. Co gorsza, w często spotykanym przypadku, gdy węzły interpolacji są równoodległe, ta macierz jest bardzo źle uwarunkowana!

Baza Newtona

Rozwiązaniem pośrednim, które łączy prostotę obliczenia współczynników z prostotą obliczenia wartości wf(x) i ewentualnie jego pochodnych, jest wybór bazy Newtona,

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned p_0(x) &= 1, \\ p_j(x) &= (x-x_0)(x-x_1)\cdots(x-x_{j-1}),\qquad 1\le j\le n. \endaligned}

W tym przypadku współczynniki rozwinięcia wielomianu interpolacyjnego będziemy oznaczać przez bj,

wf=j=0nbjpj.

Zwróćmy od razu uwagę na ważną własność bazy Newtona. Jeśli wf,jΠj jest wielomianem interpolacyjnym dla funkcji f opartym na węzłach x0,x1,,xj, 0jn, to wf,0=b0 oraz

wf,j=wf,j1+bjpj,1jn.

Wartość wf(x) możemy obliczyć, stosując prostą modyfikację algorytmu Hornera:

Algorytm Algorytm Hornera dla bazy Newtona


<math>\displaystyle v_n = b_n;</math>
for (j=n-1; j >= 0 ; j--)
	<math>\displaystyle v_j\, = \,v_{j+1}\cdot (x-x_j)\,+\,b_j</math>;

Ponadto układ równań zadania interpolacji jest trójkątny dolny, o specyficznej strukturze, dzięki czemu można stworzyć elegancki algorytm, który teraz przedstawimy.

Algorytm różnic dzielonych

Różnicę dzieloną funkcji f opartą na różnych węzłach t0,t1,,ts, gdzie s1, definiuje się indukcyjnie jako

f(t0,t1,,ts)=f(t1,t2,,ts)f(t0,t1,,ts1)tst0.

Zachodzi następujące ważne twierdzenie.

Twierdzenie O różnicach dzielonych

Współczynniki bj wielomianu interpolacyjnego Newtona dla danej funkcji f dane są przez różnice dzielone f w węzłach x0,x1,,xj, tzn.

bj=f(x0,x1,,xj),0jn.

Dowód

Dla 0ijn, oznaczmy przez wi,j wielomian z Πji interpolujący f w węzłach xi,xi+1,,xj. Wtedy ma miejsce następująca równość (i<j):

wi,j(x)=(xxi)wi+1,j(x)(xxj)wi,j1(x)xjxi,x.

Aby ją pokazać wystarczy, że prawa strona tej równości, którą oznaczymy przez v(x), przyjmuje wartości f(xs) dla x=xs, isj. Rzeczywiście, jeśli i+1sj1 to

v(xs)=(xsxi)f(xs)(xsxj)f(xs)xjxi=f(xs).

Ponadto

v(xi)=(xixj)xjxif(xi)=f(xi),

oraz podobnie v(xj)=f(xj). Stąd v jest wielominem z Πji interpolującym f w węzłach xs, isj, czyli wi,j=v.

Dalej postępujemy indukcyjnie ze względu na stopień n wielomianu interpolacyjnego. Dla n=0 mamy oczywiście b0=f(x0). Niech n1. Ponieważ, jak łatwo zauważyć,

w0,n(x)=w0,n1(x)+bnpn(x),

z założenia indukcyjnego mamy bj=f(x0,,xj) dla 0jn1. Aby pokazać podobną równość dla bn, zauważmy, że

w0,n(x)=(xx0)w1,n(x)(xxn)w0,n1(x)xnx0.

Zauważmy teraz, że bn jest współczynnikiem przy xn w wielomianie w0,n. Z założenia indukcyjnego wynika, że współczynniki przy xn1 w wielomianach w1,n i w0,n1 są ilorazami różnicowymi opartymi odpowiednio na węzłach x1,,xn i x0,,xn1. Stąd

bn=f(x1,,xn)f(x0,,xn1)xnx0=f(x0,x1,,xn),

co kończy dowód.

Różnicę dzieloną f(x0,x1,,xn) można łatwo obliczyć na podstawie wartości f(xj), 0jn, budując następującą tabelkę:

x0f(x0)x1f(x1)f(x0,x1)x2f(x2)f(x1,x2)f(x0,x1,x2)xnf(xn)f(xn1,xn)f(xn2,xn1,xn)f(x0,x1,,xn).
<flash>file=Interpolacja.swf|width=550|height=300</flash>
Wyznaczenie wielomianu w interpolującego zestaw punktów (0,2)(1,5)(1,7) algorytmem różnic dzielonych

Zauważmy przy tym, że "po drodze" obliczamy f(xi,xi+1,,xj) dla wszystkich 0i<jn, a więc w szczególności również interesujące nas różnice dzielone f(x0,x1,,xj). Stąd i z twierdzenia o różnicach dzielonych wynika algorytm obliczania współczynników bj wielomianu interpolacyjnego w bazie Newtona. Po wykonaniu następującego algorytmu,

Algorytm Metoda różnic dzielonych


for (j = 0; j <= n; j++)
	<math>\displaystyle b_j</math> = <math>\displaystyle f(x_j)</math>; 
for (j = 0; j <= n; j++)
	for (k = n; k >= j; k--)
		<math>\displaystyle b_j</math> = <math>\displaystyle (b_k-b_{k-1})/(x_k - x_{k-j})</math>;

współczynniki bj na końcu algorytmu zawierają wspólczynniki wielomianu interpolacyjnego w bazie Newtona. Czy gdybyś zobaczył ten algorytm na samym początku tego wykładu, zgadłbyś, do czego może służyć?!

<flash>file=Interpolacjainsitu.swf|width=550|height=300</flash>
Wyznaczenie tego samego wielomianu w, interpolującego zestaw punktów (0,2)(1,5)(1,7) algorytmem różnic dzielonych --- wykonanym tym razem in situ.

Okazuje się, że przy realizacji w flν algorytmu różnic dzielonych istotną rolę odgrywa porządek węzłów. Można pokazać, że --- o ile węzły są uporządkowane nierosnąco lub niemalejąco --- algorytm liczenia f(t0,,tn) jest numerycznie poprawny ze względu na dane interpolacyjne f(tj), a cały algorytm różnic dzielonych daje w arytmetyce flν współczynniki wielomianu interpolacyjnego, będące niewiekim zaburzeniem wartości dokładnych.

Uwarunkowanie

Danymi w zadaniu interpolacji są zarówno wartości interpolowanej funkcji, jak i węzły interpolacji. Traktując węzły jako sztywno zadane parametry zadania i dopuszczając jedynie zaburzenia wartości funkcji, można pokazać, że jeśli zamiast f rozpatrzyć jej zaburzenie f+Δf, gdzie |Δf|ϵ, to

|wf(x)wf+Δf(x)|cond(x,f)|wf(x)|ϵ,

gdzie

cond(x,f)=j=0n|lj(x)f(xj)||pn(x)|1.

Znacznie rzadziej rozważa się uwarunkowanie zadania interpolacji ze względu na zaburzenie węzłów. Warto zaznaczyć, że zaburzenie danych interpolacji tylko w jednym punkcie może mieć wpływ na przebieg całego wielomianu interpolacyjnego, co ukazuje poniższy przykład:

Przykład

Pokażemy zmianę kilku bazowych wielomianów Lagrange'a stopnia 10 (dla węzłów równoodległych w [0,1]) w sytuacji, gdy trzeci węzeł interpolacji zostanie zaburzony o 0.01.

Wybrane wielomiany bazowe Lagrange'a oparte na węzłach równoodległych (zielone) kontra te same wielomiany, oparte na tych samych węzłach, z jednym wyjątkiem: węzeł x3=0.2 został zmieniony na x3=0.21 (czerwone).

Jak widać, to lokalne zaburzenie danych może powodować wyraźne globalne zaburzenie całego wielomianu interpolacyjnego (zwróć uwagę na prawy koniec przedziału!).


MATLAB i Octave mają wbudowaną funkcję wyznaczającą wielomian, interpolujący zadane wartości: jeśli x jest wektorem zawierającym N węzłów, a y --- wektorem zawierającym wartości w węzłach, to

c = polyfit(x,y,N-1);

daje współczynniki wielomianu interpolacyjnego (Ostatni argument jest równy N1, bo taki powinien być stopień wielomianu interpolacyjnego Lagrange'a!).

Co ciekawe (i budzące trochę zgrozy!) --- wielomian (zarówno w MATLABie, jak w Octave) jest wyznaczany w bazie naturalnej, przez rozwiązanie układu równań z macierzą Vandermonde'a, a więc w sposób najgorszy z możliwych. Nie sądzisz, że czas najwyższy, aby to zmienić? Napisz odpowiedni kod i wyślij do Octave-forge!

Aby teraz wyznaczyć wartości takiego wielomianu w zadanych punktach X, także musimy użyć specjalnej funkcji,

Y = polyval(c,X);

Domyślamy się, że implementuje ona algorytm Hornera.

Przykład

Interpolujemy tabelkę

x 2 1 0
y 5 2 1

wielomianem stopnia co najwyżej 2.

octave:1> x = [2, 1, 0] x = 2 1 0 octave:2> y = [5, 2, 1] y = 5 2 1 octave:3> c = polyfit(x,y,2) c = 1 0 1 octave:4> polyval(c,3) ans = 10

Zgodnie z przewidywaniami, otrzymaliśmy wielomian 1x2+0x+1. Wartość tego wielomianu dla x=3 rzeczywiście jest równa 10.

A co się stanie, gdy będziemy szukać wielomianu stopnia niższego?

octave:6> c1 = polyfit(x,y,1) c1 = 2.00000 0.66667

Też "coś" zostało obliczone --- wielomian (jak domyślamy się) 2x+23. Nie dziwi, że ten wielomian nie jest wielomianem interpolacyjnym (dlaczego?) --- więc czym może być? Okazuje się, że to coś to wielomian nalepiej pasujący do danych w sensie aproksymacji średniokwadratowej, o czym będzie mowa w innym wykładzie.

Warto jeszcze może wiedzieć, że polyfit można także wywołać dla jeszcze wyższego stopnia wielomianu, jednak, co niespodziewane, wynikiem nie będzie wielomian stopnia 2, uzyskany poprzednio:

octave:7> c3 = polyfit(x,y,3) c3 = 0.21429 0.35714 0.42857 1.00000

Wynika to stąd, że gdy dopuszczalny stopień wielomianu jest wyższy niż wymagany w zadaniu interpolacji Lagrange'a, zadanie interpolacji ma nieskończenie wiele rozwiązań. Funkcja polyfit wybiera z nich to, które spełnia warunek, że norma euklidesowa wektora współczynników wielomianu jest najmniejsza z możliwych.

Pragnąc wykorzystać interpolację we własnym programie w C, najlepiej samemu zaprogramować bądź drugi wzór barycentryczny, bądź algorytm różnic dzielonych --- w zależności od potrzeb.

Przypadek węzłów wielokrotnych

Uogólnieniem rozpatrzonego zadania interpolacji jest zadanie interpolacji Hermite'a. Zakładamy, że oprócz (różnych) węzłów xj dane są również ich krotności nj, 0jk, przy czym j=0knj=n+1. Należy skonstruować wielomian wfΠn taki, że

wf(i)(xj)=f(i)(xj) dla 0inj1,0jk.

Oczywiście zakładamy przy tym, że odpowiednie pochodne funkcji f istnieją.

Lemat

Zadanie interpolacji Hermite'a ma jednoznaczne rozwiązanie.

Dowód

Istnienie i jednoznaczność rozwiązania można uzasadnić tak samo jak w przypadku węzłów jednokrotnych. Przedstawiając wielomian w dowolnej bazie otrzymujemy układ n+1 równań z n+1 niewiadomymi, który dla zerowej prawej strony ma jedynie rozwiązanie zerowe. Inaczej bowiem istniałby wielomian niezerowy stopnia nie większego niż n, który miałby zera o łącznej krotności większej niż n.

Nas oczywiście interesuje konstrukcja wielomianu wf. W tym celu ustawimy węzły xj w ciąg

(x¯0,x¯1,,x¯n)=(x0,,x0n0,x1,,x1n1,,xk,,xknk)

i zdefiniujemy uogólnioną bazę Newtona w Πn jako

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned p_0(x) &= 1, \\ p_j(x) &= (x-\bar x_0)(x-\bar x_1)\cdots (x-\bar x_{j-1}), \qquad 1\le j\le n. \endaligned}

Uogólnimy również pojęcie różnicy dzielonej na węzły powtarzające się, kładąc

f(x¯i,x¯i+1,,x¯j)=f(ji)(x¯i)(ji)!

dla x¯i=x¯i+1==x¯j, oraz

f(x¯i,x¯i+1,,x¯j)=f(x¯i+1,,x¯j)f(x¯i,,xj1)x¯jx¯i

dla x¯ix¯j. Zauważmy, że przy tej definicji różnice f(x¯i,,x¯j) możemy łatwo obliczyć stosując schemat podobny do tego z przypadku węzłów jednokrotnych.

Twierdzenie O różnicach dzielonych dla interpolacji Hermite'a

Współczynniki bj wielomianu interpolacyjnego Hermite'a w bazie Newtona,

wf()=j=0nbjpj(),

dane są przez odpowiednie różnice dzielone, tzn.

bj=f(x¯0,x¯1,,x¯j),0jn.

Dowód

Dowód przeprowadzimy podobnie jak dla węzłów jednokrotnych. Niech wi,jΠji oznacza wielomian interpolacyjny Hermite'a oparty na (być może powtarzających się) węzłach x¯i,x¯i+1,,x¯j. To znaczy, wi,j interpoluje f w węzłach xs takich, że xs występuje w ciągu x¯i,x¯j, a jego krotność jest liczbą powtórzeń xs w tym ciągu.

Zauważmy najpierw, że dla x¯ix¯j zachodzi znany nam już wzór,

wi,j(x)=(xx¯i)wi+1,j(x)(xx¯j)wi,j1(x)x¯jx¯i.

Rzeczywiście, oznaczmy przez v(x) prawą stronę powyższej równości. Dla k mniejszego od krotności danego węzła xs w ciągu x¯i,x¯j, mamy wi+1,j(k1)(xs)=wi,j1(k1)(xs), a ponieważ

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned v^{(k)}(x)&=\frac{k\,(w_{i+1,j}^{(k-1)}(x)-w_{i,j-1}^{(k-1)}(x))} {\bar x_j-\bar x_i} \\ && \qquad +\, \frac{(x-\bar x_i)w_{i+1,j}^{(k)}(x)-(x-\bar x_j)w_{i,j-1}^{(k)}(x)} {\bar x_j-\bar x_i}, \endaligned}

to

v(k)(xs)=(xsx¯i)wi+1,j(k)(xs)(xsx¯j)wi,j1(k)(xs)x¯jx¯i.

Korzystając z tego wzoru sprawdzamy, że v spełnia odpowiednie warunki interpolacyjne, a stąd wi,j=v.

Dalej postępujemy indukcyjnie ze względu na n. Dla n=0 mamy b0=f(x0). Dla n1 wystarczy pokazać, że bn=f(x¯0,x¯1,,x¯n). W tym celu rozpatrzymy dwa przypadki.

Jeśli x¯0=x¯n, to mamy jeden węzeł x0 o krotności n+1. Wielomian interpolacyjny jest wtedy postaci

wf(x)=j=0nf(j)(x0)j!(xx0)j,

a stąd bn=f(n)(x0)/(n!)=f(x0,,x0n+1). Jeśli zaś x¯0x¯j, to równość bn=f(x¯0,x¯1,,x¯n) wynika z wcześniej wyprowadzonych wzorów oraz z założenia indukcyjnego.

Uwaga

Zauważmy, ze pojęcie różnicy dzielonej formalnie zdefiniowaliśmy jedynie dla ciągu węzłów postaci x0,,x0,x1,,x1,,xk,,xk, gdzie xj są parami różne. Tą definicję można rozszerzyć do dowolnego ciągu węzłów. Można bowiem powiedzieć, że f(t0,t1,,tn) jest współczynnikiem przy xn wielomianu wt0,,tnΠn interpolującego f w węzłach tj (uwzględniając krotności). Równoważnie,

f(t0,t1,,tn)=wt0,,tn(n)n!.

Błąd interpolacji

Gdy mamy do czynienia z funkcją, która jest "skomplikowana", często dobrze jest zastąpić ją funkcją "prostszą". Mówimy wtedy o aproksymacji funkcji. Funkcję musimy również aproksymać wtedy, gdy nie jesteśmy w stanie uzyskać pełnej o niej informacji. Na przykład, gdy funkcja reprezentuje pewien proces fizyczny, często zdarza się, że dysponujemy jedynie ciągiem próbek, czyli wartościami tej funkcji w pewnych punktach. Jasne jest, że chcielibyśmy przy tym, aby błąd aproksymacji był możliwie mały.

Podobnie ma się sprawa w przypadku implementacji funkcji elementarnych (sin,exp,...) w bibliotece funkcji matematycznych, czy wręcz w procesorze. Tam również najchętniej poszukiwalibyśmy sposobu taniego przybliżenia wartości dokładnej funkcji. I rzeczywiście, często w tym celu stosuje się m.in. specjalnie konstruowaną aproksymację wielomianową.

Z tego punktu widzenia, intepolacja wielomianowa może być traktowana jako jeden ze sposobów aproksymacji funkcji, opartym na próbkowaniu. Naturalnym staje się więc pytanie o błąd takiej aproksymacji.

Niech x0,x1,,xn będą (niekoniecznie różnymi) węzłami należącymi do pewnego (być może nieskończonego) przedziału Parser nie mógł rozpoznać (nieznana funkcja „\subsetR”): {\displaystyle \displaystyle D\subsetR} . Dla danej funkcji Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle f:D\toR} , przez wf rozważamy, tak jak w całym wykładzie, wielomian interpolacyjny stopnia co najwyżej n interpolujący f w zadanych węzłach. W przypadku węzłów wielokrotnych jest to oczywiście wielomian interpolacyjny Hermite'a; gdy węzły są jednokrotne, mamy do czynienia z interpolacją Lagrange'a.

Lemat Postać błędu interpolacji

Dla dowolnego punktu x¯D błąd interpolacji w x¯ wyraża się wzorem

f(x¯)wf(x¯)=(x¯x0)(x¯x1)(x¯xn)f(x0,x1,,xn,x¯).

Jeśli ponadto fC(n+1)(D), czyli pochodna f(n+1) w D istnieje i jest ciągła, to

f(x¯)wf(x¯)=(x¯x0)(x¯x1)(x¯xn)f(n+1)(ξ)(n+1)!,

gdzie ξ=ξ(x¯) jest pewnym punktem należącym do najmniejszego przedziału zawierającego punkty x0,x1,,xn,x¯.

Dowód

Możemy założyć, że x¯ nie jest żadnym z węzłów xj, 0jn. Niech w¯fΠn+1 będzie wielomianem interpolacyjnym funkcji f opartym na węzłach x0,,xn i dodatkowo na węźle x¯. Mamy wtedy

w¯f(x)=wf(x)+(xx0)(xx1)(xxn)f(x0,x1,,xn,x¯),

a ponieważ z warunku interpolacyjnego f(x¯)=w¯f(x¯), to mamy też pierwszą równość w lemacie.

Aby pokazać drugą część lematu, rozpatrzmy funkcję Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle \psi:D\toR} ,

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned \lefteqn{\psi(x) \;=\; f(x)-\bar w_f(x)} \\ &= \, f(x)-w_f(x)-(x-x_0)(x-x_1)\cdots(x-x_n) f(x_0,\ldots,x_n,\bar x). \endaligned}

Z warunków interpolacyjnych na w¯fΠn+1 wynika, że funkcja ψ ma punkty zerowe o łącznej krotności co najmniej n+2. Wykorzystując twierdzenie Rolle'a wnioskujemy stąd, że ψ ma zera o łącznej krotności co najmniej n+1, ψ ma zera o łącznej krotności co najmniej n, itd. W końcu funkcja ψ(n+1) zeruje się w co najmniej jednym punkcie ξ=ξ(x¯) należącym do najmniejszego przedziału zawierającego x0,x1,,xn,x¯. Wobec tego, że wf(n+1)0, a (n+1)-sza pochodna wielomianu (xx0)(xxn) wynosi (n+1)!, mamy

0=ψ(n+1)(ξ)=f(n+1)(ξ)(n+1)!f(x0,,xn,x¯).

Stąd

f(x0,x1,,xn,x¯)=f(n+1)(ξ)(n+1)!,
co kończy dowód.

Zwykle interesuje nas nie tyle błąd w ustalonym punkcie x¯D, ale na całym przedziale D. Zakładając teraz, że przedział D jest domknięty, czyli

D=[a,b]

dla pewnych <a<b<+, błąd ten będziemy mierzyć w normie jednostajnej (Czebyszewa). Dla funkcji ciągłej Parser nie mógł rozpoznać (nieznana funkcja „\toR”): {\displaystyle \displaystyle g:[a,b]\toR} , norma ta jest zdefiniowana jako

gC([a,b])=maxxD|g(x)|.

Niech FMr([a,b]), gdzie r0, będzie klasą funkcji

FMr([a,b])={fC(r+1)([a,b]):f(r+1)C([a,b])M},

gdzie 0<M<. Mamy następujące twiedzenie.

Twierdzenie O najgorszym możliwym błędzie interpolacji w klasie

Załóżmy, że każdą funkcję fFMr([a,b]) aproksymujemy jej wielomianem interpolacyjnym wfΠr opartym na r+1 węzłach x0,,xr[a,b]. Wtedy maksymalny błąd takiej aproksymacji wynosi

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned e(F^r_M([a,b]);x_0,x_1,\ldots,x_r) &= \max_{f\in F^r_M([a,b])} \|f-w_f\|_{ C([a,b])} \\ &= \frac M{(r+1)!}\cdot \max_{a\le x\le b}|(x-x_0)\cdots(x-x_r)|. \endaligned}

Dowód

Oszacowanie górne wynika bezpośrednio z lematu o postaci błędu interpolacji, bowiem dla fFMr([a,b]) mamy

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned \|f-w_f\|_{ C([a,b])}&=\max_{a\le x\le b}|f(x)-w_f(x)| \\ &= \max_{a\le x\le b}|(x-x_0)\cdots(x-x_r)| \frac{|f^{(r+1)}(\xi(x))|}{(r+1)!} \\ &\le & \frac{M}{(r+1)!}\max_{x\in D}|(x-x_0)\cdots(x-x_r)|. \endaligned}

Z drugiej strony zauważmy, że dla wielomianu v(x)=Mxr+1(r+1)! mamy vFMr([a,b]) oraz

vwvC([a,b])=M(r+1)!maxaxb|(xx0)(xxr)|,
co kończy dowód.

Zjawisko Rungego

Rozważmy zadanie interpolacji funkcji

f(x)=11+x2

w N równoodległych węzłach na przedziale [5,5]. Okazuje się, że dla dużych wartości N, wielomian interpolacyjny ma poważne kłopoty z aproksymacją tej funkcji przy krańcach przedziału:

Zjawisko Rungego: interpolacja w N=17 węzłach równoodległych dla f(x)=11+x2

Z kolei wielomian oparty na węzłach Czebyszewa znacznie lepiej przybliża tę funkcję.

Zjawisko Rungego: interpolacja w węzłach równoodległych, kontra interpolacja w węzłach Czebyszewa

Rzeczywiście, węzły Czebyszewa zagęszczają się w pobliżu krańców odcinka.

Zjawisko Rungego: interpolacja w węzłach Czebyszewa

Wiąże się to z zachowaniem się samych wielomianów bazowych: wielomiany oparte na węzłach równoodległych właśnie silnie oscylują w pobliżu krańców przedziału (jasne: nasz wielomian jest wysokiego stopnia, musi mieć dużo zer, a z drugiej strony, jako wielomian wysokiego stopnia, chce szybko uciec do nieskończoności, dlatego "wije się" jak może). Natomiast wielomiany bazowe oparte na węzłach Czebyszewa są najspokojniejsze: wiją się, ale z umiarem, bo zagęszczone przy krańcach węzły skutecznie je "duszą".


Zauważmy, że błąd aproksymacji e(FMr([a,b]);x0,,xr) w istotny sposób zależy od wyboru węzłów xj. Naturalne jest więc teraz następujące pytanie: w których punktach xj przedziału [a,b] należy obliczać wartości funkcji, aby błąd był minimalny? Problem ten sprowadza się oczywiście do minimalizacji wielkości maxaxb|(xx0)(xxr)| względem węzłów xj.

Twierdzenie O optymalnym doborze węzłów

Błąd aproksymacji w klasie funkcji FMr([a,b])(x0,,xr) jest minimalny gdy węzły interpolacji są zadane jako węzły Czebyszewa na (a,b), tzn.

xj*=ba2cos(2j+12r+2π)+a+b2,0jr.

Ponadto, dla optymalnych węzłów xj* mamy

e(FMr([a,b]);x0*,,xr*)=2M(r+1)!(ba4)r+1.

Dowód tego twierdzenia opiera się na własnościach pewnego ważnego ciągu wielomianów, który teraz przedstawimy.

Wielomiany Czebyszewa

Ciąg {Tk}k0 wielomianów Czebyszewa (pierwszego rodzaju) zdefiniowany jest indukcyjnie jako

Parser nie mógł rozpoznać (nieznana funkcja „\aligned”): {\displaystyle \displaystyle \aligned T_0(x) &= 1, \\ T_1(x) &= x, \\ T_{k+1}(x) &= 2xT_k(x)-T_{k-1}(x),\qquad \mbox{ dla } \quad k\ge 1. \endaligned}
Pafnutij Lwowicz Czebyszew
Zobacz biografię

Zauważmy, że Tk jest wielomianem stopnia dokładnie k o współczynniku przy xk równym 2k1 (k1). Ponadto wielomian Tk można dla |x|1 przedstawić w postaci

Tk(x)=cos(karccosx).

Rzeczywiście, łatwo sprawdzić, że jest to prawdą dla k=0,1. Stosując podstawienie cost=x, 0tπ, oraz wzór na sumę cosinusów otrzymujemy dla k1

cos((k+1)t)=2costcos(kt)cos((k1)t),

co jest równoważne formule rekurencyjnej dla Tk+1.

Kilka pierwszych wielomianów Czebyszewa na odcinku [1,1]

Ze wzoru Tk(x)=cos(karccosx) wynikają również inne ważne własności wielomianów Czebyszewa. Norma wielomianu Czebyszewa na [1,1] wynosi

TkC([1,1])=max1x1|Tk(x)|=1

i jest osiągana w k+1 punktach tego przedziału równych

yj=cos(jkπ),0jk,

przy czym Tk(yj)=(1)j.

W końcu, k-ty wielomian Czebyszewa Tk ma dokładnie k pojedynczych zer w [1,1] równych

zj=cos(2j+12rπ),0jk1.

Miejsca zerowe wielomianu Czebyszewa będziemy nazywać węzłami Czebyszewa. Konsekwencją wymienionych własności jest następująca własność ekstremalna wielomianów Czebyszewa.

Przez Πk oznaczymy klasę wielomianów stopnia k o współczynniku wiodącym równym 1, tzn.

Πk={wΠk:w(x)=xk+}.

Twierdzenie O minimaksie

Niech k1. W klasie Πk minimalną normę jednostajną na przedziale [1,1] ma wielomian w*=21kTk, tzn.

minwΠkwC([1,1])=w*C([1,1])=12k1.
Wielomian stopnia 9 oparty na węzłach Czebyszewa kontra oparty na węzłach równoodległych. Zwróć uwagę na wielkie oscylacje tego drugiego pry końcach odcinka.


Możemy teraz przeprowadzić dowód twierdzenia o optymalnym doborze węzłów:

Dowód

Dowód wynika teraz bezpośrednio z twierdzenia o minimaksie. Zauważmy bowiem, że wielomian (xx0)(xx1)(xxr) jest w klasie Πr+1. Stąd dla [a,b]=[1,1] optymalnymi węzłami są zera zj wielomianu Czebyszewa, przy których

(xz0)(xz1)(xzr)=Tr+1(x)2r.

Jeśli przedział [a,b] jest inny niż [1,1], należy dokonać liniowej zamiany zmiennych tak, aby przeszedł on na [1,1]. Bezpośrednie sprawdzenie pokazuje, że w klasie Πr+1 minimalną normę Czebyszewa na przedziale [a,b] ma wielomian

wa,b*(x)=(ba2)r+1w*(2x(a+b)ba).

Stąd

wa,b*C([a,b])=(ba2)r+112r=2(ba4)r+1
i węzły xj* są optymalne.

Wielomiany Czebyszewa znajdują bardzo wiele, czasem zaskakujących, zastosowań w różnych działach numeryki, m.in. w konstrukcji metod iteracyjnych rozwiązywania równań liniowych.

Równie interesujący jest fakt, że wielomian interpolacyjny oparty na węzłach Czebyszewa jest prawie optymalnym przybliżeniem wielomianowym zadanej funkcji:

Twierdzenie Jacksona, o prawie optymalnej interpolacji w węzłach Czebyszewa

Dla fC[1,1], wielomian interpolacyjny wf stopnia co najwyżej n, oparty na węzłach Czebyszewa, spełnia

||fwf||C[1,1](2+2πlog(n+1))||fwf*||C[1,1]

gdzie wf* jest wielomianem stopnia co najwyżej n, najlepiej aproksymującym f w sensie normy jednostajnej.


Jeśli więc n5, to wielomian oparty na węzłach Czebyszewa jest co najwyżej 3.02 razy, a gdy n20 --- maksymalnie 4 razy gorszy od optymalnego. Można więc powiedzieć, że jest prawie optymalny.

Literatura

W celu dogłębnego zapoznania się z omawianym na wykładzie materiałem, przeczytaj rozdział 6.1--6.3 w

  • D. Kincaid, W. Cheney Analiza numeryczna, Wydawnictwa Naukowo-Techniczne, Warszawa 2006, ISBN 83-204-3078-X.