[[Image:MNcondition7.png|thumb|450px|center|Numerycznie poprawny algorytm daje w arytmetyce <math>\displaystyle fl_\nu</math> wynik <math>\displaystyle ALG(N(x))</math>, który daje
się zinterpretować jako mało zaburzony wynik <math>\displaystyle f(y)</math> zadania na mało zaburzonych
danych <math>\displaystyle x</math>.]]
Zauważmy,że jeśli <math>\displaystyle f\inR^n</math>,
<math>\displaystyle N(f)=(f_1,\ldots,f_n)</math>, oraz algorytm jest
dokładny, <math>\displaystyle {\bf ALG}\equiv\varphi\equivS</math>, to numeryczną
poprawność algorytmu można równoważnie zapisać jako
Metody iteracyjne mają czasem kłopoty, które nie są związane z samą naturą
problemu matematycznego. Przyrzyjmy się bowiem, jak w dużym zbliżeniu wygląda
wykres funkcji , której wartości zostały obliczone na
komputerze PC. Nietrudno sprawdzić, że ma dokładnie jedno miejsce zerowe,
gdyż . Tymczasem, wykres (wyznaczony oryginalnym wzorem) zdaje
się mieć mnóstwo różnych miejsc zerowych w okolicy . Co gorsza,
wygląda na to, że wcale nie jest gładka!
Wartości funkcji obliczone według wzoru. Na marginesie: . Prawdziwe wartości zaznaczone na czerwono.
Wykonywanie realnych obliczeń na liczbach rzeczywistych w komputerze może być
źródłem wielu innych zaskoczeń. Na przykład, w komputerze,
co możesz łatwo sprawdzić:
octave:7> 10 * (1.1 -1) - 1
ans = 8.8818e-16
Dlatego
W praktyce numerycznej należy wystrzegać się testów w rodzaju
if (x == 1.0)
{
....
}
Przedstawiony wcześniej model obliczeniowy jest modelem idealistycznym, tzn.
zakłada on, że wszystkie operacje są wykonywane bezbłędnie.
Dlatego w tym przypadku będziemy mówić o arytmetyce idealnej.
W praktyce jednak, np. wykonując obliczenia na maszynie cyfrowej,
operacje arytmetyczne na liczbach rzeczywistych wykonywane są
z pewnym błędem. Matematycznym modelem arytmetyki maszyny cyfrowej
jest arytmetyka (albo arytmetyka
zmiennoprzecinkowa), którą teraz przypomnimy.
Niech będzie zadana liczba naturalna (jej znaczenie wyjaśni się w następnym
rozdziale). Dowolną liczbę rzeczywistą można jednoznacznie przedstawić w postaci
gdzie jest znakiem, liczba całkowita
cechą, a liczba rzeczywista mantysą liczby .
Zauważmy, że taki
rozkład jest jednoznaczny i odpowiada przesuwaniu przecinka w rozwinięciu
binarnym liczby do pierwszej cyfry znaczącej, tj. różnej od zera (stąd nazwa:
reprezentacja zmiennoprzecinkowa, ang. floating point). Mantysa ma w ogólności
nieskończenie wiele cyfr binarnych w swoim rozwinięciu dwójkowym,
gdzie
. Wobec tego najczęściej nie będzie mogła być zapamiętana
dokładnie w pamięci komputera, gdyż możemy przechować jedynie ograniczoną
liczbę cyfr cechy i mantysy.
Reprezentacja zmiennoprzecinkowa
W komputerach osobistych mamy do czynienia z reprezentacją liczb rzeczywistych,
w której do zapisania liczby używa się ściśle określonej liczby bitów do
zapisania mantysy i także określonej liczby bitów do zapisania cechy danej
liczby niezerowej :
(łącznie bitów). Liczby zapisane przy użyciu powyższej sekwencji bitów
nazywa się liczbami maszynowymi. Są to jedyne dokładnie zapisywalne w
komputerze liczby rzeczywiste, pozostałe będą musiały zostać wyrażone z
wykorzystaniem liczb maszynowych.
Reprezentacją zmiennoprzecinkową niezerowej
liczby będziemy nazywać liczbę taką, że
gdzie jest liczbą dwójkową postaci , natomiast
jest liczbą naturalną postaci . Na znak liczby, ,
przeznaczony jest jeden bit. Wartości i dobiera się tak, żeby
była tak bliska jak to możliwe. Stałą całkowitą dobiera się tak, by
uzyskać zbalansowany zakres cechy (mniej więcej tyle samo wartości
ujemnych i dodatnich), a zysk z korzystania z niej jest taki, że nie marnujemy
dodatkowego bitu na przechowywanie znaku wykładnika potęgi dwójki .
Przy takim sposobie reprezentacji, jej błąd względny szacuje się przez
Liczbę nazywa się precyzją arytmetyki. Jak widać, ma
ma ona wpływ na to, jak wiele cyfr znaczących liczby jest reprezentowanych
dokładnie. Precyzja arytmetyki zależy wyłącznie od liczby bitów przeznaczonych
na reprezentację mantysy.
Ostatnią nierówność wygodnie jest zapisać w równoważny
sposób jako
Przykład
Rozważmy bardzo prościutki system, w którym zarówno na cechę, jak i mantysę,
przeznaczone są jedynie po dwa bity, zatem jedna liczba maszynowa zajmuje 5
bitów. Ponieważ w konsekwencji możliwy zakres wartości
to , rozsądne jest więc przyjęcie korekty , dzięki czemu
. Z kolei możliwe wartości mantysy to
Wobec tego, jedyne (dodatnie) liczby maszynowe naszej pięciobitowej arytmetyki
zmiennopozycyjnej to
Liczby maszynowe: reprezentowane dokładnie w pięciobitowej arytmetyce o precyzji . (Przedstawiliśmy tylko liczby nieujemne)
Z nielicznymi egzotycznymi wyjątkami (np. Cray C90), współczesne procesory
używane w komputerach osobistych lub większych, implementują
IEEE 754 Floating Point Standard, który
definiuje dwa zasadnicze formaty reprezentacji zmiennoprzecinkowej liczb
rzeczywistych:
Typ IEEE 754
Pojedycznej precyzji
Podwójnej precyzji
Nazwa typu w C
float
double
Liczba bitów cechy
8
11
Liczba bitów mantysy
23
52
Liczba bajtów dla typu w C
4
8
Bias (liczba powyżej)
127
1023
Orientacyjny zakres
Orientacyjna precyzja
(maksymalna i minimalna wartość cechy ma specjalne znaczenie). Dodatkowo, w
procesorach x86 mamy typ podwójnej rozszerzonej precyzji (także
zdefiniowany w IEEE 754 i odpowiadający dokładnie ówczesnym możliwościom
procesora Intel 8087; procesory Intela mają zresztą jedną z najlepszych
implementacji IEEE 754). Wszystkie operacje arytmetyczne na procesorach x86
są faktycznie wykonywane w takiej precyzji (korzystając z 64 bitów dla
reprezentacji mantysy i 15 bitów dla cechy). Należy pamiętać, że odpowiadający
mu typ w C long double zajmuje w pamięci 12 bajtów (a nie 80 bitów).
Uwaga
Producenci niektórych procesorów świadomie rezygnują z pełnej
implementacji IEEE 754 dla zwiększenia szybkości działania, niestety czasem
kosztem dokładności wyniku. Tak dawno temu było w procesorach Cray; tak też
działają niektóre instrukcje wektorowe (z tzw. zestawu 3DNow!) w procesorach
AMD, które np. wynik dzielenia wektorowego zwracają z precyzją tylko 14 bitów
mantysy. Procesor IBM Cell (stosowany w
Sony Playstation 3) również także
[http://domino.watson.ibm.com/comm/research.nsf/pages/r.arch.innovation.html nie
w pełni implementuje IEEE 754].
W Octave można łatwo podejrzeć reprezentację binarną liczby zmiennoprzecinkowej
podwójnej precyzji (jest to domyślny typ numeryczny stosowany w MATLABie i
Octave),
octave:9> format bit
octave:10> x = -2
x = 1100000000000000000000000000000000000000000000000000000000000000
octave:11> x = 1/4
x = 0011111111010000000000000000000000000000000000000000000000000000
octave:12> x = NaN
x = 1111111111111000000000000000000000000000000000000000000000000000
octave:13> x = 0
x = 0000000000000000000000000000000000000000000000000000000000000000
octave:14> x = Inf
x = 0111111111110000000000000000000000000000000000000000000000000000
octave:15> x = 0.1
x = 0011111110111001100110011001100110011001100110011001100110011010
(w MATLABie możemy zobaczyć tę samą liczbę w zapisie szestnastkowym).
Przykład: Nawet liczba 0.1 nie jest reprezentowana dokładnie!
Rozwinięcie dwójkowe liczby 0.1 jest nieskończone:
Ten banalny fakt jest bardzo często przeoczany przez programistów, a w 1991 roku
doprowadził nawet do spektakularnej awarii systemu antyrakietowego Patriot. Okazało
się, że --- w tajemniczy sposób --- zazwyczaj bezbłędnie trafiające w cel
rakiety Patriot traciły skuteczność, gdy przez wiele godzin pozostawały w stanie
gotowości.
Wyjaśnieniezagadki leżało na styku pomiędzy hardware a software rakiety. Jak
zbadano, w celu pomiaru czasu, zliczano kolejne tyknięcia zegara rakiety, które
następowały dokładnie co 0.1 sekundy. Następnie, w celu wyznaczenia prawdziwego
czasu, mnożono liczbę tyknięć zegara przez 0.1 (które właśnie było niedokładnie
reprezentowane). Gdy cykli zegara było bardzo dużo, błąd bezwzględny wyznaczenia
czasu stawał się na tyle poważny, że uniemożliwiał precyzyjne
wyznaczenie parametrów toru lotu nieprzyjacielskiego obiektu!
Na marginesie zauważmy, że np. liczba jest reprezentowana
dokładnie w arytmetyce zmiennoprzecinkowej (dlaczego?) i nie powodowałaby już
tego problemu. Podobnie dawałoby się uniknąć problemu, działając wyłącznie na różnicach
liczby tyknięć...
Więcej informacji o najróżniejszych katastrofach spowodowanych błędami w
programowaniu można przeczytać na stronach
Thomasa Huckle.
Uwaga
Nie wszystkie maszyny liczące wykorzystują reprezentację dwójkową. Kiedyś
zdarzały się komputery reprezentujące liczby w postaci
gdzie lub 16, a nawet 3 (sic!). Do dzisiaj, w podręcznych
kalkulatorach najczęściej spotykaną podstawą reprezentacji liczb jest .
Są także takie realizacje arytmetyki zmiennoprzecinkowej, które nie realizują w
pełni standardu IEEE (np. stare komputery Cray) i np. zamiast zaokrąglenia,
stosują obcięcie wyniku.
Standard IEEE 754 jest obecnie
uaktualniany, jego nowa wersja powinna ukazać się
pod koniec 2006 roku.
Nadmiar i niedomiar
W maszynie cyfrowej cecha liczby rzeczywistej
nie może oczywiście mieć dowolnie dużej wartości bezwzględnej,
, dlatego nie wszystkie liczby rzeczywiste są w ogóle reprezentowalne. Powoduje to powstanie zjawiska nadmiaru gdy dla liczby
, oraz zjawiska niedomiaru gdy . W
pierwszym przypadku liczba jest tak duża (co do modułu), że
nie zawiera się w przedziale liczb reprezentowalnych, a w drugim
jest tak mała, że musi być reprentowana przez zero, przy czym
błąd względny reprezentacji wynosi wtedy a nie .
Próżnia wokół zera (na przykładzie 5-bitowej arytmetyki)
Arytmetyka IEEE 754 przyjmuje, że liczby dla których następuje overflow są
reprezentowane przez specjalną wartość Inf (nieskończoność, ze
znakiem), która propaguje się w obliczeniach zgodnie z powszechnie przyjętymi
regułami, np. 1+Inf daje Inf, 1/Inf daje 0,
Inf-Inf daje NaN, itd.
Wszystkie liczby większe od największej zapisywalnej liczby są reprezentowane przez Inf (na przykładzie 5-bitowej arytmetyki)
W dalszych rozważaniach zjawiska nadmiaru i niedomiaru będziemy
dla uproszczenia zaniedbywać, jednak nie zawsze jest to uzasadnione, o czym
niech świadczy poniższy przykład.
Przykład: Wyznaczanie normy euklidesowej wektora
Jedną z najczęściej wykonywanych operacji na wektorze jest obliczenie jego
normy euklidesowej,
Jak widać, możemy tu łatwo zetknąć się ze zjawiskiem zarówno niedomiaru, jak i
nadmiaru, gdyż może się na przykład tak złożyć, że mimo iż jest
reprezentowana, to już nie (np. w arytmetyce podwójnej precyzji i ).
Łatwym wyjściem z tej sytuacji jest wstępna normalizacja danych tak, by
wszystkie nie były większe od 1: niech i
wtedy
i teraz suma pod pierwiastkiem jest zawsze pomiędzy 1 a . Wadą omówionego
rozwiązania jest to, że wymaga ono dwukrotnego przejrzenia całego wektora (raz,
by znaleźć , drugi raz --- by policzyć sumę. Na szczęście można go
zmodyfikować tak, by działał w jednym przebiegu. Zupełnie inny algorytm podał
Moler.
Liczby denormalizowane
Wymaganie, że mantysa jest postaci , , powoduje, że wokół zera
pojawia się coś w rodzaju próżni. Formalnie, liczby mniejsze niż
powinny być reprezentowane przez 0, lecz zazwyczaj zamiast tego
octave:16> format bit
octave:17> x = 2^(-1022)
x = 0000000000010000000000000000000000000000000000000000000000000000
octave:18> x = 2^(-1023)
x = 0000000000001000000000000000000000000000000000000000000000000000
octave:19> x = 2^(-1028)
x = 0000000000000000010000000000000000000000000000000000000000000000
W ten sposób można (w podwójnej precyzji) zbliżyć się do zera na odległość około
.
Liczby denormalizowane trochę wypełniają próżnię wokół zera
Działania arytmetyczne w arytmetyce
W arytmetyce implementującej standard IEEE 754, działania arytmetyczne
na liczbach rzeczywistych (a raczej na ich reprezentacjach) są
wykonywane dokładnie i tylko wynik jest zaokrąglany. Mamy więc
gdzie , Ogólniej, jeśli i
są wyrażeniami o wartościach rzeczywistych, to
dla dowolnych wartości zmiennych
Zwykle dla prostoty będziemy również zakładać podobną
zależność dla niektórych funkcji standardowych, o ile należą
one do zbioru operacji elementarnych (chociaż w rzeczywistości
są one obliczane przez procedury używające czterech podstawowych
operacji arytmetycznych). I tak będziemy mieć np.
Przypuśćmy, że w naszym prościutkim pięciobitowym systemie spełniającym wymogi
standardu IEEE 754 zechcemy wykonać mnożenie
Poniżej możemy przekonać się, jak będzie ono przebiegać (na przykładzie
5-bitowej arytmetyki).
<flash>file=binarysystem4.swf</flash><div.thumbcaption>Mnożenie dwóch liczb rzeczywistych (na przykładzie
5-bitowej arytmetyki)
Podobnie, jeśli jest operatorem porównania,
, to wartością wyrażenia
logicznego w jest
dokładna wartość wyrażenia
Parser nie mógł rozpoznać (nieznana funkcja „\trianglefl”): {\displaystyle \displaystyle fl_\nu({\cal W}_1)\trianglefl_\nu({\cal W}_2)}
.
Dosyć dziwnie w porównaniach zachowuje się specjalna liczba NaN
(ang. not-a-number), dla której zawsze zachodzi, że NaNNaN.
Liczba NaN pojawia się jako wynik zabronionych operacji matematycznych,
np. Inf - Inf, itp., i także propaguje się w
dalszych obliczeniach.
Działania arytmetyczne nie są łączne, co widać na poniższym przykładzie:
octave:9> 7.1 - (7+0.1)
ans = 0
octave:10> (7.1 - 7) - 0.1
ans = -3.6082e-16
Wbrew pozorom, fakt, że nie mamy dostępu do arytmetyki nieskończonej precyzji
może mieć daleko idące konsekwencje, o czym przekonaliśmy się na początku
wykładu.
Praktyczne wyznaczanie precyzji arytmetyki
Aby wyznaczyć precyzję używanej przez nas arytmetyki możemy wykonać prosty test.
Pomyślmy, jaka jest najmniejsza dodatnia liczba , która dodana do jedności da w
wyniku liczbę większą od 1.0 (liczbę nazywa się czasem epsilonem maszynowym, macheps).
Jasne jest, że w przypadku arytmetyki IEEE 754 jest to liczba równa podwojonej
precyzji arytmetyki, , gdzie jest liczbą cyfr mantysy . Stąd
dostajemy prosty algorytm wyznaczania epsilona maszynowego:
x = 1.0;
while ( 1.0 + x > 1.0 )
{
x = x / 2.0;
}
printf("Macheps = %g", 2.0*x);
}
Jednak, w rzeczywistości musimy być bardziej ostrożni. Implementując ten
algorytm w C następująco
Wynika to stąd, że w C obliczenia wykonują się zawsze z maksymalną możliwą
precyzją. W procesorach x86 jest to precyzja arytmetyki extended double
precision,
wykorzystującej 80 bitów do reprezentacji liczb. Dlatego działanie
1.0 + dx > 1.0
wykona się w arytmetyce nie podwójnej (64-bitowej), ale rozszerzonej
podwójnej precyzji, 80-bitowej. Aby sprawić, by działanie zostało wykonane z wykorzystaniem
typu double, musimy nasz program trochę zmodyfikować:
/* Wyznaczanie epsilona maszynowego, wersja 2 */
#include <stdio.h>
int main(void)
{
int dt;
double dx, dxp1;
dt = 0; dx = 1.0; dxp1 = 2.0;
while(dxp1 > 1.0)
{
dx *= 0.5;
dxp1 = 1.0 + dx; /* tym razem wynik działania zostanie zapisany
do zmiennej typu double */
dt++;
}
printf("Macheps (double) = %g. Liczba bitów mantysy = %d\n", 2*dx, dt);
}
Tym razem wynik jest prawidłowy:
Macheps = 2.22045e-16. Liczba bitów mantysy = 53
Ćwiczenie
Sprawdź, jak zmienią się wyniki, gdy wykorzystasz w swoim programie (zarówno w
wersji 1, jak w wersji 2) opcje kompilacji:
gcc -O3
gcc -ffast-math
gcc -O3 -ffast-math
Spróbuj objaśnić te wyniki, wspomagając się ewentualnie dokumentacją
kompilatora.
Dodaj link: LAPACK daje gotową funkcję, DLAMCH (dla liczb podwójnej precyzji) i
SLAMCH (dla pojedynczej precyzji), pozwalającą stwierdzić
eksperymentalnie, jakie są parametry używanej arytmetyki, m.in. zakres liczb
reprezentowalnych, w jakim systemie reprezentowana jest mantysa, oraz oczywiście
precyzję arytmetyki i liczbę cyfr mantysy. Polecamy analizę kodu źródłowego
LAPACK/dlamch1.f oraz lekturę prac
Malcolm M. A. (1972) Algorithms to reveal properties of floating-point arithmetic. Comms. of the ACM, 15, 949-951.
Gentleman W. M. and Marovich S. B. (1974) More on algorithms that reveal properties of floating point arithmetic units.
Comms. of the ACM, 17, 276-277.
na których oparto tę funkcję LAPACKa. Poniżej przykład zastosowania tej funkcji i wyniki uzyskane na procesorze x86.
==Wpływ błędu zaokrągleń na wyniki obliczeń. Redukcja cyfr i inne
patologie==
Korzystając z wprowadzonego powyżej modelu arytmetyki zmiennoprzecinkowej możemy
spróbować uchwycić wpływ błędu reprezentacji i błędu zaokrągleń na wynik
konkretnego algorytmu.
Przykład
Rozważmy banalne zadanie wyznaczenia iloczynu liczb z tablicy ,
W tym celu stosujemy banalny algorytm:
s = 1.0;
for (i=0; i < N; i++)
s *= x[i];
Sprawdźmy, jak będzie on realizowany w arytmetyce zmiennoprzecinkowej. Dla
uproszczenia założymy, że nie wystąpiło ani zjawisko nadmiaru, ani zjawisko
niedomiaru (w przeciwnym razie dostaniemy w wyniku, odpowiednio, Inf
lub 0).
Naturalnie, zamiast dokładnych wartości , będziemy mieli w
komputerze jedynie ich reprezentacje, , przy czym .
Oznaczając wyznaczoną numerycznie wartość iloczynu po -tym
kroku pętli, mamy, że
gdzie znów . Ostatecznie więc, wyznaczona wartość
iloczynu, spełnia
Ponieważ , gdzie, z pominięciem małych wyższego rzędu, , dostajemy
ostatecznie
gdzie . Ponieważ w arytmetyce podwójnej precyzji , to nawet biorąc iloczyn tysiąca (!) liczb, dostajemy wynik, którego
błąd względny będzie (o ile tylko nie wystąpi nadmiar/niedomiar) bardzo mały,
rzędu !
Powyższe rozumowanie, a także intuicja często wyrażana przez osoby postronne,
prowadzi do przypuszczenia, że:
"Duży błąd względny wyniku jest możliwy dopiero po kumulacji błędów
zaokrągleń po przeprowadzeniu bardzo wielu działań arytmetycznych."
Jednak to jest to całkowicie fałszywy pogląd, o czym świadczy kolejny,
bardzo znamienny
przykład.
Przykład: Redukcja cyfr przy odejmowaniu
Tym razem nasze zadanie jest znacznie prostsze od poprzedniego. Trzeba wyznaczyć
po prostu różnicę dwóch liczb:
Prowadząc analizę jak poprzednio, widzimy, że obliczona numerycznie wartość to
Stąd po prostych oszacowaniach
A więc, gdy , to i w
efekcie możemy utracić nawet wszystkie znaczące cyfry wyniku! To zjawisko
właśnie nosi żargonową nazwę utraty cyfr przy odejmowaniu, choć
precyzyjnie powinno się mówić o "zmniejszeniu liczby dokładnych cyfr znaczących
wyniku przy odejmowaniu dwóch bardzo bliskich sobie liczb".
Przy okazji zauważmy, że prowadząc identyczną analizę dla sumy dwóch liczb
, gdzie i są
tego samego znaku, dostajemy oszacowanie błędu względnego równe ,
niezależnie od wartości liczbowych i !
Skutki zjawiska redukcji cyfr przy odejmowaniu mogą być dramatyczne i ujawnić
się w nadspodziewanie elementarnych sytuacjach.
Numeryczne kłopoty z wyznaczaniem pierwiastków trójmianu kwadratowego
Niech . Korzystając ze szkolenego wzoru na pierwiastki równania kwadratowego
gdzie , możemy natknąć się na trudności, gdy jeden z
pierwiastków jest bardzo bliski zera (tzn. gdy ).
Taka
sytuacja np. powstaje gdy rozważać jednostajnie opóźniony ruch pocisku
wystrzelonego z działka przeciwlotniczego do celu lecącego na małej wysokości. Czas
trafienia w cel jest --- przy pominięciu oporu powietrza --- rozwiązaniem
równania kwadratowego, przy czym czs krótki odpowiada bezpośredniemu trafieniu w
cel, a czas długi --- wystrzeleniu pocisku z wyprzedzeniem wysoko w górę i
poczekaniu, aż spadając trafi w cel od góry. Oczywiście, żaden artylerzysta nie
będzie się interesował tym ostatnim przypadkiem: interesujące jest więc dokładne (bo cel leci szybko) wyznaczenie mniejszego pierwiastka.
Niestety, skoro , to wyznaczając mniejszy pierwiastek
ryzykujemy utratę cyfr przy odejmowaniu. Ale na szczęście, można to ominąć
zgodnie z często stosowaną w numeryce regułą:
Jeśli problem jest trudny --- najlepiej zmienić problem!
W naszym wypadku ratunkiem jest matematyczna transformacja problemu tak, by już
nie było w nim odejmowania bliskich sobie liczb. Rzeczywiście, przecież wciąż
mamy dobry wzór na większy z pierwiastków, ! Dokładając do tego wzór Viete'a,
dostajemy inny wzór na , nie zawierający feralnego odejmowania. Poniżej
demonstrujemy program w C, testujący jakość obu podejść.
# include <stdio.h>
# include <math.h>
/* w(x) = ax^2 - 2px + q = 0 */
/* delta = 4(p^2 - qa) */
double const a = 2.1, q = 1e-6, p=1.1;
double w(double x) /* wartość wielomianu w punkcie x */
{
return(a*x*x - 2.0*p*x + q);
}
int main(void)
{
double x1, x2, x1v, X1, X1v, X2;
double Delta; /* wartość Delty liczymy w podwójnej precyzji */
float delta; /* wartość delty liczymy w pojedynczej precyzji */
delta = Delta = sqrt(p*p - q*a);
printf("Wielomian w(x) = %e x^2 - %e x + %e.\nDelta = %e\n", a, 2*p, q, delta);
/* pierwiastki liczone wzorem szkolnym, z niedokładną deltą */
x1 = (p - delta)/a;
x2 = (p + delta)/a;
/* mniejszy pierwiatek, liczony z mało dokładną deltą, ale lepszym
wzorem: Viete'a */
x1v = (q/a)/x2;
/* pierwiastki liczone wzorem szkolnym, z dokładniejszą Deltą */
X1 = (p - Delta)/a;
X2 = (p + Delta)/a;
/* mniejszy pierwiatek, liczony z dokładniejszą Deltą, ale lepszym
wzorem: Viete'a */
X1v = (q/a)/X2;
printf("\nPierwiastki z mało dokładną deltą:\n");
printf(" Wzór szkolny: x1 = %e x2 = %e\n Wzór Viete'a: x1v = %e x2 = j.w.\n",
x1,x2,x1v);
printf("\nPierwiastki z dokładniejszą Deltą:\n");
printf(" Wzór szkolny: X1 = %e X2 = %e\n Wzór Viete'a: X1v = %e X2 = j.w.\n",
X1,X2,X1v);
printf("\nWzględna zmiana wartości pierwiastka:\n");
printf(" (x1 - x1v)/x1v = %e\n", (x1-x1v)/x1v);
printf(" (x1v -X1v)/X1v = %e\n", (x1v-X1v)/X1v);
printf(" (x2 - X2)/X2 = %e\n", (x2-X2)/X2);
printf("\nWartość wielomianu w wyznaczonych punktach:\n");
printf(" w(x1) = %e\n w(x1v) = %e w(X1v) = %e\n w(x2) = %e\n w(X2) = %e\n ",
w(x1),w(x1v),w(X1v),w(x2),w(X2));
return(0);
}
Wielomian w(x) = 2.100000e+00 x^2 - 2.200000e+00 x + 1.000000e-06.
Delta = 1.099999e+00
Pierwiastki z mało dokładną deltą:
Wzór szkolny: x1 = 4.427774e-07 x2 = 1.047619e+00
Wzór Viete'a: x1v = 4.545456e-07 x2 = j.w.
Pierwiastki z dokładniejszą Deltą:
Wzór szkolny: X1 = 4.545457e-07 X2 = 1.047619e+00
Wzór Viete'a: X1v = 4.545457e-07 X2 = j.w.
Względna zmiana wartości pierwiastka:
(x1 - x1v) / x1v = -2.589022e-02
(x1v -X1v) / X1v = -1.123337e-08
(x2 - X2) / X2 = 1.123337e-08
Wartość wielomianu w wyznaczonych punktach:
w(x1) = 2.589022e-08
w(x1v) = 1.123337e-14, w(X1v) = -3.194985e-23
w(x2) = 2.589022e-08
w(X2) = -1.357688e-17
Jak więc widzimy, nawet z niezbyt dokładnie wyznaczoną deltą, mniejszy
pierwiastek jesteśmy w stanie wyznaczyć bardzo precyzyjnie --- o ile tylko
unikniemy redukcji cyfr przy odejmowaniu.
Przykład: Powiększenie?
Ten obrazek już widzieliśmy na początku wykładu.
Wykres funkcji wyznaczony (w bardzo bliskiej okolicy zera) na dwa sposoby w arytmetyce podwójnej precyzji.
Wyjaśnieniem tej niepokojącej obserwacji jest znowu zjawisko redukcji cyfr
przy odejmowaniu: wartości są bliskie zera, a powstają jako suma dużych
liczb z przeciwnymi znakami.
Czasem możemy spotkać się z twierdzeniem, że nie warto zawracać sobie głowy
metodami numerycznymi, gdyż są dostępne pakiety obliczeń symbolicznych (Maple,
Mathematica, MuPAD, Maxima), które potrafią "wszystko policzyć z dowolną
precyzją".
To oczywiście też nie jest do końca prawdą. Precyzja, o której mowa, jest
jedynie precyzją używanej arytmetyki (rzeczywiście, softwarowo można emulować
dowolną precyzję), ale dokładność wyniku nie może być w nich a priori
zadana. Wiele bowiem może zależeć od właściwości samego zadania obliczeniowego,
o czym mówimy w następnej części wykładu. Na razie prosty przykład:
Przykład: Co oznacza precyzja w pakietach symbolicznych
Oto fragment sesji pakietu obliczeń symbolicznych MUPAD:
Najpierw wyznaczona została wartość wyrażenia algebraicznego, korzystając z
manipulacji symbolicznej --- oczywiście bez trudu system stwierdził, że to
wyrażenie upraszcza się do zera.
Następnie zażądaliśmy, by DIGITS --- parametr sterujący "liczbą cyfr
znaczących dla liczb zmiennoprzecinkowych", jak to określa manual MUPADa ---
przyjął wartość równą 10.
Wymuszając, przez podanie 3.0 zamiast 3 stosowanie w
obliczeniach arytmetyki
zmiennoprzecinkowej zamiast symbolicznej (pamiętasz, jak to jest w C?) dostajemy
wynik, który nie ma ani jednej cyfry znaczącej dokładnej. Z drugiej strony,
widzimy także, iż faktycznie stosowana precyzja obliczeń jest znacznie większa i wynosi
około 19 cyfr znaczących, chociaż żądaliśmy jedynie 10...
Jak wynika z powyższego, w praktyce pakiety symboliczne
stosują znacznie większą niż żądana precyzję obliczeń, by ustrzec się
najbardziej typowych patologii. I faktycznie, zazwyczaj taka strategia (choć
kosztowna) jest
satysfakcjonująca!