MN03

From Studia Informatyczne


Spis treści

Arytmetyka zmiennoprzecinkowa

<<< Powrót do strony głównej przedmiotu Metody numeryczne

Już w poprzednich ćwiczeniach mogłeś zauważyć, że niekiedy uzyskujesz wyniki niezgodne z teoretycznymi rachunkami. Twój niepokój zapewne zwiększy się, gdy przyjrzysz się kolejnym przykładom:

Przykład

Przyrzyjmy się, jak w dużym zbliżeniu wygląda wykres funkcji \displaystyle w(x) = x^4-4x^3+6x^2-4x+1, której wartości zostały obliczone na komputerze PC. Wykres \displaystyle w (wyznaczony tym wzorem) zdaje się mieć mnóstwo różnych miejsc zerowych w okolicy \displaystyle x=1. Co gorsza, wygląda na to, że \displaystyle w wcale nie jest gładka!

Wartości funkcji  obliczone według wzoru. Na marginesie: . Prawdziwe wartości zaznaczone na czerwono.
Enlarge
Wartości funkcji \displaystyle w(x) = x^4-4x^3+6x^2-4x+1 obliczone według wzoru. Na marginesie: \displaystyle w(x) = (x-1)^4. Prawdziwe wartości zaznaczone na czerwono.

Tymczasem nietrudno sprawdzić, że \displaystyle w ma dokładnie jedno miejsce zerowe, gdyż \displaystyle w(x)=(x-1)^4. Jeśli więc \displaystyle w(x) jest zadania w swojej pierwotnej postaci, metody znajdowania miejsca zerowego mogą mieć na niej poważne kłopoty (np. metoda bisekcji może wykazać, że miejsce zerowe \displaystyle w "na pewno" leży na prawo od \displaystyle x=1...)

Wykonywanie realnych obliczeń na liczbach rzeczywistych w komputerze może być źródłem wielu innych zaskoczeń.

Przykład

W komputerze,

\displaystyle  10\cdot (1.1 - 1) \neq 1

co możesz łatwo sprawdzić:

octave:7> 10 * (1.1 -1) - 1 ans = 8.8818e-16

(Na wszelki wypadek przelicz, jaki wynik dostaniesz na swoim... kalkulatorze... Jeszcze bardziej zaskoczony?) Dlatego

W praktyce numerycznej należy wystrzegać się testów w rodzaju
if (x == 1.0) 
{
	....
}

Źródło naszego zaniepokojenia leży w przyjętym zbyt uproszczonym modelu obliczeniowym. Jest on modelem idealistycznym, tzn. zakłada, że wszystkie operacje matematyczne są wykonywane bezbłędnie. Dlatego w tym przypadku będziemy mówić o arytmetyce idealnej. W praktyce jednak, np. wykonując obliczenia na maszynie cyfrowej, operacje arytmetyczne na liczbach rzeczywistych wykonywane są z pewnym błędem. Matematycznym modelem arytmetyki maszyny cyfrowej jest arytmetyka \displaystyle fl_\nu (albo arytmetyka zmiennoprzecinkowa), którą teraz przypomnimy.

Niech będzie zadana liczba naturalna \displaystyle b (jej znaczenie wyjaśni się w następnym rozdziale). Dowolną liczbę rzeczywistą \displaystyle x\ne 0 można jednoznacznie przedstawić w postaci

\displaystyle x\,=\,s\cdot 2^{c-b}\cdot m,

gdzie \displaystyle s\in\{-1,1\} jest znakiem, liczba całkowita \displaystyle (c-b) cechą, a liczba rzeczywista \displaystyle m\in [1,2) mantysą liczby \displaystyle x. Zauważmy, że taki rozkład jest jednoznaczny i odpowiada przesuwaniu przecinka w rozwinięciu binarnym liczby do pierwszej cyfry znaczącej, tj. różnej od zera (stąd nazwa: reprezentacja zmiennoprzecinkowa (floating point)). Mantysa ma w ogólności nieskończenie wiele cyfr binarnych \displaystyle f_j w swoim rozwinięciu dwójkowym,

\displaystyle m = 1 + f \equiv 1 + \sum_{j=1}^\infty f_j 2^{-j} = (1.f_1f_2f_3\ldots)_2,

gdzie \displaystyle f_j\in\{0,1\}. Wobec tego najczęściej nie będzie mogła być zapamiętana dokładnie w pamięci komputera, gdyż możemy przechować jedynie ograniczoną liczbę cyfr cechy i mantysy.

Reprezentacja zmiennoprzecinkowa

W komputerach osobistych mamy do czynienia z reprezentacją liczb rzeczywistych, w której do zapisania liczby używa się ściśle określonej liczby bitów \displaystyle t do zapisania mantysy i także określonej liczby bitów \displaystyle p do zapisania cechy danej liczby niezerowej \displaystyle x:

\displaystyle  s\,c_1c_2\ldots c_p\,f_1f_2\ldots f_t

(łącznie \displaystyle 1+p+t bitów). Liczby zapisane przy użyciu powyższej sekwencji bitów nazywa się liczbami maszynowymi. Są to jedyne dokładnie zapisywalne w komputerze liczby rzeczywiste, pozostałe będą musiały zostać wyrażone z wykorzystaniem liczb maszynowych.

Reprezentacją zmiennoprzecinkową niezerowej liczby \displaystyle x będziemy nazywać liczbę \displaystyle rd_\nu(x) taką, że

\displaystyle  rd_\nu(x) = (-1)^s \cdot (1+f)\cdot 2 ^{c-b},

gdzie \displaystyle f jest liczbą dwójkową postaci \displaystyle (0.f_1\ldots f_{t})_2, natomiast \displaystyle c jest liczbą naturalną postaci \displaystyle (c_1\ldots c_p)_2. Na znak liczby, \displaystyle s, przeznaczony jest jeden bit. Wartości \displaystyle c i \displaystyle f dobiera się tak, żeby \displaystyle rd_\nu(x) była tak bliska \displaystyle x jak to możliwe. Stałą całkowitą \displaystyle b dobiera się tak, by uzyskać zbalansowany zakres cechy \displaystyle c-b (mniej więcej tyle samo wartości ujemnych i dodatnich), a zysk z korzystania z niej jest taki, że nie marnujemy dodatkowego bitu na przechowywanie znaku wykładnika potęgi dwójki \displaystyle c-b.

Przy takim sposobie reprezentacji, jej błąd względny szacuje się przez

\displaystyle  \left|\frac{rd_\nu(x) - x }{x}\right| \leq \frac{1}{2^{t+1}}.

Liczbę \displaystyle \nu = \frac{1}{2^{t+1}} nazywa się precyzją arytmetyki. Jak widać, ma ma ona wpływ na to, jak wiele cyfr znaczących liczby jest reprezentowanych dokładnie. Precyzja arytmetyki zależy wyłącznie od liczby bitów przeznaczonych na reprezentację mantysy.

Ostatnią nierówność wygodnie jest zapisać w równoważny sposób jako

\displaystyle rd_\nu(x)\,=\,x(1+\epsilon), \qquad  \mbox{gdzie} \quad |\epsilon|\le\nu.

Przykład

Rozważmy bardzo prościutki system, w którym zarówno na cechę, jak i mantysę, przeznaczone są jedynie po dwa bity, zatem jedna liczba maszynowa zajmuje 5 bitów. Ponieważ w konsekwencji możliwy zakres wartości \displaystyle c to \displaystyle 0,\ldots, 3, rozsądne jest więc przyjęcie korekty \displaystyle b = 1, dzięki czemu \displaystyle -1 \leq c-b \leq 2. Z kolei możliwe wartości mantysy to

\displaystyle  (1.00)_2 = 1,\qquad (1.01)_2 = 1.25,\qquad (1.10)_2 = 1.5,\qquad (1.11)_2 = 1.75.

Wobec tego, jedyne (dodatnie) liczby maszynowe naszej pięciobitowej arytmetyki zmiennopozycyjnej to

\displaystyle  0.500,  0.625,  0.750,  0.875 1.000 , 1.250,  1.500,  1.750 2.000,  2.500,  3.000,  3.500 4.000, 5.000, 6.000, 7.000
Liczby maszynowe: reprezentowane dokładnie w pięciobitowej arytmetyce o precyzji . (Przedstawiliśmy tylko liczby nieujemne)
Enlarge
Liczby maszynowe: reprezentowane dokładnie w pięciobitowej arytmetyce o precyzji \displaystyle 2^{-2}. (Przedstawiliśmy tylko liczby nieujemne)

Standard IEEE 754

Z nielicznymi egzotycznymi wyjątkami (np. Cray C90), współczesne procesory używane w komputerach osobistych lub większych, implementują IEEE 754 Floating Point Standard, który definiuje dwa zasadnicze formaty reprezentacji zmiennoprzecinkowej liczb rzeczywistych:

Typ IEEE 754 Pojedycznej precyzji Podwójnej precyzji
Nazwa typu w C float double
Liczba bitów cechy 8 11
Liczba bitów mantysy 23 52
Liczba bajtów dla typu w C 4 8
Bias (liczba \displaystyle b powyżej) 127 1023
Orientacyjny zakres \displaystyle 10^{-38}\ldots 10^{+38} \displaystyle 10^{-308}\ldots 10^{+308}
Orientacyjna precyzja \displaystyle 6\cdot 10^{-8} \displaystyle  10^{-16}

(maksymalna i minimalna wartość cechy \displaystyle c ma specjalne znaczenie). Dodatkowo, w procesorach x86 mamy typ podwójnej rozszerzonej precyzji, który także jest zdefiniowany w IEEE 754 (dokładnie odpowiadał ówczesnym możliwościom procesora Intel 8087; procesory Intela zresztą do tej pory mają jedną z najlepszych implementacji standardu IEEE 754).

Standard IEEE 754 określa także reguły wykonywania działań arytmetycznych w arytmetyce zmiennoprzecinkowej jest obecnie uaktualniany, jego nowa wersja powinna ukazać się pod koniec 2006 roku.

W Octave można łatwo podejrzeć reprezentację binarną liczby zmiennoprzecinkowej podwójnej precyzji (jest to domyślny typ numeryczny stosowany w MATLABie i Octave),

octave:9> format bit octave:10> x = -2 x = 1100000000000000000000000000000000000000000000000000000000000000 octave:11> x = 1/4 x = 0011111111010000000000000000000000000000000000000000000000000000 octave:12> x = NaN x = 1111111111111000000000000000000000000000000000000000000000000000 octave:13> x = 0 x = 0000000000000000000000000000000000000000000000000000000000000000 octave:14> x = Inf x = 0111111111110000000000000000000000000000000000000000000000000000 octave:15> x = 0.1 x = 0011111110111001100110011001100110011001100110011001100110011010

(w MATLABie możemy zobaczyć tę samą liczbę w zapisie szestnastkowym).

Przykład: Nawet liczba 0.1 nie jest reprezentowana dokładnie!

Rozwinięcie dwójkowe liczby 0.1 jest nieskończone:

\displaystyle  0.1 = (0.0001 1001 1001 1001 \ldots)_2.

Ten banalny fakt jest bardzo często przeoczany przez programistów, a w 1991 roku doprowadził nawet do spektakularnej awarii systemu antyrakietowego Patriot. Okazało się, że --- w tajemniczy sposób --- zazwyczaj bezbłędnie trafiające w cel rakiety Patriot traciły skuteczność, gdy przez wiele godzin pozostawały w stanie gotowości.

Grafika:Patriot missile launch.jpg
System rakietowy Patriot

Wyjaśnienie zagadki leżało na styku pomiędzy hardware a software rakiety. Jak zbadano, w celu pomiaru czasu, zliczano kolejne tyknięcia zegara rakiety, które następowały dokładnie co 0.1 sekundy. Następnie, w celu wyznaczenia prawdziwego czasu, mnożono liczbę tyknięć zegara przez 0.1 (które właśnie było niedokładnie reprezentowane). Gdy cykli zegara było bardzo dużo, błąd bezwzględny wyznaczenia czasu stawał się na tyle poważny, że uniemożliwiał precyzyjne wyznaczenie parametrów toru lotu nieprzyjacielskiego obiektu!

Na marginesie zauważmy, że np. liczba \displaystyle 0.125 jest reprezentowana dokładnie w arytmetyce zmiennoprzecinkowej (dlaczego?) i nie powodowałaby już tego problemu. Podobnie dawałoby się uniknąć problemu, działając wyłącznie na różnicach liczby tyknięć...

Więcej informacji o najróżniejszych katastrofach spowodowanych błędami w programowaniu można przeczytać na stronach Thomasa Huckle.

Uwaga

Nie wszystkie maszyny liczące wykorzystują reprezentację dwójkową. Kiedyś zdarzały się komputery reprezentujące liczby w postaci

\displaystyle x\,=\,s\cdot \beta^c\cdot m,

gdzie \displaystyle \beta = 8 lub 16, a nawet 3 (sic!). Do dzisiaj, w podręcznych kalkulatorach najczęściej spotykaną podstawą reprezentacji liczb jest \displaystyle \beta = 10.

Uwaga

Producenci niektórych procesorów świadomie rezygnują z pełnej implementacji IEEE 754 dla zwiększenia szybkości działania, niestety czasem kosztem dokładności wyniku. Tak dawno temu było w procesorach Cray; tak też działają niektóre instrukcje wektorowe (z tzw. zestawu 3DNow!) w procesorach AMD, które np. wynik dzielenia wektorowego zwracają z precyzją tylko 14 bitów mantysy. Procesor IBM Cell (stosowany w Sony Playstation 3), choć pod wieloma względami zgodny z IEEE 754, również nie w pełni implementuje ten standard.

Nadmiar i niedomiar

W maszynie cyfrowej cecha \displaystyle c liczby rzeczywistej nie może oczywiście mieć dowolnie dużej wartości bezwzględnej, \displaystyle |c|\le c_{\max}, dlatego nie wszystkie liczby rzeczywiste są w ogóle reprezentowalne. Powoduje to powstanie zjawiska nadmiaru gdy dla liczby \displaystyle x\displaystyle c>c_{\max}, oraz zjawiska niedomiaru gdy \displaystyle c<-c_{\min}. W pierwszym przypadku liczba jest tak duża (co do modułu), że nie zawiera się w przedziale liczb reprezentowalnych, a w drugim jest tak mała, że musi być reprentowana przez zero, przy czym błąd względny reprezentacji wynosi wtedy \displaystyle 1 a nie \displaystyle \nu.

Próżnia wokół zera (na przykładzie 5-bitowej arytmetyki)
Enlarge
Próżnia wokół zera (na przykładzie 5-bitowej arytmetyki)

Arytmetyka IEEE 754 przyjmuje, że liczby dla których następuje overflow są reprezentowane przez specjalną wartość Inf (nieskończoność, ze znakiem), która propaguje się w obliczeniach zgodnie z powszechnie przyjętymi regułami, np. 1+Inf daje Inf, 1/Inf daje 0, Inf-Inf daje NaN, itd.

Wszystkie liczby większe od największej zapisywalnej liczby są reprezentowane przez Inf (na przykładzie 5-bitowej arytmetyki)
Enlarge
Wszystkie liczby większe od największej zapisywalnej liczby są reprezentowane przez Inf (na przykładzie 5-bitowej arytmetyki)

W dalszych rozważaniach zjawiska nadmiaru i niedomiaru będziemy dla uproszczenia zaniedbywać, jednak nie zawsze jest to uzasadnione, o czym niech świadczy poniższy przykład.

Przykład: Wyznaczanie normy euklidesowej wektora

Jedną z najczęściej wykonywanych operacji na wektorze \displaystyle x = (x_1,\ldots,x_n)^T \in R^n jest obliczenie jego normy euklidesowej,

\displaystyle  ||x||_2 = \sqrt{x_1^2 + \ldots x_n^2}.

Jak widać, możemy tu łatwo zetknąć się ze zjawiskiem zarówno niedomiaru, jak i nadmiaru, gdyż może się na przykład tak złożyć, że mimo iż \displaystyle ||x||_2 jest reprezentowana, to \displaystyle x_1^2 już nie (np. w arytmetyce podwójnej precyzji \displaystyle x_1 = 10^{200} i \displaystyle x_2 = 1).

Łatwym wyjściem z tej sytuacji jest wstępna normalizacja danych tak, by wszystkie nie były większe od 1: niech \displaystyle M = \max\{|x_i|: i = 1,\ldots,n\} i wtedy

\displaystyle  ||x||_2 = \sqrt{x_1^2 + \ldots x_n^2} = M\cdot\sqrt{\left(\frac{x_1}{M}\right)^2 + \ldots + \left(\frac{x_1}{M}\right)^2}.

i teraz suma pod pierwiastkiem jest zawsze pomiędzy 1 a \displaystyle N. Wadą omówionego rozwiązania jest to, że wymaga ono dwukrotnego przejrzenia całego wektora (raz, by znaleźć \displaystyle M, drugi raz --- by policzyć sumę. Na szczęście można go zmodyfikować tak, by działał w jednym przebiegu. Zupełnie inny algorytm, w którym --- ciekawostka! --- w ogóle nie oblicza się ani kwadratów, ani pierwiastków, podali Moler i Morrison. Jak można sprawdzić, ich metoda opierała się w istocie na sprowadzeniu zadania do pewnego równania nieliniowego i zastosowaniu szybkozbieżnej iteracji.

Liczby denormalizowane

Wymaganie, że mantysa jest postaci \displaystyle 1+f, \displaystyle f\geq 0, powoduje, że wokół zera pojawia się coś w rodzaju próżni. Formalnie, liczby mniejsze niż \displaystyle 2^{1-1023} powinny być reprezentowane przez 0, lecz zazwyczaj zamiast tego

octave:16> format bit octave:17> x = 2^(-1022) x = 0000000000010000000000000000000000000000000000000000000000000000 octave:18> x = 2^(-1023) x = 0000000000001000000000000000000000000000000000000000000000000000 octave:19> x = 2^(-1028) x = 0000000000000000010000000000000000000000000000000000000000000000

W ten sposób można (w podwójnej precyzji) zbliżyć się do zera na odległość około \displaystyle 10^{-323}.

Liczby denormalizowane trochę wypełniają próżnię wokół zera
Enlarge
Liczby denormalizowane trochę wypełniają próżnię wokół zera

Działania w arytmetyce zmiennoprzecinkowej

Standard IEEE 754 określa także "prawidłowy" sposób realizacji działań arytmetycznych w arytmetyce zmiennoprzecinkowej. W arytmetyce \displaystyle fl_\nu implementującej standard IEEE 754, działania arytmetyczne na liczbach rzeczywistych (a raczej na ich reprezentacjach) muszą być implementowane tak, jakby działanie było wykonywane dokładnie i tylko wynik reprezentowano w zbiorze liczb maszynowych. Mamy więc

\displaystyle fl_\nu(x\,\Box\,y)\,=\,rd_\nu\left(\,rd_\nu(x)\,\Box\,rd_\nu(y)\,\right),

gdzie \displaystyle \Box\in\{+,-,\times,\div\}, Ogólniej, jeśli \displaystyle {\cal W}_1 i \displaystyle {\cal W}_2 są wyrażeniami o wartościach rzeczywistych, to dla dowolnych wartości zmiennych

\displaystyle fl_\nu({\cal W}_1\,\Box\,{\cal W}_2)\,=\,   rd_\nu\left(\,fl_\nu({\cal W}_1)\,\Box\,fl_\nu({\cal W}_2)\right).

Zwykle dla prostoty będziemy również zakładać podobną zależność dla niektórych funkcji standardowych, o ile należą one do zbioru operacji elementarnych (chociaż w rzeczywistości są one obliczane przez procedury używające czterech podstawowych operacji arytmetycznych). I tak będziemy mieć np.

\displaystyle \aligned fl_\nu\Big(\sqrt{{\cal W}}\Big) &= \left(\sqrt{fl_\nu({\cal W})}\right)         (1+\beta_1),\\   fl_\nu(\cos({\cal W})) &= \left(\cos(fl_\nu({\cal W}))\right)(1+\beta_2), \endaligned

gdzie \displaystyle |\epsilon_j|\le\nu, oraz \displaystyle \beta_j\le K_j\nu i \displaystyle K_j są "niewielkimi" stąłymi.

Przypuśćmy, że w naszym prościutkim pięciobitowym systemie spełniającym wymogi standardu IEEE 754 zechcemy wykonać mnożenie

\displaystyle  1.3 \cdot 2.4

Poniżej możemy przekonać się, jak będzie ono przebiegać (na przykładzie 5-bitowej arytmetyki).

Mnożenie dwóch liczb rzeczywistych (na przykładzie 5-bitowej arytmetyki)

Liczba 1.3 nie jest dokładnie reprezentowalna w naszym systemie
Enlarge
Liczba 1.3 nie jest dokładnie reprezentowalna w naszym systemie
Jej reprezentacja to najbliższa jej liczba maszynowa --- 1.25
Enlarge
Jej reprezentacja to najbliższa jej liczba maszynowa --- 1.25
Również drugi czynnik, 2.4, nie jest liczbą maszynową
Enlarge
Również drugi czynnik, 2.4, nie jest liczbą maszynową
A więc jego reprezentacją będzie znów najbliższa mu liczba maszynowa.
Enlarge
A więc jego reprezentacją będzie znów najbliższa mu liczba maszynowa.
Mnożenie odbywa się już na reprezentacjach obu czynników
Enlarge
Mnożenie odbywa się już na reprezentacjach obu czynników
Wynik dokładnego mnożenia tych liczb maszynowych to 3.125 --- znowu musi być zaokrąglony...
Enlarge
Wynik dokładnego mnożenia tych liczb maszynowych to 3.125 --- znowu musi być zaokrąglony...
...do najbliższej liczby maszynowej. Ostatecznie, błąd względny wyniku wynosi około  i jest znacznie mniejszy niż pesymistyczne oszacowanie (czasem osiągalne, lecz nie tym razem!)
Enlarge
...do najbliższej liczby maszynowej. Ostatecznie, błąd względny wyniku wynosi około \displaystyle 10^{-3} i jest znacznie mniejszy niż pesymistyczne oszacowanie (czasem osiągalne, lecz nie tym razem!) \displaystyle 2^{-3} \approx 10^{-1}

Podobnie, jeśli \displaystyle \triangle jest operatorem porównania, \displaystyle \triangle\in\{<,\le,=,\ne\}, to wartością wyrażenia logicznego \displaystyle {\cal W}_1\triangle {\cal W}_2 w \displaystyle fl_\nu jest dokładna wartość wyrażenia \displaystyle fl_\nu({\cal W}_1)\trianglefl_\nu({\cal W}_2).

Dosyć dziwnie w porównaniach zachowuje się specjalna liczba NaN (not-a-number), dla której zawsze zachodzi, że NaN\displaystyle \neqNaN. Liczba NaN pojawia się jako wynik zabronionych operacji matematycznych, np. \displaystyle 0/0, \sqrt{-2}, Inf - Inf, itp., i także propaguje się w dalszych obliczeniach.

Standard IEEE 754 nie gwarantuje, że działania arytmetyczne będą łączne, co widać na poniższym przykładzie:

octave:9> 7.1 - (7+0.1) ans = 0 octave:10> (7.1 - 7) - 0.1 ans = -3.6082e-16

Praktyczne wyznaczanie precyzji arytmetyki

Aby wyznaczyć precyzję używanej przez nas arytmetyki możemy wykonać prosty test. Pomyślmy, jaka jest najmniejsza dodatnia liczba \displaystyle \epsilon_{ \mbox{mach} }, która dodana do jedności da w wyniku liczbę większą od 1.0 (liczbę \displaystyle \epsilon_{ \mbox{mach} } nazywa się czasem epsilonem maszynowym, macheps). Jasne jest, że w przypadku arytmetyki IEEE 754 jest to liczba równa podwojonej precyzji arytmetyki, \displaystyle 2^{-t}, gdzie \displaystyle t jest liczbą cyfr mantysy \displaystyle f. Stąd dostajemy prosty algorytm wyznaczania epsilona maszynowego:

x = 1.0;
while ( 1.0 + x > 1.0 )
{
	x = x / 2.0;
}
printf("Macheps = %g", 2.0*x);
}

Jednak, w rzeczywistości musimy być bardziej ostrożni. Implementując ten algorytm w C następująco

/* Wyznaczanie epsilona maszynowego, wersja 1 */
#include <stdio.h>
 
int main(void)
{
	int dt;
	double dx;
 
	dt = 0; dx = 1.0;
	while(1.0 + dx > 1.0) 
	{
		dx *= 0.5;
		dt++;
	}
	printf("Macheps (double) = %g. Liczba bitów mantysy = %d\n", 2*dx, dt);
	return(0);
}

dostajemy wynik niezgodny z oczekiwaniami:

Macheps = 1.0842e-19. Liczba bitów mantysy = 64.

Wynika to stąd, że w C obliczenia wykonują się zawsze z maksymalną możliwą precyzją. W procesorach x86 jest to precyzja arytmetyki extended double precision, wykorzystującej 80 bitów do reprezentacji liczb. Dlatego działanie

1.0 + dx > 1.0

wykona się w arytmetyce nie podwójnej (64-bitowej), ale rozszerzonej podwójnej precyzji. Aby sprawić, by działanie zostało wykonane z wykorzystaniem typu double, musimy nasz program trochę zmodyfikować:

/* Wyznaczanie epsilona maszynowego, wersja 2 */
#include <stdio.h>
 
int main(void)
{
	int dt;
	double dx, dxp1;
	
	dt = 0; dx = 1.0; dxp1 = 2.0;
	while(dxp1 > 1.0) 
	{
		dx *= 0.5;
		dxp1 = 1.0 + dx; /* tym razem wynik działania zostanie zapisany
				do zmiennej typu double */
		dt++;
	}
	printf("Macheps (double) = %g. Liczba bitów mantysy = %d\n", 2*dx, dt);
}

Tym razem wynik jest prawidłowy:

Macheps = 2.22045e-16. Liczba bitów mantysy = 53

Ćwiczenie

Sprawdź, jak zmienią się wyniki, gdy wykorzystasz w swoim programie (zarówno w wersji 1, jak w wersji 2) opcje kompilacji:

  • gcc -O3
  • gcc -ffast-math
  • gcc -O3 -ffast-math

Spróbuj objaśnić te wyniki, wspomagając się ewentualnie dokumentacją kompilatora.

Biblioteka LAPACK daje gotową funkcję, DLAMCH (dla liczb podwójnej precyzji) i SLAMCH (dla pojedynczej precyzji), pozwalającą stwierdzić eksperymentalnie, jakie są parametry używanej arytmetyki, m.in. zakres liczb reprezentowalnych, w jakim systemie reprezentowana jest mantysa, oraz oczywiście precyzję arytmetyki i liczbę cyfr mantysy. Polecamy analizę kodu źródłowego LAPACK/dlamch1.f oraz lekturę prac

  • Malcolm M. A. (1972) Algorithms to reveal properties of floating-point arithmetic. Comms. of the ACM, 15, 949-951.
  • Gentleman W. M. and Marovich S. B. (1974) More on algorithms that reveal properties of floating point arithmetic units. Comms. of the ACM, 17, 276-277.

na których oparto tę funkcję LAPACKa. Poniżej przykład zastosowania tej funkcji...

/* Wyznaczanie epsilona maszynowego i innych charakterystyk arytmetyki podwójnej
precyzji z wykorzystaniem funkcji DLAMCH z LAPACKa */
#include <stdio.h>
#include <math.h>
 
double dlamch_(char *CMACH); /* funkcja DLAMCH z LAPACKa */
 
int main(void)
{
char CMACH;
 
	CMACH = 'e';
	printf("Epsilon maszynowy: %g\n", dlamch_(&CMACH));
	CMACH = 'b';
	printf("Podstawa arytmetyki: %g\n", dlamch_(&CMACH));
	CMACH = 'n';
	printf("Liczba bitów mantysy: %g\n", dlamch_(&CMACH));
	CMACH = 'u';
	printf("Zakres: %g ", dlamch_(&CMACH));
	CMACH = 'o';
	printf("... %g\n", dlamch_(&CMACH));
	CMACH = 'r';
	return(0);
}

...i wyniki uzyskane na procesorze x86:

Epsilon maszynowy: 2.22045e-16 Podstawa arytmetyki: 2 Liczba bitów mantysy: 53 Zakres: 2.22507e-308 ... 1.79769e+308

Wpływ błędu zaokrągleń na wyniki obliczeń. Redukcja cyfr i inne patologie

Korzystając z wprowadzonego powyżej modelu arytmetyki zmiennoprzecinkowej możemy spróbować uchwycić --- na drodze teoretycznych rozważań --- wpływ błędu reprezentacji i błędu zaokrągleń na wynik konkretnego algorytmu.

Przykład

Rozważmy banalne zadanie wyznaczenia iloczynu \displaystyle N liczb z tablicy \displaystyle x,

\displaystyle  s = x_0\cdot \cdots \cdot x_{N-1}.

W tym celu stosujemy banalny algorytm:

s = 1.0;
for (i=0; i < N; i++)
	s *= x[i];

Sprawdźmy, jak będzie on realizowany w arytmetyce zmiennoprzecinkowej. Dla uproszczenia założymy, że nie wystąpiło ani zjawisko nadmiaru, ani zjawisko niedomiaru (w przeciwnym razie dostaniemy w wyniku, odpowiednio, \displaystyle \pmInf lub 0).

Naturalnie, zamiast dokładnych wartości \displaystyle x_0, \ldots x_{N-1}, będziemy mieli w komputerze jedynie ich reprezentacje, \displaystyle \widetilde{x}_i = rd_\nu(x_i) = x_i ( 1 + \delta_i), przy czym \displaystyle |\delta_i| \leq \nu.

Oznaczając \displaystyle \widetilde{s}_i wyznaczoną numerycznie wartość iloczynu po \displaystyle i-tym kroku pętli, mamy, że

\displaystyle  \widetilde{s}_{i+1} = fl_\nu(\widetilde{s}_i \times \widetilde{x}_i) = \widetilde{s}_i \cdot  \widetilde{x}_i \cdot (1 + \epsilon_i),

gdzie znów \displaystyle |\epsilon_i| \leq \nu. Ostatecznie więc, wyznaczona wartość iloczynu, \displaystyle \widetilde{s} spełnia

\displaystyle  \widetilde{s} = x_0\cdots x_{N-1} \cdot \Pi_{i=0}^{N-1}(1+\epsilon_i)(1+\delta_i).

Ponieważ \displaystyle \Pi_{i=0}^{N-1}(1+\epsilon_i) = (1 + {\cal E}), gdzie, z pominięciem małych wyższego rzędu, \displaystyle |{\cal E}| \leq N\nu, dostajemy ostatecznie

\displaystyle  \widetilde{s} = s \cdot (1+E),

gdzie \displaystyle |E|\leq 2N\nu. Ponieważ w arytmetyce podwójnej precyzji \displaystyle \nu \approx 10^{-16}, to nawet biorąc iloczyn tysiąca (!) liczb, dostajemy wynik, którego błąd względny będzie (o ile tylko nie wystąpi nadmiar/niedomiar) bardzo mały, rzędu \displaystyle 10^{-13}!

Powyższe rozumowanie, a także intuicja często wyrażana przez osoby postronne, prowadzi do przypuszczenia, że:

"Duży błąd względny wyniku jest możliwy dopiero po kumulacji błędów zaokrągleń po przeprowadzeniu bardzo wielu działań arytmetycznych."

Jednak to jest to całkowicie fałszywy pogląd, o czym świadczy kolejny, bardzo znamienny przykład.

Przykład: Redukcja cyfr przy odejmowaniu

Tym razem nasze zadanie jest znacznie prostsze od poprzedniego. Trzeba wyznaczyć po prostu różnicę dwóch liczb:

\displaystyle  s = a - b.

Prowadząc analizę jak poprzednio, widzimy, że obliczona numerycznie wartość to

\displaystyle  \widetilde{s} = fl_\nu(rd_\nu(a) - rd_\nu{b}) = (a(1+\delta_a) - b(1+\delta_b))(1+\epsilon),

Stąd po prostych oszacowaniach

\displaystyle  \left|\frac{\widetilde{s} - s}{s}\right| \leq 2\frac{|a| + |b|}{|a-b|} \cdot \nu.

A więc, gdy \displaystyle a\approx b, to \displaystyle \frac{|a| + |b|}{|a-b|} \approx \infty i w efekcie możemy utracić nawet wszystkie znaczące cyfry wyniku! To zjawisko nosi żargonową nazwę utraty cyfr przy odejmowaniu, choć precyzyjnie powinno się mówić o "zmniejszeniu liczby dokładnych cyfr znaczących wyniku przy odejmowaniu dwóch bardzo bliskich sobie liczb".

Przy okazji zauważmy, że prowadząc identyczną analizę dla sumy dwóch liczb \displaystyle a+b, gdzie \displaystyle a i \displaystyle btego samego znaku, dostajemy oszacowanie błędu względnego równe \displaystyle 2\nu, niezależnie od wartości liczbowych \displaystyle a i \displaystyle b!

Skutki zjawiska redukcji cyfr przy odejmowaniu mogą być dramatyczne i ujawnić się w nadspodziewanie elementarnych sytuacjach.

Przykład: Numeryczne kłopoty z wyznaczaniem pierwiastków trójmianu kwadratowego

Niech \displaystyle a,p,q>0. Korzystając ze szkolenego wzoru na pierwiastki równania kwadratowego \displaystyle ax^2 - 2px + q = 0

\displaystyle  x_{1,2} = \frac{1}{a} (p \pm \sqrt{\Delta}),

gdzie \displaystyle \Delta = p^2 - qa > 0, możemy natknąć się na trudności, gdy jeden z pierwiastków jest bardzo bliski zera (tzn. gdy \displaystyle p \approx \sqrt{\Delta}).

Taka sytuacja np. powstaje gdy rozważać jednostajnie opóźniony ruch pocisku wystrzelonego z działka przeciwlotniczego do celu lecącego na małej wysokości. Czas trafienia w cel jest --- przy pominięciu oporu powietrza --- rozwiązaniem równania kwadratowego, przy czym czas krótki odpowiada bezpośredniemu trafieniu w cel, a czas długi --- wystrzeleniu pocisku z wyprzedzeniem wysoko w górę i poczekaniu, aż spadając trafi w cel od góry. Oczywiście, żaden artylerzysta nie będzie się interesował tym ostatnim przypadkiem: interesujące jest więc dokładne (bo cel leci szybko) wyznaczenie mniejszego pierwiastka.

Niestety, skoro \displaystyle p \approx \sqrt{\Delta}, to wyznaczając mniejszy pierwiastek \displaystyle x_1 ryzykujemy utratę cyfr przy odejmowaniu. Ale na szczęście, można to ominąć zgodnie z często stosowaną w numeryce regułą:

Jeśli problem jest trudny --- najlepiej zmienić problem!

W naszym wypadku ratunkiem jest matematyczna transformacja problemu tak, by już nie było w nim odejmowania bliskich sobie liczb. Rzeczywiście, przecież wciąż mamy dobry wzór na większy z pierwiastków, \displaystyle x_2 =  \frac{1}{a} (p + \sqrt{\Delta})! Dokładając do tego wzór Viete'a,

\displaystyle  x_1 x_2 = \frac{q}{a},

dostajemy inny wzór na \displaystyle x_1, nie zawierający feralnego odejmowania. Poniżej demonstrujemy program w C, testujący jakość obu podejść.

# include <stdio.h>
# include <math.h>
 
/* w(x) = ax^2 - 2px + q = 0  */
/* delta = 4(p^2 - qa) */
 
double const a = 2.1, q = 1e-6, p=1.1;
 
double w(double x) /* wartość wielomianu w punkcie x */
{
	return(a*x*x - 2.0*p*x + q);
}
 
int main(void)
{
	double x1, x2, x1v, X1, X1v, X2;
	double Delta; /* wartość Delty liczymy w podwójnej   precyzji */
	float  delta; /* wartość delty liczymy w pojedynczej precyzji */
		
	delta = Delta = sqrt(p*p - q*a);
	printf("Wielomian w(x) = %e x^2 - %e x + %e.\nDelta = %e\n", a, 2*p, q, delta);
 
	/* pierwiastki liczone wzorem szkolnym, z niedokładną deltą */
	x1 = (p - delta)/a;
	x2 = (p + delta)/a;
	
	/* mniejszy pierwiatek, liczony z mało dokładną deltą, ale lepszym
	wzorem: Viete'a */
	x1v = (q/a)/x2;
	
	/* pierwiastki liczone wzorem szkolnym, z dokładniejszą Deltą */
	X1 = (p - Delta)/a;
	X2 = (p + Delta)/a;
	
	/* mniejszy pierwiatek, liczony z dokładniejszą Deltą, ale lepszym
	wzorem: Viete'a */
	X1v = (q/a)/X2;
 
	printf("\nPierwiastki z mało dokładną deltą:\n");
	printf(" Wzór szkolny: x1  = %e x2 = %e\n Wzór Viete'a: x1v = %e x2 = j.w.\n", 
	x1,x2,x1v);
	printf("\nPierwiastki z dokładniejszą Deltą:\n");
	printf(" Wzór szkolny: X1  = %e X2 = %e\n Wzór Viete'a: X1v = %e X2 = j.w.\n", 
	X1,X2,X1v);
	printf("\nWzględna zmiana wartości pierwiastka:\n");
	printf("   (x1 - x1v)/x1v = %e\n", (x1-x1v)/x1v);
	printf("   (x1v -X1v)/X1v = %e\n", (x1v-X1v)/X1v);
	printf("   (x2 -  X2)/X2  = %e\n", (x2-X2)/X2);
	
	printf("\nWartość wielomianu w wyznaczonych punktach:\n");
	printf(" w(x1)  = %e\n w(x1v) = %e w(X1v) = %e\n w(x2)  = %e\n w(X2) = %e\n ", 
		w(x1),w(x1v),w(X1v),w(x2),w(X2));
	
	return(0);
}
Wielomian w(x) = 2.100000e+00 x^2 - 2.200000e+00 x + 1.000000e-06. Delta = 1.099999e+00 Pierwiastki z mało dokładną deltą: Wzór szkolny: x1 = 4.427774e-07 x2 = 1.047619e+00 Wzór Viete'a: x1v = 4.545456e-07 x2 = j.w. Pierwiastki z dokładniejszą Deltą: Wzór szkolny: X1 = 4.545457e-07 X2 = 1.047619e+00 Wzór Viete'a: X1v = 4.545457e-07 X2 = j.w. Względna zmiana wartości pierwiastka: (x1 - x1v) / x1v = -2.589022e-02 (x1v -X1v) / X1v = -1.123337e-08 (x2 - X2) / X2 = 1.123337e-08 Wartość wielomianu w wyznaczonych punktach: w(x1) = 2.589022e-08 w(x1v) = 1.123337e-14, w(X1v) = -3.194985e-23 w(x2) = 2.589022e-08 w(X2) = -1.357688e-17

Jak więc widzimy, nawet z niezbyt dokładnie wyznaczoną deltą, mniejszy pierwiastek jesteśmy w stanie wyznaczyć bardzo precyzyjnie --- o ile tylko unikniemy redukcji cyfr przy odejmowaniu.

Przykład: Fałszywe powiększenie

Ten obrazek już widzieliśmy na początku wykładu.

Wykres funkcji  wyznaczony (w bardzo bliskiej okolicy zera) na dwa sposoby w arytmetyce podwójnej precyzji.
Enlarge
Wykres funkcji \displaystyle w(x) = x^4 - 4x^3+6x^2-4x+1 = (x-1)^4 wyznaczony (w bardzo bliskiej okolicy zera) na dwa sposoby w arytmetyce podwójnej precyzji.

jak widzimy, w zależności od sposobu wyznaczenia wartości tego wielomianu, możemy dostać wyniki, których nie spodziewalibyśmy się (np. "graficznie" "wykazaliśmy", że wielomian czwartego stopnia może mieć kilkaset miejsc zerowych... co oczywiście jest wierutną bzdurą!) Teraz już rozumiemy, że przyczyną takich wyników jest zjawisko redukcji cyfr przy odejmowaniu: wartości \displaystyle f są bliskie zera, a uzyskuje się je jako sumy dużych liczb z przeciwnymi znakami.

O pakietach obliczeń symbolicznych

Czasem możemy spotkać się z twierdzeniem, że nie warto zawracać sobie głowy metodami numerycznymi, gdyż są dostępne pakiety obliczeń symbolicznych (Maple, Mathematica, MuPAD, Maxima), które potrafią "wszystko" "policzyć z dowolną precyzją".

To oczywiście też nie jest do końca prawdą. Precyzja, o której mowa, jest jedynie precyzją używanej arytmetyki (rzeczywiście, softwarowo można emulować dowolną precyzję), ale dokładność wyniku nie może być w nich a priori zadana. Wiele bowiem może zależeć od właściwości samego zadania obliczeniowego, o czym mówimy w następnej części wykładu. Na razie prosty przykład:

Przykład: Co oznacza precyzja w pakietach symbolicznych

Oto fragment sesji pakietu obliczeń symbolicznych MUPAD:

>> ((4/3)*3 - 3) - 1 0 >> DIGITS := 10 10 >> ((4/3.0)*3 - 3) - 1 -2.168404345e-19 >> subs(((4/a)*3 - 3) - 1, a = 3.0) -4.33680869e-19 >> subs(((4/a)*3 - 3) - 1, a = 3) 0

Najpierw wyznaczona została wartość wyrażenia algebraicznego, przy użyciu rachunków symbolicznych --- oczywiście, system bez trudu stwierdził, że to wyrażenie upraszcza się do zera.

Następnie zażądaliśmy, by DIGITS --- parametr sterujący "liczbą cyfr znaczących dla liczb zmiennoprzecinkowych", jak to określa manual MUPADa --- przyjął wartość równą 10.

Wymuszając (przez wpisanie 3.0, zamiast 3) stosowanie w obliczeniach arytmetyki zmiennoprzecinkowej w miejsce rachunków symbolicznych dostajemy wynik, który nie ma ani jednej cyfry znaczącej dokładnej. Z drugiej strony, widzimy także, iż faktycznie stosowana precyzja obliczeń jest znacznie większa i wynosi około 19 cyfr znaczących, chociaż żądaliśmy jedynie 10...

Jak wynika z powyższego, w praktyce pakiety symboliczne stosują znacznie większą niż żądana precyzję obliczeń, by ustrzec się najbardziej typowych patologii. I faktycznie, zazwyczaj taka strategia (choć kosztowna) jest satysfakcjonująca!

Literatura

W celu dogłębnego zapoznania się z omawianym na wykładzie materiałem, przeczytaj rozdział 2 w

  • D. Kincaid, W. Cheney Analiza numeryczna, Wydawnictwa Naukowo-Techniczne, Warszawa 2006, ISBN 83-204-3078-X.

Znacznie więcej szczegółów podaje

  • M. Overton, Numerical Computing with IEEE Floating Point Arithmetic, SIAM, 2001.