Tekst źródłowy strony Złożoność obliczeniowa/Wykład 9: Twierdzenie PCP i nieaproksymowalność

==Wprowadzenie==

Dotychczasowa analiza <math>\mathrm{NP}</math>-zupełnych problemów optymalizacyjnych pokazała dużą rozpiętość, jeżeli chodzi o możliwości ich aproksymacji. Z jednej strony poznaliśmy problemy, jak problem plecakowy, które można aproksymować z dowolnie dobrą dokładnością. Z drugiej strony spotkaliśmy problemy, jak problem komiwojażera, gdzie w ogólnym przypadku niemożliwa jest żadna aproksymacja.

Ciekawą klasą leżącą gdzieś pomiędzy tymi dwoma skrajnościami jest klasa <math>\mathrm{MAXSNP}</math>, gdzie problemy mają algorytmy ze stałą aproksymacji, ale nie wiemy jeszcze nic o schematach dla problemów z tej klasy. Dla wielu konkretnych problemów takie schematy istnieją, ale szczególnie interesujący byłby schemat, dla któregoś z problemów <math>\mathrm{MAXSNP}</math>-zupełnych. Odkrycie takiego schematu pociągałoby za sobą istnienie schematów dla wszystkich problemów z klasy <math>\mathrm{MAXSNP}</math>.

Okazuje się, że pytanie o taki schemat jest równoważne pytaniu <math>\mathrm{P}  =? \mathrm{NP}</math>. Jeżeli <math>\mathrm{P} \neq \mathrm{NP}</math>, to nie może istnieć schemat aproksymacji dla żadnego problemu <math>\mathrm{MAXSNP}</math>-zupełnego. Sercem dowodu tego faktu jest twierdzenie <math>\mathrm{PCP}</math>, które przedstawimy. Twierdzenie to stało się istotnym kamieniem milowym w badaniach nad aproksymacją optymalizacyjnych problemów <math>\mathrm{NP}</math>-zupełnych. Pozwoliło nie tylko rozwiązać pytania dotyczące klasy <math>\mathrm{MAXSNP}</math>, ale także wykazać wiele ograniczeń na możliwości aproksymowania rozwiązań różnych konkretnych problemów.

Po przedstawieniu tego fascynującego twierdzenia pokażemy różne, niestety negatywne wnioski, jakie z niego wynikają dla teorii algorytmów aproksymacyjnych.

==Weryfikatory==

Żeby móc w ogóle wyrazić twierdzenie potrzebujemy całkiem nowego pojęcia, które teraz wprowadzimy.

Przypomnijmy definicję klasy <math>\mathrm{NP}</math> z użyciem świadka. Klasa <math>NP</math> to języki <math>L</math>, które mogą być przedstawione w postaci:

<center><math>L = \{ {x} : {\exists_y (\mathit{x,y}) \in R} \}</math> , </center>

gdzie relacja <math>R</math> jest wielomianowo zrównoważona.

Ta definicja jest dość sztywna i trudno za jej pomocą uchwycić jakieś własności problemów optymalizacyjnych. Dlatego wprowadza się definicję systemu <math>\mathrm{PCP}</math>, co od angielskiego ''probabilistically checkable proof'' oznacza dowód weryfikowalny propabilistycznie.

W definicji tej pozwala się maszynie rozpoznającej język na korzystanie z bitów losowych (dostępnych na osobnej taśmie), ale wymaga się ograniczenia w korzystaniu z dostępnego świadka.

{{definicja|2.1||
Weryfikatorem nazywamy deterministyczną maszynę Turinga, która oprócz taśmy roboczej ma dostęp do taśmy z ciągiem bitów losowych oraz taśmy, na której jest zapisany świadek. Obliczenie weryfikatora musi zawsze się kończyć i akceptować lub odrzucać słowo wejściowe. Weryfikator jest ograniczony przez funkcje naturalne <math>p</math> i <math>q</math>, jeżeli dla słowa wejściowego <math>x</math> odczytuje co najwyżej <math>\mathcal{O}{ p(|\mathit{x}|) }</math> bitów losowych i co najwyżej <math>\mathcal{O}{ q(|\mathit{x}|) }</math> bitów świadka. Będziemy o nim wtedy mówić, że jest <math>(\mathit{p,q})</math>-ograniczonym weryfikatorem.
}}

Najciekawszymi ograniczeniami są <math>\log n</math> na liczbę bitów losowych i <math>1</math> na liczbę bitów świadka. Języki rozpoznawane w czasie wielomianowym przez takie weryfikatory tworzą klasę <math>\mathrm{PCP}(\log n,1)</math>.

[[File:ZO-9-1.svg|350x250px|thumb|right|Rys.9.1. Weryfikator.]]
<!-- ZO-9.1 - weryfikator -->

{{definicja|2.2||
Język <math>L</math> należy do <math>\mathrm{PCP}(\log n, 1)</math>, jeżeli istnieje weryfikator <math>V</math> oraz stałe <math>c</math> i <math>d</math> takie, że dla wejścia <math>x</math> <math>V</math> działa w czasie wielomianowym od <math>|\mathit{x}|</math> bez względu na odczytane bity losowe i świadka. Podczas działania odczytuje co najwyżej <math>c\log|\mathit{x}|</math> bitów losowych i co najwyżej <math>d</math> bitów świadka.
* Jeżeli słowo <math>x \in L</math>, to istnieje taki świadek <math>y</math>, że <math>V</math> akceptuje z prawdopodobieństwem <math>1</math>.
* Jeżeli słowo <math>x \notin L</math>, to dla każdego świadka <math>y</math> <math>V</math> odrzuca z prawdopodobieństwem większym od <math>\frac{1}{2}</math>.}}

Klasy <math>\mathrm{PCP}(p,q)</math> definiuje się analogicznie. Charakteryzację klasy <math>\mathrm{NP}</math>, którą przypomnieliśmy na samym początku, możemy teraz wyrazić używając nowej terminologii równaniem:

<center><math>\mathrm{NP} =  \mathrm{PCP}(0, \text{poly}(n) )\text{.}
</math></center>

Możemy teraz sformułować długo zapowiadane twierdzenie <math>\mathrm{PCP}</math>:

{{twierdzenie|2.3||

<center><math>\mathrm{NP} =  \mathrm{PCP}(\log n, 1) 
</math></center>

}}

{{dowod|||
Dowód jednej części tego twierdzenia jest prosty. Żeby pokazać zawieranie <math>\mathrm{PCP}(\log n,1)  \subseteq NP</math>, wystarczy przeanalizować następującą niedeterministyczną maszynę Turinga:

 [Niedeterministyczny symulator weryfikatora]
 1. Wybierz niedeterministycznie świadka <math>y</math> o rozmiarze wielomianowym.
 2. Dla każdego ciągu bitów <math>b</math> długości <math>c \log n</math> zasymuluj działanie weryfikatora na słowie wejściowym przy świadku <math>y</math> i ciągu bitów losowych <math>b</math>.
 3. Zaakceptuj słowo, jeżeli wszystkie symulacje weryfikatora zakończyły się akceptująco.

Dowód drugiego zawierania używa bardzo zaawansowanych technik i niestety zdecydowanie wykracza poza zakres tego kursu.
}}

{{cwiczenie|2.5||
Pseudoweryfikator dla SAT.

Pokaż <math>(\mathit{\log n, 1})</math>-ograniczony weryfikator dla języka <math>3</math>SAT, który akceptuje niespełnialne formuły z prawdopodobieństwem nie większym niż <math>1 - \frac{1}{m}</math>, gdzie <math>m</math> jest liczbą klauzul.
}}
<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Wskazówka </span><div class="mw-collapsible-content" style="display:none">  
Użyj bitów losowych do sprawdzenia losowej klauzuli.
</div></div>

<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Rozwiązanie </span><div class="mw-collapsible-content" style="display:none">  
Użyjemy <math>\log m</math> bitów losowych do wyznaczenia klauzuli, której wartościowanie sprawdzimy. Bity świadka potraktujemy jako wartościowanie, które powinno spełniać wszystkie klauzule. Po wyznaczeniu numeru klauzuli potrzebujemy dostępu do co najwyżej <math>3</math> bitów świadka, aby poznać wartościowanie pojedynczej klauzuli <math>3</math>SAT. Weryfikator akceptuje formułę, jeżeli klauzula jest spełniona.

Jeżeli świadek opisuje wartościowanie spełniające wszystkie klauzule, to skonstruowany weryfikator przy takim świadku zawsze zaakceptuje formułę spełnialną. Dla formuły niespełnialnej każdy świadek pozostawia którąś z klauzul niespełnioną, więc prawdopodobieństwo akceptacji jest nie większe niż <math>1 - \frac{1}{m}</math>.

Skonstruowanemu weryfikatorowi oczywiście daleko do weryfikatora klasy <math>\mathrm{PCP}(\log n,1)</math>, którego istnienie dla problemu <math>3</math>SAT gwarantuje twierdzenie <math>\mathrm{PCP}</math>. Obniżenie progu błędnej akceptacji z <math>1 - \frac{1}{m}</math> do <math>\frac{1}{2}</math> jest naprawdę nie lada wyczynem.
</div></div>



{{cwiczenie|2.6||
Charakteryzacje <math>\mathrm{P}</math> i <math>\mathrm{NP}</math> poprzez <math>\mathrm{PCP}</math>.

Uzasadnij poniższe równości:
* <math>\mathrm{P} =  \mathrm{PCP}(0,0)  =  \mathrm{PCP}(\log n, 0)  =  \mathrm{PCP}(0,\log n)</math>,
* <math>\mathrm{NP} =  \mathrm{PCP}(\log n, 1)  =  \mathrm{PCP}(\log n, \text{poly}(n) )</math>.
}}
<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Wskazówka </span><div class="mw-collapsible-content" style="display:none">  
Użyj przeglądania wyczerpującego, aby uzasadnić równości z punktu pierwszego. Przyjrzyj się raz jeszcze dowodowi, że <math>\mathrm{PCP}(\log n, 1)  \subseteq NP</math>.
</div></div>

<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Rozwiązanie </span><div class="mw-collapsible-content" style="display:none">  
Równość <math>P =  \mathrm{PCP}(0,0)</math> jest oczywista, gdyż weryfikator bez dostępu do bitów losowych i świadka zachowuje się jak zwykła maszyna deterministyczna. Zawierania <math>\mathrm{PCP}(\log n,0)  \supseteq  \mathrm{PCP}(0,0)  \subseteq  \mathrm{PCP}(0,\log n)</math> też nie wymagają komentarza. Działanie weryfikatora z <math>\mathcal{O}{\log n}</math> bitami losowymi można zasymulować na deterministycznej maszynie, przeglądając wszystkie ciągi odpowiedniej długości. Czas będzie wykładniczy od <math>\mathcal{O}{\log n}</math>, czyli wielomianowy od rozmiaru wejścia. Akceptacji należy dokonać, jeżeli wszystkie ciągi losowe prowadzą do akceptacji.

Zasymulowania weryfikatora z dostępem do <math>\mathcal{O}{\log n}</math> bitów świadka też można dokonać w czasie wykładniczym od <math>\mathcal{O}{\log n}</math> na maszynie deterministycznej. Chociaż świadek może mieć długość wielomianową, to nie trzeba ustalać wartości wszystkich jego bitów jednocześnie. Ponieważ odczyty są deterministyczne (mogą co prawda zależeć od poprzednich odczytów, ale nie ma to większego znaczenia), to dla symulacji nie jest istotne, jakie były wartości nieodczytanych bitów. Słowo należy zaakceptować, jeżeli którykolwiek ze sprawdzonych świadków zapewnia akceptację.

Równość <math>\mathrm{NP} =  \mathrm{PCP}(\log n,1)</math> jest treścią twierdzenia <math>\mathrm{PCP}</math>. Natomiast jeżeli przyjrzymy się bliżej przedstawionemu dowodowi, że <math>\mathrm{PCP}(\log n, 1)  \subseteq \mathrm{NP}</math>, to zobaczymy, że to samo rozumowanie jest słuszne dla weryfikatora <math>(\mathit{\log n, \text{poly}(n) })</math>-ograniczonego.
</div></div>

==Twierdzenie <math>\mathrm{PCP}</math> a problem MAX<math>3</math>SAT==

Wprowadzona terminologia <math>\mathrm{PCP}</math> miała pozwolić na analizę złożoności problemów optymalizacyjnych. Przedstawimy teraz twierdzenie równoważne twierdzeniu <math>\mathrm{PCP}</math>, które pokazuje, że o ile <math>\mathrm{P} \neq \mathrm{NP}</math>, to nie ma wielomianowego schematu aproksymacji dla problemu MAX<math>3</math>SAT. Wspomniane twierdzenie brzmi:

{{twierdzenie|3.1||
Istnieje stała <math>0 < \epsilon < 1</math> taka, że dla każdej instancji <math>\phi</math> problemu SAT można skonstruować instancję <math>\psi</math> problemu MAX<math>3</math>SAT o <math>m</math> klauzulach i następujących własnościach:
* <math>\text{opt} (\psi)  = m</math>, gdy <math>\phi \in </math> SAT,
* <math>\text{opt} (\psi)  < \epsilon m</math>, gdy <math>\phi \notin </math> SAT.

}}

{{dowod|||
Dowód będzie się opierał o twierdzenie <math>\mathrm{PCP}</math>.

Ponieważ <math>\mathrm{NP} =  \mathrm{PCP}(\log n,1)</math>, to niech <math>V</math> będzie weryfikatorem wykorzystującym <math>c\log n</math> bitów losowych i <math>d</math> bitów świadka dla formuły <math>\phi</math> problemu <math>SAT</math> zapisanej na <math>n</math> bitach.
Dla każdego słowa <math>r</math> długości <math>c\log n</math> jako ciągu bitów losowych, <math>V</math> czyta co najwyżej <math>d</math> bitów świadka. W związku z tym liczbę różnych bitów świadka, które są czytane przy jakimkolwiek ciągu losowym, można ograniczyć przez <math>dn^c</math>. Dla każdego z tych bitów wprowadzamy osobną zmienną. Zbiór tak powstałych zmiennych nazywamy <math>B</math>, a na problem weryfikacji będziemy patrzeć jak na znalezienie wartościowania dla tych zmiennych.

Skonstruujemy teraz taką instancję problemu MAX<math>d</math>FSAT, że jeśli <math>\phi</math> jest spełnialna, to istnieje wartościowanie, przy którym wszystkie funkcje dają wynik pozytywny, a jeżeli <math>\phi</math> nie jest spełnialna, to co najwyżej połowa funkcji może jednocześnie dać wynik pozytywny.

Jako zbiór zmiennych wybieramy <math>B</math>. Dla każdego słowa <math>r</math> tworzymy funkcję logiczną <math>f_r</math>, która odpowiada obliczeniu <math>V</math> na <math>\phi</math> przy ciągu losowym <math>r</math>. Przy ustalonym <math>r</math> znamy algorytm <math>V</math>, zawartość taśmy wejściowej i taśmy z ciągiem losowym. Odwołania do świadka tłumaczymy na odwołania do zmiennych z <math>B</math>. Każda z funkcji <math>f_r</math> odwołuje się do co najwyżej <math>d</math> zmiennych. Funkcję <math>f_r</math> możemy zatem skonstruować w czasie wielomianowym, ponieważ mamy gwarancję, że <math>V</math> działa w czasie wielomianowym.

Możemy zatem skonstruować taką instancję w czasie wielomianowym. Pozostaje zatem pokazać własności rozwiązania optymalnego dla tej instancji. Jeżeli <math>\phi</math> jest spełnialna, to istnieje świadek taki, że weryfikator <math>V</math> akceptuje słowo dla każdego ciągu losowego <math>r</math>. Zatem przy wartościowaniu zmiennych odpowiadającemu temu świadkowi wszystkie funkcje <math>f_r</math> dają wynik pozytywny. Jeżeli natomiast <math>\phi</math> nie jest spełnialna, to dla każdego świadka (a więc przy każdym naborze zmiennych <math>B</math>), dla co najmniej połowy możliwych ciągów <math>r</math> wartość <math>f_r</math> jest negatywna.

Możemy teraz wykorzystać L-redukcję problemu MAX<math>d</math>FSAT do MAX<math>3</math>SAT. Jeżeli wszystkie funkcje są jednocześnie spełnialne (a więc kiedy istnieje świadek gwarantujący akceptację <math>V</math>), to redukcja tworzy formułę MAX<math>3</math>SAT, w której wszystkie klauzule są jednocześnie spełnialne.

Jeżeli natomiast przynajmniej połowa funkcji jest niespełniona, to również stała frakcja klauzul w fromule MAX<math>3</math>SAT musi pozostać niespełniona. Wystarczy przypomnieć, że liczba klauzul odpowiadających bramkom wyjściowym była liniowa względem ilości wszystkich innych bramek.
}}

{{wniosek|3.2||
O ile <math>\mathrm{P} \neq \mathrm{NP}</math>, to istnieje stała <math>0 < \epsilon < 1</math> taka, że nie jest możliwa <math>\epsilon</math>-aproksymacja problemu MAX<math>3</math>SAT. Nie istnieje zatem też PTAS dla tego problemu.
}}

Wniosek ten ma kluczowe znaczenie dla klasy <math>\mathrm{MAXSNP}</math> i pokazuje, że rzeczywiście twierdzenie <math>\mathrm{PCP}</math> jest ważnym narzędziem w badaniu aproksymacji.

Teraz pokażemy, że przy wykorzystaniu właśnie udowodnionego twierdzenia można dość łatwo udowodnić twierdzenie <math>\mathrm{PCP}</math>. W ten sposób jeszcze mocniej potwierdzimy związki twiedzenia <math>\mathrm{PCP}</math> z teorią algorytmów aproksymacyjnych.

{{dowod|||
Chcemy pokazać, że o ile istnieje stała <math>\epsilon</math> taka, jak w poprzednim twierdzeniu, to można skonstruować odpowiedni weryfikator dla każdego języka z <math>\mathrm{NP}</math>.

Skonstruujemy <math>(\mathit{\log n, 1})</math>-ograniczony weryfikator dla języka SAT. Dowód, że pociąga to za sobą istnienie takich weryfikatorów dla innych języków w <math>\mathrm{NP}</math>, pozostawiamy jako ćwiczenie.

Weryfikator będzie działał w następujący sposób:

 [Weryfikator dla SAT]
 1. Wczytaj formułę logiczną <math>\phi</math>.
 2. Skonstruuj instancję <math>\psi</math> problemu MAX<math>3</math>SAT, taką jak w poprzednim twierdzeniu.
 3. Potraktuj świadka jako wartościowanie zmiennych występujących w <math>\psi</math>.
 4. Użyj bitów losowych do wyznaczenia <math>k</math> klauzul, których wartość zostanie sprawdzona.
 5. Zaakceptuj <math>\phi</math>, jeżeli wszystkie sprawdzenia wypadły pozytywnie.<br>  W przeciwnym przypadku odrzuć formułę <math>\phi</math>.

Stałą <math>k</math> dobieramy tak, żeby <math>\epsilon^k < \frac{1}{2}</math>. Zauważmy, że nowy weryfikator korzysta z <math>k \log m</math> bitów losowych do wyznaczenia numerów sprawdzanych klauzul i <math>3k</math> bitów świadka. Jeżeli <math>\phi</math> jest spełnialna, to wszystkie klauzule <math>\psi</math> mogą być jednocześnie spełnione i wartościowanie realizujące optimum jest świadkiem gwarantującym zaakceptowanie <math>\phi</math>. Z kolei jeżeli <math>\phi</math> nie jest spełnialna, to losowo wybrana klauzula jest wartościowana pozytywnie z prawdopodobieństwem mniejszym od <math>\epsilon</math>. W związku z tym dokonanie <math>k</math> sprawdzeń gwarantuje, że formuła <math>\phi</math> zostanie zaakceptowana z prawdopodobieństwem mniejszym od <math>\frac{1}{2}</math>.

Dowiedliśmy zatem, że skonstruowany weryfikator rozpoznaje język SAT.
}}

{{cwiczenie|3.4||
Weryfikatory dla innych języków.

Pokaż, że jeżeli istnieje <math>(\mathit{\log n, 1})</math>-ograniczony weryfikator dla języka SAT, to można skonstruować
<math>(\mathit{\log n, 1})</math>-ograniczony weryfikator dla dowolnego języka z klasy <math>\mathrm{NP}</math>.
}}
<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Wskazówka </span><div class="mw-collapsible-content" style="display:none">  
Skorzystaj z tego, że SAT jest <math>\mathrm{NP}</math>-zupełny.
</div></div>

<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Rozwiązanie </span><div class="mw-collapsible-content" style="display:none">  
Niech <math>V</math> będzie weryfikatorem dla SAT, a <math>L</math> językiem z klasy <math>\mathrm{NP}</math>. Możemy skonstruować weryfikator dla języka <math>L</math> w bardzo prosty sposób:

 [Weryfikator dla <math>L</math>]
 1. Wczytaj słowo <math>x</math>.
 2. Użyj redukcji logarytmicznej problemu <math>L</math> do SAT. Otrzymasz formułę <math>\phi</math>.
 3. Użyj weryfikatora <math>V</math> na formule <math>\phi</math>.
 4. Zaakceptuj słowo <math>x</math>, jeżeli <math>V</math> zaakceptował <math>\phi</math>.

Skonstruowany weryfikator działa w czasie wielomianowym, używając dokładnie tylu samu bitów losowych i bitów świadka co <math>V</math>. Są to wielkości <math>(\mathit{\log n, 1})</math>-ograniczone od rozmiaru <math>\phi</math>. Ten z kolei jest wielomianowy od <math>|\mathit{x}|</math>, więc są one też <math>(\mathit{\log n, 1})</math>-ograniczone względem <math>|\mathit{x}|</math>.

Jeżeli <math>x \in L</math>, to <math>\phi \in </math> SAT  i istnieje świadek gwarantujący akceptację. Jeżeli natomiast <math>c \notin L</math>, to <math>\phi \notin </math> SAT  i dla żadnego świadka prawdopodobieństwo akceptacji nie przekracza <math>\frac{1}{2}</math>.
</div></div>



{{cwiczenie|3.6||
PTAS dla problemów <math>\mathrm{MAXSNP}</math>-trudnych.

Pokaż, że o ile <math>\mathrm{P} \neq \mathrm{NP}</math>, to dla żadnego z problemów <math>\mathrm{MAXSNP}</math>-trudnych (w sensie L-redukcji) nie istnieje algorytm PTAS.
}}
<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Wskazówka </span><div class="mw-collapsible-content" style="display:none">  
Wiesz już, że korzystając z twierdzenia <math>\mathrm{PCP}</math>, można dowieść, że dla problemu MAX<math>3</math>SAT nie istnieje PTAS.
</div></div>

<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Rozwiązanie </span><div class="mw-collapsible-content" style="display:none">  
Udowodniliśmy, że dla problemu MAX<math>3</math>SAT nie może istnieć algorytm PTAS, o ile <math>\mathrm{P} \neq \mathrm{NP}</math>. Gdyby dla jakiegoś problemu <math>\mathrm{MAXSNP}</math>-trudnego <math>A</math> istniał PTAS, to korzystając z tego, że wielomianowe schematy aproksymacji przenoszą się przez L-redukcje i tego, że MAX<math>3</math>SAT L-redukuje się do <math>A</math>, otrzymalibyśmy taki schemat dla problemu MAX<math>3</math>SAT.
</div></div>

==Inne problemy <math>\mathrm{MAXSNP}</math>-zupełne==

Pokazaliśmy, że dla żadnego z problemów <math>\mathrm{MAXSNP}</math>-trudnych nie może istnieć wielomianowy schemat aproksymacji. Nie znamy jednak jeszcze zbyt wielu takich problemów. Pokażemy teraz o kilku problemach, że są <math>\mathrm{MAXSNP}</math>-zupełne. Pozwoli nam to nie tylko stwierdzić, że nie ma dla nich algorytmów PTAS, ale także da nam narzędzia do stwierdzenia o wielu innych problemach, że są <math>\mathrm{MAXSNP}</math>-trudne.

===<math>k</math>OCCUR MAX<math>l</math>SAT===

Pewną bazową rodziną problemów będą problemy <math>k</math>OCCUR MAX<math>l</math>SAT. Są to wersje problemu MAX<math>l</math>SAT, w których liczba wszystkich wystąpień każdej pojedynczej zmiennej jest ograniczona przez <math>k</math>.

Bardzo łatwo można dowieść, że problem <math>3</math>OCCUR <math>3</math>SAT jest <math>\mathrm{NP}</math>-zupełny. Zredukujemy problem <math>3</math>SAT. Jeżeli w formule <math>\phi</math> jakaś zmienna <math>x</math> występuje wielokrotnie w formule, powiedzmy <math>k</math> razy, to możemy stworzyć <math>k</math> nowych zmiennych: <math>x_1,x_2,\ldots,x_k</math>. Każde wystąpienie zmiennej <math>x</math> zamienić na wystąpienie innej zmiennej <math>x_i</math>, a następnie dodać gadżet, który zapewni, że każda ze zmiennych <math>x_i</math> musi być wartościowana tak samo. Takim gadżetem może być ciąg klauzul:

<center><math>(\mathit{x_1 \vee \neg x_2}) \wedge (\mathit{x_2 \vee \neg x_3}) \wedge \ldots \wedge (\mathit{x_{k-1} \vee \neg x_k}) \wedge (\mathit{x_k \vee \neg x_1})\text{.}
</math></center>

Okazuje się jednak, że użycie tego konkretnego gadżetu nie zapewnia L-redukcji. Wartościowanie nowych zmiennych w optymalnym rozwiązaniu problemu maksymalizacji spełnialności wcale nie musi być zgodne na zmiennych <math>x_1,x_2,\ldots,x_k</math>.

Żeby skonstruować lepszy gadżet, użyjemy specjalnych grafów-ekspanderów.

{{definicja|4.1||
Graf <math>G=(\mathit{V,E})</math> nazywamy {ekspanderem}, jeśli wszystkie jego wierzchołki mają ten sam stopień i dla dowolnego niepustego podzbioru <math>S \subsetneq V</math> zachodzi:

<center><math>|\mathit{ E(S,V\setminus S) }| >  \min(|\mathit{S}|,|\mathit{V\setminus S}|) </math> , </center>

gdzie <math>E(A,B)</math> jest zbiorem krawędzi o jednym końcu w <math>A</math>, a drugim w <math>B</math>.
}}

Ekspandery mają bardzo interesujące zastosowania w kilku dziedzinach współczesnej matematyki i informatyki. My wykorzystamy ich własności do skonstruowania odpowiedniego gadżetu zapewniającego zgodne wartościowanie zmiennych <math>x_1,x_2,\ldots,x_k</math>.

Przypuśćmy, że znamy algorytm, który dla zadanej liczby <math>n</math> wygeneruje ekspander o <math>n</math> wierzchołkach, z których każdy ma stopień <math>d</math>, gdzie <math>d</math> jest pewną stałą. Używając tego algorytmu, pokażemy L-redukcję problemu MAX<math>3</math>SAT do <math>(\mathit{2d+1})</math>OCCUR MAX<math>3</math>SAT.

{{twierdzenie|4.2||
<math>(\mathit{2d+1})</math>OCCUR MAX<math>3</math>SAT jest <math>\mathrm{MAXSNP}</math>-zupełny.
}}

{{dowod|||
Redukcja przebiega tak jak poprzednio. Dla zmiennej <math>x</math> występującej <math>k</math> razy w formule <math>\phi</math> tworzymy <math>k</math> zmiennych <math>x_1,x_2,\ldots,x_k</math> dla nowej formuły <math>\psi</math>. Następnie przepisujemy wszystkie klauzule z <math>\phi</math> do <math>\psi</math>, zamieniając każde wystąpienie <math>x</math> na inną ze zmiennych <math>x_i</math>.

Potem konstruujemy <math>k</math>-elementowy ekspander <math>F_x</math> o stopniu wierzchołków <math>d</math>. Etykietujemy wierzchołki grafu <math>F_x</math> zmiennymi <math>V_x={x_1,x_2,\ldots,x_k}</math>. Dla każdej krawędzi <math>x_ix_j</math> w grafie <math>F_x</math> dodajemy do formuły <math>\psi</math> klauzule <math>(\mathit{x_i \vee \neg x_j})</math> i <math>(\mathit{\neg x_i \vee x_j})</math>.

Do formuły <math>\psi</math> dodaliśmy <math>\frac{kd}{2}</math> nowych klauzul. Zauważmy, że jeżeli wartościowanie zmiennych <math>x_1,x_2,\ldots,x_k</math> jest zgodne, to wszystkie dodane klauzule są spełnione. Jeżeli natomiast zbiór <math>S \subseteq V_x</math> jest wartościowany odwrotnie niż <math>V_x \setminus S</math>, to własności ekspanedera gwarantują, że co najmniej <math>\min(|\mathit{S}|,|\mathit{V_x\setminus S}|) +1</math> klauzul jest niespełnionych.

Zauważmy, że skonstruowana formuła <math>\psi</math> jest formułą problemu <math>(\mathit{2d+1})</math>OCCUR MAX<math>3</math>SAT. Każda ze zmiennych występuje dokładnie w <math>2d</math> klauzulach odpowiadających krawędziom ekspandera i w jednej klazuli pochodzącej z formuły <math>\phi</math>.

Pokażemy teraz, że każde rozwiązanie optymalne dla formuły <math>\psi</math> musi być zgodne na zmiennych <math>x_1,x_2,\ldots,x_k</math>. Weźmy zatem jakieś rozwiązanie optymalne, które przyporządkowuje różne wartości zmiennym <math>x_1,x_2,\ldots,x_k</math>. Niech <math>S</math> będzie mniejszym z podzbiorów, który jest wartościowany zgodnie. Zastanówmy się co by się stało, gdybyśmy odwrócili wartościowanie zmiennych z <math>S</math>? Zmienne te występują w <math>|\mathit{S}|</math> klauzulach z formuły <math>\phi</math>, które po tej zamianie mogłyby przestać być spełnione. Stracilibyśmy zatem najwyżej <math>|\mathit{S}|</math> spełnionych klauzul. Z drugiej jednak strony zyskalibyśmy <math>|\mathit{S}|+1</math> spełnionych klauzul opisujących krawędzie ekspandera. Zatem nowe rozwiązanie spełniałoby co najmniej jedną kaluzulę więcej niż poprzednie, przecząc optymalności.

Jeżeli w formule <math>\phi</math> było <math>m</math> klauzul, to było co najwyżej <math>3m</math> wystąpień zmiennych, a w formule <math>\psi</math> w związku z tym jest co najwyżej <math>(\mathit{2d+1})3m</math> klauzul. Przypomnijmy, że optimum dla problemu MAX<math>3</math>SAT wynosi co najmniej <math>\frac{m}{2}</math> i możemy w związku z tym ustalić współczynnik <math>\alpha</math> dla L-redukcji na <math>(2d+1)6</math>.

Postaramy się teraz ustalić współczynnik <math>\beta</math>, aby zakończyć dowód. Możemy założyć, że w rozwiązaniu dla formuły <math>\psi</math> każda grupa zmiennych <math>x_1,x_2,\ldots,x_k</math> jest zgodnie wartościowana. Gdyby było przeciwnie, to na podstawie przeprowadzonego rozumowania można by takie rozwiązanie łatwo poprawić. Ta "poprawka" może być realizowana przez funkcję przeprowadzającą rozwiązania. Łatwo zauważyć, że w tej sytuacji ilość niespełnionych klauzul w formule <math>\psi</math> jest dokładnie równa liczbie niespełnionych klauzul przy wartościowaniu wyznaczonym dla formuły <math>\phi</math>. Współczynnik <math>\beta</math> wynosi zatem <math>1</math>.

Pokazaliśmy L-redukcję <math>\mathrm{MAXSNP}</math>-zupełnego problemu MAX<math>3</math>SAT do <math>(\mathit{2d+1})</math>OCCUR MAX<math>3</math>SAT, co pozwala nam stwierdzić, że ten drugi problem również jest <math>\mathrm{MAXSNP}</math>-zupełny.
}}

Siła właśnie udowodnionego twierdzenia zależy od tego, jakie ekspandery potrafimy generować. Można bardzo łatwo udowodnić metodami propabilistycznymi, że prawie każdy graf, w którym wszystkie wierzchołki mają ten sam stopień, jest ekspanderem. Dowód taki jednak nie daje żadnej efektywnej metody konstruowania ekspanderów.

Do działania zdefiniowanej L-redukcji jest potrzebny algorytm generowania dowolnie dużych ekspanderów o ustalonym stopniu wierzchołków. Są znane algorytmy, które realizują to zadanie, ale ich opis wykracza poza zakres tego kursu.

Podobnymi metodami, korzystając z grafów o właściwościach bardzo podobnych do ekspanderów, można pokazać, że już problem <math>3</math>OCCUR MAX<math>3</math>SAT jest <math>\mathrm{MAXSNP}</math>-zupełny. Skorzystamy z tego faktu, nie przedstawiając szczegółowego dowodu.

Wykorzystamy teraz problem <math>3</math>OCCUR MAX<math>3</math>SAT do pokazania <math>\mathrm{MAXSNP}</math>-zupełności kilku problemów.

{{lemat|4.3||
Problemy <math>4</math>-NODE COVER i <math>4</math>-INDEPENDENT SET są <math>\mathrm{MAXSNP}</math>-zupełne.
}}

{{dowod|||
Przypomnijmy, że już pokazaliśmy, że problemy <math>k</math>-NODE COVER i <math>k</math>-INDEPENDENT SET należą do klasy <math>\mathrm{MAXSNP}</math>. Teraz wystarczy przypomnieć sobie zwykłą redukcję problemu <math>3</math>SAT do NODE COVER, która tworzy trójkąt dla każdej klauzuli i łączy krawędziami przeciwne literały. Ta redukcja w przypadku formuły <math>3</math>OCCUR MAX<math>3</math>SAT stworzy graf, w którym stopień wierzchołka będzie ograniczony przez <math>4</math>.

Łatwo uzasadnić, że ta redukcja jest L-redukcją, gdyż przynajmniej połowa z <math>m</math> klauzul jest spełnialna, a rozmiar minimalnego pokrycia wierzchołkowego jest ograniczony przez liczbę wierzchołków równą <math>3m</math>. Współczynnik <math>\beta</math> jak zwykle wynosi <math>1</math>.

Uzasadniliśmy, że problem <math>4</math>-NODE COVER jest <math>\mathrm{MAXSNP}</math>-zupełny. Znamy już L-redukcję <math>k</math>-NODE COVER do <math>k</math>-INDEPENDENT SET. Pozwala nam to stwierdzić <math>\mathrm{MAXSNP}</math>-zupełność problemu <math>4</math>-INDEPENDENT SET.
}}

{{wniosek|4.4||
Problemy NODE COVER i INDEPENDENT SET są <math>\mathrm{MAXSNP}</math>-trudne.
}}

{{lemat|4.5||
Problemy <math>5</math>OCCUR MAX<math>2</math>SAT i MAX NAE<math>3</math>SAT są <math>\mathrm{MAXSNP}</math>-zupełne.
}}

{{dowod|||
Żeby pokazać <math>\mathrm{MAXSNP}</math>-zupełność problemu <math>5</math>OCCUR MAX<math>2</math>SAT, skonstruujemy L-redukcję problemu <math>4</math>-INDEPENDENT SET. Mając dany graf <math>G=(\mathit{V,E})</math>, konstruujemy formułę, tworząc następujące klauzule:
* <math>(\mathit{x})</math> dla każdego wierzchołka <math>x \in V</math>.
* <math>(\mathit{\neg x \vee \neg y})</math> dla każdej krawędzi <math>xy \in E</math>.

Skonstruowana formuła ma <math>|\mathit{V}| + |\mathit{E}|</math> klauzul. Możemy tę liczbę ograniczyć przez <math>3|\mathit{V}|</math>. Z kolei, przypominając analizę L-redukcji <math>k</math>-INDEPENDENT SET do <math>k</math>-NODE COVER, możemy stwierdzić, że rozmiar maksymalnego zbioru niezależnego wynosi co najmniej <math>\frac{|\mathit{V}|}{5}</math>. Zatem współczynnik <math>\alpha</math> L-redukcji ustalamy na <math>15</math>.

Możemy założyć, że znalezione rozwiązanie wartościuje pozytywnie wszystkie klauzule odpowiadające krawędziom. Jeżeli tak nie jest, to można je zmodyfikować, falsyfikując którąkolwiek zmienną w nim występującą i nie pogorszy to wyniku. Stracimy co najwyżej jedną spełnioną klauzulę, ale na pewno zyskamy co najmniej jedną.

W związku z tym każde rozwiązanie <math>5</math>OCCUR MAX<math>2</math>SAT wyznacza zbiór niezależny wierzchołków, które są wartościowane pozytywnie. Odległość od rozwiązania optymalnego jest w obu przypadkach taka sama i w związku z tym możemy ustalić współczynnik <math>\beta = 1</math>.

L-redukcja problemu MAX<math>2</math>SAT do MAX NAE<math>3</math>SAT przebiega w bardzo łatwy sposób. Do każdej klauzuli dopisujemy wystąpienie nowej zmiennej <math>x</math>. Wystarczy zauważyć, że jeżeli jakieś wartościowanie zmiennych NAE-spełnia daną formułę, to wartościowanie do niego odwrotne również. Możemy zatem założyć, że zmienna <math>x</math> zawsze jest wartościowana negatywnie. Maksymalna liczba klauzul spełnialnych jednocześnie, jak i spełnionych przy konkretnym wartościowaniu jest zatem taka sama w obu problemach i możemy ustalić współczynniki <math>\alpha=1</math> i <math>\beta=1</math>.
}}

{{cwiczenie|4.6||
MAX CUT jest <math>\mathrm{MAXSNP}</math>-zupełny.
}}
<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Wskazówka </span><div class="mw-collapsible-content" style="display:none">  
Przypomnij sobie redukcję problemu NAE<math>3</math>SAT do MAX CUT.
</div></div>

<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Rozwiązanie </span><div class="mw-collapsible-content" style="display:none">  
Przedstawiona wsześniej redukcja problemu NAE<math>3</math>SAT do MAX CUT jest L-redukcją. Przypomnijmy, że polegała ona na zmodyfikowaniu formuły <math>\phi</math> tak, żeby żadna klauzula nie zawierała jednocześnie literału i jego zaprzeczenia oraz aby żadne dwie klauzule nie miały dwóch wspólnych literałów. Następnie należało stworzyć wierzchołek dla każdego literału i połączyć krawędziami literały przeciwne, a każdą klauzulę przedstawić jako trójkąt.

Optimum dla formuły <math>\phi</math> zawierającej <math>m</math> klauzul wynosi co najmniej <math>\frac{3}{4}m</math>. Żeby to uzasadnić, wystarczy zauważyć, że NAE<math>3</math>-spełnialność jest przykładem funkcji logicznej <math>3</math>-argumentowej, w której tylko <math>2</math> z <math>8</math> wartościowań zmiennych dają wynik negatywny. Możemy zatem użyć rozumowania przestawionego przy algorytmie aproksymacyjnym dla problemu MAX<math>k</math>FSAT, żeby uzasadnić, iż optimum wynosi co najmniej <math>\frac{3}{4}m</math>.

Liczba wszystkich krawędzi w skonstruowanym grafie wynosi co najwyżej <math>18m</math>. Modyfikacje formuły mogą zwiększyć liczbę klauzul do <math>3m</math>. W <math>3m</math> klauzulach występuje co najwyżej <math>9m</math> zmiennych tworzących po jednej krawędzi. Jednocześnie <math>3m</math> klauzul daje <math>9m</math> następnych krawędzi. W związku z tym współczynnik <math>\alpha</math> L-redukcji ustalamy na <math>24</math>.

Różnica pomiędzy <math>n+2m</math> a liczbą krawędzi w znalezionym przekroju odpowiada dokładnie liczbie niespełnionych klauzul w formule <math>\phi</math>. W związku z tym współczynnik <math>\beta</math> wynosi jak zwykle <math>1</math>.
</div></div>


{{cwiczenie|4.7||
<math>(\mathit{2d+1})</math>OCCUR MAX NAE<math>3</math>SAT jest <math>\mathrm{MAXSNP}</math>-zupełny.
}}
<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Wskazówka </span><div class="mw-collapsible-content" style="display:none">  
Przeprowadź L-redukcję problemu MAX NAE<math>3</math>SAT w podobny sposób, jak zredukowaliśmy MAX<math>3</math>SAT do <math>(\mathit{2d+1})</math>OCCUR MAX<math>3</math>SAT.
</div></div>

<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Rozwiązanie </span><div class="mw-collapsible-content" style="display:none">  
Przedstawimy konstrukcję podobną do dowodu, że <math>(\mathit{2d+1})</math>OCCUR MAX<math>3</math>SAT jest <math>\mathrm{MAXSNP}</math>-zupełny. Do redukcji użyjemy oczywiście tym razem problemu MAX NAE<math>3</math>SAT. Wielokrotne wystąpienia tej samej zmiennej tak samo zamienimy na nowe zmienne, natomiast konstrukcja gadżetu wymuszającego zgodne wartościowanie na tych zmiennych przebiega w następujący sposób. Dla zmiennych <math>x_1,x_2,\ldots,x_k</math> tworzymy <math>k</math>-elementowy ekspander <math>F_x</math> o stopniu <math>d</math> etykietowany tymi zmiennymi. Dla każdej krawędzi <math>x_ix_j</math> w <math>F_x</math> tworzymy nową zmienną <math>y_{x,i,j}</math>, a do formuły dodajemy klauzule:

<center><math>(\mathit{x_i \vee \neg x_j \vee y_{x,i,j}}) \wedge (\mathit{\neg x_i \vee x_j \vee y_{x,i,j}})\text{.}
</math></center>

Każda zmienna w skonstruowanej formule występuje co najwyżej <math>2d+1</math> razy. Własności ekspandera, tak jak poprzednio, zapewniają, że możemy rozważać tylko rozwiązania wartościujące zmienne <math>x_1,x_2,\ldots,x_k</math> zgodnie.

Powtarzając zatem to samo rozumowanie, udowodnimy <math>\mathrm{MAXSNP}</math>-zupełność problemu <math>(\mathit{2d+1})</math>OCCUR NAE<math>3</math>SAT.
</div></div>

==Problem INDEPENDENT SET==

Wiemy już, że problem INDEPENDENT SET jest <math>\mathrm{MAXSNP}</math>-trudny, gdyż jego zawężenia są zupełne dla tej klasy. Oznacza to, że o ile <math>\mathrm{P} \neq \mathrm{NP}</math>, to nie ma algorytmu PTAS dla INDEPENDENT SET. Udowodnimy teraz, że nie jest możliwa również aproksymacja ze stałą. Pokażemy, że jeżeli istniałby jakikolwiek algorytm ze stałą aproksymacji, to można by to wykorzystać do stworzenia algorytmu PTAS.

Co ciekawe, fakt ten był znany na długo przed pojawieniem się twierdzenia <math>\mathrm{PCP}</math>. Wiedziano, że problem INDEPENDENT SET albo można aproksymować dowolnie dobrze, albo w ogóle. Dopiero twierdzenie <math>\mathrm{PCP}</math> rozwiało wątpliowści, która z tych możliwości jest prawdziwa.

Żeby udowodnić zapowiedziane twierdzenie, będziemy chcieli przyjrzeć się następującej konstrukcji:

{{definicja|5.1||
Dla dwóch grafów <math>G=(\mathit{V_G,E_G})</math> i <math>H=(\mathit{V_H,E_H})</math> {grafem iloczynowym} <math>G \times H</math> oznaczamy graf o wierzchołkach <math>V_G \times V_H</math> i krawędziach:
* <math>(\mathit{a,x})(\mathit{b,y})</math> dla <math>ab \in E_G</math> i dowolnych <math>x</math> i <math>y</math>.
* <math>(\mathit{a,x})(\mathit{a,y})</math> dla <math>xy \in E_H</math>.

}}

[[File:ZO-9-3.svg|300x300px|thumb|right|Rys.9.2. Graf iloczynowy]]
<!-- ZO-9.3 - graf iloczynowy -->
{{przyklad|5.2||
Konstrukcja odpowiada "włożeniu" grafu <math>H</math> w każdy wierzchołek grafu <math>G</math>. Nam będzie potrzebna tylko konstrukcja <math>G^2 = G \times G</math>.
}}

{{lemat|5.3||
W grafie <math>G=(\mathit{V,E})</math> istnieje zbiór niezależny rozmiaru <math>k</math> wtedy i tylko wtedy, gdy w <math>G^2</math> istnieje zbiór niezależny rozmiaru <math>k^2</math>.
}}

{{dowod|||
Jeżeli <math>I \subseteq V</math> jest zbiorem niezależnym rozmiaru <math>k</math> w <math>G</math>, to zbiór <math>I^2 =  \{ {(\mathit{x,y})} : {x \in I \wedge y \in I} \}</math> jest zbiorem niezależnym rozmiaru <math>k^2</math> w grafie <math>G^2</math>.

Jeżeli natomiast <math>I \subseteq V^2</math> jest zbiorem niezależnym rozmiaru <math>k^2</math> w <math>G^2</math>, to każdy ze zbiorów:
* <math>I_1 =  \{ {x} : {\exists_y (\mathit{x,y}) \in I } \}</math>,
* <math>I_2^x =  \{ {y} : {(\mathit{x,y}) \in I} \}</math> dla każdego <math>x \in I_1</math>,

musi być zbiorem niezależnym w <math>G</math>. Jeżeli rozmiar każdego z tych zbiorów byłby mniejszy od <math>k</math>, to rozmiar <math>I</math> byłby mniejszy od <math>k^2</math>. Zatem któryś z tych zbiorów musi mieć rozmiar większy lub równy <math>k</math>.
}}

{{twierdzenie|5.4||
Jeżeli istnieje algorytm <math>a</math>-aproksymacyjny dla problemu INDEPENDENT SET, to istnieje algorytm PTAS dla tego problemu.
}}

{{dowod|||
Załóżmy, że <math>\mathcal{A}</math> jest <math>a</math>-aproksymacyjnym algorytmem dla problemu INDEPENDENT SET. Niech <math>k</math> będzie rozmiarem maksymalnego zbioru niezależnego w grafie <math>G</math>. Jeżeli wykonamy algorytm <math>\mathcal{A}</math> na grafie <math>G^2</math>, to otrzymamy zbiór niezależny rozmiaru <math>ak^2</math>. Poprzedni lemat zapewnia, że w czasie wielomianowym możemy z tego rozwiązania uzyskać pewien zbiór niezależny rozmiaru <math>\sqrt{ak^2}</math>. Tym samym stworzyliśmy nowy algorytm, który jest <math>\sqrt{a}</math>-aproksymacyjny.

Skorzystamy teraz z tego, że dla <math>0 < a \leq 1</math> ciąg <math>\sqrt[2^n]{a}</math> ma granicę w nieskończoności równą <math>1</math>. Schemat PTAS powstaje w związku z tym przez zastosowanie algorytmu <math>\mathcal{A}</math> dla grafu <math>G^{2^n}</math>, dla odpowiednio dużego <math>n</math>. Jeżeli chcemy osiągnąć <math>(\mathit{1-\epsilon})</math>-aproksymację, to otrzymamy następujące oszacowanie na <math>n</math>:

<center><math>\begin{align} 1-\epsilon &\leq  \sqrt[2^n]{a} \\
(\mathit{1-epsilon})^{2^n} &\leq  a \\
2^n &\geq  \log_{1-\epsilon}a \\
n &\geq  \log_2(\log_{1-\epsilon}a)\text{.}
\end{align}</math></center>

}}

{{cwiczenie|5.5||
Algorytm zachłanny dla problemu INDEPENDENT SET.

Pokazaliśmy, że o ile <math>\mathrm{P} \neq \mathrm{NP}</math>, to nie ma algorytmu <math>a</math>-aproksymacyjnego dla INDEPENDENT SET. Pokaż, że algorytm zachłanny nie jest algorytmem <math>a</math>-aproksymacyjnym.

 Algorytm zachłanny.
 Dopóki w grafie są wierzchołki:
 1. Wybierz wierzchołek <math>v</math> o najmniejszym stopniu.
 2. Dodaj <math>v</math> do zbioru niezależnego i usuń go z grafu wraz ze wszystkimi sąsiadami.
}}
<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Wskazówka </span><div class="mw-collapsible-content" style="display:none">  
Użyj dodatkowych wierzchołków podnoszących stopień w rozwiązaniu optymalnym, żeby zmylić algorytm zachłanny.
</div></div>

<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Rozwiązanie </span><div class="mw-collapsible-content" style="display:none">  
Przeanalizujmy graf <math>G_k</math>, dla <math>k \in \mathbb{N}</math>, w którym wierzchołki możemy podzielić na trzy grupy:
* <math>A</math> - grupa <math>k</math> wierzchołków. Każdy z nich jest połączony z <math>k</math> wierzchołkami z grupy <math>B</math>.
* <math>B</math> - grupa <math>k^2</math> wierzchołków. Każdy jest połączony z jednym wierzchołkiem z grupy <math>A</math> i z <math>k</math> wierzcholkami z grupy <math>C</math>.
* <math>C</math> - grupa <math>k</math> wierzchołków połączonych ze wszystkimi wierzchołkami w <math>B</math>.

Algorytm zachłanny będzie wybierał wierzchołki z <math>A</math>, gdyż mają one najniższy stopień. Jednocześnie będzie systematycznie usuwał całą grupę <math>B</math>. Na koniec doda wszystkie wierzchołki z grupy <math>C</math>. Skonstruuje w ten sposób zbiór niezależny o rozmiarze <math>2k</math>.

Tymczasem rozwiązanie optymalne ma <math>k^2</math> wierzchołków. Wystarczy wybrać całą grupę <math>B</math>.

Oznacza to, że na grafie <math>G_k</math> rozwiązanie algorytmu zachłannego jest <math>\frac{k}{2}</math> razy gorsze od optymalnego. Dobierając odpowiednią wartość <math>k > 2a</math>, możemy udowodnić, że algorytm zachłanny nie jest <math>a</math>-aproksymacyjny.
</div></div>

==Pewniejsze weryfikatory==

Przedstawimy teraz pewne uogólnienie definicji języków rozpoznawanych przez weryfikatory. To wzbogacenie pozwoli nam w następnej części pokazać bardzo ciekawe ograniczenie możliwości aproksymacji.

W definicji języka rozpoznawanego przez ograniczony weryfikator wymagaliśmy, aby prawdopodobieństwo zaakceptowania słowa z języka przy odpowiednim świadku wynosiło <math>1</math>, a prawdopodobieństwo zaakceptowania słowa spoza języka przy żadnym świadku nie przekraczało <math>\frac{1}{2}</math>. Spróbujemy się teraz przyjrzeć sytuacji, w której stałe <math>1</math> i <math>\frac{1}{2}</math> mogą się zmieniać.

{{definicja|6.1||
Język <math>L</math> należy do klasy <math>\mathrm{PCP}_{c,s}(p,q)</math>, jeżeli istnieje weryfikator <math>V</math>, który dla wejścia <math>x</math> długości <math>n</math> bitów działa w czasie wielomianowym od <math>n</math>, korzysta z <math>\mathcal{O}{ p(n) }</math> bitów losowych i <math>\mathcal{O}{ q(n) }</math> bitów świadka oraz:
* Dla <math>x \in L</math> istnieje świadek <math>y</math> taki, że <math>V</math> akceptuje z prawdopodobieństwem większym lub równym <math>c</math>.
* Dla <math>x \notin L</math>, dla każdego świadka <math>y</math>, <math>V</math> akceptuje z prawdopodobieństwem mniejszym od <math>s</math>.

}}

Zauważmy, że wcześniejsza definicja <math>\mathrm{PCP}(p,q)</math> odpowiada teraz <math>\mathrm{PCP}_{1,\frac{1}{2}}(p,q)</math>. Dość łatwo można uzyskać równość <math>\mathrm{PCP}_{1,\frac{1}{2}}(\log n,1)  =  \mathrm{PCP}_{1,a}(\log n, 1)</math> dla każdej stałej <math>0 < a < 1</math>. Działanie weryfikatora klasy <math>\mathrm{PCP}_{1,a}(\log n, 1)</math> można powtórzyć <math>k</math> razy, otrzymując weryfikator klasy <math>\mathrm{PCP}_{1,a^k}(k\log n, k)</math>. Dlatego naprawdę ciekawe rezultaty otrzymamy dopiero, kiedy dopuścimy, aby <math>c</math> i <math>s</math> mogły zależeć od <math>n</math>.

Szczególnie interesującym wydaje się ograniczenie błędnej akceptacji w sposób odwrotnie proporcjonalny do rozmiaru wejścia. Równość <math>\mathrm{PCP}_{1,\frac{1}{2}}(\log n,1)  =  \mathrm{PCP}_{1,\frac{1}{n}}(\log^2n,\log n)</math> otrzymujemy tą samą metodą. Możemy przecież powtórzyć działanie weryfikatora <math>\log n</math> razy, wykorzystując <math>\log n</math> razy więcej bitów losowych i bitów świadka.

Okazuje się jednak, że można użyć znacznie mniej bitów losowych. Mówi o tym następujące twierdzenie:

{{twierdzenie|6.2||
<math>\mathrm{NP} =  \mathrm{PCP}_{1,\frac{1}{n}}(\log n, \log n)</math>.
}}

{{dowod|||

Przypomnijmy, że pokazaliśmy, że <math>\mathrm{NP} =  \mathrm{PCP}(\log n, \text{poly}(n) )</math> i w związku z tym zawieranie <math>\mathrm{PCP}_{1,\frac{1}{n}}(\log n, \log n)  \subseteq \mathrm{NP}</math> nie wymaga dalszego komentarza.

Aby pokazać, że <math>\mathrm{NP} =  \mathrm{PCP}_{1,\frac{1}{2}}(\log n, 1)  \subseteq  \mathrm{PCP}_{1,\frac{1}{n}}(\log n, \log n)</math>, odwołamy się jeszcze raz do ekspanderów. Okazuje się, że nadają się one świetnie do zmniejszenia liczby bitów losowych wymaganych przy obliczeniu. Konkretnie skorzystamy z następującej własności, którą pozostawimy bez dowodu:
}}

{{twierdzenie|6.3||
Jeżeli graf <math>F=(\mathit{V,E})</math> jest ekspanderem o <math>n^c</math> wierzchołkach i <math>S \subseteq V</math> jest podzbiorem wierzchołków takim, że <math>|\mathit{S}| < \frac{|\mathit{V}|}{2}</math>, to istnieje stała <math>k</math> taka, że prawdopodobieństwo następującego zdarzenia:

<center> "Wszystkie wierzchołki losowej ścieżki długości  <math>k\log n</math>  należą do  <math>S</math> ", </center>

jest mniejsze od <math>\frac{1}{n}</math>.
}}

Zauważmy, że aby opisać ścieżkę losową długości <math>k\log n</math> w ekspanderze potrzeba <math>\mathcal{O}{\log n}</math> bitów -- <math>c\log n</math> bitów opisuje wierzchołek początkowy, a ponieważ wierzchołki ekspandera mają stały stopień, to do opisania każdej kolejnej krawędzi jest potrzebna stała ilość bitów.

To spostrzeżenie jest kluczowe dla dowodu. Pozwala ono opisać ścieżkę, która ma dobre właściwości "przeglądania" grafu przy pomocy <math>\mathcal{O}{\log n}</math> bitów.

Niech <math>V</math> będzie <math>(\mathit{\log n,1})</math>-ograniczonym weryfikatorem dla języka <math>L</math>. <math>V</math> używa podczas obliczenia co najwyżej <math>c\log n</math> bitów losowych i <math>d</math> bitów świadka.

Skonstruujemy weryfikator <math>W</math> klasy <math>\mathrm{PCP}_{1,\frac{1}{n}}(\log n, \log n)</math> dla języka <math>L</math>.

{{algorytm|6.4 [Weryfikator klasy <math>\mathrm{PCP}_{1,\frac{1}{n}}(\log n, \log n)</math>]|al 5.4|
1. Skonstruuj ekspander <math>F</math> o <math>n^c</math> wierzchołkach.<br>  Każdy wierzchołek jest etykietowany ciągiem <math>c\log n</math> bitów.

2. Używając <math>k\log n</math> bitów losowych, wygeneruj ścieżkę losową <math>P</math> w grafie <math>F</math>.

3. Przechodząc ścieżkę <math>P</math>, dokonaj symulacji weryfikatora <math>V</math><br>  na ciągu losowym reprezentowanym przez każdy z wierzchołków.

4. Zaakceptuj słowo, jeżeli każda z symulacji weryfikatora <math>V</math> zakończyła się akceptacją.}}

Podany algorytm weryfikatora działa w czasie wielomianowym od <math>n</math>, używa <math>\mathcal{O}{\log n}</math> bitów losowych do ustalenia ścieżki <math>P</math>, a podczas wszystkich symulacji weryfikatora <math>V</math> używane jest w sumie <math>\mathcal{O}{\log n}</math> bitów świadka.

Jeżeli słowo <math>x \in L</math>, to istnieje świadek <math>y</math>, przy którym prawdopodobieństwo akceptacji weryfikatora <math>V</math> wynosi <math>1</math>. Dla tego samego świadka weryfikator <math>W</math> także dokona akceptacji z prawdopodobieństwem <math>1</math>.

Jeżeli natomiast <math>x \notin L</math>, to dla każdego świadka <math>y</math> prawdopodobieństwo akceptacji przez weryfikator <math>V</math> jest mniejsze od <math>\frac{1}{2}</math>. Oznaczmy przez <math>S</math> wierzchołki <math>F</math>, które reprezentują te ciągi bitów losowych, przy których następuje akceptacja. Własności ścieżek losowych w ekspanderach zapewniają, że prawdopodobieństwo, że ścieżka <math>P</math> w całości znajduje się w <math>S</math> jest mniejsze od <math>\frac{1}{n}</math>. Jeżeli ścieżka <math>P</math> wyjdzie poza zbiór <math>S</math>, to weryfikator <math>W</math> odrzuci słowo. W związku z tym prawdopodobieństwo błędnej akceptacji jest mniejsze od <math>\frac{1}{n}</math>.

{{cwiczenie|6.5||
Niepewny weryfikator.

Nie analizowaliśmy jeszcze weryfikatorów, dla których prawdopodobieństwo akceptacji słowa należącego do języka jest mniejsze od <math>1</math>. Pokaż, że dla dowolnego <math>0 < \epsilon < \frac{1}{2}</math> zachodzi:

<center><math>\mathrm{NP} =  \mathrm{PCP}_{1-\epsilon,\frac{1}{2}}(\log n,1)\text{.} 
</math></center>
}}
<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Wskazówka </span><div class="mw-collapsible-content" style="display:none">  
Użyj charakteryzacji <math>\mathrm{NP}</math> z twierdzenia <math>\mathrm{PCP}</math>.
</div></div>

<div class="mw-collapsible mw-made=collapsible mw-collapsed"><span class="mw-collapsible-toogle mw-collapsible-toogle-default style="font-variant:small-caps">Rozwiązanie </span><div class="mw-collapsible-content" style="display:none">  
Zawieranie <math>\mathrm{NP} \subseteq  \mathrm{PCP}_{1-\epsilon,\frac{1}{2}}(\log n, 1)</math> jest dość oczywiste. Dla każdego języka <math>L</math> z <math>\mathrm{NP}</math> istniej weryfikator klasy <math>\mathrm{PCP}_{1,\frac{1}{2}}(\log n, 1)</math>. Ten sam weryfikator zapewnia przynależność języka <math>L</math> do <math>\mathrm{PCP}_{1-\epsilon,\frac{1}{2}}(\log n, 1)</math>.

Żeby uzasadnić drugie zawieranie, wystarczy przypomnieć dowód, że <math>\mathrm{PCP}_{1,\frac{1}{2}}(\log n, \text{poly}(n) )  \subseteq \mathrm{NP}</math>. Postępując tak samo jak tam, możemy niedeterministycznie wygenerować świadka, a potem przejrzeć obliczenia przy wszystkich ciągach losowych. Różnica polega na tym, że akceptacji dokonujemy, jeżeli co najmniej <math>(\mathit{1-\epsilon})k</math> ze wszystkich <math>k</math> testów wypadnie pozytywnie.

To samo rozumowanie pozwala stwierdzić, że dla dowolnych <math>0 \leq s < c \leq 1</math> zachodzi:

<center><math>\mathrm{NP} =  \mathrm{PCP}_{c,s}(\log n, 1)\text{.}
</math></center>

</div></div>

==Problem CLIQUE==

Jest to kontynuacja naszych rozważań dotyczących aproksymacji problemu INDEPENDENT SET. Każdy wynik dotyczący aproksymacji problemu CLIQUE jest jednocześnie wynikiem dla INDEPENDENT SET. Wystarczy przecież zamienić graf na jego dopełnienie, żeby jeden problem zamienił się w drugi. Tylko ze względu na wygodniejsze oznaczenia zdecydowaliśmy się "przenieść" do grafu dopełnieniowego i rozważać problem CLIQUE zamiast INDEPENDENT SET.

Wykorzystamy teraz nowo wprowadzone definicje do pokazania bardzo ciekawego rezultatu. Udowodnimy mianowicie, że o ile <math>\mathrm{P} \neq \mathrm{NP}</math>, to dla problemu CLIQUE nie istnieje algorytm <math>\alpha</math>-aproksymacyjny, gdzie <math>\alpha(n) = \frac{1}{n^\epsilon}</math> dla pewnego <math>0 < \epsilon < 1</math>.

Jest to stwierdzenie mocniejsze niż wyniki pokazane wcześniej, gdyż podaje pewne asymptotyczne ograniczenie możliwości tworzenia algorytmów <math>\alpha</math>-aproksymacyjnych.

Dowód będzie w swojej konstrukcji przypominał dowód nieaproksymowalności MAX<math>3</math>SAT w oparciu o twierdzenie <math>\mathrm{PCP}</math>. Z tą różnicą, że tym razem wykorzystamy weryfikator klasy <math>\mathrm{PCP}_{1,\frac{1}{n}}(\log n, \log n)</math>. Gdybyśmy wykorzystali charakteryzację <math>\mathrm{NP} =  \mathrm{PCP}_{1,\frac{1}{2}}(\log n, 1)</math>, uzyskalibyśmy podobny rezultat mówiący o tym, że nie istnieje algorytm <math>\epsilon</math>-aproksymacyjny dla problemu CLIQUE.

{{twierdzenie|7.1||
Istnieją stałe <math>c</math> i <math>d</math> takie, że dla każdej instancji <math>\phi</math> problem SAT można skonstruować graf <math>G</math> o <math>n^{c+d}</math> wierzchołkach taki, że dla problemu CLIQUE:
* <math>\text{opt} (G)  \geq n^c</math>, gdy <math>\phi \in </math> SAT,
* <math>\text{opt} (G)  < n^{c-1}</math>, gdy <math>\phi \notin </math> SAT.

}}

{{dowod|||
Niech <math>V</math> będzie weryfikatorem klasy <math>\mathrm{PCP}_{1,\frac{1}{n}}(\log n, \log n)</math> dla języka SAT. <math>V</math> podczas działania używa co najwyżej <math>c\log n</math> bitów losowych i <math>d\log n</math> bitów świadka.

Konstruujemy graf <math>G=(\mathit{V,E})</math>, gdzie wierzchołki <math>V</math> odpowiadają parom ciągów bitowych długości <math>c\log n</math> i <math>d\log n</math>. Takich par jest oczywiście <math>n^{c+d}</math>. Wierzchołek reprezentujący ciągi <math>r</math> i <math>b</math> oznaczamy przez <math>v_{r,b}</math> i intuicyjnie będzie on odpowiadał sytuacji, kiedy ciągiem losowym był <math>r</math>, a odczytane bity świadka tworzą ciąg <math>b</math>.

Wierzchołek <math>v_{r,b}</math> jest akceptujący, gdy weryfikator <math>V</math> akceptuje formułę <math>\phi</math> przy ciągu bitów losowych równym <math>r</math> i odczytach świadka równych <math>b</math>.

Dwa wierzchołki <math>v_{r_1,b_1}</math> i <math>v_{r_2,b_2}</math> łączymy krawędzią, gdy oba są akceptujące i bity odczytane z tych samych pozycji świadka są takie same w <math>b_1</math> i <math>b_2</math>. Zauważmy, że jeżeli <math>r_1 = r_2</math> i <math>b_1 \neq b_2</math>, to nie może być krawędzi łączącej <math>v_{r_1,b_1}</math> z <math>v_{r_2,b_2}</math>, gdyż pierwszy bit rozróżniający <math>b_1</math> i <math>b_2</math> jest odczytywany przez <math>V</math> z tej samej pozycji.

Jeżeli formuła <math>\phi</math> jest spełnialna, to istnieje taki świadek <math>y</math>, przy którym każdy ciąg losowy długości <math>c\log n</math> zapewnia akceptację. Zatem wierzchołki odpowiadające wszystkim możliwym <math>r</math> i odczytom <math>b</math>, takim jak przy świadku <math>y</math>, tworzą klikę. Rozmiar tej kliki to <math>n^c</math>.

Jeżeli natomiast formuła <math>\phi</math> nie jest spełnialna, a <math>C</math> jest kliką w grafie <math>G</math>, to musi zachodzić <math>|\mathit{C}| < n^{c-1}</math>. Gdyby było przeciwnie, to zauważmy, że klika <math>C</math> generuje pewnego świadka <math>y</math>, który odpowiada odczytom w wierzchołkach kliki (być może bity na nie wszystkich pozycjach są określone, ale nie jest to istotne). Zauważmy dalej, że jeżeli <math>|\mathit{C}| \geq n^{c-1}</math>, to wierzchołki <math>C</math> odpowiadają <math>n^{c-1}</math> różnym ciągom losowym <math>r</math> i przy każdym z nich weryfikator <math>V</math> akceptuje formułę <math>\phi</math>.

Zatem przy świadku <math>y</math> prawdopodobieństwo zaakceptowania formuły <math>\phi</math> jest większe lub równe <math>\frac{n^{c-1}}{n^c} = \frac{1}{n}</math>. Jest to niemożliwe ze względu na to, że formuła <math>\phi</math> nie jest spełnialna, a <math>V</math> ma prawdopodbieństwo błędnej akceptacji mniejsze od <math>\frac{1}{n}</math>.

Zatem rozmiar największej kliki w grafie <math>G</math> skonstruowanym dla niespełnialnej formuły <math>\phi</math> musi być mniejszy od <math>n^{c-1}</math>.
}}

{{wniosek|7.2||
Istnieje stała <math>0 < \epsilon < 1</math> taka, że o ile <math>\mathrm{P} \neq \mathrm{NP}</math>, to nie istnieje algorytm <math>\frac{1}{n^\epsilon}</math>-aproksymacyjny dla problemu CLIQUE.
}}

{{dowod|||
Ustalmy <math>\epsilon = \frac{1}{c}</math> dla stałej <math>c</math> z poprzedniego twierdzenia. Niech <math>\mathcal{A}</math> będzie algorytmem <math>\frac{1}{n^\epsilon}</math>-aproksymacyjnym dla problemu CLIQUE.

Dla dowolnej formuły <math>\phi</math> możemy skonstruować graf <math>G</math> taki jak w poprzednim twierdzeniu.

Jeżeli <math>\phi</math> jest spełnialna, to <math>\text{opt} (G) \geq n^c</math> i algorytm <math>\mathcal{A}</math> znajdzie rozwiązanie o rozmiarze większym lub równym:

<center><math>(\mathit{\frac{1}{n^\frac{1}{c}}}) n^c = \frac{n^c}{n^\frac{1}{c}} = n^{c-\frac{1}{c}} \geq n^{c-1}\text{.}
</math></center>

Jeżeli natomiast <math>\phi</math> nie jest spełnialna to rozmiar każdego rozwiązania jest mniejszy od <math>n^{c-1}</math>.

Możemy zatem przy pomocy algorytmu <math>\mathcal{A}</math> rozstrzygnąć <math>\mathrm{NP}</math>-zupełny problem SAT, co jest sprzeczne z założeniem <math>\mathrm{P} \neq \mathrm{NP}</math>.
}}

{{wniosek|7.3||
Istnieje stała <math>0 < \epsilon < 1</math> taka, że o ile <math>\mathrm{P} \neq \mathrm{NP}</math>, to nie istnieje algorytm <math>\frac{1}{n^\epsilon}</math>-aproksymacyjny dla problemu INDEPENDENT SET.
}}

==Testy końcowe==