Złożoność obliczeniowa/Klasy L, NL i coNL: Różnice pomiędzy wersjami

Z Studia Informatyczne
Przejdź do nawigacjiPrzejdź do wyszukiwania
Nie podano opisu zmian
 
 
(Nie pokazano 24 wersji utworzonych przez 3 użytkowników)
Linia 1: Linia 1:
\documentclass[12pt]{article}
==Klasy L, NL i coNL==


\usepackage{polski}
W tym rozdziale zajmiemy się klasami złożoności, w których dajemy bardzo restrykcyjne wymagania odnośnie zużywanej
 
pamięci, a mianowicie ograniczamy jej ilość przez funkcję logarytmiczną. Przypomnijmy:
\usepackage[cp1250]{inputenc}
\usepackage{amsfonts}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{fancyhdr}
\usepackage{graphicx}
\usepackage{listings}
\usepackage{pstricks}
\usepackage{algorithm}
\usepackage{algorithmic}
 
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\addtolength{\textheight}{0.5cm} %
\addtolength{\textwidth}{0.8cm} %
\addtolength{\oddsidemargin}{ -0.4cm} %
\addtolength{\evensidemargin}{ -0.4cm} %
\setlength{\unitlength}{1mm} %
\headheight 14.6pt %
 
\pagestyle{fancy}
 
\renewcommand{\headrulewidth}{0.5 pt}
\renewcommand{\sectionmark}[1]{\markboth{\textbf{\thesection\ #1}}{}}
\fancyhf{} \lhead{\leftmark} \rhead{\thepage} %\headheight{14.6pt}
 
\newtheorem{theorem}{Theorem}[section]
\newtheorem{lemma}[theorem]{Lemma}
\newtheorem{tw}[theorem]{Twierdzenie}
\newtheorem{definition}[theorem]{Definicja}
\newtheorem{example}[theorem]{Przykład}
\newtheorem{EX}[theorem]{Ćwiczenie}
\newtheorem{observation}[theorem]{Observation}
 
\newenvironment{proof}{\noindent \textit{Dowód: }}{\hfill$\square$}
\newenvironment{hint}{\noindent \textit{Wskazówka: }}{}
\newenvironment{sol}{\noindent \textit{Rozwiązanie: }}{}
 
\renewcommand{\encodingdefault}{T1}
 
\newcommand{\wciecie}{\hspace*{0.5cm}}
\newcommand{\insertpicture}[2]{\vspace{1cm}
                                \begin{center}
                                    % \noindent \makebox[\textwidth][c]{\includegraphics{#1}} %
                                    \includegraphics[width=10cm]{#1.jpg}\\
                                    #2
                                \end{center}
                                \vspace{1cm}
                              }
 
 
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
 
\begin{document}
 
\thispagestyle{empty}
 
{\Huge \bf Informacje}


\bigskip
* Klasa L = SPACE(\text{log}<math>n</math>), to klasa tych języków, które mogą być akceptowane w deterministycznej pamięci logarytmicznej,
\bigskip
\bigskip
\bigskip
\bigskip


* Klasa NL = NSPACE(\text{log}<math>n</math>), to klasa tych języków, które mogą być akceptowane w niedeterministycznej pamięci logarytmicznej,


\begin{center}
* Klasa \text{co}NL = \text{co}NSPACE(\text{log}<math>n</math>), to dopełnienie klasy tych języków, które mogą być akceptowane w niedeterministycznej pamięci logarytmicznej,


\begin{tabular}{|l|l|}
Na podstawie następnego rozdziału i twierdzenia Immermana-Szelepcsényi'ego dowiemy się, że <math>\text{NL=coNL}</math>. Natomiast pytanie czy L=NL pozostaje
  \hline
  Przedmiot & \textbf{Złożoność obliczeniowa} \\
  \hline
  Moduł &  \textbf{13} \\
  \hline
  Tytuł &  \textbf{Pamięć logarytmiczna i hierarchia wielomianowa} \\
  \hline
  Opracowanie &  \textbf{Przemysław Broniek} \\
  \hline
\end{tabular}
 
\end{center}
 
\bigskip
\bigskip
\bigskip
\bigskip
\bigskip
 
{\Huge \bf Syllabus}
 
\bigskip
\bigskip
\bigskip
\bigskip
\bigskip
 
Pamięć logarytmiczna i hierarchia wielomianowa
\begin{itemize}
\item klasy L, NL i coNL,
\item Twierdzenie Immermana-Szelepcsényi'ego,
\item klasy coNP i DP,
\item maszyny alternujące,
\item hierarchia wielomianowa.
\end{itemize}
 
\newpage
 
\section{Klasy L, NL i coNL}
 
W tym rozdziale zajmiemy się klasami złożoności, w których dajemy bardzo restrykcyjne wymagania odnośnie zużywanej
pamięci, a mianowicie ograniczamy jej ilość przez funkcję logarytmiczną. Przypomnijmy:
 
\begin{itemize}
\item Klasa L = SPACE(\textnormal{log}$n$), to klasa tych języków, które mogą być akceptowane w deterministycznej pamięci logarytmicznej,
\item Klasa NL = NSPACE(\textnormal{log}$n$), to klasa tych języków, które mogą być akceptowane w niedeterministycznej pamięci logarytmicznej,
\item Klasa \textnormal{co}NL = \textnormal{co}NSPACE(\textnormal{log}$n$), to dopełnienie klasy tych języków, które mogą być akceptowane w niedeterministycznej pamięci logarytmicznej,
\end{itemize}
 
Na podstawie następnego rozdziału i twierdzenia Immermana-Szelepcsényi'ego dowiemy się, że $\textnormal{NL=coNL}$. Natomiast pytanie czy L=NL pozostaje
wciąż problemem otwartym.
wciąż problemem otwartym.
\bigskip


Przyjrzymy się teraz problemom zupełnym w klasie NL. Zupełność definiujemy przy pomocy redukcji w pamięci logarytmicznej, gdyż
Przyjrzymy się teraz problemom zupełnym w klasie NL. Zupełność definiujemy przy pomocy redukcji w pamięci logarytmicznej, gdyż
Linia 129: Linia 17:
gdyż sama redukcja miałaby moc obliczeniową pozwalającą rozwiązać wszystkie problemy z tych klas. Poniższy problem okazuje się być NL-zupełny:
gdyż sama redukcja miałaby moc obliczeniową pozwalającą rozwiązać wszystkie problemy z tych klas. Poniższy problem okazuje się być NL-zupełny:


\begin{definition}
{{definicja|[Uzupelnij]||
Problem REACHABILITY:\\
Problem REACHABILITY:<br>
Wejście: Graf skierowany $G$ oraz wierzchołki $x$ i $y$.\\
Wejście: Graf skierowany <math>G</math> oraz wierzchołki <math>x</math> i <math>y</math>.<br>
Wyjście: Czy istnieje ścieżka od $x$ do $y$ w $G$?
Wyjście: Czy istnieje ścieżka od <math>x</math> do <math>y</math> w <math>G</math>?
\end{definition}
}}
 
====Ćwiczenie====


\begin{EX}
Pokaż, że problem REACHABILITY jest NL-zupełny.
Pokaż, że problem REACHABILITY jest NL-zupełny.
\end{EX}


\begin{hint}
\begin_hint
Zwróć uwagę na fakt, że problem REACHABILITY jest związany z wykonywaniem obliczeń przez maszynę Turinga.
Zwróć uwagę na fakt, że problem REACHABILITY jest związany z wykonywaniem obliczeń przez maszynę Turinga.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
Pokażmy najpierw, że problem REACHABILITY należy do NL.
Pokażmy najpierw, że problem REACHABILITY należy do NL.
Użyjemy dwóch zmiennych $v$ - wierzchołek bieżący, oraz $u$ wierzchołek kolejny na ścieżce od $x$ do $y$.
Użyjemy dwóch zmiennych <math>v</math> - wierzchołek bieżący, oraz <math>u</math> wierzchołek kolejny na ścieżce od <math>x</math> do <math>y</math>.


Początkowo
Początkowo
ustawiamy $v:=x$. Ponieważ mamy do dyspozycji niedeterminizm to zgadujemy wierzchołek $u$ i sprawdzamy, czy jest sąsiedni do $v$.
ustawiamy <math>v:=x</math>. Ponieważ mamy do dyspozycji niedeterminizm to zgadujemy wierzchołek <math>u</math> i sprawdzamy, czy jest sąsiedni do <math>v</math>.
Jeśli nie, to przerywamy obliczenie, wiedząc, że na innej ścieżce obliczeń przetworzymy inne możliwości.
Jeśli nie, to przerywamy obliczenie, wiedząc, że na innej ścieżce obliczeń przetworzymy inne możliwości.
Jeśli jest sąsiedni to sprawdzamy czy $u=y$ co oznacza, że dotarliśmy do celu i akceptujemy parę $x$, $y$. W przeciwnym wypadku
Jeśli jest sąsiedni to sprawdzamy czy <math>u=y</math> co oznacza, że dotarliśmy do celu i akceptujemy parę <math>x</math>, <math>y</math>. W przeciwnym wypadku
ustawiamy $v:=u$ i kontynuujemy obliczenia.
ustawiamy <math>v:=u</math> i kontynuujemy obliczenia.


Formalnie należy jeszcze użyć trzeciej zmiennej $licznik$, która zlicza liczbę kroków, tak aby ostatecznie
Formalnie należy jeszcze użyć trzeciej zmiennej <math>licznik</math>, która zlicza liczbę kroków, tak aby ostatecznie
odrzucić parę, gdy $licznik$ przekroczy liczbę wierzchołków grafu. Użyliśmy pamięci rzędu $\textnormal{log}n$ co kończy dowód pierwszego faktu.
odrzucić parę, gdy <math>licznik</math> przekroczy liczbę wierzchołków grafu. Użyliśmy pamięci rzędu <math>\text{log}n</math> co kończy dowód pierwszego faktu.


Teraz musimy pokazać, że każdy inny problem z klasy NL redukuje się do REACHABILITY
Teraz musimy pokazać, że każdy inny problem z klasy NL redukuje się do REACHABILITY
poprzez redukcję w pamięci logarytmicznej. Weźmy dowolny język L z klasy NL i odpowiadającą mu niedeterministyczną maszynę Turinga
poprzez redukcję w pamięci logarytmicznej. Weźmy dowolny język L z klasy NL i odpowiadającą mu niedeterministyczną maszynę Turinga
$M$.
<math>M</math>.


Rozmiar grafu konfiguracji maszyny działającej w pamięci $\textnormal{log}n$ to jak wiemy $c^{\textnormal{log}n}\in O(n)$,
Rozmiar grafu konfiguracji maszyny działającej w pamięci <math>\text{log}n</math> to jak wiemy <math>c^{\text{log}n}\in O(n)</math>,
natomiast sprawdzenie czy $x$ jest akceptowany przez $M$ możemy sprowadzić do istnienia ścieżki od konfiguracji początkowej
natomiast sprawdzenie czy <math>x</math> jest akceptowany przez <math>M</math> możemy sprowadzić do istnienia ścieżki od konfiguracji początkowej
do akceptującej. Jest to zatem instancja problemu REACHABILITY na danych wielkości rzędu $n$ .
do akceptującej. Jest to zatem instancja problemu REACHABILITY na danych wielkości rzędu <math>n</math> .
Nie potrzebujemy konstruować całego grafu, a jedynie stwierdzać, czy dwie konfiguracje są sąsiednie, co możemy zrobić
Nie potrzebujemy konstruować całego grafu, a jedynie stwierdzać, czy dwie konfiguracje są sąsiednie, co możemy zrobić
w pamięci logarytmicznej.
w pamięci logarytmicznej.
\end{sol}
\end_sol
 
\bigskip


Bardzo ciekawy rezultat, który zbliżył nas do odpowiedzi na pytanie czy L=NL, uzyskał w 2004 Reingold. Pokazał on, że
Bardzo ciekawy rezultat, który zbliżył nas do odpowiedzi na pytanie czy L=NL, uzyskał w 2004 Reingold. Pokazał on, że
problem UNDIRECTED REACHABILITY, czyli osiągalność w grafie \emph{nieskierowanym} należy do klasy L.
problem UNDIRECTED REACHABILITY, czyli osiągalność w grafie ''nieskierowanym'' należy do klasy L.


\section{Twierdzenie Immermana-Szelepcsényi'ego}
==Twierdzenie Immermana-Szelepcsényi'ego==


Ten rozdział poświęcony jest bardzo ciekawemu i całkiem młodemu wynikowi udowodnionemu niezależnie
Ten rozdział poświęcony jest bardzo ciekawemu i całkiem młodemu wynikowi udowodnionemu niezależnie
Linia 179: Linia 65:
Twierdzenie mówi o tym, że klasy niedeterministyczne złożoności pamięciowej są zamknięte na dopełnienie:
Twierdzenie mówi o tym, że klasy niedeterministyczne złożoności pamięciowej są zamknięte na dopełnienie:


\begin{tw}
{{twierdzenie|[Immermana-Szelepcsényi'ego]||
(twierdzenie Immermana-Szelepcsényi'ego)
Jeśli <math>{f}(n)</math> jest konstruowalna pamięciowo, to NSPACE(f(n))=coNSPACE(f(n)).
Jeśli $f(n)$ jest konstruowalna pamięciowo, to \textnormal{NSPACE}(f(n))=\textnormal{coNSPACE}(f(n)).
}}
\end{tw}


\begin{proof}
{{dowod|[Uzupelnij]||
To co zostało pokazane przez autorów, to maszyna niedeterministyczna, która mając dany graf skierowany $G$ i
To co zostało pokazane przez autorów, to maszyna niedeterministyczna, która mając dany graf skierowany <math>G</math> i
wierzchołek $x$ potrafi obliczyć liczbę wierzchołków osiąganych z $x$ w grafie $G$ przy użyciu pamięci $\textnormal{log}n$.
wierzchołek <math>x</math> potrafi obliczyć liczbę wierzchołków osiąganych z <math>x</math> w grafie <math>G</math> przy użyciu pamięci <math>\text{log}n</math>.
Zrobimy z niej użytek w ostatniej części głównego dowodu, gdy będziemy uruchamiać ją na grafie konfiguracji.
Zrobimy z niej użytek w ostatniej części głównego dowodu, gdy będziemy uruchamiać ją na grafie konfiguracji.


Linia 193: Linia 78:
będziemy "wykrywać", że coś jest nie tak i kończyć działanie w stanie odrzucającym ("poddawać się").
będziemy "wykrywać", że coś jest nie tak i kończyć działanie w stanie odrzucającym ("poddawać się").


Oznaczmy, przez $S(k)$ zbiór tych wierzchołków grafu $G$, które są osiągane z $x$ ścieżką o długości co najwyżej $k$. Natomiast
Oznaczmy, przez <math>S(k)</math> zbiór tych wierzchołków grafu <math>G</math>, które są osiągane z <math>x</math> ścieżką o długości co najwyżej <math>k</math>. Natomiast
przez $s(k)=|S(k)|$ oznaczymy liczność tego zbioru. Naszym obiektem zainteresowania jest zatem obliczenie wartości $s(n)$,
przez <math>s(k)=|S(k)|</math> oznaczymy liczność tego zbioru. Naszym obiektem zainteresowania jest zatem obliczenie wartości <math>s(n)</math>,
czyli liczba wszystkich wierzchołków osiągalnych, gdyż $n$ -- rozmiar grafu -- ogranicza długość ścieżki.
czyli liczba wszystkich wierzchołków osiągalnych, gdyż <math>n</math> -- rozmiar grafu -- ogranicza długość ścieżki.


Pamiętamy jednak, że mamy do dyspozycji tylko logarytmiczną ilość pamięci, więc o zapamiętaniu zbioru $S(k)$ (i obliczaniu na jego podstawie
Pamiętamy jednak, że mamy do dyspozycji tylko logarytmiczną ilość pamięci, więc o zapamiętaniu zbioru <math>S(k)</math> (i obliczaniu na jego podstawie
$S(k+1)$ co byłoby banalne) nie możemy marzyć - ma on wielkość
<math>S(k+1)</math> co byłoby banalne) nie możemy marzyć - ma on wielkość
liniową względem rozmiaru $G$. To brzmi niesamowicie, ale będziemy obliczać $s(k+1)$ na podstawie $s(k)$! Czyli wystarczy nam liczba
liniową względem rozmiaru <math>G</math>. To brzmi niesamowicie, ale będziemy obliczać <math>s(k+1)</math> na podstawie <math>s(k)</math>! Czyli wystarczy nam liczba
stosownych wierzchołków, która to do zapisu potrzebuje pamięci logarytmicznej. Główna pętla algorytmu przedstawia się następująco:
stosownych wierzchołków, która to do zapisu potrzebuje pamięci logarytmicznej. Główna pętla algorytmu przedstawia się następująco:


\begin{algorithmic}
\begin_algorithmic
\STATE{$s(0):=1$}
\STATE{<math>s(0):=1</math>}
\FOR{$i:=1$ to $n$}
\FOR{<math>i:=1</math> to <math>n</math>}
\STATE{Wyznacz $s(i)$ na podstawie $s(i-1)$}
\STATE{Wyznacz <math>s(i)</math> na podstawie <math>s(i-1)</math>}
\ENDFOR
\ENDFOR
\end{algorithmic}
\end_algorithmic


Teraz procedura obliczająca $s(i)$. Jest ona całkiem prosta, jeśli zastosujemy w niej pewien skrót notacyjny:
Teraz procedura obliczająca <math>s(i)</math>. Jest ona całkiem prosta, jeśli zastosujemy w niej pewien skrót notacyjny:


\begin{algorithmic}
\begin_algorithmic
\STATE{$s(i):=0$}
\STATE{<math>s(i):=0</math>}
\FORALL{$v\in V(G)$}
\FORALL{<math>v\in V(G)</math>}
\IF{$v\in S(i)$}\STATE{s(i)++}
\IF{<math>v\in S(i)</math>}\STATE{s(i)++}
\ENDIF
\ENDIF
\ENDFOR
\ENDFOR
\end{algorithmic}
\end_algorithmic


Lecz zbioru $S(i)$ nie byliśmy w stanie zapamiętać. Zapowiedzielśmy już, że będziemy sprawdzać, czy wierzchołek do niego należy,
Lecz zbioru <math>S(i)</math> nie byliśmy w stanie zapamiętać. Zapowiedzielśmy już, że będziemy sprawdzać, czy wierzchołek do niego należy,
na podstawie $s(i-1)$. To najbardziej skomplikowana część algorytmu, gdzie wykorzystujemy niedeterminizm.
na podstawie <math>s(i-1)</math>. To najbardziej skomplikowana część algorytmu, gdzie wykorzystujemy niedeterminizm.


Przeglądniemy teraz wszystkie wierzchołki $u$ grafu $G$ i sprawdzimy, czy któryś z nich należy do $S(i-1)$ w sposób niedeterministyczny.
Przeglądniemy teraz wszystkie wierzchołki <math>u</math> grafu <math>G</math> i sprawdzimy, czy któryś z nich należy do <math>S(i-1)</math> w sposób niedeterministyczny.
Przypomnijmy, że taka procedura, gdy mówi \verb"TAK", to wierzchołek na pewno należy do $S(i-1)$, natomiast gdy mówi "NIE" to mogliśmy trafić na nieodpowiednią
Przypomnijmy, że taka procedura, gdy mówi \verb"TAK", to wierzchołek na pewno należy do <math>S(i-1)</math>, natomiast gdy mówi "NIE" to mogliśmy trafić na nieodpowiednią
ścieżkę obliczeń. Będziemy jednak zliczać ile wierzchołków zgadliśmy na TAK i sprawdzimy, czy wyjdzie nam $s(i-1)$. Jeśli tak się stanie, to będziemy mieć gwarancję, że
ścieżkę obliczeń. Będziemy jednak zliczać ile wierzchołków zgadliśmy na TAK i sprawdzimy, czy wyjdzie nam <math>s(i-1)</math>. Jeśli tak się stanie, to będziemy mieć gwarancję, że
o każdym wierzchołku $u$ zgadliśmy dobrze. Jeśli wyszło nam mniej, to odrzucamy, wiedząc, że na innej ścieżce obliczeń musi nam się udać.
o każdym wierzchołku <math>u</math> zgadliśmy dobrze. Jeśli wyszło nam mniej, to odrzucamy, wiedząc, że na innej ścieżce obliczeń musi nam się udać.
Następnie sprawdzamy, czy z $u$ można dojść do $v$ przy pomocy jednej krawędzi w ten sposób obliczymy
Następnie sprawdzamy, czy z <math>u</math> można dojść do <math>v</math> przy pomocy jednej krawędzi w ten sposób obliczymy
czy $v\in S(i)$:
czy <math>v\in S(i)</math>:


\begin{algorithmic}
\begin_algorithmic
\STATE{$licznik:=0, wynik:=NIE$}
\STATE{<math>licznik:=0, wynik:=NIE</math>}
\FORALL{$u\in V(G)$}
\FORALL{<math>u\in V(G)</math>}
\IF{$u\in S(i-1)$}
\IF{<math>u\in S(i-1)</math>}
  \STATE{licznik++}
\STATE{licznik++}
  \IF{$u=v$ lub $u\rightarrow v \in G$}\STATE{wynik:=TAK}\ENDIF
\IF{<math>u=v</math> lub <math>u\rightarrow v \in G</math>}\STATE{wynik:=TAK}\ENDIF
\ENDIF
\ENDIF
\ENDFOR
\ENDFOR
\IF{$licznik<s(i-1)$}\RETURN{NIE}\ELSE \RETURN{wynik} \ENDIF
\IF{<math>licznik<s(i-1)</math>}\RETURN{NIE}\ELSE \RETURN{wynik} \ENDIF
\end{algorithmic}
\end_algorithmic


Teraz przejdźmy do konstrukcji maszyny obliczającej, czy $u\in S(i-1)$ w sposób niedeterministyczny. Algorytm jest całkiem prosty i podobny do tego, w którym
Teraz przejdźmy do konstrukcji maszyny obliczającej, czy <math>u\in S(i-1)</math> w sposób niedeterministyczny. Algorytm jest całkiem prosty i podobny do tego, w którym
pokazywaliśmy, że REACHABILITY jest w NL.
pokazywaliśmy, że REACHABILITY jest w NL.
Zgadujemy sekwencję $k-1$ wierzchołków. Rozpoczynamy od $x$. Sprawdzamy, czy każdy kolejny wierzchołek jest sąsiadem poprzedniego (lub równy poprzedniemu)
Zgadujemy sekwencję <math>k-1</math> wierzchołków. Rozpoczynamy od <math>x</math>. Sprawdzamy, czy każdy kolejny wierzchołek jest sąsiadem poprzedniego (lub równy poprzedniemu)
oraz czy w końcu dochodzimy do $u$. W ten sposób sprawdzimy (niedeterministycznie) wszystkie ścieżki długości co najwyżej $i-1$.
oraz czy w końcu dochodzimy do <math>u</math>. W ten sposób sprawdzimy (niedeterministycznie) wszystkie ścieżki długości co najwyżej <math>i-1</math>.


Poniżej zapis algorytmu dla sytuacji ścieżki długości $k$:
Poniżej zapis algorytmu dla sytuacji ścieżki długości <math>k</math>:


\begin{algorithmic}
\begin_algorithmic
\STATE{$p_1:=x$}
\STATE{<math>p_1:=x</math>}
\FOR{$i := 2$ to $k$}
\FOR{<math>i := 2</math> to <math>k</math>}
\STATE{zgadnij $p_i$}
\STATE{zgadnij <math>p_i</math>}
\IF{$p_{i-1}\neq p_i$ i nie zachodzi $p_{i-1}\rightarrow p_i \in G$}\RETURN{NIE}\ENDIF
\IF{<math>p_{i-1}\neq p_i</math> i nie zachodzi <math>p_{i-1}\rightarrow p_i \in G</math>}\RETURN{NIE}\ENDIF
\ENDFOR
\ENDFOR
\IF{$p_k=u$}\RETURN{TAK}\ELSE \RETURN{NIE} \ENDIF
\IF{<math>p_k=u</math>}\RETURN{TAK}\ELSE \RETURN{NIE} \ENDIF
\end{algorithmic}
\end_algorithmic


To już koniec algorytmu. Krótka analiza wykazuje, że w trakcie jego działania musimy pamiętać jedynie skończoną liczbę
To już koniec algorytmu. Krótka analiza wykazuje, że w trakcie jego działania musimy pamiętać jedynie skończoną liczbę
wierzchołków i liczb wielkości co najwyżej $n$ zatem działa on w pamięci logarytmicznej.
wierzchołków i liczb wielkości co najwyżej <math>n</math> zatem działa on w pamięci logarytmicznej.


Przejdźmy zatem do wykorzystania maszyny do udowodnienia tezy naszego twierdzenia. Weźmy język $L$ należący do NSPACE($f(n)$), gdzie
Przejdźmy zatem do wykorzystania maszyny do udowodnienia tezy naszego twierdzenia. Weźmy język <math>L</math> należący do NSPACE(<math>f(n)</math>), gdzie
$f(n)\geqslant \textnormal{log}n$, gdyż $f(n)$ jest konstruowalna pamięciowo. Istnieje zatem maszyna niedeterministyczna $M$ akceptująca
<math>f(n)\geqslant \text{log}n</math>, gdyż <math>f(n)</math> jest konstruowalna pamięciowo. Istnieje zatem maszyna niedeterministyczna <math>M</math> akceptująca
$L$ w pamięci niedeterministycznej. Musimy pokazać, że istnieje maszyna niedeterministyczna $\overline{M}$ akceptująca $\overline{L}$ również
<math>L</math> w pamięci niedeterministycznej. Musimy pokazać, że istnieje maszyna niedeterministyczna <math>\overline{M}</math> akceptująca <math>\overline{L}</math> również
w pamięci $f(n)$. Bierzemy graf konfiguracji $M$ dla słowa wejściowego $x$. Musimy stwierdzić, czy nie istnieje ścieżka od
w pamięci <math>f(n)</math>. Bierzemy graf konfiguracji <math>M</math> dla słowa wejściowego <math>x</math>. Musimy stwierdzić, czy nie istnieje ścieżka od
konfiguracji początkowej do akceptującej. Wtedy bowiem $x\notin L$ czyli $M'$ ma zaakceptować $x$.
konfiguracji początkowej do akceptującej. Wtedy bowiem <math>x\notin L</math> czyli <math>M'</math> ma zaakceptować <math>x</math>.


Oznaczmy konfigurację akceptującą przez $y$.
Oznaczmy konfigurację akceptującą przez <math>y</math>.
Liczymy zatem zbiór $S(n)$ dla grafu konfiguracji przy pomocy algorytmu z pierwszej części dowodu.
Liczymy zatem zbiór <math>S(n)</math> dla grafu konfiguracji przy pomocy algorytmu z pierwszej części dowodu.
Jeśli algorytm zakończy się wynikiem pozytywnym, to oznacza to, że $s(n)$ jest policzone
Jeśli algorytm zakończy się wynikiem pozytywnym, to oznacza to, że <math>s(n)</math> jest policzone
poprawnie. Jeśli zatem w trakcie przeglądania nie zakwalifikowaliśmy wierzchołka $y$ do żadnego ze zbiorów
poprawnie. Jeśli zatem w trakcie przeglądania nie zakwalifikowaliśmy wierzchołka <math>y</math> do żadnego ze zbiorów
$S(i)$ to znaczy, że \emph{nie} jest on osiągalny.
<math>S(i)</math> to znaczy, że ''nie'' jest on osiągalny.


W tej sytuacji maszyna $M'$ może zaakceptować słowo $x$, które
W tej sytuacji maszyna <math>M'</math> może zaakceptować słowo <math>x</math>, które
nie należy do $L$, a tym samym pokazujemy, że $L\in \textnormal{coNSPACE}(f(n))$.
nie należy do <math>L</math>, a tym samym pokazujemy, że <math>L\in \text{coNSPACE}(f(n))</math>.
\end{proof}
}}


\section{Klasy coNP i DP}
==Klasy coNP i DP==


Wprowadziliśmy już zarówno klasę NP jak i pojęcie dopełnień klas. Przyjrzyjmy się bliżej klasie coNP.
Wprowadziliśmy już zarówno klasę NP jak i pojęcie dopełnień klas. Przyjrzyjmy się bliżej klasie coNP.
Linia 282: Linia 167:


Podobnie jak dla NP i twierdzenia Fagina, można scharakteryzować coNP jako zbiór własności teoriografowych wyrażalnych
Podobnie jak dla NP i twierdzenia Fagina, można scharakteryzować coNP jako zbiór własności teoriografowych wyrażalnych
w \emph{uniwersalnej} logice drugiego rzędu.
w ''uniwersalnej'' logice drugiego rzędu.


Oto przykłady problemów z klasy coNP:
Oto przykłady problemów z klasy coNP:


\begin{definition}
{{definicja|[Uzupelnij]||
Problem TAUTOLOGY:\\
Problem TAUTOLOGY:<br>
Wejście: formuła logiczna $\phi$ jak dla problemu SAT.\\
Wejście: formuła logiczna <math>\phi</math> jak dla problemu SAT.<br>
Wyjście: czy każde wartościowanie spełnia $\phi$?
Wyjście: czy każde wartościowanie spełnia <math>\phi</math>?
\end{definition}
}}


\begin{definition}
{{definicja|[Uzupelnij]||
Problem HAMILTON PATH COMPLEMENT:\\
Problem HAMILTON PATH COMPLEMENT:<br>
Wejście: graf nieskierowany $G$.\\
Wejście: graf nieskierowany <math>G</math>.<br>
Wyjście: czy $G$ nie zawiera ścieżki Hamiltona?
Wyjście: czy <math>G</math> nie zawiera ścieżki Hamiltona?
\end{definition}
}}


W powyższych problemach weryfikacja negatywna słowa wejściowego jest łatwa,
W powyższych problemach weryfikacja negatywna słowa wejściowego jest łatwa,
Linia 303: Linia 188:
Nietrudno udowodnić (patrz ćwiczenie końcowe), że są to problemy zupełne dla klasy coNP.
Nietrudno udowodnić (patrz ćwiczenie końcowe), że są to problemy zupełne dla klasy coNP.
Nie jest to nic zaskakującego, bowiem równie prosto można udowodnić,
Nie jest to nic zaskakującego, bowiem równie prosto można udowodnić,
że jeżeli $L$ jest NP-zupełny, to jego dopełnienie $\overline{L}$ jest coNP-zupełne.
że jeżeli <math>L</math> jest NP-zupełny, to jego dopełnienie <math>\overline{L}</math> jest coNP-zupełne.


Jak wiele pytań w teorii złożoności obliczeniowej również i to, czy NP=coNP pozostaje otwarte.
Jak wiele pytań w teorii złożoności obliczeniowej również i to, czy NP=coNP pozostaje otwarte.
Linia 309: Linia 194:
Jednak już implikacja w drugą stronę nie jest znana. Inna podobna implikacja to:
Jednak już implikacja w drugą stronę nie jest znana. Inna podobna implikacja to:


\begin{EX}
====Ćwiczenie====
Jeśli $L$ jest coNP-zupełny i $L\in NP$ to NP=coNP.
\end{EX}


\begin{hint}
Jeśli <math>L</math> jest coNP-zupełny i <math>L\in NP</math> to NP=coNP.
 
\begin_hint
Pokaż inkluzje w obie strony korzystając z symetrii klas.
Pokaż inkluzje w obie strony korzystając z symetrii klas.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
Ustalmy $L$ z klasy NP, który jest coNP-zupełny.
Ustalmy <math>L</math> z klasy NP, który jest coNP-zupełny.


Weźmy dowolny $L'$ z klasy coNP.
Weźmy dowolny <math>L'</math> z klasy coNP.
Ponieważ $L$ jest coNP-zupełny, więc $L'$ redukuje się do $L$, czyli
Ponieważ <math>L</math> jest coNP-zupełny, więc <math>L'</math> redukuje się do <math>L</math>, czyli
$L'$ należy do NP, bowiem redukcja jest procedurą deterministyczną.
<math>L'</math> należy do NP, bowiem redukcja jest procedurą deterministyczną.


Analogicznie, weźmy dowolny $L'$ z NP. Wiemy, że $\overline{L}$ jest NP-zupełny,
Analogicznie, weźmy dowolny <math>L'</math> z NP. Wiemy, że <math>\overline{L}</math> jest NP-zupełny,
i należy do coNP. Możemy zatem sprowadzić $L'$ redukcją do $\overline{L}$.
i należy do coNP. Możemy zatem sprowadzić <math>L'</math> redukcją do <math>\overline{L}</math>.
Zatem $L'$ należy do coNP.
Zatem <math>L'</math> należy do coNP.
\end{sol}
\end_sol
\bigskip


Poniższy rysunek przedstawia relacje pomiędzy poznanymi klasami i omawianą za chwilę klasą DP:
Poniższy rysunek przedstawia relacje pomiędzy poznanymi klasami i omawianą za chwilę klasą DP:


\insertpicture{ZO-13-1-rys}{Relacje pomiędzy klasami NP, coNP i DP}
\vspace{1cm}
\begin_center
\includegraphics[width=10cm]{ZO-13-1-rys.jpg}<br>
Relacje pomiędzy klasami NP, coNP i DP
\end_center
\vspace{1cm}


Oczywiście przyglądając się wszystkim takim rysunkom należy pamiętać, że mogą one w wielu miejscach
Oczywiście przyglądając się wszystkim takim rysunkom należy pamiętać, że mogą one w wielu miejscach
kolapsować.
kolapsować.


\subsection{Klasa DP}
===Klasa DP===


Zastanówmy się nad następującym problemem:
Zastanówmy się nad następującym problemem:


\begin{example}
{{przyklad|[Uzupelnij]||
Problem EXACT TSP:\\
Problem EXACT TSP:<br>
Wejście: graf nieskierowany ważony $G$ i liczba $K$ \\
Wejście: graf nieskierowany ważony <math>G</math> i liczba <math>K</math> <br>
Wyjście: czy optymalna trasa komiwojażera dla $G$ ma wartość dokładnie $K$?
Wyjście: czy optymalna trasa komiwojażera dla <math>G</math> ma wartość dokładnie <math>K</math>?
\end{example}
}}


Jest to wersja dokładna znanego problemu optymalizacyjnego -- problemu komiwojażera. Wiemy że wersja decyzyjna TSP(D) jest NP-zupełna.
Jest to wersja dokładna znanego problemu optymalizacyjnego -- problemu komiwojażera. Wiemy że wersja decyzyjna TSP(D) jest NP-zupełna.
Linia 351: Linia 240:
wielomianowym to drugi też. W tym rozdziale
wielomianowym to drugi też. W tym rozdziale
sklasyfikujemy złożoność EXACT TSP dokładniej przy pomocy klasy DP. Nie umiemy bowiem pokazać, że EXACT TSP należy do NP, wszak
sklasyfikujemy złożoność EXACT TSP dokładniej przy pomocy klasy DP. Nie umiemy bowiem pokazać, że EXACT TSP należy do NP, wszak
jak poświadczyć i szybko zweryfikować, że długość optymalnej trasy wynosi dokładnie $K$? Widzimy, że odpowiedź na to pytanie wymaga
jak poświadczyć i szybko zweryfikować, że długość optymalnej trasy wynosi dokładnie <math>K</math>? Widzimy, że odpowiedź na to pytanie wymaga
stwierdzenia, że trasa ma długość co najmniej $K$ i co najwyżej $K$, co sugeruje pewne specyficzne połączenie problemu TSP(D) i jego dopełnienia.
stwierdzenia, że trasa ma długość co najmniej <math>K</math> i co najwyżej <math>K</math>, co sugeruje pewne specyficzne połączenie problemu TSP(D) i jego dopełnienia.


\begin{definition}
{{definicja|[Uzupelnij]||
Klasa DP to zbiór języków $L$ takich, że $L=L_1\cap L_2$, gdzie $L_1\in NP$ natomiast $L_2 \in coNP$.
Klasa DP to zbiór języków <math>L</math> takich, że <math>L=L_1\cap L_2</math>, gdzie <math>L_1\in NP</math> natomiast <math>L_2 \in coNP</math>.
\end{definition}
}}


Przy tak postawionej definicji EXACT TSP należy do DP. Jest on bowiem przecięciem języka TSP(D) i TSP(D) COMPLEMENT, tzn. koszt trasy wynosi dokładnie
Przy tak postawionej definicji EXACT TSP należy do DP. Jest on bowiem przecięciem języka TSP(D) i TSP(D) COMPLEMENT, tzn. koszt trasy wynosi dokładnie
$K$, gdy jest równy co najwyżej $K$ (to przynależność do TSP(D)) oraz co najmniej $K$ (to przynależność słowa do TSP(D) COMPLEMENT).
<math>K</math>, gdy jest równy co najwyżej <math>K</math> (to przynależność do TSP(D)) oraz co najmniej <math>K</math> (to przynależność słowa do TSP(D) COMPLEMENT).


Klasa DP posiada problemy zupełne. Rozważmy problem następujący:
Klasa DP posiada problemy zupełne. Rozważmy problem następujący:


\begin{example}
{{przyklad|[Uzupelnij]||
Problem SAT-UNSAT:\\
Problem SAT-UNSAT:<br>
Wejście: formuły logiczne $\phi$ i $\psi$ jak dla SAT.\\
Wejście: formuły logiczne <math>\phi</math> i <math>\psi</math> jak dla SAT.<br>
Wyjście: czy formuła $\phi$ jest spełnialna, natomiast $\psi$ niespełnialna?
Wyjście: czy formuła <math>\phi</math> jest spełnialna, natomiast <math>\psi</math> niespełnialna?
\end{example}
}}
 
====Ćwiczenie====


\begin{EX}
Udowodnij, że problem SAT-UNSAT jest DP-zupełny.
Udowodnij, że problem SAT-UNSAT jest DP-zupełny.
\end{EX}


\begin{hint}
\begin_hint
Skorzystaj z redukcji języka z NP oraz dopełnienia języka z coNP do SAT.
Skorzystaj z redukcji języka z NP oraz dopełnienia języka z coNP do SAT.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
Najpierw pokażmy, że SAT-UNSAT należy do klasy DP. Musimy wskazać stosowne języki $L_1$ i $L_2$ odpowiednio z klas NP i coNP.
Najpierw pokażmy, że SAT-UNSAT należy do klasy DP. Musimy wskazać stosowne języki <math>L_1</math> i <math>L_2</math> odpowiednio z klas NP i coNP.
Wybieramy $L_1=\{(\phi,\psi):\phi\textnormal{ jest spełnialna}\}$ oraz  $L_1=\{(\phi,\psi):\psi\textnormal{ nie jest spełnialna}\}$, o których
Wybieramy <math>L_1=\{(\phi,\psi):\phi\text{ jest spełnialna}\}</math> oraz  <math>L_1=\{(\phi,\psi):\psi\text{ nie jest spełnialna}\}</math>, o których
można to łatwo stwierdzić.
można to łatwo stwierdzić.


Przejdźmy do części związanej z pokazaniem redukcji z dowolnego problemu z klasy DP. Weźmy $L\in$ DP. Wiemy, że
Przejdźmy do części związanej z pokazaniem redukcji z dowolnego problemu z klasy DP. Weźmy <math>L\in</math> DP. Wiemy, że
$L=L_1\cap L_2$ i na mocy własności klas NP i coNP istnieją redukcje $R_1$ języka $L_1$ do SAT oraz $R2$
<math>L=L_1\cap L_2</math> i na mocy własności klas NP i coNP istnieją redukcje <math>R_1</math> języka <math>L_1</math> do SAT oraz <math>R2</math>
dopełnienia języka $L_2$ do SAT (jako że $L_2$ jest w coNP). Definiujemy redukcję jako $R(x)=(R_1(x),R_2(x))$.
dopełnienia języka <math>L_2</math> do SAT (jako że <math>L_2</math> jest w coNP). Definiujemy redukcję jako <math>R(x)=(R_1(x),R_2(x))</math>.


Na podstawie konstrukcji wiemy, że $x\in L_1$, gdy $R_1(x)$ jest spełniona oraz $x\in L_2$, gdy $R_2(x)$ jest nie spełniona.
Na podstawie konstrukcji wiemy, że <math>x\in L_1</math>, gdy <math>R_1(x)</math> jest spełniona oraz <math>x\in L_2</math>, gdy <math>R_2(x)</math> jest nie spełniona.
zatem $x\in L_1 \cap L_2$ gdy $R(x)\in$SAT-UNSAT.
zatem <math>x\in L_1 \cap L_2</math> gdy <math>R(x)\in</math>SAT-UNSAT.
\end{sol}
\end_sol


Również wspomniany na początku problem EXACT TSP jest DP-zupełny.
Również wspomniany na początku problem EXACT TSP jest DP-zupełny.
Linia 395: Linia 284:
Klasa DP zawiera także problemy DP-zupełne innego rodzaju:
Klasa DP zawiera także problemy DP-zupełne innego rodzaju:


\begin{example}
{{przyklad|[Uzupelnij]||
Problem CRITICAL SAT:\\
Problem CRITICAL SAT:<br>
Wejście: formuła logiczna $\phi$ jak dla SAT.\\
Wejście: formuła logiczna <math>\phi</math> jak dla SAT.<br>
Wyjście: czy formuła $\phi$ jest nie spełnialna, natomiast usunięcie dowolnej klauzuli sprawia, że jest spełnialna?
Wyjście: czy formuła <math>\phi</math> jest nie spełnialna, natomiast usunięcie dowolnej klauzuli sprawia, że jest spełnialna?
\end{example}
}}
 
\begin{example}
Problem CRITICAL HAMILTON PATH:\\
Wejście: graf nieskierowany $G$\\
Wyjście: czy $G$ nie ma ścieżki Hamiltona, natomiast dodanie dowolnej krawędzi do $G$ powoduje, że już ją posiada?
\end{example}


{{przyklad|[Uzupelnij]||
Problem CRITICAL HAMILTON PATH:<br>
Wejście: graf nieskierowany <math>G</math><br>
Wyjście: czy <math>G</math> nie ma ścieżki Hamiltona, natomiast dodanie dowolnej krawędzi do <math>G</math> powoduje, że już ją posiada?
}}


\section{Maszyny alternujące}
==Maszyny alternujące==


W tym rozdziale przedstawimy ciekawe uogólnienie niedeterminizmu, zwane alternacją.
W tym rozdziale przedstawimy ciekawe uogólnienie niedeterminizmu, zwane alternacją.
Linia 420: Linia 308:
Tak właśnie działają zawsze zwykłe maszyny niedeterministyczne.
Tak właśnie działają zawsze zwykłe maszyny niedeterministyczne.


Stany typu "AND" są rozszerzają tą funkcjonalność. Maszyna dokonuje akceptacji będąc w takim stanie, gdy \emph{każda} ze ścieżek obliczeń
Stany typu "AND" są rozszerzają tą funkcjonalność. Maszyna dokonuje akceptacji będąc w takim stanie, gdy ''każda'' ze ścieżek obliczeń
wychodzących z tego stanu jest akceptująca.
wychodzących z tego stanu jest akceptująca.


Miarę złożoności czasowej i pamięciowej maszyn alternujących definiujemy zupełnie tak jak dla maszyn niedeterministycznych, tzn.
Miarę złożoności czasowej i pamięciowej maszyn alternujących definiujemy zupełnie tak jak dla maszyn niedeterministycznych, tzn.
funkcja $f(n)$ jest miarą złożoności czasowej, gdy każda ze ścieżek obliczeń ma długość ograniczoną przez $f(n)$ oraz złożoność
funkcja <math>f(n)</math> jest miarą złożoności czasowej, gdy każda ze ścieżek obliczeń ma długość ograniczoną przez <math>f(n)</math> oraz złożoność
pamięciową $f(n)$ gdy na każdej ze ścieżek obliczeń maszyna zużywa co najwyżej $f(n)$ pamięci.
pamięciową <math>f(n)</math> gdy na każdej ze ścieżek obliczeń maszyna zużywa co najwyżej <math>f(n)</math> pamięci.
 
{{definicja|[Uzupelnij]||
Poprzez <math>\text{ATIME}(f(n))</math> oznaczamy zbiór języków <math>L</math> takich, że są akceptowane przez alternującą maszynę Turinga <math>M</math> o złożoności
czasowej <math>f(n)</math>.
}}


\begin{definition}
{{definicja|[Uzupelnij]||
Poprzez $\textsc{ATIME}(f(n))$ oznaczamy zbiór języków $L$ takich, że są akceptowane przez alternującą maszynę Turinga $M$ o złożoności
Poprzez <math>\text{ASPACE}(f(n))</math> oznaczamy zbiór języków <math>L</math> takich, że są akceptowane przez alternującą maszynę Turinga <math>M</math> o złożoności
czasowej $f(n)$.
pamięciowej <math>f(n)</math>.
\end{definition}
}}
\begin{definition}
Poprzez $\textsc{ASPACE}(f(n))$ oznaczamy zbiór języków $L$ takich, że są akceptowane przez alternującą maszynę Turinga $M$ o złożoności
pamięciowej $f(n)$.
\end{definition}


Wprowadzamy też skróty dla najpopularniejszych klas:
Wprowadzamy też skróty dla najpopularniejszych klas:
\begin{itemize}
 
\item Klasa AP = $\textnormal{ATIME}(n^k) = \bigcup_{j>0} \textnormal{ATIME}(n^j)$, to klasa tych języków, które mogą być akceptowane w alternującym czasie wielomianowym,
* Klasa AP = <math>\text{ATIME}(n^k) = \bigcup_{j>0} \text{ATIME}(n^j)</math>, to klasa tych języków, które mogą być akceptowane w alternującym czasie wielomianowym,
\item Klasa AL = ASPACE(\textnormal{log}$n$), to klasa tych języków, które mogą być akceptowane w alternującej pamięci logarytmicznej,
 
\end{itemize}
* Klasa AL = ASPACE(\text{log}<math>n</math>), to klasa tych języków, które mogą być akceptowane w alternującej pamięci logarytmicznej,


Nietrudno się domyślić, że alternacja jest silniejsza niż niedeterminizm z definicji działania maszyn. Wiemy zatem, w szczególności, że
Nietrudno się domyślić, że alternacja jest silniejsza niż niedeterminizm z definicji działania maszyn. Wiemy zatem, w szczególności, że
$AP$ zawiera w sobie $NP$. Poniższe ćwiczenie pokazuje, że o AP można powiedzieć więcej:
<math>AP</math> zawiera w sobie <math>NP</math>. Poniższe ćwiczenie pokazuje, że o AP można powiedzieć więcej:
 
====Ćwiczenie====


\begin{EX}
Pokaż, że AP zawiera w sobie klasę coNP.
Pokaż, że AP zawiera w sobie klasę coNP.
\end{EX}


\begin{hint}
\begin_hint
Pokaż że problem coNP-zupełny TAUTOLOGY należy do AP.
Pokaż że problem coNP-zupełny TAUTOLOGY należy do AP.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
Na mocy wskazówki pokażemy, że TAUTOLOGY $\in$ AP, a tym samym ponieważ AP jest zamknięta na redukcje, to cała klasa coNP zawiera się w AP.
Na mocy wskazówki pokażemy, że TAUTOLOGY <math>\in</math> AP, a tym samym ponieważ AP jest zamknięta na redukcje, to cała klasa coNP zawiera się w AP.


Maszyna dla TAUTOLOGY rozpoczyna działanie od stanu uniwersalnego. Następnie na każdej ze ścieżek obliczeń sprawdza inne wartościowanie.
Maszyna dla TAUTOLOGY rozpoczyna działanie od stanu uniwersalnego. Następnie na każdej ze ścieżek obliczeń sprawdza inne wartościowanie.
Jeśli $\phi$ jest spełniona na danym wartościowaniu, to obliczenie dochodzi do stanu akceptującego. W ten sposób ze względu
Jeśli <math>\phi</math> jest spełniona na danym wartościowaniu, to obliczenie dochodzi do stanu akceptującego. W ten sposób ze względu
na swój tryb działania, maszyna zaakceptuje $\phi$, gdy jest ona spełniona dla każdego wartościowania, czyli, gdy jest tautologią logiczną.
na swój tryb działania, maszyna zaakceptuje <math>\phi</math>, gdy jest ona spełniona dla każdego wartościowania, czyli, gdy jest tautologią logiczną.
\end{sol}
\end_sol


To jednak nie wszystko co potrafi klasa AP. Znajdują się w niej języki, o których nie wiemy czy należą do NP lub coNP.
To jednak nie wszystko co potrafi klasa AP. Znajdują się w niej języki, o których nie wiemy czy należą do NP lub coNP.


\begin{definition}
{{definicja|[Uzupelnij]||
Problem MIN-FORMULA:\\
Problem MIN-FORMULA:<br>
Wejście: formuła logiczna $\phi$ jak dla problemu SAT.\\
Wejście: formuła logiczna <math>\phi</math> jak dla problemu SAT.<br>
Wyjście: czy $\phi$ jest minimalna, tzn. czy żadna krótsza formuła nie jest jej równoważna?
Wyjście: czy <math>\phi</math> jest minimalna, tzn. czy żadna krótsza formuła nie jest jej równoważna?
\end{definition}
}}
 
====Ćwiczenie====


\begin{EX}
Pokaż, że MIN-FORMULA należy do AP.
Pokaż, że MIN-FORMULA należy do AP.
\end{EX}


\begin{hint}
\begin_hint
Wykorzystaj dwa tryby alternacji.
Wykorzystaj dwa tryby alternacji.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
W pierwszej części maszyna działa w trybie "AND". Zgadujemy formułę $\psi$ krótszą niż $\phi$, a następnie
W pierwszej części maszyna działa w trybie "AND". Zgadujemy formułę <math>\psi</math> krótszą niż <math>\phi</math>, a następnie
przestawiamy się na tryb "OR". Teraz zgadujemy wartościowanie $s$. Jeśli $\phi$ i $\psi$ są rozróżniane przez
przestawiamy się na tryb "OR". Teraz zgadujemy wartościowanie <math>s</math>. Jeśli <math>\phi</math> i <math>\psi</math> są rozróżniane przez
$s$, tzn. jedna z nich jest spełniona, a druga nie, to akceptujemy formułę $\phi$.
<math>s</math>, tzn. jedna z nich jest spełniona, a druga nie, to akceptujemy formułę <math>\phi</math>.


Załóżmy nie wprost, że formuła nie jest minimalna, a mimo to zostaje zaakceptowana.
Załóżmy nie wprost, że formuła nie jest minimalna, a mimo to zostaje zaakceptowana.
Aby tak się stało na każdej ze ścieżek z pierwszego poziomu alternacji uniwersalnej maszyna musi zaakceptować.
Aby tak się stało na każdej ze ścieżek z pierwszego poziomu alternacji uniwersalnej maszyna musi zaakceptować.
Jeśli jednak formuła nie jest minimalna, to istnieje krótsza od niej formuła $\psi$, które jest jej równoważna. Na ścieżce obliczeń
Jeśli jednak formuła nie jest minimalna, to istnieje krótsza od niej formuła <math>\psi</math>, które jest jej równoważna. Na ścieżce obliczeń
rozważającej $\psi$ maszyna w drugim poziomie alternacji musi znaleźć wartościowanie, które rozróżnia $\phi$ i $\psi$ co jest
rozważającej <math>\psi</math> maszyna w drugim poziomie alternacji musi znaleźć wartościowanie, które rozróżnia <math>\phi</math> i <math>\psi</math> co jest
niemożliwe, stąd uzyskujemy sprzeczność.
niemożliwe, stąd uzyskujemy sprzeczność.
\end{sol}
\end_sol


Teraz przedstawimy kilka relacji pomiędzy klasami obliczeń alternujących:
Teraz przedstawimy kilka relacji pomiędzy klasami obliczeń alternujących:


\begin{tw}
{{twierdzenie|[Uzupelnij]||
\label{tw:arel}
 
Następujące relacje są prawdziwe:
Następujące relacje są prawdziwe:
\begin{enumerate}
\item Jeśli $f(n)\geqslant n$ to $\textnormal{ATIME}(f(n)) \subseteq \textnormal{SPACE}(f(n))$,
\item Jeśli $f(n)\geqslant n$ to $\textnormal{SPACE}(f(n)) \subseteq \textnormal{ATIME}(f^2(n))$,
\item Jeśli $f(n)\geqslant \textnormal{log}n$ to $\textnormal{ASPACE}(f(n)) \subseteq \textnormal{TIME}(c^{f(n)})$.
\item Jeśli $f(n)\geqslant \textnormal{log}n$ to $\textnormal{ASPACE}(f(n)) \supseteq \textnormal{TIME}(c^{f(n)})$.
\end{enumerate}
\end{tw}


\begin{proof}
# Jeśli <math>f(n)\geqslant n</math> to <math>\text{ATIME}(f(n)) \subseteq \text{SPACE}(f(n))</math>,
# Jeśli <math>f(n)\geqslant n</math> to <math>\text{SPACE}(f(n)) \subseteq \text{ATIME}(f^2(n))</math>,
# Jeśli <math>f(n)\geqslant \text{log}n</math> to <math>\text{ASPACE}(f(n)) \subseteq \text{TIME}(c^{f(n)})</math>.
# Jeśli <math>f(n)\geqslant \text{log}n</math> to <math>\text{ASPACE}(f(n)) \supseteq \text{TIME}(c^{f(n)})</math>.
 
}}
 
{{dowod|[Uzupelnij]||
Dowód własności od 1 do 3 jest przedmiotem ćwiczenia końcowego. Własność 4 wymaga trochę więcej pracy.
Dowód własności od 1 do 3 jest przedmiotem ćwiczenia końcowego. Własność 4 wymaga trochę więcej pracy.
Zauważmy, że musimy symulować maszynę działającą w czasie wykładniczym
Zauważmy, że musimy symulować maszynę działającą w czasie wykładniczym
Linia 508: Linia 397:
Okazuje się jednak, że można sobie z tym poradzić:
Okazuje się jednak, że można sobie z tym poradzić:


Weźmy dowolną maszynę deterministyczną $M$ działającą w czasie $c^{f(n)}$. Będziemy symulować jej obliczenia od końca.
Weźmy dowolną maszynę deterministyczną <math>M</math> działającą w czasie <math>c^{f(n)}</math>. Będziemy symulować jej obliczenia od końca.
Najpierw ustalamy, bez straty ogólności, że jest tylko jedna końcowa konfiguracja akceptująca, np. z całkowicie pustą taśmą
Najpierw ustalamy, bez straty ogólności, że jest tylko jedna końcowa konfiguracja akceptująca, np. z całkowicie pustą taśmą
, głowicą w komórce o numerze 1 i stanie $q_{acc}$.
, głowicą w komórce o numerze 1 i stanie <math>q_{acc}</math>.


Możemy przedstawić całe obliczenie w formie następującej tabelki przedstawiającej w rzędach kolejne zawartości
Możemy przedstawić całe obliczenie w formie następującej tabelki przedstawiającej w rzędach kolejne zawartości
taśmy, a w kolumnach czas. Dla uproszczenia przyjmijmy, że taśma jest jedna, i że pozycję głowicy notujemy specjalnym zapisem
taśmy, a w kolumnach czas. Dla uproszczenia przyjmijmy, że taśma jest jedna, i że pozycję głowicy notujemy specjalnym zapisem
w tym miejscu pamięci, które ona odczytuje (podobnie notujemy stan).
w tym miejscu pamięci, które ona odczytuje (podobnie notujemy stan).
W ten sposób zawartość komórki $d$ zależy tylko od zawartości komórek $a$, $b$ i $c$:
W ten sposób zawartość komórki <math>d</math> zależy tylko od zawartości komórek <math>a</math>, <math>b</math> i <math>c</math>:


\insertpicture{ZO-13-2-rys}{Zapis przebiegu obliczeń}
\vspace{1cm}
\begin_center
\includegraphics[width=10cm]{ZO-13-2-rys.jpg}<br>
Zapis przebiegu obliczeń
\end_center
\vspace{1cm}


Teraz rozpoczynamy od dolnej części tabeli, której zawartość znamy i chcemy sprawdzić, czy obliczenie rozpoczęło się
Teraz rozpoczynamy od dolnej części tabeli, której zawartość znamy i chcemy sprawdzić, czy obliczenie rozpoczęło się
od pierwszego wiersza, który jest wejściem i którego zawartość też znamy.
od pierwszego wiersza, który jest wejściem i którego zawartość też znamy.


Jeśli chcemy zweryfikować wartość komórki $d$, to w trybie "OR" zgadujemy zawartość komórek $a$, $b$ i $c$. Następnie w trybie
Jeśli chcemy zweryfikować wartość komórki <math>d</math>, to w trybie "OR" zgadujemy zawartość komórek <math>a</math>, <math>b</math> i <math>c</math>. Następnie w trybie
"AND" weryfikujemy ich poprawność i zgodność przejścia od $a$, $b$, $c$ do $d$.
"AND" weryfikujemy ich poprawność i zgodność przejścia od <math>a</math>, <math>b</math>, <math>c</math> do <math>d</math>.


Ile pamięci jest nam potrzebne? Musimy pamiętać tylko wskaźniki do miejsc w wielkiej tabeli przedstawionej na rysunku,
Ile pamięci jest nam potrzebne? Musimy pamiętać tylko wskaźniki do miejsc w wielkiej tabeli przedstawionej na rysunku,
które sa rozmiaru $\textnormal{log}(c^{f(n)})$, co jest rzędu $f(n)$.
które sa rozmiaru <math>\text{log}(c^{f(n)})</math>, co jest rzędu <math>f(n)</math>.
\end{proof}
}}
 
\bigskip


Dzięki wymienionym relacjom pomiędzy klasami alternującymi możemy udowodnić kilka dokładnych równości pomiędzy klasami, a to rzadka
Dzięki wymienionym relacjom pomiędzy klasami alternującymi możemy udowodnić kilka dokładnych równości pomiędzy klasami, a to rzadka
rzecz w teorii złożoności. Wiemy zatem, że:
rzecz w teorii złożoności. Wiemy zatem, że:


\begin{itemize}
* AL=P,
\item AL=P,
\item APSPACE = EXP,
\item AP=PSPACE.
\end{itemize}


\section{Hierarchia wielomianowa}
* APSPACE = EXP,
 
* AP=PSPACE.
 
==Hierarchia wielomianowa==


W tej części zdefiniujemy całą hierarchię klas ponad znanymi nam już P i NP, która stanowi pewne uogólnienie problematyki spotkanej w klasie DP.
W tej części zdefiniujemy całą hierarchię klas ponad znanymi nam już P i NP, która stanowi pewne uogólnienie problematyki spotkanej w klasie DP.


W poprzednich rozdziałach zdefiniowaliśmy pojęcie maszyny z wyrocznią na język $L$ oznaczanej przez $M^L$. Przypomnijmy, że jest to zwykła maszyna $M$
W poprzednich rozdziałach zdefiniowaliśmy pojęcie maszyny z wyrocznią na język <math>L</math> oznaczanej przez <math>M^L</math>. Przypomnijmy, że jest to zwykła maszyna <math>M</math>
z dodatkową możliwością zadania pytania postaci "czy $x\in L$?" które kosztuje jedną jednostkę czasu. Rozszerzenie tego pojęcia na klasy jest
z dodatkową możliwością zadania pytania postaci "czy <math>x\in L</math>?" które kosztuje jedną jednostkę czasu. Rozszerzenie tego pojęcia na klasy jest
naturalne. Poprzez $P^{NP}$ oznaczamy zbiór tych języków, które mogą być rozstrzygane przez maszyny z klasy $P$ z wyrocznią na dowolny język z klasy $NP$.
naturalne. Poprzez <math>P^{NP}</math> oznaczamy zbiór tych języków, które mogą być rozstrzygane przez maszyny z klasy <math>P</math> z wyrocznią na dowolny język z klasy <math>NP</math>.


Ta klasa okazuje się być mocniejsza od DP, bowiem w DP mogliśmy zadań pytanie tylko raz (dotyczące coNP, ale w sensie wyroczni działa to jak pytanie do NP),
Ta klasa okazuje się być mocniejsza od DP, bowiem w DP mogliśmy zadań pytanie tylko raz (dotyczące coNP, ale w sensie wyroczni działa to jak pytanie do NP),
a tutaj dowolną liczbę razy i to na dodatek pytań adaptywnych, tzn.
a tutaj dowolną liczbę razy i to na dodatek pytań adaptywnych, tzn.
takich, które mogą zależeć od wyników odpowiedzi na poprzednie z nich. Kolejną interesującą klasą jest $NP^{NP}$. Wszystkie te klasy
takich, które mogą zależeć od wyników odpowiedzi na poprzednie z nich. Kolejną interesującą klasą jest <math>NP^{NP}</math>. Wszystkie te klasy
dają nam coraz większe możliwości, lecz oczywiście nie wiadomo, czy są to ściśle większe klasy, choć panuje takie przekonanie:
dają nam coraz większe możliwości, lecz oczywiście nie wiadomo, czy są to ściśle większe klasy, choć panuje takie przekonanie:


\insertpicture{ZO-13-3-rys}{Klasy relatywne}
\vspace{1cm}
\begin_center
\includegraphics[width=10cm]{ZO-13-3-rys.jpg}<br>
Klasy relatywne
\end_center
\vspace{1cm}


Postępując w ten sposób Meyer i Stockmeyer w latach 70 zdefiniowali całą hierarchię klas:
Postępując w ten sposób Meyer i Stockmeyer w latach 70 zdefiniowali całą hierarchię klas:


\begin{definition}
{{definicja|[Uzupelnij]||
Hierarchia wielomianowa, to ciąg klas indeksowany poprzez $i$:\\
Hierarchia wielomianowa, to ciąg klas indeksowany poprzez <math>i</math>:<br>
\begin{itemize}
 
\item $\sum_0 P = \prod_0 P = \Delta_0 P = P$
* <math>\sum_0 P = \prod_0 P = \Delta_0 P = P</math>
\item $\Delta_{i+1} P = P^{\sum_i P},\textnormal{ dla }i>0$,
 
\item $\sum_{i+1} P = NP^{\sum_i P},\textnormal{ dla }i>0$,
* <math>\Delta_{i+1} P = P^{\sum_i P},\text{ dla }i>0</math>,
\item $\prod_{i+1} P = coNP^{\sum_i P},\textnormal{ dla }i>0$.
 
\end{itemize}
* <math>\sum_{i+1} P = NP^{\sum_i P},\text{ dla }i>0</math>,
Dodatkowo poprzez $PH$ oznaczamy sumę wszystkich tych klas, czyli:\\
 
$PH=\bigcup_{i\geqslant 0} \sum_i P$.
* <math>\prod_{i+1} P = coNP^{\sum_i P},\text{ dla }i>0</math>.
\end{definition}
 
Dodatkowo poprzez <math>PH</math> oznaczamy sumę wszystkich tych klas, czyli:<br>
<math>PH=\bigcup_{i\geqslant 0} \sum_i P</math>.
}}


Ponieważ na poziomie zerowym wszystkie elementy hierarchii to P, więc na poziomie pierwszym,
Ponieważ na poziomie zerowym wszystkie elementy hierarchii to P, więc na poziomie pierwszym,
ponieważ taka wyrocznia nic nie daje, otrzymujemy $\Delta_1 P = P, \sum_1 P = NP, \prod_1 P = coNP$.
ponieważ taka wyrocznia nic nie daje, otrzymujemy <math>\Delta_1 P = P, \sum_1 P = NP, \prod_1 P = coNP</math>.
Drugi poziom, to klasy$\Delta_2 P = P^{NP}, \sum_2 P = NP^{NP}, \prod_2 P = coNP^{NP}$.
Drugi poziom, to klasy<math>\Delta_2 P = P^{NP}, \sum_2 P = NP^{NP}, \prod_2 P = coNP^{NP}</math>.
Warto zwrócić uwagę, że $\prod_i P$ jest dopełnieniem $\sum_i P$ na każdym poziomie wprost z definicji.
Warto zwrócić uwagę, że <math>\prod_i P</math> jest dopełnieniem <math>\sum_i P</math> na każdym poziomie wprost z definicji.
Zawieranie się poszczególnych elementów na jednym poziomie obrazuje poniższy rysunek:
Zawieranie się poszczególnych elementów na jednym poziomie obrazuje poniższy rysunek:


\insertpicture{ZO-13-4-rys}{Hierarchia wielomianowa}
\vspace{1cm}
 
\begin_center
\includegraphics[width=10cm]{ZO-13-4-rys.jpg}<br>
Hierarchia wielomianowa
\end_center
\vspace{1cm}


Do tej pory często odwoływaliśmy się do odpowiedniości pomiędzy klasą NP a szczególnymi relacjami wielomianowo
Do tej pory często odwoływaliśmy się do odpowiedniości pomiędzy klasą NP a szczególnymi relacjami wielomianowo
Linia 582: Linia 486:
podobnego kryterium:
podobnego kryterium:


\begin{tw}
{{twierdzenie|[Uzupelnij]||
Niech $L$ będzie językiem, $i>0$. Język $L$ należy do $\sum_i P$ wtedy i tylko wtedy, gdy istnieje wielomianowo zrównoważona i rozstrzygalna
Niech <math>L</math> będzie językiem, <math>i>0</math>. Język <math>L</math> należy do <math>\sum_i P</math> wtedy i tylko wtedy, gdy istnieje wielomianowo zrównoważona i rozstrzygalna
relacja $R$ ($i+1$-argumentowa), taka, że $x \in L$ dokładnie wtedy, gdy
relacja <math>R</math> (<math>i+1</math>-argumentowa), taka, że <math>x \in L</math> dokładnie wtedy, gdy
$\exists{y_1}\forall{y_2}\exists{y_3}\ldots Q{y_i}$ takie, że $R(x,y_1,\ldots,y_i)$ jest spełnione ($i$-ty kwantyfikator jest uniwersalny, gdy $i$ jest
<math>\exists{y_1}\forall{y_2}\exists{y_3}\ldots Q{y_i}</math> takie, że <math>R(x,y_1,\ldots,y_i)</math> jest spełnione (<math>i</math>-ty kwantyfikator jest uniwersalny, gdy <math>i</math> jest
parzyste, natomiast egzystencjalny, gdy $i$ jest nieparzyste).
parzyste, natomiast egzystencjalny, gdy <math>i</math> jest nieparzyste).
\end{tw}
}}


Hierarchia wielomianowa jest strukturą dosyć wrażliwą na kolapsy, tzn. równości klas na pewnym poziomie. Okazuje się, że wtedy przenoszą się
Hierarchia wielomianowa jest strukturą dosyć wrażliwą na kolapsy, tzn. równości klas na pewnym poziomie. Okazuje się, że wtedy przenoszą się
one automatycznie w górę:
one automatycznie w górę:


\begin{EX}
====Ćwiczenie====
Pokaż, że jeżeli dla pewnego $i$ zachodzi $\sum_i P = \prod_i P$ to dla każdego $j>i$ zachodzi $\sum_j P = \prod_j P = \Delta_j P = \sum_i P$.
 
\end{EX}
Pokaż, że jeżeli dla pewnego <math>i</math> zachodzi <math>\sum_i P = \prod_i P</math> to dla każdego <math>j>i</math> zachodzi <math>\sum_j P = \prod_j P = \Delta_j P = \sum_i P</math>.


\begin{hint}
\begin_hint
Pokaż, że $\sum_{i+1} P = \sum P$.
Pokaż, że <math>\sum_{i+1} P = \sum P</math>.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
Pokażemy równość podaną we wskazówce z założenia $\sum_i P = \prod_i P$. Weźmy dowolny $L\in\sum_{i+1} P$. Z poprzedniego twierdzenia
Pokażemy równość podaną we wskazówce z założenia <math>\sum_i P = \prod_i P</math>. Weźmy dowolny <math>L\in\sum_{i+1} P</math>. Z poprzedniego twierdzenia
charakteryzującego wiemy, że istnieje relacja $i+1$-argumentowa $R_L$ dla $L$. Weźmy rzut relacji $R_L$, w którym pomijamy współrzędną $y_1$.
charakteryzującego wiemy, że istnieje relacja <math>i+1</math>-argumentowa <math>R_L</math> dla <math>L</math>. Weźmy rzut relacji <math>R_L</math>, w którym pomijamy współrzędną <math>y_1</math>.
Jest to relacja odpowiadająca pewnemu językowi $L'$ z $\prod_i P$ (otrzymujemy to dzięki zastosowaniu negacji i dopełnienia języka dla poprzedniego twierdzenia). W definicji tym razem jako pierwszy występuje
Jest to relacja odpowiadająca pewnemu językowi <math>L'</math> z <math>\prod_i P</math> (otrzymujemy to dzięki zastosowaniu negacji i dopełnienia języka dla poprzedniego twierdzenia). W definicji tym razem jako pierwszy występuje
kwantyfikator uniwersalny.
kwantyfikator uniwersalny.


Dzięki równości klas istnieje dla języka $L'$ $i$-argumentowa relacja $R_{L'}$, definiująca go przy użyciu kwantyfikatora
Dzięki równości klas istnieje dla języka <math>L'</math> <math>i</math>-argumentowa relacja <math>R_{L'}</math>, definiująca go przy użyciu kwantyfikatora
egzystencjalnego na początku. Dzięki tej zmianie, możemy teraz zmienić $R_{L'}$ tak, aby
egzystencjalnego na początku. Dzięki tej zmianie, możemy teraz zmienić <math>R_{L'}</math> tak, aby
uwzględnić usuniętą wcześniej współrzędną współrzędną $y_1$, bez dodawania nowego kwantyfikatora, gdyż teraz jako pierwszy występuje kwantyfikator
uwzględnić usuniętą wcześniej współrzędną współrzędną <math>y_1</math>, bez dodawania nowego kwantyfikatora, gdyż teraz jako pierwszy występuje kwantyfikator
egzystencjalny, co sprawia, że $L\in\sum_{i} P$.
egzystencjalny, co sprawia, że <math>L\in\sum_{i} P</math>.
\end{sol}
\end_sol
 
\bigskip


Zachodzi również podobny fakt. Otóż, jeśli P=NP (albo tylko NP=coNP), to hierarchia kolapsuje już na pierwszym poziomie.
Zachodzi również podobny fakt. Otóż, jeśli P=NP (albo tylko NP=coNP), to hierarchia kolapsuje już na pierwszym poziomie.
Linia 619: Linia 521:
Okazuje się, że na każdym poziomie hierarchii posiada ona problemy zupełne:
Okazuje się, że na każdym poziomie hierarchii posiada ona problemy zupełne:


\begin{definition}
{{definicja|[Uzupelnij]||
Problem $\textnormal{QSAT}_i$:\\
Problem <math>\text{QSAT}_i</math>:<br>
Wejście: formuła logiczna $\phi$ jak dla problemu SAT poprzedzona $i$ naprzemiennymi grupami kwantyfikatorów egzystencjalnych i uniwersalnych:
Wejście: formuła logiczna <math>\phi</math> jak dla problemu SAT poprzedzona <math>i</math> naprzemiennymi grupami kwantyfikatorów egzystencjalnych i uniwersalnych:
$\Phi=\exists{x_1}\forall{x_2}\exists{x_3}\ldots Q{x_i}\phi$.\\
<math>\Phi=\exists{x_1}\forall{x_2}\exists{x_3}\ldots Q{x_i}\phi</math>.<br>
Wyjście: czy $\Phi$ jest prawdziwa?
Wyjście: czy <math>\Phi</math> jest prawdziwa?
\end{definition}
}}


\begin{tw}
{{twierdzenie|[Uzupelnij]||
Problem $QSAT_i$ jest $\sum_i P$-zupełny dla $i>0$.
Problem <math>QSAT_i</math> jest <math>\sum_i P</math>-zupełny dla <math>i>0</math>.
\end{tw}
}}


Jednak pytanie czy istnieje problem PH-zupełny (czyli zupełny dla całej hierarchii) jest otwarte i panuje przekonanie, że tak nie jest, gdyż:
Jednak pytanie czy istnieje problem PH-zupełny (czyli zupełny dla całej hierarchii) jest otwarte i panuje przekonanie, że tak nie jest, gdyż:


\begin{EX}
====Ćwiczenie====
 
Pokaż, że jeśli istnieje problem PH-zupełny, to hierarchia zapada się na pewnym poziomie.
Pokaż, że jeśli istnieje problem PH-zupełny, to hierarchia zapada się na pewnym poziomie.
\end{EX}


\begin{hint}
\begin_hint
Zauważ, że problem zupełny musi należeć do konkretnego poziomu.
Zauważ, że problem zupełny musi należeć do konkretnego poziomu.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
Jeśli $L$ jest zupełny dla PH, to $L$ należy do $\sum_i P$ dla pewnego $i$. Wtedy jednak dowolny język $L'$ z poziomu $\sum_{i+1} P$
Jeśli <math>L</math> jest zupełny dla PH, to <math>L</math> należy do <math>\sum_i P</math> dla pewnego <math>i</math>. Wtedy jednak dowolny język <math>L'</math> z poziomu <math>\sum_{i+1} P</math>
redukuje się do $L$ w czasie wielomianowym. Ponieważ poziomy hierarchii są zamknięte na redukcje, stąd $L'\in \sum_i P$, a w konsekwencji
redukuje się do <math>L</math> w czasie wielomianowym. Ponieważ poziomy hierarchii są zamknięte na redukcje, stąd <math>L'\in \sum_i P</math>, a w konsekwencji
$\sum_{i+1} P=\sum_i P$.
<math>\sum_{i+1} P=\sum_i P</math>.
\end{sol}
\end_sol


Jak silna jest cała hierarchia? Można łatwo zauważyć, że zawiera się ona w znanej już nam klasie PSPACE, ze względu na fakt, że można
Jak silna jest cała hierarchia? Można łatwo zauważyć, że zawiera się ona w znanej już nam klasie PSPACE, ze względu na fakt, że można
Linia 655: Linia 557:
Na koniec ciekawy rezultat autorstwa Seinosuke Tody (laureata
Na koniec ciekawy rezultat autorstwa Seinosuke Tody (laureata
nagrody Gödel'a z roku 1998) związany z klasą PH. Pokazał on, że
nagrody Gödel'a z roku 1998) związany z klasą PH. Pokazał on, że
$PH\subseteq P^{PP}$, czyli wyrocznia na klasę $PP$ jest
<math>PH\subseteq P^{PP}</math>, czyli wyrocznia na klasę <math>PP</math> jest
niesamowicie silna i pozwala pochłonąć tak misternie zbudowaną
niesamowicie silna i pozwala pochłonąć tak misternie zbudowaną
piramidę coraz silniejszych klas.
piramidę coraz silniejszych klas.


\section{Ćwiczenia dodatkowe}
==Ćwiczenia dodatkowe==
 
====Ćwiczenie====


\begin{EX}
Pokaż, że problem TAUTOLOGY jest coNP-zupełny.
Pokaż, że problem TAUTOLOGY jest coNP-zupełny.
\end{EX}


\begin{hint}
\begin_hint
Skorzystaj z faktu, że SAT jest NP-zupełny.
Skorzystaj z faktu, że SAT jest NP-zupełny.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
TAUTOLOGY należy do coNP. Weźmy dowolny inny problem $L$ z coNP. Wiemy, że $\overline{L}$ należy do NP, więc
TAUTOLOGY należy do coNP. Weźmy dowolny inny problem <math>L</math> z coNP. Wiemy, że <math>\overline{L}</math> należy do NP, więc
jest redukowalny do SAT - problemu NP-zupełnego, poprzez redukcję, którą oznaczymy jako $R$. Z definicji redukcji
jest redukowalny do SAT - problemu NP-zupełnego, poprzez redukcję, którą oznaczymy jako <math>R</math>. Z definicji redukcji
otrzymujemy, że $x\in \overline{L}$ wtedy i tylko wtedy, gdy $R(x)$ jest spełnialna. Po zastosowaniu negacji mamy
otrzymujemy, że <math>x\in \overline{L}</math> wtedy i tylko wtedy, gdy <math>R(x)</math> jest spełnialna. Po zastosowaniu negacji mamy
, że $x\in L$ wtedy i tylko wtedy, gdy $R(x)$ jest nie spełnialna, tzn. $\neg R(x)$ jest tautologią. Sprowadziliśmy zatem
, że <math>x\in L</math> wtedy i tylko wtedy, gdy <math>R(x)</math> jest nie spełnialna, tzn. <math>\neg R(x)</math> jest tautologią. Sprowadziliśmy zatem
problem przynależności do dowolnego języka $L$ z coNP do sprawdzania czy pewna formuła jest tautologią, co dowodzi
problem przynależności do dowolnego języka <math>L</math> z coNP do sprawdzania czy pewna formuła jest tautologią, co dowodzi
coNP-zupełności problemu TAUTOLOGY.
coNP-zupełności problemu TAUTOLOGY.
\end{sol}
\end_sol


\begin{EX}
====Ćwiczenie====
Udowodnij własności od 1 do 3 z twierdzenia \ref{tw:arel}.
\begin{enumerate}
\item Jeśli $f(n)\geqslant n$ to $\textnormal{ATIME}(f(n)) \subseteq \textnormal{SPACE}(f(n))$,
\item Jeśli $f(n)\geqslant n$ to $\textnormal{SPACE}(f(n)) \subseteq \textnormal{ATIME}(f^2(n))$,
\item Jeśli $f(n)\geqslant \textnormal{log}n$ to $\textnormal{ASPACE}(f(n)) \subseteq \textnormal{TIME}(c^{f(n)})$.
\end{enumerate}
\end{EX}


\begin{hint}\\
Udowodnij własności od 1 do 3 z twierdzenia [[##tw:arel|Uzupelnic tw:arel|]].
Ad. 1 i 3: zasymuluj maszynę alternującą przy pomocy zwykłej.\\
Ad. 2: skorzystaj z idei zaczerpniętej z twierdzenia Savitcha.\\
\end{hint}


\begin{sol}\\
# Jeśli <math>f(n)\geqslant n</math> to <math>\text{ATIME}(f(n)) \subseteq \text{SPACE}(f(n))</math>,
Ad. 1:\\
 
Weźmy dowolny język $L\in\textnormal{ATIME}(f(n))$ akceptowany przez alternującą maszynę Turinga $M$.
# Jeśli <math>f(n)\geqslant n</math> to <math>\text{SPACE}(f(n)) \subseteq \text{ATIME}(f^2(n))</math>,
Dokonamy symulacji przy pomocy deterministycznej maszyny w pamięci $f(n)$. Wykonujemy algorytm
 
# Jeśli <math>f(n)\geqslant \text{log}n</math> to <math>\text{ASPACE}(f(n)) \subseteq \text{TIME}(c^{f(n)})</math>.
 
\begin_hint<br>
Ad. 1 i 3: zasymuluj maszynę alternującą przy pomocy zwykłej.<br>
Ad. 2: skorzystaj z idei zaczerpniętej z twierdzenia Savitcha.<br>
\end_hint
 
\begin_sol<br>
Ad. 1:<br>
Weźmy dowolny język <math>L\in\text{ATIME}(f(n))</math> akceptowany przez alternującą maszynę Turinga <math>M</math>.
Dokonamy symulacji przy pomocy deterministycznej maszyny w pamięci <math>f(n)</math>. Wykonujemy algorytm
rekurencyjnego przeglądania grafu konfiguracji w głąb. W momencie powrotu z rekurencji z ostatniego potomka
rekurencyjnego przeglądania grafu konfiguracji w głąb. W momencie powrotu z rekurencji z ostatniego potomka
danego wierzchołka decydujemy na podstawie typu "OR" lub "AND" i akceptacji potomków o tym czy dana konfiguracja
danego wierzchołka decydujemy na podstawie typu "OR" lub "AND" i akceptacji potomków o tym czy dana konfiguracja
jest akceptująca. Głębokość rekurencji to czas obliczeń maszyny $M$, czyli $f(n)$. Na każdy poziom rekurencji
jest akceptująca. Głębokość rekurencji to czas obliczeń maszyny <math>M</math>, czyli <math>f(n)</math>. Na każdy poziom rekurencji
potrzeba nam jednak $f(n)$, aby zapamiętać konfigurację, czyli łącznie $f^2(n)$.
potrzeba nam jednak <math>f(n)</math>, aby zapamiętać konfigurację, czyli łącznie <math>f^2(n)</math>.


Możemy jednak zaoszczędzić na pamięci pamiętając tylko który z niedeterministycznych wyborów dokonała $M$ na danym poziomie
Możemy jednak zaoszczędzić na pamięci pamiętając tylko który z niedeterministycznych wyborów dokonała <math>M</math> na danym poziomie
rekurencji. Teraz aby obliczyć pełną konfigurację, będziemy musieli rozpocząć za każdym razem obliczenia od początku
rekurencji. Teraz aby obliczyć pełną konfigurację, będziemy musieli rozpocząć za każdym razem obliczenia od początku
dokonując stosownych wyborów. Taka operacja może być jednak wykonana w pamięci $f(n)$, stąd cała symulacja
dokonując stosownych wyborów. Taka operacja może być jednak wykonana w pamięci <math>f(n)</math>, stąd cała symulacja
potrzebuje $f(n)$ pamięci, a więc $L\in\textnormal{SPACE}(f(n))$.
potrzebuje <math>f(n)</math> pamięci, a więc <math>L\in\text{SPACE}(f(n))</math>.


\bigskip
Ad. 2:<br>
Ad. 2:\\
Tym razem mamy do dyspozycji maszynę działającą w pamięci <math>f(n)</math> i chcemy ją zasymulować przy pomocy maszyny alternującej
Tym razem mamy do dyspozycji maszynę działającą w pamięci $f(n)$ i chcemy ją zasymulować przy pomocy maszyny alternującej
w czasie <math>f^2(n)</math>.  Jak w twierdzeniu Savitcha odwołamy się do grafu konfiguracji maszyny rozmiaru <math>c^{f(n)}</math> i będziemy się starali
w czasie $f^2(n)$.  Jak w twierdzeniu Savitcha odwołamy się do grafu konfiguracji maszyny rozmiaru $c^{f(n)}$ i będziemy się starali
odpowiedzieć na pytanie, czy istnieje ścieżka od konfiguracji początkowej do końcowej.
odpowiedzieć na pytanie, czy istnieje ścieżka od konfiguracji początkowej do końcowej.


Procedura, która oblicza istnienie ścieżki o długości co najwyżej $n$ ma do dyspozycji alternację i dokonuje tego w dwóch etapach.
Procedura, która oblicza istnienie ścieżki o długości co najwyżej <math>n</math> ma do dyspozycji alternację i dokonuje tego w dwóch etapach.
W pierwszym zgaduje wierzchołek pośredni
W pierwszym zgaduje wierzchołek pośredni
$t$ na ścieżce działając w trybie "OR". Następnie przełącza się w tryb uniwersalny "AND" i sprawdza rekurencyjnie,
<math>t</math> na ścieżce działając w trybie "OR". Następnie przełącza się w tryb uniwersalny "AND" i sprawdza rekurencyjnie,
czy obydwie części ścieżki, długości $n/2$ poprzez odgadnięty wierzchołek $t$ istnieją.
czy obydwie części ścieżki, długości <math>n/2</math> poprzez odgadnięty wierzchołek <math>t</math> istnieją.


Czas potrzebny do działania to głębokość rekurencji, czyli $\textnormal{log}(c^{f(n)})$ co jest rzędu $f(n)$ przemnożony
Czas potrzebny do działania to głębokość rekurencji, czyli <math>\text{log}(c^{f(n)})</math> co jest rzędu <math>f(n)</math> przemnożony
przez czas potrzebny do przetworzenia każdego kroku, który wynosi również $f(n)$, gdyż jest to rozmiar konfiguracji. Łącznie daje to czas$f^2(n)$.
przez czas potrzebny do przetworzenia każdego kroku, który wynosi również <math>f(n)</math>, gdyż jest to rozmiar konfiguracji. Łącznie daje to czas<math>f^2(n)</math>.
Zwróćmy uwagę, że liczymy czas na \emph{jednej} ścieżce obliczeń, dzięki realizacji rekurencji przy pomocy alternacji!
Zwróćmy uwagę, że liczymy czas na ''jednej'' ścieżce obliczeń, dzięki realizacji rekurencji przy pomocy alternacji!


 
Ad. 3:<br>
\bigskip
Weźmy dowolny język <math>L\in\text{ASPACE}(f(n))</math> akceptowany przez alternującą maszynę Turinga <math>M</math>.
Ad. 3:\\
Mamy do dyspozycji czas rzędu wykładniczego względem <math>f(n)</math>, a więc możemy wygenerować cały graf konfiguracji
Weźmy dowolny język $L\in\textnormal{ASPACE}(f(n))$ akceptowany przez alternującą maszynę Turinga $M$.
obliczeń maszyny <math>M</math> (który jak wiemy ma rozmiar <math>c^{f(n)}</math>, gdy <math>f(n)\geqslant \text{log}n</math>).
Mamy do dyspozycji czas rzędu wykładniczego względem $f(n)$, a więc możemy wygenerować cały graf konfiguracji
obliczeń maszyny $M$ (który jak wiemy ma rozmiar $c^{f(n)}$, gdy $f(n)\geqslant \textnormal{log}n$).
Następnie stosownie do typów "AND" i "OR" przeglądamy graf od konfiguracji końcowych i decydujemy
Następnie stosownie do typów "AND" i "OR" przeglądamy graf od konfiguracji końcowych i decydujemy
o akceptacji słowa wejściowego.
o akceptacji słowa wejściowego.
\end{sol}
\end_sol
 
====Ćwiczenie====


\begin{EX}
Udowodnij, że problemy TSP(D) i EXACT TSP są wielomianowo równoważne.
Udowodnij, że problemy TSP(D) i EXACT TSP są wielomianowo równoważne.
\end{EX}


\begin{hint}
\begin_hint
Skorzystaj z problemu HAMILTON PATH.
Skorzystaj z problemu HAMILTON PATH.
\end{hint}
\end_hint


\begin{sol}
\begin_sol
Załóżmy, że TSP(D) ma rozwiązanie wielomianowe. Dzięki opisywanej już metodzie wyszukiwania binarnego możemy
Załóżmy, że TSP(D) ma rozwiązanie wielomianowe. Dzięki opisywanej już metodzie wyszukiwania binarnego możemy
odnaleźć $K$ - optymalny koszt dzięki temu, że potrzebujemy zadać tylko logarytmiczną liczbę pytań względem $K$,
odnaleźć <math>K</math> - optymalny koszt dzięki temu, że potrzebujemy zadać tylko logarytmiczną liczbę pytań względem <math>K</math>,
czyli liniową względem rozmiaru wejścia.
czyli liniową względem rozmiaru wejścia.


Niewiele trudniejsza jest implikacja w drugą stronę. Załóżmy, że EXACT TSP ma rozwiązanie wielomianowe. Metoda wyszukiwania
Niewiele trudniejsza jest implikacja w drugą stronę. Załóżmy, że EXACT TSP ma rozwiązanie wielomianowe. Metoda wyszukiwania
binarnego tym razem zawodzi. Zgodnie ze wskazówką rozwiążemy najpierw HAMILTON PATH. Mając dany graf skierowany $G$ w którym
binarnego tym razem zawodzi. Zgodnie ze wskazówką rozwiążemy najpierw HAMILTON PATH. Mając dany graf skierowany <math>G</math> w którym
chcemy znaleźć ścieżkę Hamiltona konstruujemy przykład $G'$ dla EXACT TSP. Jeśli krawędź istnieje w $G$ to w $G'$ otrzymuje wagę
chcemy znaleźć ścieżkę Hamiltona konstruujemy przykład <math>G'</math> dla EXACT TSP. Jeśli krawędź istnieje w <math>G</math> to w <math>G'</math> otrzymuje wagę
1, jeśli nie istnieje w $G$ to w $G'$ wstawiamy ją z wagą 2. Łatwo stwierdzić, że graf $G$ ma ścieżkę Hamiltona wtedy i tylko wtedy,
1, jeśli nie istnieje w <math>G</math> to w <math>G'</math> wstawiamy ją z wagą 2. Łatwo stwierdzić, że graf <math>G</math> ma ścieżkę Hamiltona wtedy i tylko wtedy,
gdy trasa komiwojażera w $G'$ ma koszt dokładnie $n$ -- rozmiar grafu.
gdy trasa komiwojażera w <math>G'</math> ma koszt dokładnie <math>n</math> -- rozmiar grafu.


Ponieważ HAMILTON PATH jest NP-zupełny, więc istnieje redukcja TSP(D) do HAMILTON PATH, a tym samym składając redukcje otrzymamy algorytm
Ponieważ HAMILTON PATH jest NP-zupełny, więc istnieje redukcja TSP(D) do HAMILTON PATH, a tym samym składając redukcje otrzymamy algorytm
wielomianowy dla TSP(D).
wielomianowy dla TSP(D).
\end{sol}
\end_sol
 
\section{Testy końcowe}


\end{document}
==Testy końcowe==

Aktualna wersja na dzień 21:44, 11 cze 2020

Klasy L, NL i coNL

W tym rozdziale zajmiemy się klasami złożoności, w których dajemy bardzo restrykcyjne wymagania odnośnie zużywanej pamięci, a mianowicie ograniczamy jej ilość przez funkcję logarytmiczną. Przypomnijmy:

  • Klasa L = SPACE(\text{log}n), to klasa tych języków, które mogą być akceptowane w deterministycznej pamięci logarytmicznej,
  • Klasa NL = NSPACE(\text{log}n), to klasa tych języków, które mogą być akceptowane w niedeterministycznej pamięci logarytmicznej,
  • Klasa \text{co}NL = \text{co}NSPACE(\text{log}n), to dopełnienie klasy tych języków, które mogą być akceptowane w niedeterministycznej pamięci logarytmicznej,

Na podstawie następnego rozdziału i twierdzenia Immermana-Szelepcsényi'ego dowiemy się, że NL=coNL. Natomiast pytanie czy L=NL pozostaje wciąż problemem otwartym.

Przyjrzymy się teraz problemom zupełnym w klasie NL. Zupełność definiujemy przy pomocy redukcji w pamięci logarytmicznej, gdyż jak wiemy, wszystkie z powyższych klas są zawarte w klasie P (chociaż nie wiemy, czy ściśle). Dopuszczenie redukcji wielomianowej zniwelowałoby jakiekolwiek różnice pomiędzy językami, gdyż sama redukcja miałaby moc obliczeniową pozwalającą rozwiązać wszystkie problemy z tych klas. Poniższy problem okazuje się być NL-zupełny:

Definicja [Uzupelnij]

Problem REACHABILITY:
Wejście: Graf skierowany G oraz wierzchołki x i y.
Wyjście: Czy istnieje ścieżka od x do y w G?

Ćwiczenie

Pokaż, że problem REACHABILITY jest NL-zupełny.

\begin_hint Zwróć uwagę na fakt, że problem REACHABILITY jest związany z wykonywaniem obliczeń przez maszynę Turinga. \end_hint

\begin_sol Pokażmy najpierw, że problem REACHABILITY należy do NL. Użyjemy dwóch zmiennych v - wierzchołek bieżący, oraz u wierzchołek kolejny na ścieżce od x do y.

Początkowo ustawiamy v:=x. Ponieważ mamy do dyspozycji niedeterminizm to zgadujemy wierzchołek u i sprawdzamy, czy jest sąsiedni do v. Jeśli nie, to przerywamy obliczenie, wiedząc, że na innej ścieżce obliczeń przetworzymy inne możliwości. Jeśli jest sąsiedni to sprawdzamy czy u=y co oznacza, że dotarliśmy do celu i akceptujemy parę x, y. W przeciwnym wypadku ustawiamy v:=u i kontynuujemy obliczenia.

Formalnie należy jeszcze użyć trzeciej zmiennej licznik, która zlicza liczbę kroków, tak aby ostatecznie odrzucić parę, gdy licznik przekroczy liczbę wierzchołków grafu. Użyliśmy pamięci rzędu logn co kończy dowód pierwszego faktu.

Teraz musimy pokazać, że każdy inny problem z klasy NL redukuje się do REACHABILITY poprzez redukcję w pamięci logarytmicznej. Weźmy dowolny język L z klasy NL i odpowiadającą mu niedeterministyczną maszynę Turinga M.

Rozmiar grafu konfiguracji maszyny działającej w pamięci logn to jak wiemy clognO(n), natomiast sprawdzenie czy x jest akceptowany przez M możemy sprowadzić do istnienia ścieżki od konfiguracji początkowej do akceptującej. Jest to zatem instancja problemu REACHABILITY na danych wielkości rzędu n . Nie potrzebujemy konstruować całego grafu, a jedynie stwierdzać, czy dwie konfiguracje są sąsiednie, co możemy zrobić w pamięci logarytmicznej. \end_sol

Bardzo ciekawy rezultat, który zbliżył nas do odpowiedzi na pytanie czy L=NL, uzyskał w 2004 Reingold. Pokazał on, że problem UNDIRECTED REACHABILITY, czyli osiągalność w grafie nieskierowanym należy do klasy L.

Twierdzenie Immermana-Szelepcsényi'ego

Ten rozdział poświęcony jest bardzo ciekawemu i całkiem młodemu wynikowi udowodnionemu niezależnie przez Neila Immermana i Róberta Szelepcsényi'ego w roku 1987, za który otrzymali w 1995 nagrodę Gödel'a.

Twierdzenie mówi o tym, że klasy niedeterministyczne złożoności pamięciowej są zamknięte na dopełnienie:

Twierdzenie [Immermana-Szelepcsényi'ego]

{{{3}}}

Dowód [Uzupelnij]

{{{3}}}

Klasy coNP i DP

Wprowadziliśmy już zarówno klasę NP jak i pojęcie dopełnień klas. Przyjrzyjmy się bliżej klasie coNP. Klasa NP, jest to zbiór tych języków, dla których możemy łatwo weryfikować przynależność słów. Klasa coNP natomiast, to zbiór tych języków, dla których możemy łatwo weryfikować, że słowo nie należy do języka.

Podobnie jak dla NP i twierdzenia Fagina, można scharakteryzować coNP jako zbiór własności teoriografowych wyrażalnych w uniwersalnej logice drugiego rzędu.

Oto przykłady problemów z klasy coNP:

Definicja [Uzupelnij]

Problem TAUTOLOGY:
Wejście: formuła logiczna ϕ jak dla problemu SAT.
Wyjście: czy każde wartościowanie spełnia ϕ?

Definicja [Uzupelnij]

Problem HAMILTON PATH COMPLEMENT:
Wejście: graf nieskierowany G.
Wyjście: czy G nie zawiera ścieżki Hamiltona?

W powyższych problemach weryfikacja negatywna słowa wejściowego jest łatwa, bo opiera się na zgadnięciu wartościowania niespełniającego lub ścieżki Hamiltona.

Nietrudno udowodnić (patrz ćwiczenie końcowe), że są to problemy zupełne dla klasy coNP. Nie jest to nic zaskakującego, bowiem równie prosto można udowodnić, że jeżeli L jest NP-zupełny, to jego dopełnienie L jest coNP-zupełne.

Jak wiele pytań w teorii złożoności obliczeniowej również i to, czy NP=coNP pozostaje otwarte. Możemy jedynie stwierdzić, że jeżeli P=NP, to NP=coNP, gdyż P jest zamknięta na dopełnienie. Jednak już implikacja w drugą stronę nie jest znana. Inna podobna implikacja to:

Ćwiczenie

Jeśli L jest coNP-zupełny i LNP to NP=coNP.

\begin_hint Pokaż inkluzje w obie strony korzystając z symetrii klas. \end_hint

\begin_sol Ustalmy L z klasy NP, który jest coNP-zupełny.

Weźmy dowolny L z klasy coNP. Ponieważ L jest coNP-zupełny, więc L redukuje się do L, czyli L należy do NP, bowiem redukcja jest procedurą deterministyczną.

Analogicznie, weźmy dowolny L z NP. Wiemy, że L jest NP-zupełny, i należy do coNP. Możemy zatem sprowadzić L redukcją do L. Zatem L należy do coNP. \end_sol

Poniższy rysunek przedstawia relacje pomiędzy poznanymi klasami i omawianą za chwilę klasą DP:

\vspace{1cm} \begin_center \includegraphics[width=10cm]{ZO-13-1-rys.jpg}
Relacje pomiędzy klasami NP, coNP i DP \end_center \vspace{1cm}

Oczywiście przyglądając się wszystkim takim rysunkom należy pamiętać, że mogą one w wielu miejscach kolapsować.

Klasa DP

Zastanówmy się nad następującym problemem:

Przykład [Uzupelnij]

Problem EXACT TSP:
Wejście: graf nieskierowany ważony G i liczba K
Wyjście: czy optymalna trasa komiwojażera dla G ma wartość dokładnie K?

Jest to wersja dokładna znanego problemu optymalizacyjnego -- problemu komiwojażera. Wiemy że wersja decyzyjna TSP(D) jest NP-zupełna. Nietrudno pokazać również, że EXACT TSP i TSP(D) są wielomianowo równoważne (ćwiczenie końcowe), tzn., że jeśli jeden z nich ma rozwiązanie w czasie wielomianowym to drugi też. W tym rozdziale sklasyfikujemy złożoność EXACT TSP dokładniej przy pomocy klasy DP. Nie umiemy bowiem pokazać, że EXACT TSP należy do NP, wszak jak poświadczyć i szybko zweryfikować, że długość optymalnej trasy wynosi dokładnie K? Widzimy, że odpowiedź na to pytanie wymaga stwierdzenia, że trasa ma długość co najmniej K i co najwyżej K, co sugeruje pewne specyficzne połączenie problemu TSP(D) i jego dopełnienia.

Definicja [Uzupelnij]

Klasa DP to zbiór języków L takich, że L=L1L2, gdzie L1NP natomiast L2coNP.

Przy tak postawionej definicji EXACT TSP należy do DP. Jest on bowiem przecięciem języka TSP(D) i TSP(D) COMPLEMENT, tzn. koszt trasy wynosi dokładnie K, gdy jest równy co najwyżej K (to przynależność do TSP(D)) oraz co najmniej K (to przynależność słowa do TSP(D) COMPLEMENT).

Klasa DP posiada problemy zupełne. Rozważmy problem następujący:

Przykład [Uzupelnij]

Problem SAT-UNSAT:
Wejście: formuły logiczne ϕ i ψ jak dla SAT.
Wyjście: czy formuła ϕ jest spełnialna, natomiast ψ niespełnialna?

Ćwiczenie

Udowodnij, że problem SAT-UNSAT jest DP-zupełny.

\begin_hint Skorzystaj z redukcji języka z NP oraz dopełnienia języka z coNP do SAT. \end_hint

\begin_sol Najpierw pokażmy, że SAT-UNSAT należy do klasy DP. Musimy wskazać stosowne języki L1 i L2 odpowiednio z klas NP i coNP. Wybieramy L1={(ϕ,ψ):ϕ jest spełnialna} oraz L1={(ϕ,ψ):ψ nie jest spełnialna}, o których można to łatwo stwierdzić.

Przejdźmy do części związanej z pokazaniem redukcji z dowolnego problemu z klasy DP. Weźmy L DP. Wiemy, że L=L1L2 i na mocy własności klas NP i coNP istnieją redukcje R1 języka L1 do SAT oraz R2 dopełnienia języka L2 do SAT (jako że L2 jest w coNP). Definiujemy redukcję jako R(x)=(R1(x),R2(x)).

Na podstawie konstrukcji wiemy, że xL1, gdy R1(x) jest spełniona oraz xL2, gdy R2(x) jest nie spełniona. zatem xL1L2 gdy R(x)SAT-UNSAT. \end_sol

Również wspomniany na początku problem EXACT TSP jest DP-zupełny. Można rozważać także wiele innych wersji EXACT znanych problemów NP-zupełnych, które okazują się DP-zupełne.

Klasa DP zawiera także problemy DP-zupełne innego rodzaju:

Przykład [Uzupelnij]

Problem CRITICAL SAT:
Wejście: formuła logiczna ϕ jak dla SAT.
Wyjście: czy formuła ϕ jest nie spełnialna, natomiast usunięcie dowolnej klauzuli sprawia, że jest spełnialna?

Przykład [Uzupelnij]

Problem CRITICAL HAMILTON PATH:
Wejście: graf nieskierowany G
Wyjście: czy G nie ma ścieżki Hamiltona, natomiast dodanie dowolnej krawędzi do G powoduje, że już ją posiada?

Maszyny alternujące

W tym rozdziale przedstawimy ciekawe uogólnienie niedeterminizmu, zwane alternacją. Przypomnijmy, że maszyna niedeterministyczna akceptuje słowo, gdy na którejkolwiek ze ścieżek obliczeń trafi do stanu akceptującego.

Maszyna alternująca ma więcej możliwości. Każdy z jej stanów jest oznaczony poprzez "AND" lub "OR", które nazywamy odpowiednio stanami uniwersalnymi i egzystencjalnymi.

Gdy maszyna jest w stanie typu "OR", to dokonuje akceptacji gdy dowolna ze ścieżek obliczeń wychodzących z niego akceptuje słowo. Tak właśnie działają zawsze zwykłe maszyny niedeterministyczne.

Stany typu "AND" są rozszerzają tą funkcjonalność. Maszyna dokonuje akceptacji będąc w takim stanie, gdy każda ze ścieżek obliczeń wychodzących z tego stanu jest akceptująca.

Miarę złożoności czasowej i pamięciowej maszyn alternujących definiujemy zupełnie tak jak dla maszyn niedeterministycznych, tzn. funkcja f(n) jest miarą złożoności czasowej, gdy każda ze ścieżek obliczeń ma długość ograniczoną przez f(n) oraz złożoność pamięciową f(n) gdy na każdej ze ścieżek obliczeń maszyna zużywa co najwyżej f(n) pamięci.

Definicja [Uzupelnij]

Poprzez ATIME(f(n)) oznaczamy zbiór języków L takich, że są akceptowane przez alternującą maszynę Turinga M o złożoności czasowej f(n).

Definicja [Uzupelnij]

Poprzez ASPACE(f(n)) oznaczamy zbiór języków L takich, że są akceptowane przez alternującą maszynę Turinga M o złożoności pamięciowej f(n).

Wprowadzamy też skróty dla najpopularniejszych klas:

  • Klasa AP = ATIME(nk)=j>0ATIME(nj), to klasa tych języków, które mogą być akceptowane w alternującym czasie wielomianowym,
  • Klasa AL = ASPACE(\text{log}n), to klasa tych języków, które mogą być akceptowane w alternującej pamięci logarytmicznej,

Nietrudno się domyślić, że alternacja jest silniejsza niż niedeterminizm z definicji działania maszyn. Wiemy zatem, w szczególności, że AP zawiera w sobie NP. Poniższe ćwiczenie pokazuje, że o AP można powiedzieć więcej:

Ćwiczenie

Pokaż, że AP zawiera w sobie klasę coNP.

\begin_hint Pokaż że problem coNP-zupełny TAUTOLOGY należy do AP. \end_hint

\begin_sol Na mocy wskazówki pokażemy, że TAUTOLOGY AP, a tym samym ponieważ AP jest zamknięta na redukcje, to cała klasa coNP zawiera się w AP.

Maszyna dla TAUTOLOGY rozpoczyna działanie od stanu uniwersalnego. Następnie na każdej ze ścieżek obliczeń sprawdza inne wartościowanie. Jeśli ϕ jest spełniona na danym wartościowaniu, to obliczenie dochodzi do stanu akceptującego. W ten sposób ze względu na swój tryb działania, maszyna zaakceptuje ϕ, gdy jest ona spełniona dla każdego wartościowania, czyli, gdy jest tautologią logiczną. \end_sol

To jednak nie wszystko co potrafi klasa AP. Znajdują się w niej języki, o których nie wiemy czy należą do NP lub coNP.

Definicja [Uzupelnij]

Problem MIN-FORMULA:
Wejście: formuła logiczna ϕ jak dla problemu SAT.
Wyjście: czy ϕ jest minimalna, tzn. czy żadna krótsza formuła nie jest jej równoważna?

Ćwiczenie

Pokaż, że MIN-FORMULA należy do AP.

\begin_hint Wykorzystaj dwa tryby alternacji. \end_hint

\begin_sol W pierwszej części maszyna działa w trybie "AND". Zgadujemy formułę ψ krótszą niż ϕ, a następnie przestawiamy się na tryb "OR". Teraz zgadujemy wartościowanie s. Jeśli ϕ i ψ są rozróżniane przez s, tzn. jedna z nich jest spełniona, a druga nie, to akceptujemy formułę ϕ.

Załóżmy nie wprost, że formuła nie jest minimalna, a mimo to zostaje zaakceptowana. Aby tak się stało na każdej ze ścieżek z pierwszego poziomu alternacji uniwersalnej maszyna musi zaakceptować. Jeśli jednak formuła nie jest minimalna, to istnieje krótsza od niej formuła ψ, które jest jej równoważna. Na ścieżce obliczeń rozważającej ψ maszyna w drugim poziomie alternacji musi znaleźć wartościowanie, które rozróżnia ϕ i ψ co jest niemożliwe, stąd uzyskujemy sprzeczność. \end_sol

Teraz przedstawimy kilka relacji pomiędzy klasami obliczeń alternujących:

Twierdzenie [Uzupelnij]

Następujące relacje są prawdziwe:

  1. Jeśli f(n)n to ATIME(f(n))SPACE(f(n)),
  2. Jeśli f(n)n to SPACE(f(n))ATIME(f2(n)),
  3. Jeśli f(n)logn to ASPACE(f(n))TIME(cf(n)).
  4. Jeśli f(n)logn to ASPACE(f(n))TIME(cf(n)).

Dowód [Uzupelnij]

{{{3}}}

Dzięki wymienionym relacjom pomiędzy klasami alternującymi możemy udowodnić kilka dokładnych równości pomiędzy klasami, a to rzadka rzecz w teorii złożoności. Wiemy zatem, że:

  • AL=P,
  • APSPACE = EXP,
  • AP=PSPACE.

Hierarchia wielomianowa

W tej części zdefiniujemy całą hierarchię klas ponad znanymi nam już P i NP, która stanowi pewne uogólnienie problematyki spotkanej w klasie DP.

W poprzednich rozdziałach zdefiniowaliśmy pojęcie maszyny z wyrocznią na język L oznaczanej przez ML. Przypomnijmy, że jest to zwykła maszyna M z dodatkową możliwością zadania pytania postaci "czy xL?" które kosztuje jedną jednostkę czasu. Rozszerzenie tego pojęcia na klasy jest naturalne. Poprzez PNP oznaczamy zbiór tych języków, które mogą być rozstrzygane przez maszyny z klasy P z wyrocznią na dowolny język z klasy NP.

Ta klasa okazuje się być mocniejsza od DP, bowiem w DP mogliśmy zadań pytanie tylko raz (dotyczące coNP, ale w sensie wyroczni działa to jak pytanie do NP), a tutaj dowolną liczbę razy i to na dodatek pytań adaptywnych, tzn. takich, które mogą zależeć od wyników odpowiedzi na poprzednie z nich. Kolejną interesującą klasą jest NPNP. Wszystkie te klasy dają nam coraz większe możliwości, lecz oczywiście nie wiadomo, czy są to ściśle większe klasy, choć panuje takie przekonanie:

\vspace{1cm} \begin_center \includegraphics[width=10cm]{ZO-13-3-rys.jpg}
Klasy relatywne \end_center \vspace{1cm}

Postępując w ten sposób Meyer i Stockmeyer w latach 70 zdefiniowali całą hierarchię klas:

Definicja [Uzupelnij]

Hierarchia wielomianowa, to ciąg klas indeksowany poprzez i:

  • 0P=0P=Δ0P=P
  • Δi+1P=PiP, dla i>0,
  • i+1P=NPiP, dla i>0,
  • i+1P=coNPiP, dla i>0.

Dodatkowo poprzez PH oznaczamy sumę wszystkich tych klas, czyli:
PH=i0iP.

Ponieważ na poziomie zerowym wszystkie elementy hierarchii to P, więc na poziomie pierwszym, ponieważ taka wyrocznia nic nie daje, otrzymujemy Δ1P=P,1P=NP,1P=coNP. Drugi poziom, to klasyΔ2P=PNP,2P=NPNP,2P=coNPNP. Warto zwrócić uwagę, że iP jest dopełnieniem iP na każdym poziomie wprost z definicji. Zawieranie się poszczególnych elementów na jednym poziomie obrazuje poniższy rysunek:

\vspace{1cm} \begin_center \includegraphics[width=10cm]{ZO-13-4-rys.jpg}
Hierarchia wielomianowa \end_center \vspace{1cm}

Do tej pory często odwoływaliśmy się do odpowiedniości pomiędzy klasą NP a szczególnymi relacjami wielomianowo zrównoważonymi i rozstrzygalnymi. Przedstawimy teraz zgrabną charakteryzację klas z hierarchii wielomianowej przy pomocy podobnego kryterium:

Twierdzenie [Uzupelnij]

Niech L będzie językiem, i>0. Język L należy do iP wtedy i tylko wtedy, gdy istnieje wielomianowo zrównoważona i rozstrzygalna relacja R (i+1-argumentowa), taka, że xL dokładnie wtedy, gdy y1y2y3Qyi takie, że R(x,y1,,yi) jest spełnione (i-ty kwantyfikator jest uniwersalny, gdy i jest parzyste, natomiast egzystencjalny, gdy i jest nieparzyste).

Hierarchia wielomianowa jest strukturą dosyć wrażliwą na kolapsy, tzn. równości klas na pewnym poziomie. Okazuje się, że wtedy przenoszą się one automatycznie w górę:

Ćwiczenie

Pokaż, że jeżeli dla pewnego i zachodzi iP=iP to dla każdego j>i zachodzi jP=jP=ΔjP=iP.

\begin_hint Pokaż, że i+1P=P. \end_hint

\begin_sol Pokażemy równość podaną we wskazówce z założenia iP=iP. Weźmy dowolny Li+1P. Z poprzedniego twierdzenia charakteryzującego wiemy, że istnieje relacja i+1-argumentowa RL dla L. Weźmy rzut relacji RL, w którym pomijamy współrzędną y1. Jest to relacja odpowiadająca pewnemu językowi L z iP (otrzymujemy to dzięki zastosowaniu negacji i dopełnienia języka dla poprzedniego twierdzenia). W definicji tym razem jako pierwszy występuje kwantyfikator uniwersalny.

Dzięki równości klas istnieje dla języka L i-argumentowa relacja RL, definiująca go przy użyciu kwantyfikatora egzystencjalnego na początku. Dzięki tej zmianie, możemy teraz zmienić RL tak, aby uwzględnić usuniętą wcześniej współrzędną współrzędną y1, bez dodawania nowego kwantyfikatora, gdyż teraz jako pierwszy występuje kwantyfikator egzystencjalny, co sprawia, że LiP. \end_sol

Zachodzi również podobny fakt. Otóż, jeśli P=NP (albo tylko NP=coNP), to hierarchia kolapsuje już na pierwszym poziomie.

Można by się zastanowić, czy kolejne poziomy hierarchii wielomianowej są interesujące z punku widzenia problemów, które pozwalają one rozwiązać. Okazuje się, że na każdym poziomie hierarchii posiada ona problemy zupełne:

Definicja [Uzupelnij]

Problem QSATi:
Wejście: formuła logiczna ϕ jak dla problemu SAT poprzedzona i naprzemiennymi grupami kwantyfikatorów egzystencjalnych i uniwersalnych: Φ=x1x2x3Qxiϕ.
Wyjście: czy Φ jest prawdziwa?

Twierdzenie [Uzupelnij]

Problem QSATi jest iP-zupełny dla i>0.

Jednak pytanie czy istnieje problem PH-zupełny (czyli zupełny dla całej hierarchii) jest otwarte i panuje przekonanie, że tak nie jest, gdyż:

Ćwiczenie

Pokaż, że jeśli istnieje problem PH-zupełny, to hierarchia zapada się na pewnym poziomie.

\begin_hint Zauważ, że problem zupełny musi należeć do konkretnego poziomu. \end_hint

\begin_sol Jeśli L jest zupełny dla PH, to L należy do iP dla pewnego i. Wtedy jednak dowolny język L z poziomu i+1P redukuje się do L w czasie wielomianowym. Ponieważ poziomy hierarchii są zamknięte na redukcje, stąd LiP, a w konsekwencji i+1P=iP. \end_sol

Jak silna jest cała hierarchia? Można łatwo zauważyć, że zawiera się ona w znanej już nam klasie PSPACE, ze względu na fakt, że można łatwo rozstrzygać w wielomianowej pamięci relacje, charakteryzujące problemy z PH, które opisywaliśmy wcześniej.

Jak nietrudno się domyślić pytanie, czy PH=PSPACE jest otwarte. Bardzo interesujące jest jednak, że gdyby równość zachodziła, to ponieważ PSPACE zawiera problemy zupełne, to PH również by je zawierała, stąd zapadła by się na pewnym skończonym poziomie. Stąd przekonanie, że PH zawiera się silnie w PSPACE.

Na koniec ciekawy rezultat autorstwa Seinosuke Tody (laureata nagrody Gödel'a z roku 1998) związany z klasą PH. Pokazał on, że PHPPP, czyli wyrocznia na klasę PP jest niesamowicie silna i pozwala pochłonąć tak misternie zbudowaną piramidę coraz silniejszych klas.

Ćwiczenia dodatkowe

Ćwiczenie

Pokaż, że problem TAUTOLOGY jest coNP-zupełny.

\begin_hint Skorzystaj z faktu, że SAT jest NP-zupełny. \end_hint

\begin_sol TAUTOLOGY należy do coNP. Weźmy dowolny inny problem L z coNP. Wiemy, że L należy do NP, więc jest redukowalny do SAT - problemu NP-zupełnego, poprzez redukcję, którą oznaczymy jako R. Z definicji redukcji otrzymujemy, że xL wtedy i tylko wtedy, gdy R(x) jest spełnialna. Po zastosowaniu negacji mamy , że xL wtedy i tylko wtedy, gdy R(x) jest nie spełnialna, tzn. ¬R(x) jest tautologią. Sprowadziliśmy zatem problem przynależności do dowolnego języka L z coNP do sprawdzania czy pewna formuła jest tautologią, co dowodzi coNP-zupełności problemu TAUTOLOGY. \end_sol

Ćwiczenie

Udowodnij własności od 1 do 3 z twierdzenia Uzupelnic tw:arel|.

  1. Jeśli f(n)n to ATIME(f(n))SPACE(f(n)),
  1. Jeśli f(n)n to SPACE(f(n))ATIME(f2(n)),
  1. Jeśli f(n)logn to ASPACE(f(n))TIME(cf(n)).

\begin_hint
Ad. 1 i 3: zasymuluj maszynę alternującą przy pomocy zwykłej.
Ad. 2: skorzystaj z idei zaczerpniętej z twierdzenia Savitcha.
\end_hint

\begin_sol
Ad. 1:
Weźmy dowolny język LATIME(f(n)) akceptowany przez alternującą maszynę Turinga M. Dokonamy symulacji przy pomocy deterministycznej maszyny w pamięci f(n). Wykonujemy algorytm rekurencyjnego przeglądania grafu konfiguracji w głąb. W momencie powrotu z rekurencji z ostatniego potomka danego wierzchołka decydujemy na podstawie typu "OR" lub "AND" i akceptacji potomków o tym czy dana konfiguracja jest akceptująca. Głębokość rekurencji to czas obliczeń maszyny M, czyli f(n). Na każdy poziom rekurencji potrzeba nam jednak f(n), aby zapamiętać konfigurację, czyli łącznie f2(n).

Możemy jednak zaoszczędzić na pamięci pamiętając tylko który z niedeterministycznych wyborów dokonała M na danym poziomie rekurencji. Teraz aby obliczyć pełną konfigurację, będziemy musieli rozpocząć za każdym razem obliczenia od początku dokonując stosownych wyborów. Taka operacja może być jednak wykonana w pamięci f(n), stąd cała symulacja potrzebuje f(n) pamięci, a więc LSPACE(f(n)).

Ad. 2:
Tym razem mamy do dyspozycji maszynę działającą w pamięci f(n) i chcemy ją zasymulować przy pomocy maszyny alternującej w czasie f2(n). Jak w twierdzeniu Savitcha odwołamy się do grafu konfiguracji maszyny rozmiaru cf(n) i będziemy się starali odpowiedzieć na pytanie, czy istnieje ścieżka od konfiguracji początkowej do końcowej.

Procedura, która oblicza istnienie ścieżki o długości co najwyżej n ma do dyspozycji alternację i dokonuje tego w dwóch etapach. W pierwszym zgaduje wierzchołek pośredni t na ścieżce działając w trybie "OR". Następnie przełącza się w tryb uniwersalny "AND" i sprawdza rekurencyjnie, czy obydwie części ścieżki, długości n/2 poprzez odgadnięty wierzchołek t istnieją.

Czas potrzebny do działania to głębokość rekurencji, czyli log(cf(n)) co jest rzędu f(n) przemnożony przez czas potrzebny do przetworzenia każdego kroku, który wynosi również f(n), gdyż jest to rozmiar konfiguracji. Łącznie daje to czasf2(n). Zwróćmy uwagę, że liczymy czas na jednej ścieżce obliczeń, dzięki realizacji rekurencji przy pomocy alternacji!

Ad. 3:
Weźmy dowolny język LASPACE(f(n)) akceptowany przez alternującą maszynę Turinga M. Mamy do dyspozycji czas rzędu wykładniczego względem f(n), a więc możemy wygenerować cały graf konfiguracji obliczeń maszyny M (który jak wiemy ma rozmiar cf(n), gdy f(n)logn). Następnie stosownie do typów "AND" i "OR" przeglądamy graf od konfiguracji końcowych i decydujemy o akceptacji słowa wejściowego. \end_sol

Ćwiczenie

Udowodnij, że problemy TSP(D) i EXACT TSP są wielomianowo równoważne.

\begin_hint Skorzystaj z problemu HAMILTON PATH. \end_hint

\begin_sol Załóżmy, że TSP(D) ma rozwiązanie wielomianowe. Dzięki opisywanej już metodzie wyszukiwania binarnego możemy odnaleźć K - optymalny koszt dzięki temu, że potrzebujemy zadać tylko logarytmiczną liczbę pytań względem K, czyli liniową względem rozmiaru wejścia.

Niewiele trudniejsza jest implikacja w drugą stronę. Załóżmy, że EXACT TSP ma rozwiązanie wielomianowe. Metoda wyszukiwania binarnego tym razem zawodzi. Zgodnie ze wskazówką rozwiążemy najpierw HAMILTON PATH. Mając dany graf skierowany G w którym chcemy znaleźć ścieżkę Hamiltona konstruujemy przykład G dla EXACT TSP. Jeśli krawędź istnieje w G to w G otrzymuje wagę 1, jeśli nie istnieje w G to w G wstawiamy ją z wagą 2. Łatwo stwierdzić, że graf G ma ścieżkę Hamiltona wtedy i tylko wtedy, gdy trasa komiwojażera w G ma koszt dokładnie n -- rozmiar grafu.

Ponieważ HAMILTON PATH jest NP-zupełny, więc istnieje redukcja TSP(D) do HAMILTON PATH, a tym samym składając redukcje otrzymamy algorytm wielomianowy dla TSP(D). \end_sol

Testy końcowe