Języki, automaty i obliczenia/Wykład 11: Automat ze stosem
{LEMAT O POMPOWANIU DLA JĘZYKÓW
BEZKONTEKSTOWYCH. Własności języków bezkontekstowych. Problemy rozstrzygalne}
- Wprowadzenie
- Wprowadzimy i udowodnimy najprostszą wersję lematu o pompowaniu dla języków
bezkontekstowych.
- Słowa kluczowe
- wyprowadzenie lewostronne i prawostronne , gramatyka jednoznaczna, język jednoznaczny
Lemat o pompowaniu
Istotną cechą języków regularnych jest własność pompowania, którą ustaliliśmy w lemacie o pompowaniu. Podobną, ale nie taką samą, cechę posiadają języki bezkontekstowe. O ile dla języków regularnych własność pompowania wynikała z istnienia pętli w grafie opisującym automat, to dla języków bezkontekstowych pompowanie jest wynikiem powtarzającego się symbolu nieterminalnego w wyprowadzeniu dostatecznie długiego słowa w gramatyce.
Lemat
(o pompowaniu) Dla dowolnego języka bezkontekstowego istnieją liczby naturalne takie, że każde słowo o długości można przedstawić w formie , gdzie , oraz
- dla
Zanim przeprowadzimy dowód lematu zobaczmy jak stosuje się ten lemat do języka generowanego
przez gramatykę ,
gdzie
ANIMACJA ja-lekcja10-w-anim1-opis
Dowód
Załóżmy, bez utraty ogólności rozważań (dlaczego?), że język bezkontekstowy nie zawiera słowa pustego i jest generowany przez gramatykę w normalnej postaci Chomsky' ego. Rozważmy dowolne wyprowadzenie w
o długości i . Niech najdłuższa ścieżka w drzewie binarnym tego wyprowadzenia ma długość (jako długość przyjmujemy tutaj liczbę wierzchołków, przez które przechodzi ścieżka). Indukcyjne ze względu na łatwo jest
uzasadnić, żeZałóżmy teraz, że zbiór ma elementów i przyjmijmy oraz . Niech będzie słowem, którego długość jest większa od . Zatem najdłuższa ścieżka w drzewie wyprowadzenia będącego wyprowadzeniem słowa w gramatyce ma długość co najmniej . A więc przechodzi przez co najmniej wierzchołków. Stąd, że wierzchołki maksymalne drzewa wyprowadzenia mają etykiety terminalne wnioskujemy, że w występują dwa różne wierzchołki etykietowane przez ten sam symbol nieterminalny . Przyjmijmy, że wierzchołek jest bliższy wierzchołka początkowego drzewa wyprowadzenia niż . Wierzchołki można tak dobrać, aby podścieżka ścieżki o początku w wierzchołku miała długość równą co najwyżej . Zauważmy teraz, że żadna ścieżka poddrzewa , którego wierzchołkiem początkowym jest , nie ma długości większej niż . Jeśli więc jest słowem określonym przez liście , to
Rozważmy teraz poddrzewo drzewa o wierzchołku początkowym w i niech będzie słowem określonym przez liście . Wtedy dla pewnych . W połączeniu z nierównością Uzupelnic lp1| uzyskujemy pierwszą własność postulowaną w lemacie. Co więcej, ponieważ pierwsza produkcja wyprowadzenia jest postaci dla pewnych , a w gramatyce nie ma produkcji wymazującej. Zatem dla pewnych jest
lub
dla
W konsekwencji dla dowolnego . Lemat zatem został udowodniony.

Analogicznie jak w przypadku języków regularnych, lemat o pompowaniu dla języków bezkontekstowych stosuje się najczęściej do uzasadnienia, że pewne języki nie należą do rodziny . Takie właśnie zastosowanie przedstawione jest poniżej, na przykładzie języka, o którym pó{z}niej pokażemy, że jest kontekstowy, czyli należy do rodziny języków .
Przykład
Niech . Przeprowadzając rozumowanie nie wprost, a więc zakładając bezkontekstowość tego języka, z lematu o pompowaniu uzyskujemy odpowiednie stałe . Niech i rozważmy słowo . Zatem istnieje rozkład , oraz dla . Z postaci słów języka oraz z faktu wnioskujemy, że słowa są potęgami jednej z liter oraz że o ile . A to wyklucza możliwość zachowania własności określajacej język . Otrzymana sprzeczność prowadzi do wniosku, iż język nie jest bezkontekstowy.
Lemat o pompowaniu wykorzystywany bywa również w dowodach rozstrzygalności pewnych problemów w rodzinie języków rozpoznawalnych. Zagadnieniem tym zajmiemy się w dalszej części tego wykładu.
Własności rodziny języków bezkontekstowych
Przedstawimy teraz podstawowe własności rodziny języków bezkontekstowych związane z zamkniętością ze względu na działania oraz z problemami jednoznaczności.
Twierdzenie
Rodzina języków bezkontekstowych jest zamknięta ze względu na następujące działania:
- sumę mnogościową,
- katenację i operację iteracji
- przecięcie (iloczyn mnogościowy) z językiem regularnym
- homomorfizm
Dowód
{}
Uzupelnic dom:s|. Niech będą gramatykami bezkontekstowymi, dla , takimi, że oraz . Język jest generowany przez gramatykę bezkontekstową określoną w następujący sposób:
Uzupelnic dom:i|. Przy powyższych oznaczeniach, język jest generowany przez gramatykę bezkontekstową:
Jeśli , dla gramatyki bezkontekstowej, to dla
gramatykiktóra jest również gramatyką bezkontekstową.
Uzupelnic dom:h|. Niech będzie dowolonym językiem rozpoznawanym przez pewien automat skończenie stanowy . Język ten możemy przedstawić w postaci sumy , w której każdy język jest rozpoznawany przez automat , w którym jako stan końcowy przyjmujemy . Rodzina języków bezkontekstowych jest zamknięta ze względu na sumę mnogościową i oczywista jest równość . Wystarczy zatem udowodnić, że język jest bezkontekstowy. Załóżmy, że oraz jest językiem generowanym przez gramatykę bezkontekstową w normalnej postaci Chomsky' ego. Bez utraty ogólności rozważań można także założyć, że . Konstruujemy gramatykę
dla której zawiera następujące produkcje
- dla , jeśli
- dla , jeśli
- dla , jeśli
Bezpośrednio z konstrukcji wynika, że gramatyka jest bezkontekstowa. Łatwo również zauważyć, że język generowany przez gramatykę jest równy .
Uzupelnic dom:j|. Niech oznacza dowolny homomorfizm, a językiem bezkontekstowym generowanym przez gramatykę . Rozszerzamy homomorfizm do wolnych monoidów i , przyjmując, że na zbiorze jest równe identyczności. Łatwo zauważyć, że język jest generowany przez gramatykę bezkontekstową , w której

Z równości , zamkniętości klasy ze względu na uzupełnienie oraz z punktu Uzupelnic dom:h| udowodnionego powyżej twierdzenia wynika następujący wniosek.
Wniosek
Niech będzie dowolonym językiem bezkontekstowym, a regularnym. Wtedy jest językiem bezkontekstowym.
Bez dowodu podajemy dwie dalsze własności związane z zamkniętością rodziny języków bezkontekstowych.
Fakt
Rodzina języków bezkontekstowych jest zamknięta ze względu na podstawienie regularne i przeciwobraz przez homomorfizm.
Rodzina języków bezkontekstowych nie jest zamknięta na wszystkie działania boolowskie. Jak wynika z poniższego twierdzenia, jedynym działaniem boolowskim nie wyprowadzającym poza rodzinę języków bezkontekstowych jest suma mnogościowa.
Twierdzenie
Rodzina języków bezkontekstowych nie jest zamknięta ze względu na
- iloczyn mnogościowy
- uzupełnienie
Dowód
Dla niech będą gramatykami o następujących zbiorach praw:
Gramatyki te są bezkontekstowe i generują, odpowiednio, następujące języki:
Języki te są bezkontekstowe, lecz ich przecięcie
jest językiem istotnie kontekstowym.
Z udowodnionej właśnie własności oraz z praw de'Morgana wynika, że rodzina nie jest też domknięta ze względu na uzupełnienie.

Jednoznaczność języków bezkontekstowych
Omówimy teraz, dość ogólnie zresztą, problem występujący w niektórych gramatykach bezkontekstowych, a polegający na wielokrotnym wyprowadzeniu tego samego słowa. Z punktu widzenia języków programowania, których syntaktykę opisują, w pewnym zakresie, gramatyki bezkontekstowe taka nadmiarowość (niejednoznaczność parsingu) jest cechą wysoce nieporządaną. Gramatyki, które nie będą mieć takiej własności nazwiemy jednoznacznymi. Jednoznacznym nazwiemy też język dla którego istnieje gramatyka jednoznaczna.
Definicja
Niech będzie gramatyką bezkontekstową. Lewostronnym (prawostronnym) wyprowadzeniem słowa w gramatyce nazywamy
wyprowadzenietakie, że dla każdego jest generowane bezpośrednio z przez zastąpienie pierwszego z lewej (prawej) symbolu nieterminalnego występującego w słowie .
Jeśli chcemy zaznaczyć, że wyprowadzenie jest lewostronne lub prawostronne, to posługujemy się zapisem
Każde wyprowadzenie słowa w gramatyce bezkontekstowej można tak uporządkować, by sekwencja produkcji tworzyła prawostronne lub lewostronne wyprowadzenie. Stąd wynika też fakt, że dowolne słowo generowane przez gramatykę bezkontekstową ma tyle samo wyprowadzeń lewostronnych, co prawostronnych. Ilość różnych wyprowadzeń danego słowa jest w niektórych zastosowaniach gramatyk bezkontekstowych dość istotna, choćby w problemach parsingu, czyli poszukiwania w gramatyce wyprowadzenia dla danego słowa. Ilość różnych wyprowadzeń słów w gramatyce stanowi pewną informację na temat nadmiarowości tej gramatyki. Bardzo istotną rolę odgrywają zarówno w teorii, jak i zastosowaniach gramatyki bezkontekstowe jednoznaczne, których definicję podajemy poniżej.
Definicja
Gramatyka bezkontekstowa jest jednoznaczna, wtedy i tylko wtedy, gdy każde słowo generowane przez tę gramatykę ma dokładnie jedno wyprowadzenie lewostronne (prawostronne). Język bezkontekstowy nazywamy jednoznacznym, jeśli istnieje jednoznaczna gramatyka bezkontekstowa generująca ten język.
Jednoznaczność gramatyki oznacza istnienie dokładnie jednego drzewa wywodu dla każdego generowanego słowa. W klasie gramatyk bezkontekstowych problem jednoznaczności jest nierozstrzygalny. W rozdziale poświęconym algorytmicznej rozstrzygalności wrócimy do tego zagadnienia. Oczywiście wobec powyższego nierozstrzygalny jest też problem jednoznaczności języka. Problem jednoznaczności gramatyki i języka jest rozstrzygalny w podklasach języków bezkontekstowych, na przykład dla klasy języków ograniczonych, to znaczy takich , że dla pewnych słów .
Przykład
Język
generowany przez gramatykę , gdzie ,
oraz
jest, jak łatwo sprawdzić, językiem jednoznacznym.
Mówimy, że język jest niejednoznaczny, jeśli nie jest jednoznaczny, czyli nie istnieje gramatyka jednoznaczna generująca ten język. Przykładem języka niejednoznacznego jest
Uzasadnienie tego faktu jest dosyć żmudne i dlatego zostało tutaj pominięte.
Zauważmy na koniec tego krótkiego omówienia problematyki jednoznaczności gramatyk, że każdy język regularny (ale nie każda gramatyka regularna) jest jednoznaczny. Jednoznaczna jest bowiem gramatyka otrzymana z automatu deterministycznego generującego ten język.
Jednoznaczny jest również język bezkontekstowy, który jest iloczynem , gdzie i jest językiem jednoznacznym, a . Gramatyka tego języka, skonstruowana w punkcie Uzupelnic p1| w twierdzeniu Uzupelnic tw 2| jest jednoznaczna, co wynika stąd, że automat rozpoznający jest deterministyczny.
Problemy rozstrzygalne algorytmicznie
Podobnie jak dla języków regularnych tak i w przypadku bezkontekstowych lemat o pompowaniu wykorzystuje się do uzasadnienie rozstrzygalności pewnych problemów. Dla rodziny języków bezkontekstowych mamy następujące twierdzenie.
Twierdzenie
W rodzinie j{e}zyków bezkontekstowych nast{e}puj{a}ce problemy s{a} rozstrzygalne:
- problem niepustości języka,
- problem nieskończoności języka,
- problem należenia słowa do języka
Dowód
Aby udowodnić punkt 1 wykorzystamy następującą równoważność:
Uzasadnienie tej równoważności polega
na rozk{}adzie s{}owa spe{}niaj{a}cego warunek (zgodnie z oznaczeniami i tezą lematu o pompowaniu) i zastąpieniu go s{}owem , które jest istotnie krótsze. Po sko{n}czonej ilo{s}ci takich skracających kroków dostaniemy s{}owo nale{z}{a}ce do j{e}zyka i spe{}niaj{a}ce warunek .
W uzasadnieniu punktu 2 wykorzystamy równoważność
gdzie są stałymi z lematu o pompowaniu.
Przyjmując, iż j{e}zyk jest niesko{n}czony, wnioskujemy, {z}e istnieją w tym języku słowa dowolnie d{}ugie. Niech i . Je{s}li nie spe{}nia warunku , to stosujemy lemat o pompowaniu dla , uzyskując s{}owo nale{z}{a}ce do j{e}zyka i istotnie krótsze od . Z warunku (punkt 1 tezy lematu o pompowaniu) wynika, i{z} ró{z}nica d{}ugo{s}ci tych s{}ów nie mo{z}e by{c} wi{e}ksza ni{z} sta{}a . Zatem po sko{n}czonej ilo{s}ci kroków uzyskujemy s{}owo nale{z}{a}ce do j{e}zyka i spe{}niaj{a}ce {z}{a}dany warunek.
Implikacja w przeciwną stronę ( ) wynika bezpo{s}rednio z lematu o pompowaniu. Istnieje mianowicie niesko{n}czony zbiór słów w postaci
dla
Punkt 3 twierdzenia wymaga podania odpowiedniego algorytmu. Jego prezentacją i omówieniem zajmujemy się poniżej.

{Algorytm CYK - przynależność słowa do języka.}
Rozważmy problem przynależności słowa do danego języka, generowanego przez gramatykę bezkontekstową . Jest to problem rozstrzygalny. Bardzo łatwo podać algorytm, wykorzystujący postać normalną Greibach. Po sprowadzeniu gramatyki do postaci normalnej Greibach prawa strona każdej produkcji rozpoczyna się symbolem terminalnym i jest to jedyny symbol terminalny. Zatem, jeśli , to należy zbadać wszystkie wywody w , z symbolu początkowego , o długości dokładnie , to znaczy wywody złożone z dokładnie kroków. Jeśli dla każdego symbolu nieterminalnego istnieje co najwyżej produkcji w gramatyce , w których pojawia się on po lewej stronie, to algorytm będzie działał w czasie . Metoda ta jest jednak bardzo nieefektywna. Czasochłonne jest też samo sprowadzenie gramatyki do postaci normalnej Greibach.
Istnieje szybszy algorytm rozwiązujący problem przynależności do języka. Jest to algorytm Cocke'a-Youngera-Kasamiego, w skrócie CYK.
Algorytm CYK działa w oparciu o ideę programowania dynamicznego . Rozważmy słowo oraz gramatykę . Niech zbiór zawiera wyłącznie te symbole nieterminalne, z których można wywieść słowo , czyli
Mamy zatem następującą równoważność:
Algorytm
{Cocke-Younger-Kasami - sprawdza, czy dane słowo
należy do języka generowanego przez gramatykę bezkontekstową}
[1]
Wejście: , - gramatyka bezkontekstowa i słowo o długości
Wyjście: TAK lub NIE - odpowiedź na pytanie, czy .
PostaćNormalnaChomsky'ego;
for ;
endfor
for
for ;
for ;
endfor
endfor
endfor
if
return TAK, ;
else
return NIE, ;
endif
Algorytm CYK działa w czasie , gdzie jest długością słowa, o którego przynależność do języka pytamy.
Przykład
Zbadamy, czy słowo należy do języka generowanego gramatyką:
gdzie jest symbolem początkowym.
Poniższa animacja ilustruje działanie algorytmu CYK.
ANIMACJA ja-lekcja10-w-anim2.jpg. Opis animacji w pliku ja-lekcja10-w-anim2-opis.