Języki, automaty i obliczenia/Wykład 10: Lemat o pompowaniu dla języków bezkontekstowych. Własności języków bezkontekstowych. Problemy rozstrzygalne: Różnice pomiędzy wersjami

Z Studia Informatyczne
Przejdź do nawigacjiPrzejdź do wyszukiwania
m Zastępowanie tekstu – „<math> ” na „<math>”
m Zastępowanie tekstu – „ </math>” na „</math>”
Linia 13: Linia 13:
(o pompowaniu) Dla dowolnego języka bezkontekstowego <math>L \subset A^*</math> istnieją liczby
(o pompowaniu) Dla dowolnego języka bezkontekstowego <math>L \subset A^*</math> istnieją liczby
naturalne <math>N,M \geqslant 1</math> takie, że każde słowo <math>w \in L</math> o długości <math>|w| > N</math> można
naturalne <math>N,M \geqslant 1</math> takie, że każde słowo <math>w \in L</math> o długości <math>|w| > N</math> można
przedstawić w formie <math>w=u_1w_1uw_2u_2</math>, gdzie  <math>w_{1,}w_{2},v_{1},v_{2},u\in A^{*} </math> oraz
przedstawić w formie <math>w=u_1w_1uw_2u_2</math>, gdzie  <math>w_{1,}w_{2},v_{1},v_{2},u\in A^{*}</math> oraz
# <math>|w_1uw_2| \leqslant M</math>
# <math>|w_1uw_2| \leqslant M</math>
# <math>w_1w_2 \neq 1</math>
# <math>w_1w_2 \neq 1</math>
Linia 37: Linia 37:
w drzewie binarnym <math>T</math> tego wyprowadzenia ma długość <math>k</math>
w drzewie binarnym <math>T</math> tego wyprowadzenia ma długość <math>k</math>
(jako długość przyjmujemy tutaj liczbę
(jako długość przyjmujemy tutaj liczbę
wierzchołków, przez które przechodzi ścieżka). Indukcyjne ze względu na  <math>k </math>  łatwo jest
wierzchołków, przez które przechodzi ścieżka). Indukcyjne ze względu na  <math>k</math>  łatwo jest
uzasadnić, że <center><math>|w_r| \leqslant 2^{k-1}</math>.</center>
uzasadnić, że <center><math>|w_r| \leqslant 2^{k-1}</math>.</center>
Załóżmy teraz, że zbiór <math>V_N</math> ma <math>p</math> elementów i
Załóżmy teraz, że zbiór <math>V_N</math> ma <math>p</math> elementów i
Linia 61: Linia 61:
W połączeniu z nierównością <math>\mbox{(1)}</math> uzyskujemy pierwszą własność postulowaną w lemacie. Co więcej, <math>w_1w_2 \neq 1</math>,
W połączeniu z nierównością <math>\mbox{(1)}</math> uzyskujemy pierwszą własność postulowaną w lemacie. Co więcej, <math>w_1w_2 \neq 1</math>,
ponieważ pierwsza produkcja wyprowadzenia
ponieważ pierwsza produkcja wyprowadzenia
<math>v\mapsto^{*}\overline{w} </math>  jest postaci <math>v \rightarrow v_1v_2</math> dla pewnych
<math>v\mapsto^{*}\overline{w}</math>  jest postaci <math>v \rightarrow v_1v_2</math> dla pewnych
<math>v_{1},\, v_{2}\in V_{N} </math> , a w gramatyce nie
<math>v_{1},\, v_{2}\in V_{N}</math> , a w gramatyce nie
ma produkcji wymazującej. Zatem dla pewnych <math>u_1, u_2 \in V^*_T</math> jest
ma produkcji wymazującej. Zatem dla pewnych <math>u_1, u_2 \in V^*_T</math> jest


Linia 72: Linia 72:
<center><math>v_{0}\mapsto^{*}u_{1}vu_{2}\mapsto^{*}u_{1}w_{1}vw_{2}u_{2}\mapsto^{*}u_{1}w^{i}_{1}vw^{i}_{2}u_{2}\mapsto^{*}u_{1}w^{i}_{1}uw^{i}_{2}u_{2}</math></center>
<center><math>v_{0}\mapsto^{*}u_{1}vu_{2}\mapsto^{*}u_{1}w_{1}vw_{2}u_{2}\mapsto^{*}u_{1}w^{i}_{1}vw^{i}_{2}u_{2}\mapsto^{*}u_{1}w^{i}_{1}uw^{i}_{2}u_{2}</math></center>


dla  <math>i=1,2,\ldots </math>  
dla  <math>i=1,2,\ldots </math>  


W konsekwencji <math>u_1w_1^iuw_2^iu_2 \in L</math> dla dowolnego <math>i=0,1,..</math>.. Lemat zatem został
W konsekwencji <math>u_1w_1^iuw_2^iu_2 \in L</math> dla dowolnego <math>i=0,1,..</math>.. Lemat zatem został
Linia 112: Linia 112:
{{kotwica|tw.1|}}{{twierdzenie|2.1||
{{kotwica|tw.1|}}{{twierdzenie|2.1||


Rodzina języków bezkontekstowych  <math>\mathcal{L}_{2} </math>  jest zamknięta ze względu
Rodzina języków bezkontekstowych  <math>\mathcal{L}_{2}</math>  jest zamknięta ze względu
na następujące działania:
na następujące działania:
#  sumę mnogościową,
#  sumę mnogościową,
Linia 128: Linia 128:
Jeśli <math>L = L(G)</math>, dla <math>G = (V_N ,V_T,v_0,P)</math> gramatyki bezkontekstowej, to <math>L^* = L(\overline{G})</math> dla gramatyki <center><math>\overline{G} = ( V_N \cup \{\overline{v}_0 \} , V_T , \overline{v}_0,P \cup \{ \overline{v}_0 \rightarrow 1 , \overline{v}_0 \rightarrow \overline{v}_0 v_0 \}</math>,</center> która jest również gramatyką bezkontekstową.<br>
Jeśli <math>L = L(G)</math>, dla <math>G = (V_N ,V_T,v_0,P)</math> gramatyki bezkontekstowej, to <math>L^* = L(\overline{G})</math> dla gramatyki <center><math>\overline{G} = ( V_N \cup \{\overline{v}_0 \} , V_T , \overline{v}_0,P \cup \{ \overline{v}_0 \rightarrow 1 , \overline{v}_0 \rightarrow \overline{v}_0 v_0 \}</math>,</center> która jest również gramatyką bezkontekstową.<br>


&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;3. Niech <math>R</math> będzie dowolonym językiem rozpoznawanym przez pewien automat skończenie stanowy  <math>\mathcal{A} =(S,f,s_0,T)</math>. Język ten możemy przedstawić w postaci sumy <math>R=\bigcup_{i=1}^k R_i</math>, w której każdy język <math>R_i</math> jest rozpoznawany przez automat <math>\mathcal{A} </math> , w którym jako stan końcowy przyjmujemy <math>t_i \in T</math>. Rodzina języków bezkontekstowych jest zamknięta ze względu na sumę mnogościową i oczywista jest równość <math>L \cap R= \bigcup _{i=1}^k (L \cap R_i)</math>. Wystarczy zatem udowodnić, że język <math>L \cap R_i</math> jest bezkontekstowy. Załóżmy, że <math>T=\{t \}</math> oraz <math>L</math> jest językiem generowanym przez gramatykę bezkontekstową <math>G = (V_N ,V_T,v_0,P)</math> w normalnej postaci Chomsky'ego. Bez utraty ogólności rozważań można także założyć, że  <math>1\notin L</math>. Konstruujemy gramatykę <center><math>H=(S \times (V_N \cup V_T) \times S,V_T,(s_0,v_0,t),P_H)</math>,</center> dla której <math>P_H</math> zawiera następujące produkcje:
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;3. Niech <math>R</math> będzie dowolonym językiem rozpoznawanym przez pewien automat skończenie stanowy  <math>\mathcal{A} =(S,f,s_0,T)</math>. Język ten możemy przedstawić w postaci sumy <math>R=\bigcup_{i=1}^k R_i</math>, w której każdy język <math>R_i</math> jest rozpoznawany przez automat <math>\mathcal{A}</math> , w którym jako stan końcowy przyjmujemy <math>t_i \in T</math>. Rodzina języków bezkontekstowych jest zamknięta ze względu na sumę mnogościową i oczywista jest równość <math>L \cap R= \bigcup _{i=1}^k (L \cap R_i)</math>. Wystarczy zatem udowodnić, że język <math>L \cap R_i</math> jest bezkontekstowy. Załóżmy, że <math>T=\{t \}</math> oraz <math>L</math> jest językiem generowanym przez gramatykę bezkontekstową <math>G = (V_N ,V_T,v_0,P)</math> w normalnej postaci Chomsky'ego. Bez utraty ogólności rozważań można także założyć, że  <math>1\notin L</math>. Konstruujemy gramatykę <center><math>H=(S \times (V_N \cup V_T) \times S,V_T,(s_0,v_0,t),P_H)</math>,</center> dla której <math>P_H</math> zawiera następujące produkcje:
* <math>(s_1,v_1,s_2) \rightarrow (s_1,v_2,s_3)(s_3,v_3,s_2)</math> dla <math>s_i \in S</math>, <math>v_i \in V_N</math> jeśli <math>v_1\rightarrow v_2v_3 \in P</math>,
* <math>(s_1,v_1,s_2) \rightarrow (s_1,v_2,s_3)(s_3,v_3,s_2)</math> dla <math>s_i \in S</math>, <math>v_i \in V_N</math> jeśli <math>v_1\rightarrow v_2v_3 \in P</math>,
* <math>(s_1,v_1,s_2) \rightarrow (s_1,a,s_2)</math> dla <math>s_i \in S</math>, <math>a \in V_T</math> jeśli <math>v_1\rightarrow a \in P</math>,
* <math>(s_1,v_1,s_2) \rightarrow (s_1,a,s_2)</math> dla <math>s_i \in S</math>, <math>a \in V_T</math> jeśli <math>v_1\rightarrow a \in P</math>,
Linia 138: Linia 138:
}}
}}


Z równości  <math>L\setminus R=L\cap \overline{R} </math> ,
Z równości  <math>L\setminus R=L\cap \overline{R}</math> ,
zamkniętości klasy  <math>\mathcal{L}_{3} </math>  ze względu na uzupełnienie
zamkniętości klasy  <math>\mathcal{L}_{3}</math>  ze względu na uzupełnienie
oraz z punktu 3 udowodnionego powyżej twierdzenia wynika następujący
oraz z punktu 3 udowodnionego powyżej twierdzenia wynika następujący
wniosek.
wniosek.
Linia 154: Linia 154:


{{fakt|2.1||
{{fakt|2.1||
Rodzina języków bezkontekstowych  <math>\mathcal{L}_{2} </math>  jest zamknięta ze
Rodzina języków bezkontekstowych  <math>\mathcal{L}_{2}</math>  jest zamknięta ze
względu na podstawienie
względu na podstawienie
regularne i przeciwobraz przez homomorfizm.
regularne i przeciwobraz przez homomorfizm.
Linia 167: Linia 167:
{{twierdzenie|2.2||
{{twierdzenie|2.2||


Rodzina języków bezkontekstowych  <math>\mathcal{L}_{2} </math>  nie jest zamknięta ze względu na:
Rodzina języków bezkontekstowych  <math>\mathcal{L}_{2}</math>  nie jest zamknięta ze względu na:
# iloczyn mnogościowy,
# iloczyn mnogościowy,
# uzupełnienie.
# uzupełnienie.
Linia 183: Linia 183:
P_2 = \{ v_0 \rightarrow a v_0 , \; v_0 \rightarrow a v_1 , \; v_1 \rightarrow bc, \; v_1 \rightarrow b v_1 c \}.
P_2 = \{ v_0 \rightarrow a v_0 , \; v_0 \rightarrow a v_1 , \; v_1 \rightarrow bc, \; v_1 \rightarrow b v_1 c \}.


\end{array} </math></center>
\end{array}</math></center>


Gramatyki te są bezkontekstowe i generują, odpowiednio, następujące języki:
Gramatyki te są bezkontekstowe i generują, odpowiednio, następujące języki:
Linia 198: Linia 198:


Z udowodnionej właśnie własności  oraz z praw de'Morgana
Z udowodnionej właśnie własności  oraz z praw de'Morgana
wynika, że rodzina  <math>\mathcal{L}_{2} </math>  nie jest też domknięta ze względu na uzupełnienie.
wynika, że rodzina  <math>\mathcal{L}_{2}</math>  nie jest też domknięta ze względu na uzupełnienie.


}}
}}
Linia 225: Linia 225:
Jednoznaczność gramatyki oznacza istnienie dokładnie jednego drzewa wywodu dla każdego generowanego słowa. W klasie gramatyk bezkontekstowych problem jednoznaczności jest nierozstrzygalny. W rozdziale poświęconym algorytmicznej rozstrzygalności wrócimy do tego zagadnienia. Oczywiście  wobec powyższego nierozstrzygalny jest też problem jednoznaczności języka. Problem jednoznaczności gramatyki i języka jest rozstrzygalny w podklasach języków
Jednoznaczność gramatyki oznacza istnienie dokładnie jednego drzewa wywodu dla każdego generowanego słowa. W klasie gramatyk bezkontekstowych problem jednoznaczności jest nierozstrzygalny. W rozdziale poświęconym algorytmicznej rozstrzygalności wrócimy do tego zagadnienia. Oczywiście  wobec powyższego nierozstrzygalny jest też problem jednoznaczności języka. Problem jednoznaczności gramatyki i języka jest rozstrzygalny w podklasach języków
bezkontekstowych, na przykład dla klasy języków ograniczonych, to znaczy takich
bezkontekstowych, na przykład dla klasy języków ograniczonych, to znaczy takich
<math>L\subset A^{*} </math> , że  <math>L\subset w_{1}^{*}...w_{n}^{*} </math>  dla pewnych słów  <math>w_{1},...,w_{n}\in A^{*} </math> .
<math>L\subset A^{*}</math> , że  <math>L\subset w_{1}^{*}...w_{n}^{*}</math>  dla pewnych słów  <math>w_{1},...,w_{n}\in A^{*}</math> .


{{przyklad|3.1||
{{przyklad|3.1||
Język  <math>\left\{ a^{n}b^{n+m}c^m\, :\, n,m>0\right\} </math>  
Język  <math>\left\{ a^{n}b^{n+m}c^m\, :\, n,m>0\right\} </math>  
generowany przez gramatykę  <math>G=(V_{N},V_{T},v_{0},P) </math> , gdzie  <math>V_{N}=\{v_{0},v_{1}\} </math> ,
generowany przez gramatykę  <math>G=(V_{N},V_{T},v_{0},P)</math> , gdzie  <math>V_{N}=\{v_{0},v_{1}\}</math> ,
<math>V_{T}=\{a,b,c\} </math>  oraz<br>
<math>V_{T}=\{a,b,c\}</math>  oraz<br>
<math>P= v_{0}\rightarrow v_1 v_2 , \;\; v_1 \rightarrow av_{1}b\;|ab, \;\; v_2 \rightarrow  bv_2c,  \;|bc </math> <br>
<math>P= v_{0}\rightarrow v_1 v_2 , \;\; v_1 \rightarrow av_{1}b\;|ab, \;\; v_2 \rightarrow  bv_2c,  \;|bc </math> <br>
jest, jak łatwo sprawdzić, językiem jednoznacznym.<br>
jest, jak łatwo sprawdzić, językiem jednoznacznym.<br>


}}
}}


Mówimy, że język  <math>L\in \mathcal{L}_{2} </math>  jest '''niejednoznaczny''',
Mówimy, że język  <math>L\in \mathcal{L}_{2}</math>  jest '''niejednoznaczny''',
jeśli nie jest jednoznaczny, czyli nie istnieje gramatyka jednoznaczna generująca ten język. Przykładem języka niejednoznacznego jest
jeśli nie jest jednoznaczny, czyli nie istnieje gramatyka jednoznaczna generująca ten język. Przykładem języka niejednoznacznego jest


Linia 246: Linia 246:
jest bowiem gramatyka otrzymana z automatu deterministycznego generującego ten język.
jest bowiem gramatyka otrzymana z automatu deterministycznego generującego ten język.


Jednoznaczny jest również język bezkontekstowy, który jest iloczynem <math>L\cap R </math> , gdzie  <math>L\in \mathcal{L}_{2} </math>  i jest językiem jednoznacznym, a  <math>R\in \mathcal{L}_{3} </math> . Gramatyka tego języka, skonstruowana w punkcie [[#prz.3|3]] w twierdzeniu [[#tw.1|2.1]] jest jednoznaczna, co wynika stąd, że automat rozpoznający  <math>R </math>  jest deterministyczny.
Jednoznaczny jest również język bezkontekstowy, który jest iloczynem <math>L\cap R</math> , gdzie  <math>L\in \mathcal{L}_{2}</math>  i jest językiem jednoznacznym, a  <math>R\in \mathcal{L}_{3}</math> . Gramatyka tego języka, skonstruowana w punkcie [[#prz.3|3]] w twierdzeniu [[#tw.1|2.1]] jest jednoznaczna, co wynika stąd, że automat rozpoznający  <math>R</math>  jest deterministyczny.


==Problemy rozstrzygalne algorytmicznie==
==Problemy rozstrzygalne algorytmicznie==
Linia 253: Linia 253:


{{twierdzenie|4.1||
{{twierdzenie|4.1||
W rodzinie języków bezkontekstowych  <math>\mathcal{L}_{2} </math>  następujące
W rodzinie języków bezkontekstowych  <math>\mathcal{L}_{2}</math>  następujące
problemy są rozstrzygalne:
problemy są rozstrzygalne:
# problem niepustości języka, <math>L\neq \emptyset, </math>  
# problem niepustości języka, <math>L\neq \emptyset, </math>  
# problem nieskończoności języka,  <math>card\, L=\aleph _{0}, </math>  
# problem nieskończoności języka,  <math>card\, L=\aleph _{0},</math>  
# problem należenia słowa <math>w</math> do języka <math>L</math>.
# problem należenia słowa <math>w</math> do języka <math>L</math>.


Linia 266: Linia 266:
<center><math>L\neq \emptyset \; \Longleftrightarrow \; \exists w\in L\, :\, |w|\leqslant N.</math></center>
<center><math>L\neq \emptyset \; \Longleftrightarrow \; \exists w\in L\, :\, |w|\leqslant N.</math></center>


Uzasadnienie tej równoważności polega na rozkładzie słowa  <math>w </math>  spełniającego warunek  <math>N<|w| </math> (zgodnie z oznaczeniami i tezą lematu o pompowaniu) i zastąpieniu go słowem
Uzasadnienie tej równoważności polega na rozkładzie słowa  <math>w</math>  spełniającego warunek  <math>N<|w|</math> (zgodnie z oznaczeniami i tezą lematu o pompowaniu) i zastąpieniu go słowem
<math>u_{1}uu_{2} </math> , które jest istotnie krótsze. Po skończonej ilości takich skracających kroków  dostaniemy słowo należące do języka <math>L </math>  i spełniające warunek  <math>|w|\leqslant N </math> .
<math>u_{1}uu_{2}</math> , które jest istotnie krótsze. Po skończonej ilości takich skracających kroków  dostaniemy słowo należące do języka <math>L</math>  i spełniające warunek  <math>|w|\leqslant N</math> .


W uzasadnieniu punktu 2 wykorzystamy równoważność
W uzasadnieniu punktu 2 wykorzystamy równoważność
Linia 273: Linia 273:
<center><math>card\, L=\aleph _{0}\Longleftrightarrow \; \exists w\in L\, :\, N<|w|\leqslant N+M,</math></center>
<center><math>card\, L=\aleph _{0}\Longleftrightarrow \; \exists w\in L\, :\, N<|w|\leqslant N+M,</math></center>


gdzie  <math>M,N </math>  są stałymi z lematu o pompowaniu.
gdzie  <math>M,N</math>  są stałymi z lematu o pompowaniu.


Przyjmując, iż język  <math>L </math>  jest nieskończony, wnioskujemy, że
Przyjmując, iż język  <math>L</math>  jest nieskończony, wnioskujemy, że
istnieją w tym języku słowa dowolnie długie.
istnieją w tym języku słowa dowolnie długie.
Niech  <math>w\in L </math>  i  <math>|w|>N </math> . Jeśli  <math>w </math>  nie spełnia warunku
Niech  <math>w\in L</math>  i  <math>|w|>N</math> . Jeśli  <math>w</math>  nie spełnia warunku
<math>|w|\leqslant N+M </math> , to stosujemy lemat o pompowaniu dla  <math>i=0 </math> , uzyskując
<math>|w|\leqslant N+M</math> , to stosujemy lemat o pompowaniu dla  <math>i=0</math> , uzyskując
słowo  <math>u_{1}uu_{2} </math>  należące do języka i istotnie krótsze
słowo  <math>u_{1}uu_{2}</math>  należące do języka i istotnie krótsze
od  <math>w </math> . Z warunku  <math>|w_{1}w_{2}|\leqslant |w_{1}uw_{2}|\leqslant M </math>  
od  <math>w</math> . Z warunku  <math>|w_{1}w_{2}|\leqslant |w_{1}uw_{2}|\leqslant M</math>  
(punkt 1 tezy lematu o pompowaniu) wynika, iż różnica długości
(punkt 1 tezy lematu o pompowaniu) wynika, iż różnica długości
tych słów nie może być wieksza niż stała  <math>M </math> .
tych słów nie może być wieksza niż stała  <math>M</math> .
Zatem po skończonej ilości kroków uzyskujemy słowo należące
Zatem po skończonej ilości kroków uzyskujemy słowo należące
do języka i spełniające żądany warunek.
do języka i spełniające żądany warunek.


Implikacja w przeciwną stronę ( <math>\Leftarrow </math> ) wynika bezpośrednio
Implikacja w przeciwną stronę ( <math>\Leftarrow </math> ) wynika bezpośrednio
z lematu o pompowaniu. Istnieje mianowicie nieskończony zbiór słów w postaci
z lematu o pompowaniu. Istnieje mianowicie nieskończony zbiór słów w postaci


<center><math>u_{1}w_{1}^{i}uw_{2}^{i}u_{2}\in L</math></center>
<center><math>u_{1}w_{1}^{i}uw_{2}^{i}u_{2}\in L</math></center>


dla  <math>i=0,1,2,.... </math>  
dla  <math>i=0,1,2,....</math>  


Punkt 3 twierdzenia wymaga podania odpowiedniego algorytmu. Jego prezentacją i omówieniem
Punkt 3 twierdzenia wymaga podania odpowiedniego algorytmu. Jego prezentacją i omówieniem

Wersja z 10:50, 5 wrz 2023

Wprowadzimy i udowodnimy najprostszą wersję lematu o pompowaniu dla języków bezkontekstowych.

Lemat o pompowaniu

Istotną cechą języków regularnych jest własność pompowania, którą ustaliliśmy w lemacie o pompowaniu. Podobną, ale nie taką samą, cechę posiadają języki bezkontekstowe. O ile dla języków regularnych własność pompowania wynikała z istnienia pętli w grafie opisującym automat, to dla języków bezkontekstowych pompowanie jest wynikiem powtarzającego się symbolu nieterminalnego w wyprowadzeniu dostatecznie długiego słowa w gramatyce.

Lemat 1.1

(o pompowaniu) Dla dowolnego języka bezkontekstowego LA* istnieją liczby naturalne N,M1 takie, że każde słowo wL o długości |w|>N można przedstawić w formie w=u1w1uw2u2, gdzie w1,w2,v1,v2,uA* oraz

  1. |w1uw2|M
  2. w1w21
  3. u1w1iuw2iu2L dla i=0,1,...

Zanim przeprowadzimy dowód lematu, zobaczmy jak stosuje się ten lemat do języka generowanego przez gramatykę ({v0,v1,v2},{a,b},v0,P),
gdzie P:v0v1v2,v1av2b,v2b|v0b.

Animacja 1

Dowód

Załóżmy, bez utraty ogólności rozważań (dlaczego?), że język bezkontekstowy L nie zawiera słowa pustego i jest generowany przez gramatykę G=(VN,VT,v0,P) w normalnej postaci Chomsky'ego. Rozważmy dowolne wyprowadzenie w G

w0w1...wr

o długości r1 i w0VN. Niech najdłuższa ścieżka w drzewie binarnym T tego wyprowadzenia ma długość k (jako długość przyjmujemy tutaj liczbę wierzchołków, przez które przechodzi ścieżka). Indukcyjne ze względu na k łatwo jest

uzasadnić, że
|wr|2k1.

Załóżmy teraz, że zbiór VN ma p elementów i przyjmijmy N=2p oraz M=2p+1. Niech wL(G) będzie słowem, którego długość jest większa od N. Zatem najdłuższa ścieżka S w drzewie wyprowadzenia T będącego wyprowadzeniem słowa w w gramatyce G ma długość co najmniej p+2. A więc przechodzi przez co najmniej p+2 wierzchołków. Stąd, że wierzchołki maksymalne drzewa wyprowadzenia mają etykiety terminalne, wnioskujemy, że w S występują dwa różne wierzchołki s1,s2 etykietowane przez ten sam symbol nieterminalny v. Przyjmijmy, że wierzchołek s1 jest bliższy wierzchołka początkowego drzewa wyprowadzenia niż s2. Wierzchołki s1,s2 można tak dobrać, aby podścieżka ścieżki S o początku w wierzchołku s1 miała długość równą co najwyżej p+2. Zauważmy teraz, że żadna ścieżka poddrzewa T1, którego wierzchołkiem początkowym jest s1, nie ma długości większej niż p+2. Jeśli więc w jest słowem określonym przez liście T1, to

(1)

|w|2(p+2)1=M.

Rozważmy teraz poddrzewo T2 drzewa T o wierzchołku początkowym w s2 i niech u będzie słowem określonym przez liście T2. Wtedy w=w1uw2 dla pewnych w1,w2VT*. W połączeniu z nierównością (1) uzyskujemy pierwszą własność postulowaną w lemacie. Co więcej, w1w21, ponieważ pierwsza produkcja wyprowadzenia v*w jest postaci vv1v2 dla pewnych v1,v2VN , a w gramatyce nie ma produkcji wymazującej. Zatem dla pewnych u1,u2VT* jest

v0*u1vu2*u1uu2
lub
v0*u1vu2*u1w1vw2u2*u1w1uw2u2=w

lub

v0*u1vu2*u1w1vw2u2*u1w1ivw2iu2*u1w1iuw2iu2

dla i=1,2,

W konsekwencji u1w1iuw2iu2L dla dowolnego i=0,1,.... Lemat zatem został udowodniony.

Analogicznie jak w przypadku języków regularnych, lemat o pompowaniu dla języków bezkontekstowych stosuje się najczęściej do uzasadnienia, że pewne języki nie należą do rodziny 2. Takie właśnie zastosowanie przedstawione jest poniżej, na przykładzie języka, o którym pó{z}niej udowodnimy, że jest kontekstowy, czyli należy do rodziny języków 1.

Przykład 1.1

Niech L={anbncn:n1}. Przeprowadzając rozumowanie nie wprost, a więc zakładając bezkontekstowość tego języka, z lematu o pompowaniu uzyskujemy odpowiednie stałe M,N. Niech k>N3 i rozważmy słowo x1=akbkck. Zatem istnieje rozkład x1=u1w1uw2u2, w1w21 oraz xi=u1w1iuw2iu2L dla i=0,1,... Z postaci słów języka L oraz z faktu w1w21 wnioskujemy, że słowa w1,w2 są potęgami jednej z liter a,b,c oraz że |xi|, o ile i. A to wyklucza możliwość zachowania własności określającej język L. Otrzymana sprzeczność prowadzi do wniosku, iż język {anbncn:n1} nie jest bezkontekstowy.

Lemat o pompowaniu wykorzystywany bywa również w dowodach rozstrzygalności pewnych problemów w rodzinie języków rozpoznawalnych. Zagadnieniem tym zajmiemy się w dalszej części tego wykładu.

Własności rodziny języków bezkontekstowych

Przedstawimy teraz podstawowe własności rodziny języków bezkontekstowych związane z zamkniętością ze względu na działania oraz z problemami jednoznaczności.

Twierdzenie 2.1

Rodzina języków bezkontekstowych 2 jest zamknięta ze względu na następujące działania:

  1. sumę mnogościową,
  2. katenację i operację iteracji *,
  3. przecięcie (iloczyn mnogościowy) z językiem regularnym,
  4. homomorfizm.

Dowód

     1. Niech Gi=(VNi,VT,v0i,Pi) będą gramatykami bezkontekstowymi dla i=1,2 takimi, że VN1VN2= oraz Li=L(Gi). Język L=L1L2 jest generowany przez gramatykę bezkontekstową określoną w następujący sposób:
G=(VN1VN2{v0},VT,v0,P1P2{v0v01,v0v02}).
     2. Przy powyższych oznaczeniach, język L=L1L2 jest generowany przez gramatykę bezkontekstową:
G=(VN1VN2{v0},VT,v0,P1P2{v0v01v02}).
Jeśli L=L(G), dla G=(VN,VT,v0,P) gramatyki bezkontekstowej, to L*=L(G) dla gramatyki
G=(VN{v0},VT,v0,P{v01,v0v0v0},
która jest również gramatyką bezkontekstową.
     3. Niech R będzie dowolonym językiem rozpoznawanym przez pewien automat skończenie stanowy 𝒜=(S,f,s0,T). Język ten możemy przedstawić w postaci sumy R=i=1kRi, w której każdy język Ri jest rozpoznawany przez automat 𝒜 , w którym jako stan końcowy przyjmujemy tiT. Rodzina języków bezkontekstowych jest zamknięta ze względu na sumę mnogościową i oczywista jest równość LR=i=1k(LRi). Wystarczy zatem udowodnić, że język LRi jest bezkontekstowy. Załóżmy, że T={t} oraz L jest językiem generowanym przez gramatykę bezkontekstową G=(VN,VT,v0,P) w normalnej postaci Chomsky'ego. Bez utraty ogólności rozważań można także założyć, że 1L. Konstruujemy gramatykę
H=(S×(VNVT)×S,VT,(s0,v0,t),PH),
dla której PH zawiera następujące produkcje:
  • (s1,v1,s2)(s1,v2,s3)(s3,v3,s2) dla siS, viVN jeśli v1v2v3P,
  • (s1,v1,s2)(s1,a,s2) dla siS, aVT jeśli v1aP,
  • (s1,a,s2)a dla siS, aVT jeśli f(s1,a)=s2.

Bezpośrednio z konstrukcji wynika, że gramatyka H jest bezkontekstowa. Łatwo również zauważyć, że język generowany przez gramatykę H jest równy LR.

     4. Niech h:A*B* oznacza dowolny homomorfizm, a LA* językiem bezkontekstowym generowanym przez gramatykę G=(VN,A,v0,P). Rozszerzamy homomorfizm h do wolnych monoidów (AVN)* i (BVN)*, przyjmując, że h na zbiorze VN jest równe identyczności. Łatwo zauważyć, że język h(L) jest generowany przez gramatykę bezkontekstową G=(VN,B,v0,Ph), w której
Ph={vh(w):vwP}.

Z równości LR=LR , zamkniętości klasy 3 ze względu na uzupełnienie oraz z punktu 3 udowodnionego powyżej twierdzenia wynika następujący wniosek.

Wniosek 2.1

Niech LA* będzie dowolonym językiem bezkontekstowym, a RA* regularnym. Wtedy LR jest językiem bezkontekstowym.

Bez dowodu podajemy dwie dalsze własności związane z zamkniętością rodziny języków bezkontekstowych.

Fakt 2.1

Rodzina języków bezkontekstowych 2 jest zamknięta ze względu na podstawienie regularne i przeciwobraz przez homomorfizm.

Rodzina języków bezkontekstowych nie jest zamknięta na wszystkie działania boolowskie. Jak wynika z poniższego twierdzenia, jedynym działaniem boolowskim nie wyprowadzającym poza rodzinę języków bezkontekstowych jest suma mnogościowa.

Twierdzenie 2.2

Rodzina języków bezkontekstowych 2 nie jest zamknięta ze względu na:

  1. iloczyn mnogościowy,
  2. uzupełnienie.

Dowód

Dla i=1,2 niech Gi=({v0,v1},{a,b,c},v0,Pi) będą gramatykami o następujących zbiorach praw:

P1={v0v0c,v0v1c,v1ab,v1av1b},P2={v0av0,v0av1,v1bc,v1bv1c}.

Gramatyki te są bezkontekstowe i generują, odpowiednio, następujące języki:

L(G1)={anbncm:n,m1}2,
L(G2)={anbmcm:n,m1}2.

Języki te są bezkontekstowe, lecz ich przecięcie

L(G1)L(G2)={anbncn:n1}2

jest językiem istotnie kontekstowym.

Z udowodnionej właśnie własności oraz z praw de'Morgana wynika, że rodzina 2 nie jest też domknięta ze względu na uzupełnienie.

Jednoznaczność języków bezkontekstowych

Omówimy teraz, dość ogólnie zresztą, problem występujący w niektórych gramatykach bezkontekstowych, a polegający na wielokrotnym wyprowadzeniu tego samego słowa. Z punktu widzenia języków programowania, których syntaktykę opisują, w pewnym zakresie, gramatyki bezkontekstowe, taka nadmiarowość (niejednoznaczność parsingu) jest cechą wysoce niepożądaną. Gramatyki, które nie będą mieć takiej własności nazwiemy jednoznacznymi. Jednoznacznym nazwiemy też język, dla którego istnieje gramatyka jednoznaczna.

Definicja 3.1

Niech G=(VN,VT,v0,P) będzie gramatyką bezkontekstową. Lewostronnym (prawostronnym) wyprowadzeniem słowa wVT* w gramatyce G nazywamy wyprowadzenie
v0w1..wn=w
takie, że dla każdego i=0,,n1,wi+1 jest generowane bezpośrednio z wi przez zastąpienie pierwszego z lewej (prawej) symbolu nieterminalnego występującego w słowie wi.

Jeśli chcemy zaznaczyć, że wyprowadzenie jest lewostronne lub prawostronne, to posługujemy się zapisem

v0L*w,v0P*w.

Każde wyprowadzenie słowa w gramatyce bezkontekstowej można tak uporządkować, by sekwencja produkcji tworzyła prawostronne lub lewostronne wyprowadzenie. Stąd wynika też fakt, że dowolne słowo generowane przez gramatykę bezkontekstową ma tyle samo wyprowadzeń lewostronnych, co prawostronnych. Ilość różnych wyprowadzeń danego słowa jest w niektórych zastosowaniach gramatyk bezkontekstowych dość istotna, choćby w problemach parsingu, czyli poszukiwania w gramatyce wyprowadzenia dla danego słowa. Ilość różnych wyprowadzeń słów w gramatyce stanowi pewną informację na temat nadmiarowości tej gramatyki. Bardzo istotną rolę odgrywają zarówno w teorii, jak i zastosowaniach - gramatyki bezkontekstowe jednoznaczne, których definicję podajemy poniżej.

Definicja 3.2

Gramatyka bezkontekstowa G jest jednoznaczna wtedy i tylko wtedy, gdy każde słowo generowane przez tę gramatykę ma dokładnie jedno wyprowadzenie lewostronne (prawostronne). Język bezkontekstowy L nazywamy jednoznacznym, jeśli istnieje jednoznaczna gramatyka bezkontekstowa generująca ten język.

Jednoznaczność gramatyki oznacza istnienie dokładnie jednego drzewa wywodu dla każdego generowanego słowa. W klasie gramatyk bezkontekstowych problem jednoznaczności jest nierozstrzygalny. W rozdziale poświęconym algorytmicznej rozstrzygalności wrócimy do tego zagadnienia. Oczywiście wobec powyższego nierozstrzygalny jest też problem jednoznaczności języka. Problem jednoznaczności gramatyki i języka jest rozstrzygalny w podklasach języków bezkontekstowych, na przykład dla klasy języków ograniczonych, to znaczy takich LA* , że Lw1*...wn* dla pewnych słów w1,...,wnA* .

Przykład 3.1

Język {anbn+mcm:n,m>0} generowany przez gramatykę G=(VN,VT,v0,P) , gdzie VN={v0,v1} , VT={a,b,c} oraz
P=v0v1v2,v1av1b|ab,v2bv2c,|bc
jest, jak łatwo sprawdzić, językiem jednoznacznym.

Mówimy, że język L2 jest niejednoznaczny, jeśli nie jest jednoznaczny, czyli nie istnieje gramatyka jednoznaczna generująca ten język. Przykładem języka niejednoznacznego jest

L={anbncmdm:m,n1}{anbmcmdn:m,n1}.

Uzasadnienie tego faktu jest dosyć żmudne i dlatego zostało tutaj pominięte.

Zauważmy na koniec tego krótkiego omówienia problematyki jednoznaczności gramatyk, że każdy język regularny (ale nie każda gramatyka regularna) jest jednoznaczny. Jednoznaczna jest bowiem gramatyka otrzymana z automatu deterministycznego generującego ten język.

Jednoznaczny jest również język bezkontekstowy, który jest iloczynem LR , gdzie L2 i jest językiem jednoznacznym, a R3 . Gramatyka tego języka, skonstruowana w punkcie 3 w twierdzeniu 2.1 jest jednoznaczna, co wynika stąd, że automat rozpoznający R jest deterministyczny.

Problemy rozstrzygalne algorytmicznie

Podobnie jak dla języków regularnych tak i w przypadku bezkontekstowych lemat o pompowaniu wykorzystuje się do uzasadnienia rozstrzygalności pewnych problemów. Dla rodziny języków bezkontekstowych mamy następujące twierdzenie.

Twierdzenie 4.1

W rodzinie języków bezkontekstowych 2 następujące problemy są rozstrzygalne:

  1. problem niepustości języka, L,
  2. problem nieskończoności języka, cardL=0,
  3. problem należenia słowa w do języka L.

Dowód

Aby udowodnić punkt 1, wykorzystamy następującą równoważność:

LwL:|w|N.

Uzasadnienie tej równoważności polega na rozkładzie słowa w spełniającego warunek N<|w| (zgodnie z oznaczeniami i tezą lematu o pompowaniu) i zastąpieniu go słowem u1uu2 , które jest istotnie krótsze. Po skończonej ilości takich skracających kroków dostaniemy słowo należące do języka L i spełniające warunek |w|N .

W uzasadnieniu punktu 2 wykorzystamy równoważność

cardL=0wL:N<|w|N+M,

gdzie M,N są stałymi z lematu o pompowaniu.

Przyjmując, iż język L jest nieskończony, wnioskujemy, że istnieją w tym języku słowa dowolnie długie. Niech wL i |w|>N . Jeśli w nie spełnia warunku |w|N+M , to stosujemy lemat o pompowaniu dla i=0 , uzyskując słowo u1uu2 należące do języka i istotnie krótsze od w . Z warunku |w1w2||w1uw2|M (punkt 1 tezy lematu o pompowaniu) wynika, iż różnica długości tych słów nie może być wieksza niż stała M . Zatem po skończonej ilości kroków uzyskujemy słowo należące do języka i spełniające żądany warunek.

Implikacja w przeciwną stronę ( ) wynika bezpośrednio z lematu o pompowaniu. Istnieje mianowicie nieskończony zbiór słów w postaci

u1w1iuw2iu2L

dla i=0,1,2,....

Punkt 3 twierdzenia wymaga podania odpowiedniego algorytmu. Jego prezentacją i omówieniem zajmujemy się poniżej.

Algorytm CYK - przynależność słowa do języka.

Rozważmy problem przynależności słowa w do danego języka, generowanego przez gramatykę bezkontekstową G. Jest to problem rozstrzygalny. Bardzo łatwo podać algorytm, wykorzystujący postać normalną Greibach. Po sprowadzeniu gramatyki G do postaci normalnej Greibach prawa strona każdej produkcji rozpoczyna się symbolem terminalnym i jest to jedyny symbol terminalny. Zatem jeśli w=a1a2...an, to należy zbadać wszystkie wywody w G, z symbolu początkowego S, o długości dokładnie |w|, to znaczy wywody złożone z dokładnie |w| kroków. Jeśli dla każdego symbolu nieterminalnego istnieje co najwyżej k produkcji w gramatyce G, w których pojawia się on po lewej stronie, to algorytm będzie działał w czasie O(k|w|). Metoda ta jest jednak bardzo nieefektywna. Czasochłonne jest też samo sprowadzenie gramatyki G do postaci normalnej Greibach.

Istnieje szybszy algorytm rozwiązujący problem przynależności do języka. Jest to algorytm Cocke'a-Youngera-Kasamiego, w skrócie CYK.

Algorytm CYK działa w oparciu o ideę programowania dynamicznego . Rozważmy słowo w=a1a2...an oraz gramatykę G. Niech zbiór Vij zawiera wyłącznie te symbole nieterminalne, z których można wywieść słowo aiai+1...ai+j1, czyli

Vij={vVN:vG*aiai+1...ai+j1}.

Mamy zatem następującą równoważność:

wL(G)v0V1n.


Algorytm Cocke-Younger-Kasami - sprawdza, czy dane słowo należy do języka generowanego przez gramatykę bezkontekstową


  1  Wejście: G=(VN,VT,P,v0), wVT* - gramatyka bezkontekstowa i słowo
w=a1a2...an o długości n. 2 Wyjście: TAK lub NIE - odpowiedź na pytanie, czy wL(G). 3 GPostaćNormalnaChomsky'ego(G); 4 for i=1,...,n do 5 Vi1{vVN:(va)P,aVT  ai=a}; 6 end for 7 for j=2,...,n do 8 for i=1,...,nj+1 do 9 Vij; 10 for k=1,...,j1 do 11 VijVij{vVN:(vwy)P, wVik, yVi+kjk}; 12 end for 13 end for 14 end for 15 if v0V1n 16 return TAK, wL(G); 17 else 18 return NIE, w∉L(G); 19 end if

Algorytm CYK działa w czasie |w|3, gdzie |w| jest długością słowa, o którego przynależność do języka pytamy.

Przykład 4.1

Zbadamy, czy słowo w=bbaaaa należy do języka generowanego gramatyką:

vwx | yzwwy | xx | axwz | byxy | zz | azyy | b

gdzie v jest symbolem początkowym.

Poniższa animacja ilustruje działanie algorytmu CYK.

Animacja 2