W tym wykładzie przedstawimy algorytmy konstrukcji gramatyki regularnej, automatu skończenie stanowego oraz wyrażeń regularnych opisujących ten sam język L. Omówimy także problemy rozstrzygalne algorytmicznie w klasie języków regularnych.
Dowód twierdzenia z ostatniego wykładu, w którym udowodniliśmy równoważność rozpoznawania języka L i generowania tego języka przez gramatykę regularną daje podstawę do określenia dwóch algorytmów. Algorytmu konstruującego automat skończony w oparciu o daną gramatykę regularną i oczywiście akceptujący język generowany przez tę gramatykę oraz algorytmu budowy gramatyki regularnej dla zadanego automatu. Bez utraty ogólności przyjmujemy, że automat jest deterministyczny.
Idea działania algorytmu Automat2GReg jest następująca: każdy symbol nieterminalny v tworzonej gramatyki odpowiada pewnemu stanowi sv automatu. Jeśli w automacie pod wpływem litery a następuje przejście ze stanu sv do stanu sw, to do zbioru praw gramatyki dodawane jest prawo sv→asw. Ponadto, jeśli stan sw jest stanem końcowym, to dodajemy także prawo sw→1, aby w danym miejscu wywód słowa mógł zostać zakończony.
Algorytm Automat2GReg - buduje gramatykę regularną dla zadanego automatu skończonego.
1 Wejście: A=(S,A,f,s0,T) - automat niedeterministyczny.
2 Wyjście: G=(VN,VT,P,v0) - gramatyka regularna taka, że L(G)=L(A).
3 VN←{v0,v1,...,v|S|−1};
4 VT←A;
5 v0←s0;
6 P←∅;
7 for each si∈S do
8 for each a∈A do
9 if f(si,a)≠NULL then
10 sj←f(si,a); ▹ funkcja f jest określona na (si,a)
11 P←P∪{si→asj};
12 if sj∈T then
13 P←P∪{sj→1};
14 end if
15 end if
16 end for
17 end for
18 return G;
Oznaczmy przez E(A) ilość krawędzi w grafie n-stanowego automatu niedeterministycznego A. Złożoność czasowa liczona względem E(A) jest liniowa i równa O(E(A)). Również złożoność pamięciowa jest liniowa i wynosi O(|S|+E(A)).
Przykład 1.1
Niech dany będzie automat A pokazany na rysunku 1. Zbudujemy gramatykę, która będzie generowała język akceptowany przez A.
Ponieważ f(s0,a)=s0, a ponadto s0 jest stanem końcowym, do P dodajemy produkcje v0→av0 oraz v0→1. Dodajemy także produkcję v0→bv1, gdyż mamy f(s0,b)=s1.
Fakt, że f(s1,b)=s1 oraz f(s1,a)=s2 sprawia, że do P dodajemy: v1 →bv1, v1→av2.
Ponieważ f(s2,a)=s1 do P dodajemy: v2→av1 oraz v2→1, gdyż s2∈T.
Symbolem początkowym nowej gramatyki jest symbol v0. Ostatecznie gramatyka ma postać:
Zwróćmy uwagę na wygodny zapis produkcji gramatyki, jaki został użyty powyżej. Produkcje o tej samej lewej stronie (wspólnym symbolu
nieterminalnym) zapisywane są razem, a prawe strony tych produkcji oddzielane są pionowymi kreskami.
Przedstawiony poniżej algorytm GReg2Automat konstruuje automat skończenie stanowy, akceptujący język generowany przez
zadaną gramatykę.
Zauważmy, że gramatyka podana na wejściu algorytmu nie może zawierać produkcji postaci v→x, gdzie v∈VN, x∈(VN∪VT). Jeśli gramatyka zawiera takie produkcje, to możemy się ich łatwo pozbyć, zgodnie z Twierdzeniem 2.2 z Wykładu 7 (patrz twierdzenie 2.2 wykład 7), uzyskując oczywiście gramatykę równoważną.
Idea działania algorytmu jest podobna do poprzedniej - każdy tworzony stan automatu odpowiadać będzie pewnemu symbolowi nieterminalnemu gramatyki wejściowej. Zależnie od postaci produkcji gramatyki, niektóre stany będą stanami końcowymi.
Zapis f←∅ w linii 7. symbolicznie oznacza, że funkcja przejść nie jest jeszcze określona.
W pętli 8.-15. pozbywamy się produkcji, w których występuje więcej niż jeden terminal; każdą taką produkcję "rozbijamy" na sekwencję
produkcji postaci v→aw, gdzie v,w∈VN, a∈VT.
Algorytm GReg2Automat - buduje automat dla zadanej gramatyki regularnej.
1 Wejście: G=(VN,VT,P,v0) - gramatyka regularna.
2 Wyjście: A=(S,A,f,v0,T) - automat taki, że L(A)=L(G).
3 S←VN;
4 A←VT;
5 T←∅; ▹ nie ma jeszcze stanów końcowych
6 s0←v0;
7 f←∅; ▹ funkcja f nie jest określona dla żadnego argumentu
8 for each (vi→a1a2...anvj)∈P do
9 if n>1 then
10 VN←VN∪{va1,...,van−1}; ▹ rozbijamy produkcję na kilka prostszych
11 P←P∖{vi→a1a2...anvj}; ▹ w tym celu usuwamy produkcję z P
12 P←P∪{vi→a1va1,van−1→anvj}; ▹ w zamian dodając ciąg krótszych
13 P←P∪{va1→a2va2,…,van−2→an−1van−1};
14 end if
15 end for
16 ▹ wszystkie produkcje są postaci u→av lub u→1, gdzie u,v∈VN, a∈VT
17 for each (si→asj)∈P do
18 f(si,a)←sj;
19 end for
20 for each (vi→1)∈P do
21 T←T∪{vi};
22 end for
23 return A=(S,A,f,s0,T);
Przykład 1.2
Jako wejście algorytmu rozważmy gramatykę z przykładu 1.1 (patrz przykład 1.1.) Używając algorytmu Greg2Automat, zbudujemy dla niej automat akceptujący język przez nią generowany.
Mamy S={s0,s1,s2}. W liniach 17. -- 19. określana jest funkcja przejścia: f(s0,a)=s0, f(s0,b)=s1, f(s1,b)=s1, f(s1,a)=s2 oraz f(s2,a)=s1.
Pętla w liniach 20. - 22. przebiega po dwóch produkcjach: v0→1 oraz v2→1, dodaje zatem do zbioru T stanów końcowych stany s0 oraz s2. Szukany automat to automat z poprzedniego przykładu; przedstawiony jest na rysunku 1.
Automat powstały w wyniku działania algorytmu GReg2Automat nie musi być automatem deterministycznym (wystarczy, że w zbiorze
produkcji znajdą się dwie produkcje postaci vi→avj oraz vi→avk dla pewnego a∈A), jednak po jego determinizacji i minimalizacji otrzymujemy minimalny automat deterministyczny akceptujący język, który jest generowany przez gramatyke podaną na wejście algorytmu.
Złożoność czasowa jak i pamięciowa algorytmu wynosi O(p), gdzie p jest liczbą produkcji występujących w zbiorze praw P gramatyki.
Przedstawimy teraz algorytmy związane z wyrażeniami regularnymi. Pierwszy z nich prowadzi do konstrukcji automatu skończenie stanowego, rozpoznającego język opisany wyrażeniem regularnym. Drugi, mając na wejściu automat, konstruuje wyrażenie regularne opisujące język rozpoznawany przez ten automat.
Rozpoczynamy od algorytmu prowadzącego do konstrukcji automatu na podstawie wyrażenia regularnego.
Niech a∈A,r,s∈WR. Najpierw pokażemy, że językom odpowiadającym wyrażeniom regularnym , 1, a, r+s, rs oraz r∗ można przyporządkować automaty akceptujące te języki, a
następnie podamy algorytm konstruowania automatu rozpoznającego dowolne wyrażenie regularne.
Na rysunku 2 przedstawione są trzy automaty. Automat a) rozpoznaje język pusty, automat b) - język {1}, a automat c) - język {a}, dla a∈A.
Niech dane będą automaty: M1, akceptujący język opisywany wyrażeniem r oraz M2, akceptujący język opisywany wyrażeniem s. Na rysunku 3 przedstawiono konstrukcje automatów akceptujących wyrażenia regularne r+s (automat a)), (rs) (automat b)) oraz r∗ (automat c)).
W automacie a) stan q0 jest stanem początkowym, stan f0 -stanem końcowym, stany q1,q2 oraz f1,f2 oznaczają odpowiednio stany początkowe automatów M1 i M2 oraz stany
końcowe automatów M1 i M2.
W automacie b) stan q0 jest jednocześnie jego stanem początkowym oraz stanem początkowym automatu M1, stan f1 jest stanem końcowym automatu b) i jednocześnie stanem końcowym automatu M2.
Stan f0 jest stanem końcowym w M1, a q1 - początkowym w M2.
W automacie c) stan q0 jest jego stanem początkowym a f0 końcowym. Stany q1 oraz f1 to odpowiednio początkowy i końcowy stan automatu M1.
Wyrażenia regularne można przedstawiać w postaci drzewa, w którym liśćmi są litery, słowo puste 1 lub zbiór pusty , a węzły symbolizują operacje na wyrażeniach regularnych, czyli sumę, konkatenację lub iterację, czyli gwiazdkę Kleene'ego.
Przykład 1.3
Rozważmy wyrażenie regularne r=(a∗b)(ab+c). Drzewo odpowiadające r przedstawione jest na rysunku 4. Korzeniem jest wierzchołek z małą wchodzącą strzałką.
Powyższe konstrukcje będą stosowane podczas iteracyjnej budowy automatu. Algorytm do tego celu będzie wykorzystywał drzewo odpowiadające wyrażeniu regularnemu w następujący sposób: drzewo będzie przeszukiwane metodą post-order (zaczynając od korzenia),
tzn. najpierw rekurencyjnie przeszukiwane są poddrzewa danego węzła x, a na końcu sam węzeł x. Dzięki temu, wchodząc do węzła x drzewa etykietowanego daną operacją na wyrażeniu regularnym oba poddrzewa P i L wierzchołka x będą już reprezentowane przez automaty AP oraz AL. Teraz wystarczy zastosować jedną z konstrukcji z rysunku 2 lub 3. Procedurę powtarzamy do momentu, aż przechodzenie drzewa zakończy się w korzeniu. Szukanym przez nas automatem będzie automat "odpowiadający" korzeniowi drzewa.
Poniżej przedstawiony jest algorytm konstrukcji automatu w oparciu o wyrażenie regularne. Jego istotną część składową stanowi procedura
PostOrder, której pseudo-kod jest przedstawiony poniżej. Wykorzystamy także dwie procedury, mianowicie CreateAutomata(type) oraz JoinAutomata(type,M1,M2). Zmienna type może przyjmować wartości 'a', 'b' lub 'c'. Funkcja zwraca automat CreateAutomata(type)
przedstawiony (zależnie od zmiennej type) na rysunku 2. Procedura JoinAutomata(type,M1,M2) natomiast konstruuje na podstawie automatów M1, M2 automat z rysunku 2, przy czym dla przypadku type=c automat M2 jest bez
znaczenia. Ostatnią wykorzystaną procedurą będzie BuildTree(r), tworząca drzewo (binarne) dla wyrażenia regularnego. Zakładamy, że studentowi doskonale jest znana Odwrotna Notacja Polska i budowa takiego drzewa nie będzie dla niego stanowiła problemu. Dla ustalenia uwagi zakładamy, że symbol ∗ prowadzi zawsze do lewego dziecka.
Poniżej przedstawiamy oznaczenia standardowych funkcji operujących na drzewach. Funkcja \textscRoot(T) zwraca korzeń drzewa T, funkcje \textscLeftChild(T,v) oraz \textscRightChild(T,v) zwracają lewe i prawe dziecko wierzchołka v (ew. NULL, gdy brak lewego lub prawego dziecka), natomiast funkcja \textscLabel(T,v) zwraca etykietę wierzchołka v drzewa T. Funkcja \textscIsLeaf(T,v) zwraca wartość true, gdy v jest liściem w drzewie T oraz false w przypadku
przeciwnym.
Algorytm Wr2Automat -- buduje automat rozpoznający język
opisywany wyrażeniem regularnym
1 Wejście: r -- wyrażenie regularne.
2 Wyjście: A=(S,A,f,s0,T) -- automat rozpoznający język opisywany wyrażeniem r.
3 T←\textscBuildTree(r);
4 v0←\textscRoot(T);
5 A← PostOrder(T,v0);
6 return A;
Przykład 1.4
Zastosujemy algorytm Wr2Automat do konstrukcji automatu dla wyrażenia regularnego w=(a∗b)(ab+c).
Automat A10 jest zwrócony przez algorytm jako automat akceptujący język opisywany wyrażeniem r=(a∗b)(ab+c). Automat ten przedstawiony jest na rysunku 5.
Ramkami zaznaczono i opisano automaty budowane w trakcie działania procedury PostOrder.
Rezultat działania algorytmu Wr2Automat może nie być zadawalający, gdyż wynikiem działania algorytmu nie jest automat deterministyczny, lecz automat z pustymi przejściami. Automat ten można więc poddać procesowi usunięcia przejść pustych oraz determinizacji, co można przeprowadzić przy pomocy omówionych wcześniej algorytmów UsuńPustePrzejścia oraz Determinizuj.
Algorytm Procedure PostOrder
1 procedure PostOrder (T: drzewo, v: wierzchołek)
2 if IsLeaf(T,v) then
3 if v=NULL then
4 Av← CreateAutomata('a');
5 else
6 if Label(T,v)='1' then
7 Av← CreateAutomata('b');
8 else
9 Av← CreateAutomata('c'); ▹ Label(T,v)∈A
10 end if
11 end if
12 return Av;
13 else
14 AL← PostOrder(T, LeftChild(T,v));
15 AP← PostOrder(T, RightChild(T,v));
16 if Label(T,v)='+' then
17 ALP←JoinAutomata('a',AL,AP);
18 end if
19 if Label(T,v)='⋅' then
20 ALP←JoinAutomata('b',AL,AP);
21 end if
22 if Label(T,v)='∗' then
23 ALP←JoinAutomata('c',AL,AP);
24 end if
25 return ALP;
26 end if
27 end procedure
Procedura tworzenia drzewa dla wyrażenia regularnego działa w czasie liniowym ze względu na długość napisu reprezentującego wyrażenie
regularne -- napis ten można najpierw przekształcić do równoważnego mu, zapisanego w Odwrotnej Notacji Polskiej, a następnie, przechodząc
od lewej strony do prawej, konstruować po kolei fragmenty drzewa.
Przechodzimy teraz do algorytmów konstruujących wyrażenie regularne na podstawie zadanego automatu. Pierwszą metodę, można owiedzieć
klasyczną i omawianą w większości podręczników, prezentujemy poniżej. Drugą, nieco prostszą i wygodniejszą w zastosowaniu, przedstawimy w ćwiczeniach do tego wykładu.
Niech dany będzie automat A=(S,A,f,s1,T). Zbudujemy wyrażenie regularne opisujące język akceptowany przez A.
Konstrukcja polega na obliczeniu zbiorów Rkij (definicja poniżej), gdzie i,j=1,...,|S|, co jest równoważne konstrukcji pewnych wyrażeń regularnych rkij. Szukany język będzie odpowiadał sumie pewnych zbiorów Rkij, a zatem opisywany będzie przez wyrażenie regularne postaci rkij1+...+rkijt dla pewnych jl, i oraz k.
Załóżmy, że zbiór stanów automatu jest postaci S={s1,s2,...,sn}. Wprowadźmy porządek na
zbiorze S, przyjmując:
Zbiory Rkij definiujemy w następujący sposób:
(1)
Intuicyjnie, zbiór Rkij to ogół wszystkich słów w takich, że f(si,w)=sj, a ponadto jeśli w=a1a2...am, to ∀1⩽j⩽m−1f(si,a1a2...aj)=sl∧l⩽k.
Zamiast obliczać zbiory Rkij wygodniej będzie od razu zapisywać odpowiadające im wyrażenia regularne, które oznaczać
będziemy poprzez rkij. Przez analogię mamy wzór rekurencyjny:
(2)
Pozostaje wyjaśnić jak wyglądają wyrażenia r0ij. Jeśli Rkij={a1,a2,…,as} to
(3)
Twierdzenie 1.1
Niech A oraz Rkij będą zdefiniowane jak powyżej i niech zbiór stanów końcowych dla A ma postać T={sj1,sj2,...,sjt}. Wtedy
Powyższą metodę ujmiemy formalnie w ramy algorytmu (algorytm Automat2WR1).
Algorytm Automat2WR1 -- buduje wyrażenie regularne opisujące język akceptowany przez automat skończony.
1 Wejście: A=(S={s1,s2,...,sn},A,f,s1,T).
2 Wyjście: w - wyrażenie regularne opisujące język L=L(A).
3 for i←1 to n do
4 for j←1 to n do
5 oblicz r0ij ▹ stosujemy wzór (3);
6 end for
7 end for
8 for k←1 to n do
9 for i←1 to n do
10 for j←1 to n do
11 rkij←rk−1ik(rk−1kk)∗rk−1kj+rk−1ij; ▹ dokonujemy katenacji słów
12 end for
13 end for
14 end for
15 r← ""; ▹ podstaw pod r słowo puste
16 for i←1 to n
17 if si∈T
18 if r=""
19 r←rn1i; ▹ stosujemy Twierdzenie 1.1
20 else
21 r←r+rn1i;
22 end if
23 end if
24 end for
25 return r;
Podczas obliczania wyrażeń rkij należy je w miarę możliwości upraszczać, gdyż, szczególnie przy dużej liczbie stanów,
nieskracane, mogą rozrastać się do bardzo dużych rozmiarów.
Przykład 1.5
Znajdziemy wyrażenie regularne opisujące język akceptowany przez automat z rysunku 6.
Mamy |S|=3, i,j∈{1,2,3}, k∈{0,1,2,3}, T={s3}. Szukamy zatem wyrażenia regularnego r=r313.
Najpierw musimy obliczyć r0ij dla wszystich i,j∈{1,2,3}. Mamy na przykład r031=a+b, gdyż z definicji zachodzi: R031={a∈A: f(s3,a)=s1}={a,b}.
Gdy mamy wyliczone wszystkie r0ij, przystępujemy do obliczeń dla k=1.
Na przykład:
co po zredukowaniu daje
Obliczone wyrażenia rkij dla k=0,1,2 oraz dla wszystkich i,j przedstawione są w tabeli 1.
k=0 | k=1 | k=2 | |
rk11 | a+1 | a∗ | a∗b(a+b)∗a++a∗ |
rk12 | b | a∗b | a∗b(a+b)∗ |
rk13 | ϕ | ϕ | a∗b(a+b)∗b |
rk21 | a | a+ | (a+b)∗a+ |
rk22 | 1 | a+b+1 | (a+b)∗ |
rk23 | b | b | (a+b)∗b |
rk31 | a+b | a++ba∗ | (1+(a+b+ba∗b)(a+b)∗)a++ba∗ |
rk32 | ϕ | a+b+ba∗b | (a+b+ba∗b)(a+b)∗ |
rk33 | 1 | 1 | (a+b+ba∗b)(a+b)∗b+1 |
Tabela 1. Obliczone wartości rkij dla automatu z rys. 6
Ponieważ T={s3}, szukanym wyrażeniem regularnym będzie r=r313. Obliczamy zatem:
Kończąc część wykładu prezentującą języki regularne, wskażemy problemy rozstrzygalne algorytmicznie w zakresie tej rodziny języków formalnych. Ponieważ pojęcia rozstrzygalności i nierozstrzygalności możemy uznać za znane (były wprowadzone na innych wykładach) nie
będziemy tutaj ich definiować ani kreślić tła teorii rozstrzygalności.
W obrębie rodziny języków regularnych wszystkie podstawowe problemy są algorytmicznie rozstrzygalne. Uzasadnienia są proste. Część z nich opiera się na lemacie o pompowaniu, a część wynika bezpośrednio z algorytmicznej struktury automatu skończenie stanowego, czy też gramatyki regularnej.
Twierdzenie 2.1
W klasie języków regularnych REG(A∗) następujące problemy są rozstrzygalne:
Dowód
1. Aby uzasadnić ten fakt zauważmy, że wystarczy sprawdzić niepustość skończonego podzbioru języka L, co wynika z równoważności:
gdzie N stała z lematu o pompowaniu. Implikacji ⇐ jest oczywista. Natomiast fakt, że do niepustego języka należy słowo o długości ograniczonej przez N , wynika z lematu o pompowaniu. Jeśli mianowicie w∈L i ∣w∣⩾N , to rozkładamy słowo w następująco:
Przyjmując teraz wartość i=0 , uzyskujemy:
Po skończonej ilości powtórzeń powyższego rozkładu uzyskamy słowo należące do języka, o długości ograniczonej przez N .
2. Wystarczy udowodnić nastepującą równoważność:
Jeśli L jest językiem nieskończonym, to znajdziemy w L słowo w dowolnie długie. Niech ∣w∣⩾N . Jeśli słowo w nie spełnia ograniczenia ∣w∣<2N , to podobnie jak poprzednio korzystamy z lematu o pompowaniu i po skończonej ilości kroków otrzymamy słowo krótsze od 2N . Istotne jest, że wykorzystując lemat o pompowaniu, możemy założyć, że usuwane słowo u ma długość ograniczoną przez N . Zatem oznacza to, że ze słowa dłuższego od 2N nie dostaniemy słowa krótszego od N .
Jeśli teraz do języka L należy słowo w o długości większej lub równej N , to znów z lematu o pompowaniu wnioskujemy, że
Istnieje więc nieskończony podzbiór języka L , a więc i sam język L jest nieskończony.
3. Rozważmy L=(L1∩¯L2)∪(¯L1∩L2) . Język L jest regularny, co wynika z domkniętości klasy L3 na operaje boolowskie. Równoważność
sprowadza problem równości języków do problemu niepustości omówionego powyżej.
4. Konstruujemy automat A=(S,f,s0,T) rozpoznający język L i sprawdzamy, czy f(s0,w)∈T.
Na podstawie dowodu powyższego twierdzenia nietrudno jest określić algorytmy rozstrzygające przedstawione problemy. Poniżej prezentujemy
algorytm rozstrzygający problem należenia słowa do języka regularnego zadanego automatem. Bez straty ogólności możemy założyć, że automat jest deterministyczny.
Algorytm NależenieDoJęzyka -- sprawdza, czy dane słowo należy do języka L akceptowanego przez zadany automat A
1 Wejście: A=(S,A,f,s0,T) - automat akceptujący język L oraz w=w1w2…wn∈A∗ - słowo.
2 Wyjście: Odpowiedź true (tak) lub false (nie).
3 k←|w|;
4 s←s0;
5 for i←1 to k do
6 s←f(s,wi);
7 end for
8 if s∈T then
9 return true;
10 else
11 return false;
12 end if
Algorytm działa w czasie O(|w|) i posiada złożoność pamięciową O(|A|⋅|S|), co spowodowane jest koniecznością przechowywania funkcji przejść automatu A.
Jeśli język zadany jest nie automatem, a gramatyką regularną, to gramatykę można przekształcić na automat poznanym na początku wykładu algorytmem GReg2Automat, następnie zdeterminizować ten automat i podać go jako wejście dla algorytmu NależenieDoJęzyka.
Jeśli język zadany jest wyrażeniem regularnym, to mając wyrażenie regularne, można zbudować odpowiadający mu automat przy pomocy algorytmu WR2Automat. A zatem, na przykład, z powyższego twierdzenia wynika, iż problem równoważności wyrażeń regularnych jest rozstrzygalny.