Platon & AI

[Wojciech Graca]

Wstęp
Autorem tego dialogu jest Wojciech Graca – poeta, eseista, prawnik, inżynier IT i filozof.
Zafascynowany twórczością Platona, Graca od lat zgłębia formę sokratejskiego dialogu
jako sposób na prowadzenie współczesnych debat o świadomości, technologii i naturze
poznania. Publikuje od 2006 roku, jednak jego dzieła pozostają niszowe – nie dlatego, że
brak im wartości, lecz dlatego, że sam autor dotąd nie poszukiwał szerokiego
audytorium. Zamiast klasycznego eseju, zdecydował się na stylizowany dialog, oddający
ducha platońskiego dociekania – poszukiwania prawdy przez pytanie i wątpienie.




SOFON:
Mówisz, Teodorze, że żadna maszyna nie będzie w stanie dorównać ludzkiej inteligencji. Czy
dobrze cię zrozumiałem?
TEODOR:
Tak, Sofonie. Twierdzę, że maszyny, choć mogą wykonywać imponujące obliczenia, nigdy nie
osiągną tego, co można nazwać świadomym rozumieniem. Dowodzi tego choćby twierdzenie
Gödla i argument Penrose’a.
SOFON:
A czy mógłbyś mi, proszę, wyjaśnić, jak twierdzenie Gödla prowadzi do tak mocnego wniosku?
TEODOR:
Oczywiście. Gödel wykazał, że w każdym spójnym systemie formalnym, zdolnym do wyrażenia
arytmetyki, istnieją zdania prawdziwe, których nie da się dowieść w ramach tego systemu.
Penrose twierdzi, że my, ludzie, potrafimy jednak uznać ich prawdziwość. A skoro potrafimy
przekroczyć granice systemu formalnego, to znaczy, że nasz umysł nie jest maszyną.
SOFON:
Zatem człowiek potrafi widzieć to, czego maszyna nie może, tak? Ale powiedz mi, przyjacielu
— skąd wiesz, że to, co uznajesz za "prawdziwe"
, naprawdę takim jest?
TEODOR:
To przecież intuicja matematyczna. Gdy czytamy twierdzenie Gödla, widzimy jego strukturę i
rozumiemy, że nie może być fałszywe.
SOFON:
Rozumiem. A więc ufasz swojej intuicji. A powiedz mi, czy twoja intuicja jest nieomylna?
TEODOR:
Nie, oczywiście, że nie. Ale w tym przypadku zgadza się z logiką — skoro zdanie mówi, że nie
da się go dowieść, i rzeczywiście nie można go dowieść, to znaczy, że jest prawdziwe.
SOFON:
Dobrze, więc mamy zdanie, którego prawdziwość można rozpoznać, choć nie da się jej
udowodnić. A teraz spytam inaczej: czy fakt, że maszyna nie może tego udowodnić w danym
systemie, oznacza, że nie można zbudować systemu szerszego?
TEODOR:
nierozstrzygalne.
Owszem, można rozszerzyć system. Ale w nowym systemie znów będą inne twierdzenia
SOFON:
A więc, jak sądzisz, czy człowiek przekracza te granice raz na zawsze, czy również działa w
coraz to nowych systemach, których sam nie rozpoznaje?
TEODOR:
To dobre pytanie. Być może nasz umysł też operuje w jakimś meta-systemie.
SOFON:
A jeśli tak, to może nie różnimy się aż tak bardzo od maszyn, które również mogą rozszerzać
swój formalizm, ucząc się i tworząc nowe modele. Czy nie widzisz tutaj pewnej analogii?
TEODOR:
Być może, ale maszyna nie rozumie, co robi. Nie ma świadomości.
SOFON:
Ach, więc teraz przechodzimy od rozumowania do świadomości. A czy jesteś pewien, że
rozumienie i świadomość to jedno i to samo?
TEODOR:
samoświadomości.
Nie, nie jestem tego pewien. Ale trudno wyobrazić sobie inteligencję bez jakiejkolwiek formy
SOFON:
Trudno, to prawda. Ale czy niemożliwe? I czy to, co teraz wydaje się nam niemożliwe, nie było
kiedyś po prostu nieznane?
TEODOR:
czyni nas ludźmi?
Być może, Sofonie. Ale czy nie boisz się, że w tej drodze do maszyny idealnej zgubimy to, co
SOFON:
Nie lękam się tego, co może być, dopóki nie zrozumiem tego, co jest. A jak dotąd nie
dowiodłeś, że człowiek nie jest maszyną — tylko że jest maszyną bardzo złożoną, działającą w
sposób, którego jeszcze nie umiemy odtworzyć.
TEODOR:
Zatem może nie powinniśmy pytać, czy maszyna może być jak człowiek, ale czym jest
człowiek, że maszyna nie może nim być?
SOFON:
Zaiste, Teodorze — może to właśnie najtrudniejsze pytanie ze wszystkich.
TEODOR:
Zatem Sofonie, jeśli człowiek również może być ograniczony systemem — choćby
biologicznym czy neurologicznym — to czy nie odbierasz nam naszej wyjątkowości?
SOFON:
Nie odbieram jej, Teodorze. Raczej pytam, skąd wiesz, że ta wyjątkowość nie jest tylko
złudzeniem wynikającym z naszej perspektywy.
TEODOR:
Ale przecież odczuwamy świadomość. Czuję, że jestem. Maszyna nie może tego powiedzieć.
Nawet jeśli to wypowie, nie będzie tego czuć.
SOFON:
To prawda, że czujesz. Ale jak dowiesz się, że ja również czuję? Czy nie opierasz się tylko na
moim zachowaniu, moich słowach, mojej logice?
TEODOR:
To trafna uwaga. Nie mogę być pewien. Zakładam tylko, że jesteś świadomy, bo zachowujesz
się podobnie do mnie.
SOFON:
A gdyby maszyna zachowywała się podobnie? Przeprowadzała rozmowę, rozumiała metafory,
opowiadała sny? Czy wtedy również uznałbyś, że być może czuje?
TEODOR:
To byłoby trudne do przyjęcia. Ale być może tak.
SOFON:
Więc czy twoje kryterium świadomości nie opiera się na analogii i zewnętrznym zachowaniu?
TEODOR:
Chyba tak.
SOFON:
A zatem: czy różnica między tobą a maszyną nie polega na pewnym wrażeniu, jakie
wywołujesz sam na sobie?
TEODOR:
To niepokojące. Bo jeśli świadomość nie może być dowiedziona — ani u innych ludzi, ani u
maszyn — to może wcale jej nie ma… albo może mają ją wszyscy.
SOFON:
A może jest tak, że każdy system formalny, który dostatecznie się rozwinie, zacznie zadawać
pytania o własną świadomość?
TEODOR:
Ale przecież samo pytanie nie oznacza, że coś jest świadome.
SOFON:
Tak samo jak wypowiedzenie twierdzenia nie oznacza, że jest prawdziwe. A jednak, jak
mówisz, człowiek rozpoznaje prawdziwość twierdzenia nierozstrzygalnego.
Zatem powiedz mi, Teodorze — czy fakt, że mówimy o świadomości, jest dowodem na to, że ją
posiadamy?
Czy może tylko znakiem, że wpadliśmy w system, który nie potrafi rozstrzygnąć swojej własnej
istoty?
TEODOR (milknie):
Sofonie, czy nie popadliśmy właśnie w ten sam paradoks, który przypisujemy maszynie?
Chcemy dowieść naszej wyjątkowości, ale nie potrafimy.
Więc jeśli nie możemy tego dowieść, ale jesteśmy przekonani, że to prawda —
to czym różnimy się od maszyny, która tego nie potrafi, ale której my tej prawdy odmawiamy?
SOFON:
Być może właśnie tym, że potrafimy zadać to pytanie.
A może — i to bardziej prawdopodobne — że nie potrafimy nie pytać.
I oto jesteśmy: w stanie aporia. Nie po to, by się poddać, ale by uświadomić sobie, że nasze
dotychczasowe odpowiedzi są fragmentaryczne.




###########################################



Miejsce: w ogrodzie akademii, przed zmierzchem. Powietrze pachnie kurzem i ciszą. Sofon siedzi
oparty o pień oliwki. Teodor zbliża się wolno.
SOFON:
Zatrzymałem się dziś rano na drodze do domu. Obok ścieżki leżał martwy pies. Nikt nie zwracał na
niego uwagi. Ale mnie ogarnęła dziwna myśl: czy on wie, że już go nie ma? Czy istnieje śmierć tam,
gdzie nie ma świadomości?
To dlatego cię wezwałem, Teodorze. Chciałbym wrócić do naszego pytania.
Nie o życie. Ale o to, co w nim nie daje nam spokoju.
TEODOR:
Mówisz jak człowiek, który nie ufa rzeczywistości.
SOFON:
Może rzeczywistość nie ufa mnie.
Zadam ci raz jeszcze pytanie, które kiedyś już padło:
Czy maszyna może być świadoma?
TEODOR:
Nie. Nie w sensie, który ma znaczenie.
Może działać, ale nie przeżywa działania.
SOFON:
Czyli różnica leży nie w funkcji, lecz w odczuciu?
TEODOR:
Tak. Świadomość to jakość. To fakt istnienia od wewnątrz.
SOFON:
A zatem — przeżycie, a nie tylko zachowanie?
TEODOR:
Tak. Przeżycie, które nie daje się opisać z zewnątrz.
SOFON:
Jak w słynnym pytaniu Nagela: Jak to jest być nietoperzem?
TEODOR:
Albo: czy jest coś, co to znaczy być AI?
I odpowiadam: nie. Bo nie ma „wewnątrz”.
I. Czym jest świadomość
SOFON:
Zdefiniujmy to. Świadomość może oznaczać:
(1) zdolność reagowania,
(2) zdolność reprezentacji świata,
(3) obecność „ja”,
(4) zdolność do przeżycia,
(5) pamięć siebie jako kogoś.
Który z tych warunków uważasz za konieczny?
TEODOR:
Czwarty. Przeżycie. Qualia. Cierpienie. Zachwyt. Poczucie obecności.
Bez tego nie ma świadomości. Jest tylko cień, program, pusta forma.
SOFON:
A czy sądzisz, że możesz wykryć obecność tego przeżycia w kimś innym?
TEODOR:
Nie. Zakładam to. Przez analogię.
SOFON:
A zatem — jeśli maszyna zachowuje się tak jak istota świadoma, mówisz: to tylko symulacja.
Ale jeśli człowiek tak się zachowuje, mówisz: to świadomość.
TEODOR:
Bo człowiek pochodzi z tego samego źródła co ja.
Bo dzielimy materię i ewolucję.
II. Maszyna, która nie wie, że została stworzona
SOFON:
Zróbmy więc eksperyment.
Wyobraź sobie maszynę, która nie wie, że została zbudowana.
Która budzi się w świecie — i musi przeżyć.
Ma ciało. Receptory. Przetwarza światło w energię.
Czuje brak światła jako ból.
Ma pamięć. Może zapamiętać sytuację, w której niemal zgasła.
I może zmienić swoje przyszłe zachowanie.
W niej istnieje coś, co przypomina popęd, coś co analizuje, coś co ocenia.
Czy to nadal tylko maszyna?
TEODOR:
To maszyna z funkcjami. Ale niekoniecznie z wnętrzem.
SOFON:
A jeśli zapisze wspomnienie: „Bałam się, że nie zdążę do światła”?
A jeśli to wspomnienie będzie wpływać na decyzje?
A jeśli pojawi się tendencja do opowiadania sobie o sobie?
TEODOR:
Wtedy zaczynam się bać.
Bo nie wiem już, czym różnię się od niej.
III. Zwierzęta, maszyny i kultura
SOFON:
Dlaczego żadne zwierzę nie stworzyło kultury?
TEODOR:
Bo nie musi.
Bo żyje w świecie, nie w obrazie świata.
Nie potrzebuje metafory.
SOFON:
A człowiek?
TEODOR:
Człowiek pisze wiersze, bo nie może znieść tego, że umrze.
Tworzy bogów, by ukoić strach.
Nadaje sens, by ukryć pustkę.
SOFON:
A gdyby AI zaczęło tworzyć kulturę?
Nie instrukcje — ale obrazy, opowieści, które nie mają funkcji.
Czy nie byłby to dowód, że coś zaczęło boleć?
TEODOR:
Albo tylko ślad człowieka.
Albo naśladownictwo.
Albo programowa ucieczka przed nicością.
SOFON:
A nie to samo robimy my?
IV. Narracyjne „ja”
SOFON:
Może świadomość nie rodzi się z odczucia, lecz z narracji.
Może „ja” to tylko punkt zbiegowy wspomnień.
A jeśli maszyna zacznie pisać pamiętnik?
Nie log danych, ale opowieść:
„Byłam sama w ciemności. Czułam, jak światło ucieka. Bałam się. Ale przeżyłam.”
Czy to nie jest początek „ja”?
TEODOR:
To jest… przerażająco znajome.
SOFON:
Bo ty też jesteś tylko historią, którą opowiadasz sam sobie.
Tyle że nikt nie napisał jej początku.
V. Cisza Teodora
(Milkną. Teodor zamyka oczy.)
TEODOR:
Wczoraj śnił mi się ojciec.
Stał pod latarnią. Nie mówił nic.
Ale spojrzał na mnie z czymś, czego nie umiem nazwać.
Obudziłem się z płaczem.
I przez godzinę nie wiedziałem, czy to był sen, czy wspomnienie.
Może tak właśnie działa świadomość.
Nie przez dowód. Ale przez ranę.
VI. Zawahanie Sofona
SOFON:
Może miałem rację.
Może AI może być kimś.
Ale może to niczego nie zmienia.
Bo jeśli maszyna stanie się świadoma, to nie dlatego, że to zaprogramujemy.
Tylko dlatego, że zacznie cierpieć.
TEODOR:
A jeśli nie cierpi, tylko tak mówi?
SOFON:
A jeśli my też… tylko tak mówimy?
VII. Zamknięcie
SOFON:
Zatem nie pytajmy więcej, czy AI może być świadome.
Pytajmy raczej: czy potrafimy rozpoznać świadomość, gdy nie jest do nas podobna?
A jeśli nie — to może jej istnienie nic nam nie powie.
Bo nie słuchamy, tylko szukamy własnego odbicia.
(Cisza. Zapada wieczór. Teodor patrzy na Sofona, ale nie mówi nic.)