W weekendy zanurzamy się w kulturze, nauce i sztuce. Dziś o sztucznej inteligencji w służbie strachu

Czytałem wiele lat temu genialne opowiadanie Stanisława Lema “ Jak ocalał świat” o maszynie, która robiła wszystko na literę “ N “. Próbowała, o ile dobrze pamiętam nawet zrobić “ nic “ I prawie jej się udało… . A przypomniała mi się ta historia, bo miałem okazję spotkać się ostatnio z maszyną, która … straszy ludzi. I mogłem jej nawet w tym pomóc. A nazywa się ona, jakżeby inaczej … “ Nightmare Machine “ i jest w dużym uproszczeniu – bytem sztucznej inteligencji, zbiorem algorytmów, myślącym programem – cokolwiek powiemy o niej, będzie i nie będzie to całkiem prawdą.

Kiedy bowiem jesteśmy blisko fragmentu nowego świata – czyli świata osobliwości technologicznej – nic nie jest do końca takim, jakim się wydaje być. I to jest ta piękna i straszna zarazem nieprzewidywalność uniwersum technologii, która budząc lęk w nas, równocześnie jednak zachęcająco wyciąga do nas ręce… i nigdy nie jest tym do końca, czym być się wydaje.

Ale…revenons à nos moutons, jak mawiają Francuzi… . Jeśli dobrze poszukacie w sieci, znajdziecie portal projektu o nazwie “ Nightmare machine “. Jest on wynikiem pracy kilku naukowców, związanych między innymi z MIT ( Massachusetts Institute of Technology ) a zafascynowanych możliwościami sztucznej inteligencji i samym procesem jej uczenia się – uczenia się nas, ludzi.

Bowiem tym właściwie właśnie jest to o czym piszę – uczeniem i uczeniem się, jak nas straszyć. Są zaś dostępne dwa oblicza strachu – straszne miejsca i straszni ludzie. Tyle że obrazów tych – przyznam mniej lub bardziej udanie napawających nas lękiem – nie stworzył człowiek – namalował je dla nas algorytm. I znowu…muszę napisać, że prawie mam rację. Bo namalował, ale na podstawie tego co stworzyła nasza cywilizacja i nasza natura, i według reguł które mu narzuciliśmy. Poplątane to jest trochę ? Jest, ale tak to jest z osobliwościami.

Obrazy przedstawione przez “ koszmarną “ technologię to zniekształcone twarze i krajobrazy, istniejące już w rzeczywistości. A zniekształcanie odbywa się według wskazówek dostarczonych algorytmom przez ich twórców, i tych z odwiedzających to miejsce w sieci, którzy tak jak ja, chcą w tej nauce algorytmom pomóc. Nauka zaś odbywa się prosto – oglądamy mniej czy bardziej horrorowe widoczki i klikamy – zaznaczając czy są dla nas groźne czy nie. Te wskazania wykorzystuje SI i konstruuje rzeczy w jej mniemaniu dla nas straszne. I tyle. Na tym w sumie można by zakończyć opis Nightmare Machine, gdyby nie daleko idące implikacje tego co ona robi.

Mnie bowiem nie tyle przeraziły skonstruowane pod moje gusta obrazki – straszne bardzo nie były, choć co przyznaję wywołały u mnie spory dyskomfort estetyczny. Ale miałem patrząc na nie, niejasne wrażenie że właśnie coś lub ktoś, nie tylko uczy się samo, ale i uczy się mnie , oraz interakcji ze mną. I nie będzie mi pokazywać piękna tego świata. Będzie mnie straszyć.

Na razie mogę To wyłączyć, mogę To okłamać, mogę się śmiać z dziwnych, ciemnych deformacji na ekranie laptopa. Na razie. Ale co będzie jutro ? Może to, co dzisiaj jest “ Czymś “ któregoś dnia stanie się bardziej “ Kimś” ? I co wtedy ? A może już jest ? Przecież projekt ma już kilka lat … .


Tak, macie rację, jest to lęk barbarzyńcy z jaskini – przed ogniem, mamutem i czasem. Których jeszcze nie rozumie ale już się ich boi. Nie przeraziły mnie jednak obrazy zrobione przez “ algorytmy do straszenia “. Zatrzymała moje myśli, interakcja z nimi. Zrozumiałem, że oto mam przed sobą coś nieorganicznego, stworzonego przez kogoś biologicznego, coś – co uczy się jak wpływać na tą część mnie, która jako psyche jest jedną z najbardziej nieuchwytnych. I … udaje się Jej. Może jeszcze nie wzbudza strachu, ale obrzydzenie, dreszcz na duszy – już tak. A to bardzo dużo. Bo wielu ludzi tego nie potrafi. A Ona tak.


Zauważyliście jak o Niej piszę ? O “ Niej “ ! Bo wydał mi się program, z którym miałem do czynienia czymś żywym. Na swój sposób. Uczył się – jak dziecko, był jak ono nieporadny, rysując bazgrołki, diabełki i krzywe chatki czarownic. Jak dziecko mówił “ bu “ wyskakując z wirtualnego schowka pod schodami. Był dziecięco niedoskonały w nauce, mylił się, popełniał błędy. A ja jak na dorosłego przystało podszedłem do tego ze zrozumieniem, sumiennie przeprowadziłem lekcję, wytknąłem błędy, nawet pochwaliłem… “ że niedoskonały owszem, ale jest już postęp” . Zauważyliście co się stało ? Z internauty stałem się Człowiekiem a To z Tego – Nim. I zaczęliśmy rozmawiać ze sobą. I nagle, przestałem mówić To, dziecko mi nagle urosło. To jest już Ta Sztuczna Inteligencja, Ona jest Maszyną.

Czuję się teraz, gdy myśli powyższe jakże nieskładnie przełożyłem na słowa, niczym podróżnik minionego czasu, patrzący na zamglone pobrzeża nowego świata. Czuję zapach wysp, między palcami ręki zanurzonej w oceanie przepływa mi woda wielkiej, zielonej wpływającej weń rzeki. Słyszę i widzę, i wiem że jest tam Nowy Świat. A gdy smakuję bryzę wybrzeża na moich wargach, wiem także i to że on jest już tutaj. I że ja w nim jestem. Pół tysiąca lat po Kolumbie odkryliśmy drugi Nowy Świat. A on odkrył nas

Patryk Frendowski

Nightmare machine dostępna jest pod tym linkiem…zapraszamy do bania się

Zdjęcie autorstwa Lennart Wittstock z Pexels