W poprzednim odcinku z księdzem doktorem Krzysztofem Łuszczkiem z Uniwersytetu Szczecińskiego rozmawialiśmy o tym, dlaczego papież Leon XIV przestrzega przed bezrefleksyjnym zachwytem nad sztuczną inteligencją. Dziś zastanowimy się, gdzie powinny przebiegać granice jej możliwości. Bo choć AI potrafi coraz więcej, to czy są decyzje, których nigdy nie powinniśmy oddawać maszynie?

Pytanie, które dziś przed nami stawiają eksperci, brzmi krótko, czy AI nas nie przerosła? Teoretycznie wiemy, dokąd ten postęp zmierza, ale...

Ks. dr Krzysztof Łuszczek: To jest wciąż pytanie, na ile ona jest jeszcze pod naszą kontrolą, a na ile już nie jest. To jest też pytanie, bo papież, występując na inauguracji swojej encykliki, powiedział jedno takie ciekawe zdanie, że musimy dzisiaj sztuczną inteligencję rozbroić. I on to rozumie dosłownie i w przenośni. To znaczy rozbroić w tym sensie, żeby ona nie była zagrożeniem dla człowieka na żadnej płaszczyźnie, ale rozbroić też dosłownie, bo systemy wojskowe wyposażone w algorytmy sztucznej inteligencji, nie daj Boże, żeby zaczęły działać autonomicznie.

Prowadzący: Zwłaszcza że już do dronów są dodawane algorytmy. Zresztą nie tylko do dronów, ale także do najnowszego wyposażenia czołgów. Więc stąd też właśnie pytanie, czy pozwolimy jej podejmować decyzje moralne, czy jednak jako ludzkość będziemy dążyć do tego, żeby zostawić ją jako narzędzie w rękach człowieka.

Ks. dr Krzysztof Łuszczek: Ta świadomość istnieje nawet wśród twórców AI i jest co najmniej kilka takich przykładów. Między innymi Mustafa Suleyman, twórca firmy DeepMind, która skonstruowała komputer AlphaGo, który pokonał chińskich mistrzów gry Go. Mówi o tak zwanych 24 technologiach ogólnego przeznaczenia, które pojawiły się w toku rozwoju ludzkości. I mówi tak: „Kiedyś taka jedna technologia pojawiała się raz na kilkaset lat. Powiedzmy sobie: ogień, koło i tak dalej. Ludzie mogli się do tego przyzwyczaić. Dzisiaj w ciągu jednego pokolenia pojawia się kilka technologii, które totalnie zmieniają nasze życie i nie jesteśmy w stanie do końca tego wszystkiego zintegrować ani aż tak zmienić swojego życia”. I on mówi, że to jest niebezpieczne.

Dwa lata temu był apel twórców AI, abyśmy zatrzymali się na pół roku, przepracowali to i trochę to ogarnęli, żeby nie wymknęło się to spod kontroli. W czasie inauguracji encykliki w Watykanie był obecny między innymi przedstawiciel firmy Anthropic, która również prowadzi projekty związane z architekturą bezpieczeństwa i architekturą kontroli. Chodzi właśnie o to, abyśmy zaczęli panować nad AI i nie pozwalali na jej zbyt swobodny rozwój. Bo może być trochę jak z internetem. Opamiętamy się dopiero wtedy, gdy zacznie przynosić pierwsze negatywne skutki w postaci cyberprzemocy i innych zagrożeń. A tutaj może być to znacznie groźniejsze.

Prowadzący: Czy jesteśmy jeszcze w stanie okiełznać sztuczną inteligencję? Bardzo często działa ona w sposób, którego nawet jej twórcy nie do końca rozumieją. Czy w pewnym momencie, kiedy będziemy chcieli nacisnąć hamulec, nie będzie już za późno?

Ks. dr Krzysztof Łuszczek: Właśnie firma Anthropic prowadzi projekty, których celem jest zrozumienie, jak to działa i dlaczego podejmuje takie decyzje. Okazuje się, że mimo iż są twórcami tych modeli, już nie wszystko rozumieją. Spora grupa założycieli Anthropic wywodzi się z OpenAI. Natomiast w pewnym sensie jesteśmy skazani na rozwój technologii, bo AI przynosi nam wiele korzyści. Musimy jednak przygotować się również na skutki jej funkcjonowania w społeczeństwie. Między innymi na rynku pracy. Okazuje się, że niektórzy, którym wydawało się, że są niezagrożeni, jak chociażby lekarze czy informatycy, mogą poczuć się zagrożeni, przynajmniej w niektórych obszarach, przez rozwój AI.

Prowadzący: Na ile będzie można jej zawierzyć?

Ks. dr Krzysztof Łuszczek: No właśnie i to jest kolejna sprawa. Czy w ogóle kiedykolwiek będzie można jej w stu procentach zawierzyć? I tutaj chodzi o kwestie pojedynczego człowieka, jego zdrowia, ale także o kwestie całych systemów. Jeżeli przełożymy to na systemy wykorzystywane przez armie na świecie, to co się stanie, jeżeli AI się pomyli i odpowie atakiem jądrowym na atak, którego nie było? A takie sytuacje zdarzały się już w przypadku standardowych komputerów.

Prowadzący: Była też sytuacja w Rosji, kiedy zawyły alarmy jądrowe, według których rzekomo Amerykanie mieli przeprowadzić atak. Na szczęście okazało się to nieprawdą.

Ks. dr Krzysztof Łuszczek: I ten jeden mądry człowiek właśnie nie dał się zwieść. Jego nazwisko jest mało znane, a powinno być bardziej znane, bo zapobiegł wojnie jądrowej.
(Człowiekiem o którym wspominaliśmy w materiale był Stanisław Pietrow, radziecki oficer, który w 1983 roku zignorował błędny alarm o amerykańskim ataku nuklearnym. Zapobiegając eskalacji konfliktu, który mógł zakończyć się wojną jądrową).

Prowadzący: Tak, to przestroga przed tym, że jednak trzeba używać własnego mózgu. Szczególnie że sztuczna inteligencja zdobywa wiedzę poprzez to, co my jej damy, i będzie taka, jaką my chcemy, żeby ona była. Dziękuję za rozmowę. Moim i Państwa gościem był ksiądz doktor nauk humanistycznych w zakresie pedagogiki i medioznawstwa Krzysztof Łuszczek z Uniwersytetu Szczecińskiego.