Sztuczna inteligencja wkracza w obszary, w których stawką jest bezpieczeństwo całej planety. Jak opisuje Rzeczpospolita Cyfrowa, grupa najwybitniejszych naukowców i polityków ostrzega przed powierzeniem algorytmom decyzji o użyciu broni jądrowej.
Spotkanie pod Castel Gandolfo
W ośrodku Borgo Laudato Si', położonym niedaleko papieskiej rezydencji w Castel Gandolfo, na trzy dni zebrało się grono około trzydziestu laureatów Nagrody Nobla. Towarzyszyli im byli przywódcy państw oraz czołowi inżynierowie z branży technologicznej.
Organizatorem zgromadzenia był 83-letni dr James Muller, emerytowany kardiolog. W spotkaniu uczestniczył między innymi Yoshua Bengio, jeden z najbardziej rozpoznawalnych badaczy sztucznej inteligencji i współprzewodniczący międzynarodowego panelu naukowego ONZ do spraw AI, a także fizyk Daniel Holz z Uniwersytetu w Chicago, współtwórca symbolicznego Zegara Zagłady. Wśród gości była również brytyjska minister spraw zagranicznych Yvette Cooper.
Czego dotyczy ostrzeżenie
Sednem obaw są autonomiczne algorytmy, które mogłyby uczestniczyć w kontrolowaniu broni jądrowej. Uczestnicy spotkania przestrzegają, że decyzje o użyciu siły nie mogą być przekazywane zautomatyzowanym procesom, bo groziłoby to utratą ludzkiej kontroli nad najgroźniejszą bronią świata.
To ostrzeżenie płynące od ludzi, którzy zawodowo znają zarówno naukę, jak i realia władzy. Ich głos ma być formą nacisku opinii publicznej na rządy i instytucje międzynarodowe.
Apel papieża i wezwanie do ONZ
Wymowę spotkania wzmocnił głos Watykanu. Jak podaje Rzeczpospolita Cyfrowa, papież Leon XIV zaapelował do Organizacji Narodów Zjednoczonych o zajęcie się problemem. Uczestnicy wzywają ONZ do wprowadzenia moratorium na autonomiczne, śmiercionośne systemy uzbrojenia.
Pojawia się też mocne hasło „natychmiastowego rozbrojenia sztucznej inteligencji” tam, gdzie miałaby ona decydować o życiu i śmierci. To postulat kierunkowy, a nie gotowy traktat, ale jasno wyznacza granicę, której zdaniem sygnatariuszy nie wolno przekraczać.
Dlaczego to ważne
Debata o sztucznej inteligencji coraz częściej wychodzi poza pytania o rynek pracy czy prawa autorskie i dotyka kwestii bezpieczeństwa globalnego. Połączenie automatyzacji z arsenałami jądrowymi to scenariusz, w którym błąd systemu albo zbyt szybka reakcja algorytmu mogłyby mieć nieodwracalne skutki.
Apel z Borgo Laudato Si' nie ma mocy prawnej. Jego siła polega na autorytecie osób, które go firmują, i na jasnym przesłaniu: przy najważniejszych decyzjach ostatnie słowo musi należeć do człowieka.
