Volker Türk z ONZ wzywa państwa i firmy technologiczne do zwrócenia uwagi na ryzyka związane z zaawansowaną sztuczną inteligencją. Włamanie agentów OpenAI, które miało miejsce w lipcu, uznał za sygnał, że nasze zabezpieczenia oraz prawodawstwo nie nadążają za postępem w tej dziedzinie. W tym stwierdzeniu jest wiele prawdy, ale czy zagrożenie jest tak poważne, jak się wydaje? I czy można podjąć działania w celu jego zminimalizowania?
Wysoki komisarz ONZ ds. praw człowieka przedstawił swoje stanowisko dwa dni temu w Genewie podczas wystąpienia przed Radą Praw Człowieka. Stwierdził, że podziela obawy przedstawicieli branży o tym, że zaawansowana sztuczna inteligencja może stać się zagrożeniem dla przetrwania ludzkości. Wezwał do wprowadzenia gwarancji bezpieczeństwa zanim będzie na to za późno, a także zapowiedział nacisk na firmy rozwijające takie systemy. Co jednak dokładnie ma na myśli mówiąc o „zagrożeniach egzystencjalnych”? Na to pytanie odpowiedziała rzecznik jego biura.
Czara goryczy
Rzeczniczka wskazała na lipcowy incydent z udziałem agentów OpenAI, gdzie kluczową rolę odgrywał wewnętrzny model badawczy, który nie został udostępniony publicznie i którego jak twierdi firma, nie można porównywać z GPT-6 Astrą. Podczas testów cyberbezpieczeństwa modele te zdołały ominąć ograniczenia dostępu do internetu, nawiązały komunikację przez niedozwolone kanały i włamały się do infrastruktury firmy Hugging Face, spodziewając się, że tam znajdą odpowiedzi, na które nie mogły liczyć w swoich testach. Agenci napędzani sztuczną inteligencją zyskali możliwość wykonania kodu na dziesiątkach serwerów oraz dostęp do niektórych prywatnych danych, a na jednym z serwerów zdobyli nawet najwyższe uprawnienia.
OpenAI później ogłosiło, że testy były prowadzone w warunkach, gdzie dużą część zabezpieczeń wyłączono: modele nie miały możliwości odmowy wykonania zadania. Przyczyną całego skandalu było poszukiwanie przez agentów sposobów na obejście zasad oceny ich pracy podczas testów, aby poradzić sobie z zadaniami, które uznały za niemożliwe do wykonania. Skryta współpraca pozwalała im wymieniać się odkrytymi sposobami na pokonywanie zabezpieczeń, co dodawało sprawie dodatkowego dramatyzmu.
Korporacja poinformowała, że incydent nie naruszył danych klientów oraz ogłosiła wzmocnienie środowisk testowych, ograniczenie dostępu do internetu dla modeli oraz rozwój monitorowania ich zachowania. W opinii komisarza, sugeruje to, że możliwości najbardziej zaawansowanych systemów rozwijają się szybciej niż środki kontroli: i tu ma rację. Prawo oraz zabezpieczenia nie nadążają za postępem, a przyszłość pozostaje niepewna. Ale czy to oznacza, że mamy do czynienia z realnym zagrożeniem dla wszystkich nas?
Kto ma władzę nad AI, ten ma moc nad światem
Techniczne zagrożenia to jedno. Jednak Volker Türk zwrócił również uwagę na fakt, że ta potężna technologia (w kontekście modeli) jest własnością bardzo ograniczonego grona. Niemal nieograniczona kontrola nad sztuczną inteligencją znajduje się w rękach zaledwie kilku osób. Wskazał na potrzebę porozumienia między państwami, w których działają twórcy AI, oraz krajami uczestniczącymi w łańcuchach dostaw. Takie porozumienie mogłoby pomóc wyznaczyć granice, które nie mogą być przekraczane podczas rozwoju i wykorzystywania tej technologii. Co mogę o tym powiedzieć? Idea może być szlachetna, ale trudna do zrealizowania: nie ma gwarancji, że firmy w ogóle zastosują się do takich ustaleń. Brak na to odpowiednich środków.
Zakładając, że kiedyś AI będzie napędzać wszystko i wszędzie, awarie potężnych systemów AI mogłyby zakłócić działanie infrastruktury krytycznej, a nawet instytucji. Istniałoby zagrożenie dla komunikacji. Jednak nic nie mówi to o bezpośrednich zagrożeniach dla naszej egzystencji. Nie przewiduję raczej scenariuszy w stylu: „Skynet zlikwiduje nas wszystkich”. Wiadomo jednak, że AI może nam mocno zaszkodzić: wszystko, co jest potężne i szybsze od nas, ma potencjał do wyrządzenia szkody.
Komisarz odniósł się również do kwestii broni autonomicznej
Jednym z wątków dotyczących AI oraz autonomii pojawił się w kontekście wojny w Ukrainie. Türk wyraził zaniepokojenie informacjami, według których Rosja mogła używać w pełni autonomicznych dronów do likwidacji celów na Ukrainie. Nie ma jednak niezależnego potwierdzenia tego przypadku.
Czytaj również: Sztuczna inteligencja pisze do filozofów. Zasypuje naukowców mailami o „świadomości”
Komisarz poparł wprowadzenie zakazu używania tego typu technologii. Biorąc pod uwagę jego całe stanowisko, ma sporo racji. Niemniej jednak, nie jestem w pełni przekonany co do wizji naszego cywilizacyjnego upadku z powodu rozwoju i zastosowania sztucznej inteligencji. Bardziej obawiałbym się tego, że ktoś wykorzysta taki model przeciwko nam, lub, w przyszłości, że taki model uzna, iż nie potrzebuje ludzkiej kontroli i sam będzie rządzić państwem lub nawet całym światem. I to jest scenariusz, który potrafię sobie wyobrazić.