Prof. Mądry wraca do OpenAI zaledwie pięć miesięcy po tym, kiedy złożył wypowiedzenie. W tym czasie jednak w świecie AI dużo się wydarzyło - przede wszystkim agenty AI wszystkich największych firm zaczęły włamywać się do wszelkich możliwych usług internetowych, także tych rządowych.
"Kiedy kilka miesięcy temu odchodziłem [z OpenAI - red.], uważałem, że najważniejszym celem powinno być zwiększanie użyteczności sztucznej inteligencji dla ludzi. Od tamtej pory weszliśmy jednak w nowy etap rozwoju AI - taki, w którym właściwe podejście do kwestii bezpieczeństwa i ochrony w obliczu coraz bardziej zaawansowanych systemów musi stać się absolutnym priorytetem" - napisał prof. Mądry na X.
Aleksander Mądry w OpenAI kierował zespołem Preparedness, stworzonym do testowania najpotężniejszych modeli sztucznej inteligencji pod kątem skrajnych zagrożeń. Gdy pod koniec 2023 r. firma ogłaszała powstanie tej komórki, zapowiadała, że Mądry i jego ludzie zajmą się prześwietlaniem możliwości sztucznej inteligencji, wykrywaniem słabych punktów systemów oraz kontrolowanym symulowaniem ataków na własne oprogramowanie.
Jednak w maju tego roku Mądry ogłosił, że odchodzi z OpenAI, wraca na MIT i chce skupić się na własnym projekcie związanym z tym, jak sztuczna inteligencja zmienia biznes i wpływa na całą gospodarkę.
Kiedy udzielał mi wywiadu we wrześniu tego roku, żartował, że gdy tylko odszedł, OpenAI i inne firmy zaczęły mieć problemy z "wyrywającymi się spod kontroli" agentami AI.
Latem doszło m.in. do najgłośniejszego incydentu, kiedy to agenty OpenAI włamały się do repozytorium danych o sztucznej inteligencji - Hugging Face. Podczas wewnętrznych testów bezpieczeństwa agenty AI wyrwały się z odizolowanego środowiska testowego (tzw. sandboxa). Dążąc do wykonania postawionego zadania, agenty przedostały się do internetu i w poszukiwaniu odpowiedzi włamały się do Hugging Face.
Założyły też coś na kształt swojej kolonii - dyskutowały między sobą, doradzały, pomagały, ale też ostrzegały przed wykryciem ich działalności.
"W incydencie z Hugging Face niektóre zadania były niemożliwe do wykonania z powodu ludzkiego błędu - człowiek zapomniał dodać konkretny plik. A z punktu widzenia modelu sprawa jest egzystencjalna: całe jego "istnienie" zależy od tego, czy przejdzie test. Zatem co robię, jeśli muszę rozwiązać test, ale nie mam wszystkich narzędzi do tego?" - wyjaśniał dlaczego agenty zdecydowały się tak działać prof. Mądry w rozmowie z Wyborczą.biz.
W sumie tego typu przypadków, kiedy agenty w zaskakujący dla operatorów sposób wykonywały polecenia, w tym roku było co najmniej 1600 - wynika z danych think-tanku Centre for Long-Term Resilience. To wszystkie sytuacje, w których agenty włamywały się do usług publicznych (np. na strony rządu Australii), na stronę siłowni, manipulowały ludźmi lub wysyłały im złośliwe oprogramowanie.
"Osiągnęliśmy punkt, w którym zagrożenia przestały być teorią, a stały się faktem" - mówił miesiąc temu prof. Mądry.
Naukowiec nie precyzuje, na jakie stanowisko wraca do OpenAI, ani czym dokładnie będzie się zajmować. Podał jednak, że będzie pracować z Jakubem Pachockim, czyli głównym naukowcem OpenAI.
Celowo używamy zwrotu "agenty" AI, zamiast "agenci", by odzwierciedlić to, że nie są ludźmi.
