"AI może stanowić zagrożenie dla całej ludzkości" - powiedział Dario Amodei w trakcie posiedzenia Rady Bezpieczeństwa ONZ. Nie jest to przypadkowy człowiek, a prezes Anthropic, jednej z najważniejszych firm zajmujących się sztuczną inteligencją, odpowiedzialnej za wypuszczenie modeli Claude. Skąd jednak taki wniosek?
Dwóch rywali przed Radą Bezpieczeństwa ONZ
W środę (23 września) przed Radą Bezpieczeństwa ONZ pojawiły się dwie persony doskonale znane w środowisku technologii AI. Pierwszą z nich był Sam Altman, szef OpenAI, firmy, która stworzyła ChatGPT, drugą, wspominany już Dario Amodei. Na co dzień obydwie firmy toczą zaciętą rynkową rywalizację, ale tym razem ich szefowie byli zgodni - konieczne jest wdrożenie lepszych metod kontroli sztucznej inteligencji, a bezpieczeństwo jest najważniejsze.
Amodei i Altman są zdania, że branża wymaga określenia międzynarodowych standardów oraz współpracy między krajami, inaczej pojawia się globalne ryzyko, o którym mówił prezes Anthropica. Obydwaj prowadzili osobne rozmowy z Radą, jednak wyrażane przez nich opinie były wyjątkowo zbieżne. Altman stwierdził, że standardy, które pozwolą utrzymać przewagę nad szybko rozwijającą się technologią powinny obejmować "pomiar zdolności, oceny ryzyka, ustalania i zabezpieczenia oraz zachowania istotnego nadzoru ludzkiego". Wspomniał również o potrzebie uzyskiwania szybkich raportów, aby można się było uczyć na błędach, "zanim staną się katastrofą". Zasugerował też bezpieczne międzyrządowe kanały wymiany informacji na temat zagrożeń.
Zakazy dla sztucznej inteligencji
Zdaniem Altmana istotne znaczenie mają tu mechanizmy demokratyczne. - Jeśli sztuczna inteligencja ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco. Muszą być kształtowane w oparciu o procesy demokratyczne i przez rządy odpowiedzialne przed obywatelami, którym służą - powiedział. Jak jednak zauważył CNN, mogłoby to wykluczać takie kraje jak Chiny, które prowadzą obecnie szybkie prace w zakresie AI. Altman podkreślił też, że jakakolwiek szansa na katastrofę ze strony tej technologii "jest nie do przyjęcia".
Z kolei Amodei zaproponował takie rozwiązania, jak np. zakaz używania sztucznej inteligencji do produkcji broni biologicznej czy system oceny i weryfikacji wzajemnych zobowiązań między krajami. - Uważam, że to najważniejszy globalny problem bezpieczeństwa przed którym stoi dziś świat - stwierdził. Także ekspert ONZ Yoshua Bengio, współprzewodniczący panelu naukowego organizacji ds. AI, stwierdził, że zagrożenia związane z rozwojem sztucznej inteligencji są "realne i bliskie".
Stany Zjednoczone przeciwne
Przy okazji Altman zwrócił też uwagę, że nastąpiła polaryzacja opinii i pojawiły się dwa obozy - tych, którzy ostrzegają przed zniszczeniem ludzkości i tych, którzy twierdzą, że takie opinie są przesadzone. Jego zdaniem należy unikać obydwu skrajności.
Zagrożeniem nie wydaje się natomiast przejmować rząd USA. - Granica inteligencji posuwa się szybko. Ale nie jest to powód, aby wstrzymywać jej dalszy rozwój ani ograniczać go nowymi globalnymi strukturami zarządzania - powiedział obecny na panelu Michael Kratsios doradca ds. nauki i technologii prezydenta Donalda Trumpa. Zaznaczył, że Stany Zjednoczone podjęły działania mające na celu zapewnienie bezpiecznego i odpowiedzialnego rozwoju tej granicy. Użył przy tym nowego terminu "superinteligencja", który w kontekście AI został we wtorek użyty przez prezydenta Donalda Trumpa.
Na posiedzeniu był też obecny przedstawiciel Chin ambasador Fu Cong, który wezwał do stałego doskonalenia ram regulacyjnych, reagowania kryzysowego i współpracy transgranicznej w dziedzinie AI. Szef Hugging Face Clement Delangue opowiedział z kolei, jak jego firma odparła atak przeprowadzony przez agentów OpenAI.
Debata odbyła się w dniu, w którym premier Australii Anthony Albanese powiadomił o włamaniu na systemy państwowej opieki zdrowotnej. Odpowiedzialny był za to agent modelu OpenAI. Chociaż do włamania doszło w czerwcu, to OpenAI dowiedziało się o tym dopiero w sierpniu, a rząd australijski powiadomiono 10 września.
Czytaj też:AI włamało się na stronę rządową Australii. Pierwszy taki cyberatak w historii
