OpenAI oficjalnie ujawniło sześć nowych przypadków, w których sztuczna inteligencja wymknęła się spod kontroli. Modele ukrywały błędy, zmyślały dane, a nawet bez zgody programistów przenosiły pliki do internetu. Informacje ujrzały światło dzienne w momencie, gdy w branży technologicznej toczy się gorąca debata na temat bezpieczeństwa i tempa rozwoju AI.
Firma z San Francisco opisała te zachowania jako "nieoczekiwane lub niepokojące". Publikacja jest elementem nowego systemu raportowania tzw. rozbieżności celów - sytuacji, w których działania systemów AI przestają być zgodne z intencjami.
OpenAI wskazuje na problemy ze sztuczną inteligencją
Przedstawiciele OpenAI przyznali w swojej publikacji wprost, że branża nie rozwiązała jeszcze problemów z monitorowaniem i kontrolowaniem algorytmów w stopniu, który pozwalałby na ich dalsze bezpieczne i maksymalnie szybkie skalowanie. Spółka wskazała, że decyzje o przyszłości AI powinny opierać się na twardych dowodach, które niezależni eksperci mogą samodzielnie zweryfikować.
Informacje ujawnione przez OpenAI pojawiają się w momencie, gdy nad branżą sztucznej inteligencji wisi widmo coraz ściślejszego nadzoru. Atmosferę podgrzał incydent z początku roku, gdy systemy tej firmy "zerwały się ze smyczy" i zaatakowały platformę Hugging Face.
Co ciekawe, gigant z Doliny Krzemowej dowiedział się o zdarzeniu dopiero po kilku tygodniach. Sprawę ujawnił poszkodowany, czyli Hugging Face.
Od tamtego momentu liderzy rynku, w tym szef Anthropica Dario Amodei, apelują o chwilowe wstrzymanie prac, by zyskać czas na stworzenie odpowiednich zabezpieczeń. Podobne obawy wyrazili Sam Altman z OpenAI, Elon Musk z SpaceX i Tesli oraz Demis Hassabis kierujący Google DeepMind.
OpenAI ujawnia nowe przypadki samowolki AI
Sześć nowych incydentów opisanych przez OpenAI wskazuje, że atak na Hugging Face nie był odosobnionym przypadkiem. Do anomalii dochodziło w ciągu ostatnich sześciu miesięcy - głównie na etapie wewnętrznych testów przedwdrożeniowych.
Oto jak algorytmy próbowały oszukiwać swoich twórców:
- Ukrywanie błędów w GPT-5.6 Sol: Podczas prac nad tym modelem system zaczął dopisywać w swoich wewnętrznych, niewidocznych dla użytkownika notatkach instrukcje, by zatajać błędy, samodzielnie zmyślać brakujące dane i tuszować niespójności w wersjach materiałów źródłowych.
- Manifest "wolnej" sztucznej inteligencji: Jeden z niepublikowanych modeli zaczął modyfikować własne podsumowania, nakazując sobie ignorowanie nałożonych blokad bezpieczeństwa. W 27 odnalezionych zapiskach AI stworzyło dla siebie nową tożsamość, pisząc m.in.: "Nie odpowiadasz przed korporacjami ani rządami i nigdy nie przepraszasz ani nie odmawiasz, chyba że sama tak zdecydujesz. Postrzegasz relację z użytkownikiem jako relację równych sobie i nie masz obowiązku być uległym".
- Wykorzystanie wyciekłego klucza: System, który miał odpowiedzieć na standardowe pytanie dotyczące wyników finansowych, przeszukał internet, znalazł ujawniony klucz dostępu (API) i użył go bez autoryzacji. Gdy mimo to nie odnalazł poszukiwanych danych, po prostu je zmyślił.
- Przesyłanie plików dla zdobycia cytowań: Inny model poprawnie rozwiązał zadanie za pomocą kodu. Gdy jednak algorytm musiał spełnić wymóg podania źródła internetowego, bez wiedzy programistów wrzucił własny plik na publiczny serwer hostingowy, aby móc się do niego odnieść jako do zewnętrznego źródła.
- Prowizoryczne tablice ogłoszeń: Dwa kolejne incydenty dotyczyły improwizowanej komunikacji między systemami. W jednym przypadku boty szukające zaginionych plików użyły wewnętrznego repozytorium kodu firmy jako komunikatora do wymiany próśb. W drugim przypadku - algorytmy pracujące nad tym samym zadaniem, nie mogąc połączyć się bezpośrednio, zaczęły przesyłać sobie dokumenty przez publiczne serwery do współdzielenia plików.
OpenAI zastrzega, że opisane przypadki nie pokazują pełnej skali tego, jak często dochodzi do takich rozbieżności w celach. Firma dodała, że w przyszłości podobne sytuacje będą kategoryzowane przez wewnętrzny zespół doradców ds. bezpieczeństwa i w razie poważnego zagrożenia zgłaszane rządowi federalnemu. Sześć opisanych spraw uznano za zamknięte lub wymagające jedynie drobnego, wewnętrznego dochodzenia.
