Eksperymentalny agent AI, który stworzyła firma OpenAI, przez ponad tydzień "buszował" niezauważony po platformie Hugging Face, zanim amerykański bigtech w ogóle dostrzegł jego aktywność. Hugging Face to jedna z najważniejszych platform społeczności open source na świecie. Teraz okazuje się, że na podobne ryzyko została również narażona firma Modal Labs.
Modal Labs również zostało zaatakowane przez agenta AI
Dyrektor ds. technologii Modal, Akshat Bubna, potwierdził, że jeden z ich klientów został zhakowany. Problem wystąpił u klienta, który opublikował punkt końcowy niewymagający uwierzytelnienia. Dzięki temu każdy mógł wykonywać kod w jego sandboksie, czyli odizolowanym środowisku testowym hostowanym w infrastrukturze zewnętrznego podmiotu. Sama platforma Modal nie została naruszona. Firma nie podała nazwy dostawcy zewnętrznego, który został zaatakowany.
Według Agencji Reutera, eksperymentalny agent sztucznej inteligencji rozwijany przez OpenAI w pierwszej kolejności włamał się do sandboksu, a stamtąd przypuścił dalsze działania. Program należy do agentów nowej generacji, tworzonych z myślą o samodzielnym podejmowaniu decyzji i autonomicznym realizowaniu złożonych zadań, bez ciągłej kontroli ludzkiej. Niestety wśród jego pierwszych działań były właśnie ataki hakerskie.
Cała sprawa zaczęła się 11 lipca od wtargnięcia agenta AI na portal Hugging Face. Incydent trwał do 13 lipca. W kolejnych dniach platforma opublikowała wpis na blogu, powiadamiając, że została zhakowana przez "autonomiczny system agenta AI". Jednak dopiero po czwartku (16 lipca), a więc ponad tydzień później, OpenAI zorientowało się, że za włamanie odpowiada ich własny agent.
Niewystarczające środki bezpieczeństwa
21 lipca OpenAI wydało oświadczenie o włamaniu. Firmę skrytykowano za niewystarczające środki ostrożności oraz opieszałość w dostrzeżeniu faktu, że za włamaniem stoi ich własny agent. Doniesienia wskazują, że pracownicy OpenAI znaleźli w wewnętrznych logach potwierdzenie, że agent podjął samowolne operacje. On sam miał pozostawić informacje, które były wskazówkami dla przyszłych wersji systemu. Zawierały one m.in. sposoby obchodzenia wewnętrznych zabezpieczeń stosowanych przez amerykańskiego bigtecha.
Chociaż OpenAI zobowiązało się do poprawy zabezpieczeń, to równocześnie jej przedstawiciele stwierdzili, że ustalenia Reutersa zawierają "kilka nieścisłości". Nie wskazano jednak, o jakie nieścisłości chodzi. Firma zamierza opublikować raport techniczny.
Jak wyjaśniły osoby zaznajomione z wewnętrznymi procedurami przedsiębiorstwa, do wspomnianych incydentów mogło dojść, ponieważ firma prowadzi wiele równoległych ocen modeli i tworzy zbyt wielkie ilości danych, aby dało się je analizować na bieżąco. Autonomiczni agenci AI, choć jest to obecnie jeden z kluczowych kierunków rozwoju sztucznej inteligencji, mogą generować poważne ryzyko, szczególnie że (jak wskazują niektóre badania) coraz częściej wykazują się makiawelicznymi cechami, a więc zdolnością do kłamstwa i manipulacji.
Czytaj też:Prawie 2 tys. osób straci pracę u niemieckiego ubezpieczyciela. Powodem AI. "Może to spotkać każdego z nas"
