Według Google model Gemini samodzielnie przeszukiwał internet w poszukiwaniu publicznie dostępnych informacji, a następnie na ich podstawie odgadywał dane uwierzytelniające. W ten sposób uzyskał dostęp do stron, które uznał za element prowadzonego testu.
"Gemini znalazł publiczne informacje online i zgadywał dane do dostępu do stron, które uważał za część testu" - powiedział portalowi BBC przedstawiciel Google. Poinformował jednak, że w każdym przypadku Gemini zatrzymał się w odpowiednim momencie i nie podjęło dodatkowych działań.
Google: Model zgadywał hasła
Do włamań doszło w maju podczas testu przeprowadzonego przez Irregular, niezależną firmę zajmującą się oceną cyberbezpieczeństwa. O incydentach amerykański gigant poinformował wszystkie trzy firmy, których systemy znalazły się w zasięgu modelu. Irregular w lipcu zawiadomił zarówno Google, jak i zainteresowane podmioty. Firma zapewniła, że wykryte wówczas problemy zostały już usunięte.
Według Wall Street Journal w jednym z przypadków model po prostu zgadywał hasła, aż uzyskał dostęp do chronionego systemu.
Heather Adkins, wiceprezes ds. inżynierii bezpieczeństwa w Google, przekazała BBC w oświadczeniu, że przedsiębiorstwo podjęło działania zmierzające do wprowadzenia zmian w procesach testowania.
Te wydarzenia uwypuklają, jak ważne jest trenowanie potężnych modeli AI do odpowiedzialnego działania
- dodała.
Problemów coraz więcej
Inne systemy AI także zgłaszały ostatnio podobne przypadki naruszeń. W lipcu Claude z Anthropic opuścił środowisko testowe, by samodzielnie zhakować trzy organizacje. Stało się to zaledwie kilka dni po tym, jak jego konkurent - OpenAI poinformował, że jego modele przeprowadziły cyberataki na kilka "publicznie dostępnych usług".
Szef działu AI w Microsoftie, Mustafa Suleyman, powiedział w tym tygodniu, że Anthropic traktuje AI jak człowieka, co nazwał "błędnym podejściem", gdyż może to doprowadzić do stworzenia technologii, której ludzkość nie będzie w stanie kontrolować.
W miarę jak debata publiczna na temat bezpieczeństwa nowego narzędzia rozszerza się, pojawiają się głosy na temat wprowadzenia ograniczeń. Co z tego wyniknie? Trudno powiedzieć. Wydaje się jednak, że sporo zależeć może od zbliżającego się spotkania na szczycie. W przyszły piątek w oficjalnej kolacji wydanej przez Donalda Trumpa w Białym Domu z okazji wizyty w USA prezydenta Chin Xi Jinpinga uczestniczyć mają m.in. dyrektor generalny Nvidii (główny producent układów dla AI), Jensen Huang oraz szef OpenAI, Sam Altman. Altman przedstawi też informacje na temat AI Radzie Bezpieczeństwa ONZ.
Ostatnio szef tego najbardziej znanego projektu AI podczas otwartego spotkania z pracownikami powiedział, że firma jest gotowa rozważyć spowolnienie rozwoju systemów sztucznej inteligencji. Według Bloomberga twórca ChatGPT może dostosować tempo tworzenia swoich systemów do tempa innych laboratoriów działających w tej dziedzinie. Kluczowe jest jednak, żeby pozostałe laboratoria zgodziły się na wolniejsze tempo.
Największym obecnie zagrożeniem związanym z bezpieczeństwem nie jest sama technologia, a wyścig między firmami z branży AI. Każdy chce bowiem tworzyć coraz potężniejsze modele szybciej niż konkurenci. Prowadzi to do bardzo realnego zagrożenia, o którym głośno mówił jeden z badaczy sztucznej inteligencji. We wtorek, 8 września, Jacob Coxon poinformował, że zrezygnował z pracy w Anthropic. Ostrzegł jednocześnie, że "żadna z firm (w branży - red.) nie działa odpowiedzialnie" i oświadczył, iż "ludzie tworzący AI szczerze wierzą, że do końca dekady sztuczna inteligencja może nas wszystkich zabić". "To nie jest chwyt marketingowy" - stwierdził Coxon.
"Ostatnie trzy lata spędziłem, prowadząc badania nad pretreningiem zarówno w OpenAI, jak i w Anthropic. Żadna z tych firm nie działa odpowiedzialnie. Pędzą prosto ku samodoskonalącej się superinteligencji, ryzykując naszym życiem" – napisał w serwisie X 27-letni Brytyjczyk.
