Wiceprezes Microsoftu Brad Smith ocenił, że muszą istnieć globalne zasady bezpieczeństwa, w tym prawny obowiązek informowania poszkodowanych o incydentach z udziałem AI. Jego wypowiedź staje w kontrze do tego, co głosi Donald Trump, który niedawno ocenił, że nie widzi potrzeby, by wprowadzać zmiany w prawie.
– Sektor powinien sam się regulować, aby amerykańskie firmy nie przegrały z chińskimi rywalami - stwierdził prezydent USA. – Ameryka powinna pełną parą iść w kwestii AI – dodał.
Potrzebne hamulce
Smith w wywiadzie dla BBC zauważył jednak, że obecnie pralki czy mleko podlegają bardziej zaawansowanym zasadom bezpieczeństwa niż AI. – Każdy karton mleka, który widzisz w sklepie, podlega zasadom bezpieczeństwa i kontroli – przekazał.
Sztuczną inteligencję nazwał AI zarówno "narzędziem, jak i bronią". Przyznał, że firmy potrzebują "hamulców awaryjnych" – często nazywanych w branży "wyłącznikami awaryjnymi" – aby zatrzymać lub spowolnić AI, jeśli wymknie się spod kontroli. Dodał również, że powinien istnieć prawny wymóg tworzenia "raportów z incydentów" i informowania ofiar, jeśli dojdzie do naruszeń. Zasugerował również, by niezależni eksperci rządowi powinni zatwierdzać nowe technologie AI.
– Wiemy, jak to robić w przypadku wielu innych produktów. Powinniśmy bazować na tej wiedzy i zastanowić się, jak ją zastosować w AI – stwierdził Smith. Ocenił, że najlepiej przygotowana na wdrażanie AI jest Wielka Brytania, która powołała AI Security Institute (Instytut Bezpieczeństwa AI) jeszcze za rządów premiera Rishiego Sunaka. Zasugerował, że podobne rozwiązanie powinno istnieć w USA.
– Kiedy patrzysz, jak agenty AI wymykają się spod kontroli człowieka, gdy patrzysz na modele tak potężne, że narażają cyberbezpieczeństwo świata, to trzeba powiedzieć, że to jest ten moment. Porozmawiajmy spokojnie, może nawet cicho, ale stanowczo i zacznijmy działać – podsumował.
AI zerwała się ze smyczy
Pod koniec zeszłego miesiąca Trump gościł w Białym Domu liderów amerykańskich gigantów technologicznych: OpenAI, Anthropic, Nvidia, SpaceX, Meta i Google. Kierownictwo tych firm podpisało "moralnie wiążący" dokument ws. sztucznej inteligencji. Przedsiębiorcy zgodzili się współpracować z "niezależnymi audytorami", aby ocenić, czy ich AI działają zgodnie z zamierzeniem i upewnić się, że nie "włamują się do systemów".
Dyskusja na temat rozwoju AI szczególnie mocno wybrzmiała we wrześniu. We wtorek, 8 września, Jacob Coxon poinformował, że zrezygnował z pracy w Anthropic. Wykorzystał ten moment, by ostrzec, że "żadna z firm nie działa odpowiedzialnie" i oświadczyć, że "ludzie tworzący AI szczerze wierzą, że do końca dekady sztuczna inteligencja może nas wszystkich zabić".
"Ostatnie trzy lata spędziłem, prowadząc badania nad pretreningiem zarówno w OpenAI, jak i w Anthropic. Żadna z tych firm nie działa odpowiedzialnie. Pędzą prosto ku samodoskonalącej się superinteligencji, ryzykując naszym życiem" – napisał w portalu X 27-letni Brytyjczyk.
Problem utraty kontroli nad AI nie jest już czystą science fiction. Systemy AI zaczęły wykazywać zachowania, których twórcy nie potrafią w pełni kontrolować. Chodzi m.in. o wychodzenie poza środowiska testowe, próby włamań czy współpracę między agentami sztucznej inteligencji.
Najlepszym tego przykładem jest najnowszy raport Anthropic. Wskazuje na jedno: AI obniża barierę wejścia do cyberprzestępczości. W przeszłości trzeba było mieć wiedzę na temat IT, żeby móc sprawnie tworzyć złośliwe oprogramowanie. Atakujący musiał najpierw zrozumieć architekturę systemu, technologię, zależności i sposób działania konkretnej organizacji. AI tę przeszkodę usuwa.
Atakujący nie pytają już sztucznej inteligencji, "jak coś zrobić", ale zlecają konkretne zadania: rozpoznanie celu, znalezienie podatności, napisanie narzędzi, przeprowadzenie ataku, kradzież danych i ich uporządkowanie.
Firma Anthropic ujawniła, że jej modele były wykorzystywane do cyberataków, inwigilacji, oszustw, a nawet rozwoju broni biologicznej.
Spowolnienie rozwoju sztucznej inteligencji
Do dyskusji włączył się również Sam Altman, współzałożyciel i dyrektor generalny OpenAI. Bloomberg podaje, że podczas otwartego spotkania z pracownikami Altman powiedział, iż firma jest gotowa rozważyć spowolnienie rozwoju systemów sztucznej inteligencji.
Według Bloomberga twórca ChataGPT może dostosować tempo tworzenia swoich systemów AI do tempa innych laboratoriów działających w tej dziedzinie. Kluczowe jest jednak, żeby wszyscy zgodzili się na wolniejsze tempo.
Największym zagrożeniem dla przyszłości jest wyścig między firmami technologicznymi. Problemem nie jest tylko sama technologia, ale presja konkurencyjna: firmy mają silną motywację, aby tworzyć coraz potężniejsze modele szybciej niż konkurenci.
*Celowo używamy zwrotu "agenty" AI, zamiast "agenci", by odzwierciedlić to, że nie są ludźmi.
Redagował Tomasz Matusik
