Na początku marca "Wall Street Journal" poinformował, że CENTCOM, czyli amerykańskie dowództwo wojskowe odpowiedzialne za rejon Bliskiego Wschodu, używa sztucznej inteligencji stworzonej przez firmę Anthropic do ataków na Iran.
Według nieoficjalnych informacji Claude, sztuczna inteligencja Anthropika, pozwala wojskowym dowódcom analizować dane wywiadowcze, identyfikować i sugerować cele oraz symulować scenariusze ataków.
Kontrakt wart 200 mln dolarów
Anthropic miał z Pentagonem kontrakt wart 200 mln dolarów, na wykorzystanie ich modeli sztucznej inteligencji przez wojsko. Jednak po doniesieniach o tym, że z Claude'a skorzystano w akcji porwania prezydenta Wenezueli, Nicolasa Maduro, szef Anthropika, Dario Amodei, wyraził niepokój i obawy co do zastosowania AI.
Szef Pentagonu Pete Hegseth postawił Anthropikowi ultimatum: pozwól naszemu wojsku wykorzystywać Claude’a do dowolnych działań, byle były legalne, albo pożegnaj się z kontraktem. Jeśli firma się nie ugnie, zagroził Hegseth, zostanie uznana za „ryzyko w łańcuchu dostaw" – to kategoria zwykle zarezerwowana dla podmiotów z wrogich Ameryce krajów, która uniemożliwia im współpracę z rządem i z jakąkolwiek firmą, która handluje z administracją USA.
Dario Amodei nie zgodził się na warunki stawiane przez rząd USA. Jego zdaniem zaproponowany zapis oznaczałby całkowitą utratę kontroli nad tym, do czego wykorzystywane są modele AI. Uznał także, że nie zgodzi się na dalszą współpracę z ministerstwem bez zapisu w kontrakcie zabraniającego użycia technologii do masowej inwigilacji Amerykanów oraz do użytku w pełni autonomicznej broni (tj. systemów, które podejmują decyzje bez udziału człowieka). Według szefa firmy, technologia AI nie jest obecnie wystarczająco rozwinięta, by taka broń była bezpieczna.
Pentagon twierdził, że nie planuje takiego użytku, lecz nie może zgodzić się na stawianie prywatnej firmie warunków użycia technologii stosowanej przez władze.
List w obronie
Wobec narastającego konfliktu grupa czołowych firm technologicznych, zrzeszonych w Information Technology Industry Council (ITIC), wysłała do Departamentu Obrony list wyrażający obawy wobec analizowanego przez Pentagon oznaczenia jednego z dostawców AI jako zagrożenia dla bezpieczeństwa łańcucha dostaw.
Pod listem podpisali się m.in. przedstawiciele Nvidii, Amazona, Apple'a i OpenAI. Największe firmy w branży obawiają się, że sankcje wobec Anthropika stworzą precedens i uderzą w całą branżę generatywnej AI, pracującej z sektorem publicznym.
Anthropic nie przystał na wytyczne administracji Trumpa, co spowodowało zerwanie rozmów i uznanie firmy w czwartek, 5 marca, za "ryzyko łańcucha dostaw". Wojsko dostało zakaz korzystania z Claude'a.
Nowa umowa
Konflikt na linii rząd-Anthropic wykorzystał Sam Altman, prezes Open AI, który poinformował, że OpenAI nawiązuje współpracę z amerykańskim Departamentem Obrony i zezwala na wykorzystanie modeli sztucznej inteligencji w sposób, który wcześniej odrzucił Anthropic.
Gdy tylko ogłoszono współpracę, rozpoczął się prawdopodobnie największy wizerunkowy kryzys OpenAI w jego dotychczasowej historii. Użytkownicy w ramach protestu zaczęli anulować subskrypcje ChatGPT, w zamian przerzucając się na Claude'a.
Wcześniej umowy na wykorzystanie swoich modeli AI przez wojsko podpisały też Google i xAI (firma Elona Muska, twórca modelu Grok). Jednak tylko modele firmy Anthropic miały pozwolenie na wykorzystanie w tajnych projektach wojskowych.
Surowe zasady
Z najnowszych informacji "Financial Times" wynika, że w odpowiedzi na konflikt z Anthropikiem administracja Trumpa opracowała surowe zasady dotyczące cywilnych kontraktów na wykorzystanie AI. Od teraz każda firma, która będzie chciała współpracować z rządem, musi dać zezwolenie na wykorzystywanie do "wszelkich, legalnych działań".
Projekt wytycznych, do którego dotarł "Financial Times" mówi, że firmy AI chcące współpracować z rządem muszą udzielić USA nieodwołalnej licencji na korzystanie ze swoich systemów do wszystkich celów prawnych.
"FT" pisze, że wytyczne General Services Administration będą dotyczyć kontraktów cywilnych i są częścią szerszego, ogólnorządowego wysiłku na rzecz wzmocnienia zamówień w zakresie usług AI.
"Byłoby nieodpowiedzialne wobec Amerykanów i niebezpieczne, gdyby GSA utrzymywała relacje biznesowe z Anthropikiem," powiedział Josh Gruenbaum, komisarz Federal Acquisition Service, spółki zależnej GSA pomagającej w pozyskiwaniu oprogramowania dla rządu federalnego - w odpowiedzi na pytania Reutersa.
"Zgodnie z poleceniem prezydenta, GSA zakończyła umowę Anthropikiem, kończąc ich dostępność dla władzy wykonawczej, ustawodawczej i sądowniczej na podstawie wcześniej negocjowanych przez GSA umów," powiedział Gruenbaum.
Bolesław Breczko z Wyborcza.biz pisze, że według obserwatorów, w sporze między Anthropic a administracją Donalda Trumpa może wcale nie chodzić o konkretne sformułowania w umowach. Szefostwo Anthropika od początku drugiej tury Donalda Trumpa jest z nim w sporze. Jako jedyna z firm AI nie wsparła go znacznie finansowo. Elon Musk wydał na kampanię Trumpa ok. 250 mln dolarów. Z kolei Greg Brockman, prezydent OpenAI, wpłacił na wspierający go komitet 25 mln dolarów. Tymczasem Anthropic zatrudnił czołowych doradców pracujących dla Joe Bidena i od początku krytykuje decyzje Trumpa dotyczące polityki wokół sztucznej inteligencji.
