Open AI: Nowy agent w ChatGPT może pomóc w stworzeniu broni biologicznej

Nowy agent w ChatGPT. Premiera OpenAI

Najnowszy agent AI w ChatGPT zaprezentowany przez OpenAI prezentuje szeroki wachlarz możliwości. Narzędzie zostało zaprojektowane do automatyzacji codziennych zadań, ale specjaliści od bezpieczeństwa odkryli, że model ten może również potencjalnie pomóc nowicjuszom w tworzeniu zagrożeń biologicznych czy chemicznych. Jak podaje portal android.com, agent może autonomicznie przeglądać internet, prowadzić zaawansowane badania, pobierać i tworzyć pliki dla użytkowników, wykorzystując własny wirtualny komputer. Pod agenta użytkownik może też podłączyć takie aplikacje jak Gmail i GitHub, aby ten mógł znaleźć istotne informacje w odpowiedzi na polecenia.

OpenAI ostrzega: Wysoki potencjał w zakresie ryzyka biologicznego

"Najnowszy produkt OpenAI może ułatwić użytkownikom automatyczne gromadzenie danych, tworzenie arkuszy kalkulacyjnych, rezerwowanie podróży, przygotowywanie prezentacji, a być może nawet zbudowanie broni biologicznej" - pisze "Fortune". Jak podkreślono, to pierwszy produkt, który OpenAI sklasyfikował jako produkt o "wysokim" potencjale w zakresie ryzyka biologicznego. "Niektórzy mogą uważać, że ryzyko biologiczne nie istnieje, a modele dostarczają jedynie informacji, które można znaleźć w wyszukiwarce. Mogło to być prawdą w 2024 roku, ale zdecydowanie nie jest prawdą dzisiaj. Na podstawie naszych ocen i ocen naszych ekspertów, ryzyko jest bardzo realne" - napisał w mediach społecznościowych Boaz Barak, członek zespołu technicznego OpenAI. Jak dodał, W przeciwieństwie do zagrożeń nuklearnych i radiologicznych, pozyskiwanie materiałów, które mogą być wykorzystane do tworzenia zagrożeń biologicznych, "stanowi mniejszą barierę".

Zobacz wideo Wielkie korporacje chciały przemycić ustawę pozwalającą im szpiegować ludzi dzięki AI

Dodatkowe zabezpieczenia dla nowego agenta programu ChatGPT

Przedstawiciele OpenAI stwierdzili, że zaklasyfikowanie tego modelu jako obarczonego wysokim ryzykiem związanym z niewłaściwym wykorzystaniem go np. w celu stworzenia zagrożenia biologicznego czy chemicznego, było "podejściem ostrożnościowym" i spowodowało konieczność wprowadzenia dodatkowych zabezpieczeń dla tego narzędzia. Obejmują one m.in. odrzucanie przez nowego agenta programu ChatGPT Agent zapytań, które potencjalnie mogłyby pomóc komuś w stworzeniu broni biologicznej, blokowanie ryzykownych treści, "szybsze reagowanie na problemy oraz solidny monitoring pod kątem oznak nadużyć".

"Zintensyfikowanie testów bezpieczeństwa"

"Chociaż nie możemy z całą pewnością stwierdzić, że model ten może umożliwić nowicjuszowi wyrządzenie poważnych szkód związanych z bronią biologiczną, uważam, że opublikowanie go bez kompleksowych środków zaradczych, takich jak te, które wdrożyliśmy, byłoby głęboko nieodpowiedzialne" - dodał Boaz Barak. "Fortune" podkreśla, że firma jest coraz bardziej zaniepokojona potencjalnym nadużywaniem modeli AI do rozwoju broni biologicznej. W poście na blogu opublikowanym w zeszłym miesiącu "OpenAI ogłosiło zintensyfikowanie testów bezpieczeństwa, aby zmniejszyć ryzyko wykorzystania swoich modeli do wspomagania tworzenia broni biologicznej" - podaje "Fortune".