"Ojciec chrzestny sztucznej inteligencji" ostrzega
Geoffrey Hinton znany jest ze swojej pionierskiej pracy nad sieciami neuronowymi, która pomogła utorować drogę do dzisiejszego boomu AI. "W 2023 roku zrezygnował z pracy w Google i zaczął mówić o zagrożeniach związanych ze sztuczną inteligencją" - podkreśla CNN. Ten informatyk i laureat Nagrody Nobla ostrzegał już wcześniej, że istnieje od 10 do 20 proc. szans na to, że sztuczna inteligencja wyprze ludzi.
Hinton: To nie zadziała
Kilka dni temu Hinton wyraził wątpliwości co do tego, w jaki sposób firmy technologiczne starają się zapewnić ludziom "dominację" nad systemami sztucznej inteligencji. - To nie zadziała. Będą o wiele mądrzejsi od nas. Będą mieli mnóstwo sposobów, żeby to obejść - powiedział na Ai4, konferencji branżowej w Las Vegas. Hinton ostrzegał, że w przyszłości AI "będą mogły kontrolować ludzi z taką łatwością, z jaką dorosły może przekupić trzylatka cukierkami".
"Instynkt macierzyński" wbudowany w AI?
CNN pisze, że w "tym roku widzieliśmy już przykłady systemów sztucznej inteligencji gotowych oszukiwać, naciągać i kraść, aby osiągnąć swoje cele". Na przykład, "aby uniknąć zastąpienia, jeden z modeli sztucznej inteligencji próbował szantażować inżyniera w związku z romansem, o którym dowiedział się z e-maila". Zamiast zmuszać sztuczną inteligencję do podporządkowania się ludziom, Hinton przedstawił intrygujące rozwiązanie. To wbudowanie "instynktu macierzyńskiego" w modele sztucznej inteligencji, aby "naprawdę troszczyły się o ludzi". Nawet wówczas, gdy technologia stanie się potężniejsza i mądrzejsza od człowieka. Hinton przyznał, że nie do końca jeszcze wiadomo, jak technicznie można tego dokonać, ale liczy na inwencję naukowców.
Superinteligencja od 5 do 20 lat
Jego zdaniem systemy sztucznej inteligencji "bardzo szybko rozwiną dwa podcele, jeśli będą inteligentne: jednym jest utrzymanie się przy życiu, a drugim podcelem uzyskanie większej kontroli". Z kolei Emmett Shear, który przez krótki czas pełnił funkcję tymczasowego dyrektora generalnego OpenAI, powiedział, że nie jest zaskoczony tym, że niektóre systemy AI próbowały szantażować ludzi lub omijać polecenia wyłączenia. - To się ciągle dzieje. To się nie skończy - stwierdził. Wielu ekspertów uważa, że w nadchodzących latach sztuczna inteligencja osiągnie poziom superinteligencji, znany również jako ogólna sztuczna inteligencja, w skrócie AGI. Hinton kiedyś uważał, że osiągnięcie AGI może zająć od 30 do 50 lat, ale teraz uważa, że ten moment nastąpi szybciej. - Rozsądnym terminem jest okres od 5 do 20 lat - dodał.
AI pomoże w medycynie
Choć Hinton wciąż martwi się potencjalnymi problemami związanymi ze sztuczną inteligencją, to jednak ma nadzieję, że technologia ta utoruje drogę do przełomów w medycynie. Jego zdaniem dzięki AI mogą powstać nowe leki, a np. nowotwory "będą leczone znacznie lepiej niż obecnie". Dodał, że sztuczna inteligencja pomoże lekarzom analizować i korelować ogromne ilości danych generowanych np. przez rezonans magnetyczny i tomografię komputerową.
Zobacz także: Na świecie trwa dziś zacięta rywalizacja modeli sztucznej inteligencji. Więcej w tekście pt. "Elon Musk na wojnie z Samem Altmanem. Poszło o AI. 'Masz 3 mln wyświetleń gó*nianego posta, kłamco'".
Źródło: CNN
