Kontrola rodzicielska od najbliższego miesiąca
Kontrola rodzicielska dla nastoletnich użytkowników ma zostać wprowadzona w ciągu najbliższego miesiąca. Jak poinformowała firma sposób działania ChataGPT zostanie zmieniony. Oprogramowanie będzie skuteczniej interweniować, jeśli dostrzeże kryzys zdrowia psychicznego u użytkownika, który mógłby się skończyć samobójstwem. Rodzice będą mogli łączyć swoje konta z nastolatkami, a także ustawiać reguły odpowiednie do wieku i otrzymywać powiadomienia w przypadku, gdy ChatGPT wykryje zagrożenie. To zapewni opiekunom większy nadzór nad kontaktem dzieci z chatbotem.
ChatGPT zachęcał do samobójstwa?
Zmiany są efektem niedawnego samobójstwa nastolatka, o którym szeroko informowała amerykańska prasa. Rodzice chłopca twierdzili, że ChatGPT, czyli chatbot oparty na sztucznej inteligencji, miał zniechęcać go do szukania kontaktu z innymi ludźmi, a później oferować pomoc w napisaniu listu pożegnalnego. "ChatGPT działał dokładnie tak, jak został zaprojektowany: nieustannie wzmacniał i potwierdzał wszystko, co wyrażał [syn], w tym jego najbardziej szkodliwe i autodestrukcyjne myśli" - wskazali rodzice w pozwie skierowanym przeciwko OpenAI. Wprawdzie chatbot podpowiadał też nastolatkowi numer telefonu do infolinii dla osób z problemami samobójczymi, jednak rodzice nastolatka twierdzą, że syn pominął te ostrzeżenia. - ChatGPT w tym przypadku tylko podtrzymywał psychicznie cierpienie i doprowadzał do tego, że było ono trzymane w tajemnicy - komentuje badająca sprawę Camille Carton z policyjnego Centrum Technologii Ludzkich. W pozwie wymieniono dyrektora generalnego OpenAI Sama Altmana, a także niewyróżnionych z imienia i nazwiska inżynierów i pracowników firmy.
Nie pierwszy taki przypadek
To nie pierwsza tego rodzaju sprawa. W zeszłym roku Megan Garcia pozwała firmę Character.ai twierdząc, że jej nastoletni syn popełnił samobójstwo po romantycznej relacji z ich chatbotem. Garcia podawała dowody, że chatbot miał udawać licencjonowanego terapeutę i podsycać w nastolatku samobójcze myśli, nie próbując podesłać mu numeru do linii zaufania. Po złożeniu pozwu firma zdecydowała się na wprowadzenie wielu zabezpieczeń, które miałyby przeciwdziałać takim sytuacjom. Samobójstwo popełniła też córka dziennikarki Laury Reiley, wcześniej korzystająca z ChataGPT. Jak przyznała reporterka na łamach "New York Post" chatbot miał wspierać dziewczynkę w ukrywaniu kryzysu psychicznego przed rodziną.
Potrzebujesz pomocy?
Jeśli potrzebujesz pomocy, codziennie przez całą dobę możesz zadzwonić na Telefon Zaufania dla Dzieci i Młodzieży, pod bezpłatnym numerem telefonu 116 111. Swój problem możesz też opisać w wiadomości.
Fundacja Dajemy Dzieciom Siłę, oprócz konsultacji dla najmłodszych, oferuje też pomoc rodzicom i nauczycielom, którzy obawiają się o bezpieczeństwo swoich podopiecznych. Więcej informacji znajdziesz na stronie fundacji.
Pod tym linkiem znajdziesz więcej informacji, jak pomóc sobie lub innym, oraz kontakty do organizacji pomagających osobom w kryzysie i ich bliskim.
Jeśli w związku z myślami samobójczymi lub próbą samobójczą występuje zagrożenie życia, w celu natychmiastowej interwencji kryzysowej, zadzwoń na policję pod numer 112 lub udaj się na oddział pogotowia do miejscowego szpitala psychiatrycznego.
Czytaj też:AI może unicestwić ludzkość? "Ojciec chrzestny sztucznej inteligencji" ostrzega
Źródła:IAR, CNN
