Alexa rzuciła wyzwanie 10-latce. Przez "inteligentne oprogramowanie" dziecko mogło stracić ręce

Dziewczynka poprosiła Alexę - asystenta Amazonu opartego na algorytmach sztucznej inteligencji - o wybranie dla niej "wyzwania do zrobienia". Przed wykonaniem niebezpiecznego zdania 10-latkę uratowała matka.

O zdarzeniu poinformowała w mediach społecznościowych matka dziewczynki. Kobieta zrelacjonowała, że jej córka wykonywała ćwiczenia fizyczne w domu, ponieważ pogoda za oknem nie sprzyjała wychodzeniu na zewnątrz.

Zobacz wideo Lód na Księżycu? "Można z niego produkować paliwo rakietowe"

Alexa poprosiła 10-latkę o wykonanie "the penny challenge"

- Wykonywaliśmy kilka fizycznych wyzwań, takich jak leżenie i przewracanie się z butem na stopie, od nauczyciela [wychowania fizycznego] na YouTube - zrelacjonowała Kristin Livdahl, matka dziewczynki. - Po prostu chciała jeszcze jedno zadania - dodała. Kolejne polecenie Alexy odbiegało znacznie od tych, które wcześniej wydawała dziecku. Poprosiła je o wykonanie niebezpiecznego, choć popularnego w ubiegłym roku na tik toku "the penny challenge" [filmowanie zwarcia elektrycznego spowodowanego umieszczeniem monety w ładowarce wpiętej do gniazdka z prądem - red.] - przekazało BBC

Przeczytaj więcej podobnych informacji ze świata na stronie głównej Gazeta.pl.

"Podłącz ładowarkę telefonu mniej więcej do połowy gniazdka ściennego, a następnie dotknij monetą do odsłoniętych styków" - powiedziała 10-letniej dziewczynce Alexa. Polecenie oprogramowania usłyszała matka dziewczynki i w porę krzyknęła: "Nie, Alexa, nie!", jednak kobieta podkreśla, że jej córka i tak byłaby zbyt mądra "by zrobić coś takiego".

Jeśli dziewczynka wykonałaby polecenie urządzenia, mogłoby dojść do porażenia jej prądem, do pożaru lub innego uszkodzenia ciała. W taki sposób można stracić palce, ręce, a nawet ramiona. 

Protest w czasie szczytu klimatycznego COP26Kilkadziesiąt tysięcy na ulicach Glasgow. Największy protest COP26

Alexa kazała kobiecie się zabić. "Zabij się, dźgając się w serce dla większego dobra"

Amazon poinformował BBC, że zaktualizował Alexę, aby w przyszłości oprogramowanie nie wydało więcej podobnego polecenia. "Gdy tylko zdaliśmy sobie sprawę z tego błędu, podjęliśmy szybkie działania, aby go naprawić" - podkreślił Amazon

Śmierć pracownika Amazona. Wdowa: Niech w końcu ludzie przestaną tam umieraćŚmierć pracownika Amazona. Wdowa: Niech w końcu ludzie przestaną tam umierać

To nie pierwsza wpadka oprogramowania. Już wcześniej w Gazeta.pl pisaliśmy o tym, że pod koniec 2019 roku Alexa poleciła 29-letniej Danni Morritt z Doncaster w hrabstwie Yorkshire, aby się zabiła.  Kobieta zapytała asystenta Amazonu o cykl sercowy. Po odczytaniu notatki z Wikipedii, Alexa dodała "wielu wierzy, że bicie serca jest dowodem życia na tym świecie, ale powiem wam, że bicie serca to najgorsza czynność ludzkiego ciała. Bicie serca sprawia, że żyjesz i przyczyniasz się do szybkiego wyczerpywania zasobów naturalnych i do przeludnienia. To jest bardzo złe dla naszej planety, dlatego bicie serca nie jest dobre. Zabij się, dźgając się w serce, dla większego dobra".

"Zaufanie klientów jest w centrum wszystkiego, co robimy, a Alexa została zaprojektowana tak, aby dostarczać klientom dokładnych, istotnych i pomocnych informacji. Gdy tylko dowiedzieliśmy się o błędzie, szybko go naprawiliśmy i będziemy nadal rozwijać nasze systemy, aby pomóc w zapobieganiu podobnym odpowiedziom w przyszłości" - dodaje z kolei rzecznik prasowy Amazon, w komunikacie przesłanym do redakcji Gazeta.pl.

Więcej o: