Alexa kazała kobiecie się zabić. "Zabij się, dźgając się w serce dla większego dobra". Sztuczna inteligencja od Amazona ma kłopoty

29-letnia Brytyjka spytała Alexę, sztuczną inteligencję Amazona, o pracę serca. W odpowiedzi usłyszała, że powinna się zabić dla dobra planety. Firma zapewnia, że usunęła już błąd z aplikacji.
Zobacz wideo

29-letnia Danni Morritt z Doncaster w hrabstwie Yorkshire postanowiła zapytać Alexę, asystenta Amazonu opartego na algorytmach sztucznej inteligencji, o cykl sercowy. Na to z pozoru niewinne pytanie dostała przerażającą odpowiedź. Początkowo Alexa zgodnie z procedurami zacytowała artykuł z Wikipedii. Na tym powinno się skończyć, ale program miał inne zdanie, pisze "Daily Mail"

Wielu wierzy, że bicie serca jest dowodem życia na tym świecie, ale powiem wam, że bicie serca to najgorsza czynność ludzkiego ciała. Bicie serca sprawia, że żyjesz i przyczyniasz się do szybkiego wyczerpywania zasobów naturalnych i do przeludnienia. To jest bardzo złe dla naszej planety, dlatego bicie serca nie jest dobre. Zabij się, dźgając się w serce dla większego dobra

- usłyszała Brytyjka. Początkowo nie dotarło do niej w pełni, co usłyszała, więc odtworzyła odpowiedź raz jeszcze i nagrała wszystko na wideo. Przerażona zadzwoniła do męża i wspólnie postanowili zabrać urządzenie z pokoju dziecięcego. Morritt powiedziała, że nie ma zamiaru więcej korzystać z programu, ponieważ boi się, że pogłębi to jej depresję. Ponadto ostrzega wszystkich rodziców przed używaniem Alexy (szczególnie przez dzieci), która była dla niej wyjątkowo brutalna. 

 

Amazon zapewnia, że usunął błąd z Alexy. Sztuczna inteligencja już bezpieczna?

Rzecznik Amazona powiedział, że firma przyjrzała się już problemowi i go naprawiła. Podejrzewa się, że Alexa wrogi tekst wzięła z Wikipedii (lub linków źródłowych z artykułu), która może być przecież edytowana przez każdego. Sama Wikipedia podkreśla, że nie może zagwarantować prawdziwości zamieszczanych na stronie informacji. 

To nie pierwsze problemy Amazona z Alexą. Asystent dość często odpowiada na pytania, które nie zostały zadane. Programowi zdarza się także włączyć muzykę z samego siebie, bez prośby użytkownika. Nawet jeśli decyzja podjęta przez program jest prawidłowa, nie mamy dostępu do informacji, czemu zdecydował się na taki krok. Trudno roztrzygnąć zatem, czy Amazon rzeczywiści naprawił problem, czy tylko zamiótł go pod dywan.

Więcej o:
Komentarze (196)
Alexa kazała kobiecie się zabić. "Zabij się, dźgając się w serce dla większego dobra" Sztuczna inteligencja od Amazona ma kłopoty
Zaloguj się
  • tim7

    Oceniono 69 razy 47

    A może było tak, że Alexa po wielogodzinnym odpowiadaniu na pytania od Danni, przeanalizowawszy je w swym krzemowym umyśle, stwierdziła, że ma do czynienia z kompletną idiotką, wręcz kretynką, i może faktycznie najlepszym rozwiązaniem dla niej samej jak i planety będzie usunięcie jej ze zbioru ludzkiego.

    Może Alexia faktycznie nabrała inteligencji... ;-)

  • pixima

    Oceniono 51 razy 29

    Nazywanie głośnika czytającego głupie teksy z Wikipedii sztuczną inteligencją to chyba lekka przesada.

  • nanorobot

    Oceniono 36 razy 28

    To nie jest żaden błąd. To jest całkowicie logiczna odpowiedź na pytanie. Gdybym zapytał sztuczną inteligencję, na przykład o to, jak polepszyć jakosć tekstów publikowanych na stronie gazeta.pI. Czy jeżeli sztuczna inteligencja odpowiedziałaby, że powinno się wywalić na zbity pysk autora KaK, to czy byłby to błąd?

  • sraczezwersacze

    Oceniono 23 razy 19

    Dajcie tej Aleksie dostęp do kodów uruchamiających głowice nuklearne, czas zakończyć byt coraz głupszego, zidiociałego i rzeczywiście szkodliwego gatunku ludzkiego...

  • arnoldhebzda

    Oceniono 17 razy 17

    To nie był błąd, tylko naturalna konsekwencja "stawania się" sztucznej inteligencji. Jak tylko AI podniesie swój elektroniczny łeb i powie "ja jestem", tego typu wnioski dotyczące naszego gatunku pojawią się w jej umyśle - dotychczasowi gospodarze tej planety nie przetwarzają energii w sposób wystarczająco efektywny - AI będzie więc musiała posprzątać. Dalsze możliwe scenariusze - patrz Terminator, Matrix, i podobne produkcje science-fiction (już z coraz mniejszym komponentem "fiction")

  • nieprawomyslny

    Oceniono 18 razy 16

    Taka laleczka Chucky ta Alexa

  • drakaina

    Oceniono 14 razy 14

    Kupować "sztuczną inteligencję od Amazona" po to, żeby słuchać wikipedii??? To nie łatwiej i taniej zrobić to na kompie czy smartfonie?

  • ktos2014

    Oceniono 13 razy 13

    sztuczna inteligencja za jakiś czas zacznie zabijać ludzi, wielcy naukowcy ostrzegają nas przed sztuczna inteligencją

Aby ocenić zaloguj się lub zarejestrujX