Algorytm Google zaliczył wpadkę. Podpisał zdjęcie w obraźliwy sposób [AKTUALIZACJA]

Kilka tygodni temu Google udostępnił nową wersję aplikacji Google Photos. Jedną z jej zalet jest automatyczne rozpoznawanie obiektów i miejsc. Niestety mechanizm nie działa idealnie. Można by przejść nad tym do porządku dziennego, ale chyba nie w tym wypadku.

Aktualizacja

Otrzymaliśmy oficjalny komentarz Google w sprawie błędnego działania algrorytmu.

"Jesteśmy wstrząśnięci i bardzo nam przykro, że tak się stało. Podjęliśmy natychmiastowe działania, by zapobiec tego typu rezultatom w przyszłości. Jest jeszcze dużo do zrobienia jeśli chodzi o automatyczne etykietowanie obrazów i pracujemy nad tym by te mechanizmy działały coraz sprawniej i tego typu pomyłki nie miały miejsca."

***

Google Photos to jedna z najważniejszych aplikacji Google, zaprezentowana w nowej wersji podczas tegorocznej konferencji Google I/O. Wśród wielu nowych i ciekawych funkcji znalazło się automatyczne rozpoznawanie przedmiotów, ludzi, miejsc. Z nową aplikacją możemy wyszukać w naszych fotografiach drzewa, samochody, plaże - system sam odnajdzie zdjęcia, na których te obiekty występują.

W ten sam sposób działa system rozpoznania twarzy. Google potrafi więc błyskawicznie wyszukać wszystkie zdjęcia, na których jesteśmy - nawet jeśli ich tak nie podpisaliśmy.

Błąd algorytmu

Automatyczne indeksowanie zdjęć nie działa jednak idealnie. Można to zrozumieć i zaakceptować - sztuczna inteligencja nie jest doskonała. Błąd, który przydarzył się oprogramowaniu Google mógłby jednak zostać uznany za obraźliwy. Google Photos zaindeksowało zdjęcie na którym znajdują się dwie czarnoskóre osoby pod hasłem "Gorillas".

Przedstawiciele Google, jak informuje Wall Street Journal, już przeprosili i zapowiedzieli, że postarają się, by takie sytuacje już nie miały miejsca. Mało tego, Google skontaktowało się z mężczyzną, poprosiło o zgodę na dokładniejsze przeanalizowanie jego danych. Po godzinie firma opublikowała uaktualnienie. Niestety następnego dnia okazało się, że dwa kolejne zdjęcia nadal oznaczone są jako "Gorillas".

Google działa

Google postanowił zrezygnować z używania słów "Gorilla" i "Gorillas" jako kategorii, według której segregowane są zdjęcia. Problem błahy z punktu widzenia maszyny okazał się jednym z najważniejszych do rozwiązania. Firma postanowiła dopracować zarówno system rozpoznawania twarzy, jak i system indeksowania.

Sztuczna inteligencja nie jest "złośliwa", a jedynie zbyt mało wrażliwa na kwestie społeczne i emocjonalne. Miejmy nadzieję, że rozpoznawanie zdjęć zostanie wkrótce jeszcze bardziej udoskonalone.

Więcej o:
Komentarze (26)
Algorytm Google zaliczył wpadkę. Podpisał zdjęcie w obraźliwy sposób [AKTUALIZACJA]
Zaloguj się
  • cholonek

    Oceniono 95 razy 79

    jeśli politycy będą podpisywani "pricks" i "cunts" to ja się nie zamierzam obrażać.

  • man-o-war-pl

    Oceniono 71 razy 63

    dziennikarz gazety uznal ta kobiete za mezczyzne. teraz w tekscie jest mowa o "dwoch czarnoskórych osobach" a jeszcze rano byli to "czarnoskorzy mezczyzni". trudno miec pretensje do komputera skoro nawet czlowiek robiacy praktyki w gazeta.pl ma problem z prawidlowa klasyfikacja

  • 1kom1

    Oceniono 32 razy 32

    usuwanie hasła gorilla(s) nic nie da bo jak goolowi podstawi się zdjęcie goryla to co napisze - afroamerican albo afroeuropean ..., i co, będzie już dobrze?

  • dr_bloger

    Oceniono 32 razy 28

    Gdyby pomyłka dotyczyła białych ludzi, nie byłoby tyle szumu. Sorry, komputery nie znają poprawności politycznej.

  • Paweł Cichocki

    Oceniono 44 razy 26

    >>Sztuczna inteligencja nie jest "złośliwa", a jedynie zbyt mało wrażliwa na kwestie społeczne i emocjonalne.<<
    Oczywiście, że nie jest złośliwa. Ale też inteligencja, nawet sztuczna nie ma NIC wspólnego z wrażliwością i emocjami.
    W tym przypadku zabrakło inwencji w zespole dbającym o prawidłową ocenę wyników nauki algorytmów. Za chwilę może się okazać, że Arabowie są myleni z długonosami (taki gatunek małpy).
    Wydaje się, że algorytmy głębokiego uczenia, o których mowa w tym artykule należało by dokształcić w kwestii odróżniania przedstawicieli naszego gatunku od inny krewnych z rodziny naczelnych. To rozwiąże problem i nie trzeba będzie dodawać im gorsetu politycznej poprawności.

  • invest_pl

    Oceniono 26 razy 24

    Sorry Buddy, Her Majesty Google said you both were gorillas - not only your girlfriend... :))))

  • koszalek1963

    Oceniono 19 razy 19

    A goryla też przeprosili? Swoją drogą, to ta Afroamerykanka faktycznie ma małpie rysy twarzy i nie ma co się dziwić, że komputer dał się oszukać. Gdzieś mam poprawność polityczną i rasową, więc piszę, jakie jest moje faktyczne odczucie.

  • cezar85

    Oceniono 23 razy 17

    a mówili, że google wie wszystko

    mój świat runął

Aby ocenić zaloguj się lub zarejestrujX