Algorytm Google zaliczył wpadkę. Podpisał zdjęcie w obraźliwy sposób [AKTUALIZACJA]

Kilka tygodni temu Google udostępnił nową wersję aplikacji Google Photos. Jedną z jej zalet jest automatyczne rozpoznawanie obiektów i miejsc. Niestety mechanizm nie działa idealnie. Można by przejść nad tym do porządku dziennego, ale chyba nie w tym wypadku.

Aktualizacja

Otrzymaliśmy oficjalny komentarz Google w sprawie błędnego działania algrorytmu.

"Jesteśmy wstrząśnięci i bardzo nam przykro, że tak się stało. Podjęliśmy natychmiastowe działania, by zapobiec tego typu rezultatom w przyszłości. Jest jeszcze dużo do zrobienia jeśli chodzi o automatyczne etykietowanie obrazów i pracujemy nad tym by te mechanizmy działały coraz sprawniej i tego typu pomyłki nie miały miejsca."

***

Google Photos to jedna z najważniejszych aplikacji Google, zaprezentowana w nowej wersji podczas tegorocznej konferencji Google I/O. Wśród wielu nowych i ciekawych funkcji znalazło się automatyczne rozpoznawanie przedmiotów, ludzi, miejsc. Z nową aplikacją możemy wyszukać w naszych fotografiach drzewa, samochody, plaże - system sam odnajdzie zdjęcia, na których te obiekty występują.

W ten sam sposób działa system rozpoznania twarzy. Google potrafi więc błyskawicznie wyszukać wszystkie zdjęcia, na których jesteśmy - nawet jeśli ich tak nie podpisaliśmy.

Błąd algorytmu

Automatyczne indeksowanie zdjęć nie działa jednak idealnie. Można to zrozumieć i zaakceptować - sztuczna inteligencja nie jest doskonała. Błąd, który przydarzył się oprogramowaniu Google mógłby jednak zostać uznany za obraźliwy. Google Photos zaindeksowało zdjęcie na którym znajdują się dwie czarnoskóre osoby pod hasłem "Gorillas".

Przedstawiciele Google, jak informuje Wall Street Journal, już przeprosili i zapowiedzieli, że postarają się, by takie sytuacje już nie miały miejsca. Mało tego, Google skontaktowało się z mężczyzną, poprosiło o zgodę na dokładniejsze przeanalizowanie jego danych. Po godzinie firma opublikowała uaktualnienie. Niestety następnego dnia okazało się, że dwa kolejne zdjęcia nadal oznaczone są jako "Gorillas".

Google działa

Google postanowił zrezygnować z używania słów "Gorilla" i "Gorillas" jako kategorii, według której segregowane są zdjęcia. Problem błahy z punktu widzenia maszyny okazał się jednym z najważniejszych do rozwiązania. Firma postanowiła dopracować zarówno system rozpoznawania twarzy, jak i system indeksowania.

Sztuczna inteligencja nie jest "złośliwa", a jedynie zbyt mało wrażliwa na kwestie społeczne i emocjonalne. Miejmy nadzieję, że rozpoznawanie zdjęć zostanie wkrótce jeszcze bardziej udoskonalone.

Więcej o: