Zwolniono 450 niebezpiecznych więźniów, bo tak zadecydował komputer.

W Kalifornii przez 7 miesięcy sukcesywnie zwalniano niebezpiecznych więźniów polegając na typach komputera. W sumie, na wyroki w zawieszeniu, bez nadzoru kuratorskiego zamieniono kary aż 450 więźniom oznaczonym jako "high risk for violence", czyli wykazującym wyraźne skłonności do agresji.

Paradoksalnie sprawa wypłynęła kilka dni po opublikowaniu opinii Sądu Najwyższego USA, który wskazał, że kalifornijskie więzienia stanowe - w których osadzono ponad 143 tysiące osób - są dramatycznie przepełnione i należy zredukować liczbę osadzonych aż o 33 tysiące.

Pomysł, który realizowano był prosty - skazanym za drobne przestępstwa zawiesić wyroki, a pozostawić tylko niebezpiecznych osadzonych. W tym celu postanowiono posłużyć się programem komputerowym, który wskazywał konkretnych osadzonych, spełniających kryteria.

Niestety, operatorzy systemu nie dostrzegli, że aplikacja nie ma dostępu do całości danych i jako kandydatów do zawieszenia typuje także osoby, które wcześniej dopuszczały się brutalnych napaści, przestępstw na tle seksualnym, oraz wskazujących skłonności do tak zwanej recydywy, które z definicji były wyłączone z programu. Tym ostatnim zawieszono aż około 1000 wyroków, jak informuje generalny inspektor stanu Kalifornia, który wykazał nieprawidłowości w procedurze. Łącznie, w próbie, którą analizowano, granica błędnej decyzji o zwolnieniu wynosiła aż 15% zawieszeń.

Niestety, w związku z brakiem dostatecznej ilości danych komputer nie zalecił nawet dozoru kuratorskiego wobec zwalnianych. W ten oto sposób, w przeciągu ponad pół roku na ulice kalifornijskich miast wróciło około półtora tysiąca potencjalnie niebezpiecznych skazanych, którzy dostali się tam, jak mówią władze więziennictwa "przez błąd komputera". Być może jednak chodziło nie o błąd aplikacji a zbytnie zawierzenie w nieomylność maszyny, która przecież, teoretycznie, powinna doskonale analizować dostępne dane... i która, jak wierzymy, z pewnością tak właśnie czyniła. Zawinił, jak zwykle, człowiek, nie dopilnowawszy wszystkich szczegółów, w tym przypadku, na przykład dopięcia do wszystkich baz danych.

Co więcej, jak informuje Los Angeles Times, władze stanu nie robią nic aby przywrócić kontrolę nad zwolnionymi z zakładów skazanymi. Być może więc jednak wypuszczenie na wolność tak licznej grupy niewłaściwych osób wcale nie było błędem?

Jak się okazuje, zrzucenie winy na błędnie działające maszyny obnażyło kolejny problem ojczyzny Doliny Krzemowej, miejsca w którym na świat przychodzą cyfrowe cuda. Na jaw wyszło, że prawie połowa z 16 milionów wpisów w rejestrze zatrzymań jest w różnym stopniu niekompletna i nie zawiera informacji o wyrokach.

Więcej o:
Komentarze (16)
Zwolniono 450 niebezpiecznych więźniów, bo tak zadecydował komputer.
Zaloguj się
  • naprawdetrzezwy

    Oceniono 2 razy 2

    Tylko idiota może napisać, że to błąd komputera.

    Bo w treści wyraźnie zeznano, że to błąd człowieka.
    Więc pozdrawiamy redakcję Gazety...
    ;>>>

  • nighthawk00

    Oceniono 2 razy 2

    komputer nie myli sie nigdy... zawsze winien jest czlowiek.. tu tez

  • tpepe

    Oceniono 2 razy 2

    Nawet jeśli teoretycznie możliwe jest, że zawiodą mechanizmy kontroli błędu np. pamięci, już w czasach w których przekłamania w elektronice były znacznie częstsze, tzw. "błąd komputera" był zawsze tak na prawdę błędem człowieka: operatora, programisty, projektanta oprogramowania czy wręcz urzędnika, który gdzieś nie wprowadził jakiś danych. Nie zwalać na komputer. (Choć rzeczywiście, przy elektronicznym przetwarzaniu danych błędy propagują się szybciej niż przy przekładaniu papierzysków).

  • 2berber

    Oceniono 1 raz 1

    Błędy komputerów da się naprawić. Błędy naszych prokuratorów oraz sędziów są stateczne, przynoszą szkody i nie da się ich naprawić.

  • naprawdetrzezwy

    Oceniono 1 raz 1

    @3ali
    "Jak zwykle problemem leży między klawiaturą a monitorem."

    Jeśli powtarzasz dowcipy, to najpierw musisz je zrozumieć.
    Między monitorem a klawiaturą nie ma specjalnie wiele miejsca, czy przyczyn błędów.
    Te powstają między klawiaturą, a oparciem krzesła.
    Jak w twoim przypadku...
    ;>

  • waldemar591

    Oceniono 1 raz 1

    Jak mi kiedyś ZUS naliczył 3-krotnie zawyżoną stawkę ubezpieczeniową i odwoływałem się ponad rok, tłumaczenie było identyczne: "komputer SIĘ pomylił" ... a nie jakaś biurwa tenże komputer obsługująca.

  • d1ler

    Oceniono 1 raz 1

    A wystarczyłoby wstępnie "posortować" komputerem, a potem "ręcznie" sprawdzić, czy wytypowani faktycznie spełniają wszystkie warunki. Niestety, traktujemy maszyny jak żywe stworzenia, w dodatku o wiele mądrzejsze od nas, niemal wszechwładne. Mój ulubiony przykład, to mityczny "system".

    - Czy mógłbym ratę płacić do 10, zamiast do 1?
    - Nie ma takiej możliwości, tak ustala system.

    - Czy możemy ustalić okres rozliczeniowy do 15 każdego miesiąca, zamiast do 17?
    - Nie da się, system nie pozwala.

    A przypadkiem tego systemu nie projektował człowiek?

  • 3ali

    Oceniono 1 raz 1

    Od czasów wczesnych procesorów Pentium komputery nie popełniają błędów. Jak zwykle problemem leży między klawiaturą a monitorem.

  • second.majster

    0

    Ciekawa sprawa, wg mnie ten cały błąd to kwestia dostępu do części danych dzięki ograniczeniom praw a paradoksalnie ich ochroną z drugiej. Sprawa algorytmu też nie jest zupełnie drugorzędna. Projekt bazy opiera się na części informacji zawsze, po części można było takich sytuacji uniknąć. Za to, można teraz pięknie system zasilić informacją co z tymi ludźmi dzieje się dalej. Zawsze można błąd wykorzystać jakoś.

Aby ocenić zaloguj się lub zarejestrujX