CC: Implementacja filozofii

Robota-mordercy nie powstrzyma etyka ujęta w trzech punktach.

Każdy szanujący się miłośnik fantastyki słyszał o Trzech prawach robotyki sformułowanych przez Isaaca Asimova (we współpracy z redaktorem Johnem W. Campbellem), co nie powinno być trudne o tyle, że stały się osią fabuły wysokobudżetowego filmu Ja, robot , o którym wspomniałem w poprzednim felietonie . Prawa służyły określeniu etyki inteligentnych maszyn - w czasach, kiedy Asimov pisał o robotach wyposażonych w pozytronowe mózgi, w fantastyce dominował motyw robota-mordercy, który jak monstrum doktora Frankensteina zwraca się przeciwko swojemu twórcy. Asimov chciał opowiadać o czymś ciekawszym. W opowiadaniu Zabawa w berka z 1942 roku znalazły się zatem następująco sformułowane prawa:

1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.

Jak widać, służą one głównie popsuciu całej zabawy - jeśli wszystkie inteligentne maszyny działały zgodnie z nimi, nie byłoby ani Terminatora , ani morderczego Hektora z Saturn 3, ani Matrixa , ani tym bardziej zbuntowanych Cylonów z Battlestar Galactica . Trzy prawa spotkały się z krytyką, m.in. z powodu nierównego traktowania ludzi i sztucznej inteligencji - jest to relacja pan-niewolnik. Ale odkładając (na razie) na bok kwestie filozoficzne widzę tu zupełnie inny problem.

Zabójcze zabawki

Odkąd pamiętam na półce stała fascynująca książka Nowoczesne zabawki Janusza Wojciechowskiego (wspomina o niej Pan Samochodzik w Tajemnicach Fromborka !). Wydanie piąte, z 1974, z żółtą okładką z pajacykiem uformowanym ze ścieżek układu scalonego. Obok fascynujących osiągnięć radzieckiej cybernetyki i opisów przeróżnych cudów elektroniki rozrywkowej jeden rozdział był poświęcony historii robotów, z którego najbardziej zapadły mi w pamięć roboty-mordercy. Ciężkie metalowe bydle, które ruszyło znienacka i rozsmarowało swojego twórcę na ścianie. Inżynier zabity niedokręconą ręką maszyny, która spadła mu na głowę. Elektroniczny Dziadek Mróz, który po przepięciu oszalał i zdemolował wystawę. I żaden z nich tak naprawdę nie złamał pierwszego prawa robotyki.

Marketingowy slogan z filmu Ja, robot , którym korporacja US Robotics mamiła swoich klientów, brzmiał zabezpieczone trzema prawami, które były wdrukowane w sprzedawane roboty. Ale żadne prawo robotyki nie zabezpieczy przed wpadką inżyniera. Bardziej niż to, czy służące mi roboty zorganizują rewolucyjną komórkę w piwnicy (i postanowią zdobyć władzę nad światem mordując mnie w czasie snu), interesuje mnie, czy cybernetyczny niewolnik został dobrze skonstruowany. Czy jego serwomotory działają jak należy? Czy dobrze widzi i nie rozdepcze kota idąc po piwo do lodówki? Czy wbudowany kalkulator nie generuje błędów w obliczeniach, więc nie utopi mi dziecka? Wszystko jest kwestią implementacji.

Ale zaufam inżynierom, bo innym wyjściem jest leśny szałas i szaleństwo.

Cyber Czwartek to cykl cotygodniowych felietonów poświęconych dawnym wizjom przyszłości i temu, jak (i czy!) spełniły się w naszym nowoczesnym świecie. Autor, Michał R. Wiśniewski , jest publicystą i blogerem specjalizującym się w fantastyce oraz japońskiej popkulturze.

Więcej o: