Jak dziala umysl - Steven Pinker.pdf

Dla Ilavenil

JAK DZIAŁA UMYSŁ Z angielskiego przełożyła Małgorzata Koraszewska 4 Książka i Wiedza

Tytuł oryginału: „How the Mind Works” Okładkę i strony tytułowe projektował Jerzy ROZWADOWSKI Konsultacja dr Tomasz KOMENDZIŃSKI Redaktor Leszek OTRĘBSKI Redaktor techniczny Hanna TODA Korekta Zespół Copyright © 1997 by Steven Pinker Wszelkie prawa zastrzeżone © Copyright for the Polish edition by „Książka i W iedza”, Warszawa 2002 Obj. ark. druk. 41 Druk i oprawa: Drukarnia Wydawnicza im. W. L. Anczyca SA w Krakowie, ul. Wrocławska. 5 3 __ ___ Trzynaście tysięcy pięćset osiemdziesiąta ósma publikacja „K iW ” ISBN 83-05-13208-0

Spis treści Przedmowa I I 1 • Standardowe wyposażenie / I I 2 • Myślące maszyny / 71 3 • Zemsta kujonów / 164 4 • Oko wyobraźni / 232 5 • Dobre pomysły / 325 6 • Szaleńcy / 393 7 • Wartości rodzinne / 460 8 • Sens życia / 563 Przypisy / 610 Bibliografia / 628

Przedmowa Książka zatytułowana Jak działa umysł powinna się zaczynać nutą pokory, za­ cznę więc dwiema. Po pierwsze, nie rozumiemy, jak działa umysł - bez porównania lepiej ro­ zumiemy funkcjonowanie organizmu, a zdecydowanie zbyt mało wiemy o umy­ śle, by projektować utopię czy leczyć zgryzotę. Skąd więc ten zuchwały tytuł? Lingwista Noam Chomsky powiedział kiedyś, że naszą niewiedzę można po­ dzielić na problemy i misteria. Kiedy stajemy przed problemem, możemy nie znać jego rozwiązania, ale mamy jakieś przeczucie, wzrastającą wiedzę i przypuszczenie dotyczące tego, czego szukamy. Gdy natomiast mamy do czynienia z misterium, możemy tylko patrzeć zdumieni i oszołomieni, nie wie­ dząc nawet, jak mogłoby wyglądać wyjaśnienie. Napisałem tę książkę, po­ nieważ dziesiątki misteriów umysłu, od wyobrażeń wzrokowych do miłości, awansowały ostatnio do rangi problemów (chociaż misteriów nadal nie brak!). Każda myśl w tej książce może okazać się błędna, ale już to będzie postępem, ponieważ nasze stare idee były tak jałowe, że nawet nie były błędne. Po drugie, to nie ja odkryłem, co faktycznie wiemy o działaniu umysłu. Wśród przedstawionych na następnych stronach idei niewiele jest moich wła­ snych. Z licznych dyscyplin naukowych wybierałem teorie, które - jak mi się zdaje - starają się wniknąć w nasze myśli i uczucia, są zgodne z faktami i zapo­ wiadają nowe odkrycia, odznaczają się też klarownością treści i stylu. Postawi­ łem sobie za cel zestawienie tych koncepcji w spójny obraz, korzystając z dwóch jeszcze, także nie moich, szerszych idei: komputacyjnej teorii umysłu1 i teorii doboru naturalnego replikatorów. 1 Computational theory of mind przekładana jest czasami jako „obliczeniowa teoria umysłu” bądź „komputaina teoria umysłu” przez powrót do łacińskiego pierwowzoru computo, czyli „racho­ wać, obliczać”. Określenie „obliczeniowa” wydaje się jednak mylące. Ponieważ zaś słowo „kompu­ ter” weszło do języka polskiego, pozostaję przy angłicyzmie „komputacyjna”- przyp. tłum. 7

, W pierwszym rozdziale przedstawiam ogólnie koncepcję, że umysłjest sys­ temem narządów komputacyjnych, stworzonych przez dobór naturalny do roz­ w ią zy w a n ia problemów,jakie napotykali nasi ewolucyjni przodkowie w swoim iowiecko-zbierackim życiu. Obu koncepcjom - komputacji i ewolucji - poświę­ cam odrębny rozdział. Główne zdolności naszego umysłu analizuję w rozdzia­ łach o postrzeganiu, rozumowaniu, emocjach i stosunkach społecznych (rodzi­ na, kochankowie, rywale, przyjaciele, znajomi, sojusznicy, wrogowie). W koń­ cowym rozdziale omawiam nasze wyższe powołania: sztukę, muzykę, literatu­ rę, poczucie humoru, religię i filozofię. Nie ma rozdziału o języku, ponieważ pisałem o nim w mojej poprzedniej książce The Language Instinct. Ta książka przeznaczonajest dla każdego, kogo interesuje sposób działania umysłu. Nie napisałem jej tylko dla profesorów i studentów, ani też wyłącznie po to, aby „popularyzować naukę”. Mam nadzieję, że zarówno naukowcy, jak i czytelnicy niefachowcy mogą zyskać na tym spojrzeniu na umysł z lotu ptaka. Z tak dużej wysokości nie ma wielkiej różnicy między specjalistą a myślącym laikiem, ponieważ w dzisiejszych czasach my, specjaliści, możemy być tylko laikami w większości naszych własnych dziedzin, nie mówiąc już o pokrew­ nych. Nie przedstawiam wyczerpującego przeglądu literatury ani wszystkich poglądów prezentowanych w poszczególnych debatach, ponieważ wówczas książka byłaby tak obszerna, że nie dałoby się jej czytać, a nawet podnieść. Moje wnioski wypływają z oceny zbieżności dowodów z różnych dziedzin, ze­ branych za pomocą różnych metod naukowych - podałem szczegółowe źródła, żeby czytelnicy sami mogli je prześledzić. Mam intelektualny dług wobec wielu nauczycieli, studentów i kolegów, ale największy wobec Johna Tooby’ego i Ledy Cosmides. Wypracowana przez nich synteza ewolucji i psychologii umożliwiła powstanie tej książki. Oni także są autorami wielu teorii, które tu przedstawiam (jak też wielu najlepszych dowci­ pów). Zapraszając mnie na rok do Center for Evolutional Psychology (Ośrodek Psychologii Ewolucyjnej) Uniwersytetu Kalifornijskiego w Santa Barbara, zapew­ nili mi idealne warunki do myślenia i pisania oraz ofiarowali bezgraniczną przy­ jaźń i pomoc. Jestem głęboko wdzięczny Michaelowi Gazzanidze, Marcowi Hauserowi, Davidowi Kemmererowi, Gary’emu Marcusowi, Johnowi Tooby’emu i Margo Wilson za przeczytanie tekstu, nieocenione uwagi krytyczne i wyrazy zachęty. Komentarzy do rozdziałów omawiających dziedziny stanowiące ich specjal­ ność nie szczędzili i inni koledzy: Edward Adelson, Barton Anderson, Simon 8

Baron-Cohen, Ned Błock, Paul Bloom, David Brainard, David Buss, John Con- stable, Leda Cosmides, Helena Cronin, Dan Dennett, David Epstein, Alan Fri- dlund, Gerd Gigerenzer, Judith Harris, Richard Held, Ray Jackendoff, Alex Kacełnik, Stephen Kosslyn, Jack Loomis, Charles Oman, Bernard Sherman, Paul Smolensky, Elisabeth Spelke, Frank Sulloway, Donald Symons i Michael Tarr. Wielu innych odpowiedziało na moje pytania i dało cenne sugestie: Robert Boyd, Donald Brown, Napoleon Chagnon, Martin Dały, Richard Dawkins, Ro­ bert Hadley, James Hillenbrand, Don Hoffman, Kelly Olguin Jaakola, Timothy Ketelaar, Robert Kurzban, Dan Montello, Alex Pentland, Roslyn Pinker, Robert Provine, Whitman Richards, Daniel Schacter, Devendra Singh, Pawan Sinha, Christopher Tyler, Jeremy Wolfe i Robert Wright. Ta książka jest produktem inspirującej atmosfery dwóch instytucji: Massa­ chusetts Institute of Technology (MIT) oraz Uniwersytetu Kalifornijskiego w Santa Barbara (UCSB). Szczególne podziękowania należą się Emilio Bizzi z De­ partment of Brain and Cognitive Sciences (Wydział Nauk o Mózgu i Procesach Poznawczych) w MIT za umożliwienie mi uzyskania rocznego urlopu, oraz Loy Lytle i Aaronowi Ettenbergowi z Wydziału Psychologii, jak też Patricii Clancy i Mariannę Mithun z Wydziału Lingwistyki UCSB za zaproszenie mnie na wy­ kłady na swoje wydziały. Patricia Claffey z Biblioteki Teubera w MIT wie wszystko, a przynajmniej wie, gdzie wszystko znaleźć, co jest równie cenne. Jestem jej wdzięczny, że niestrudzenie odnajdowała najmniej znane materiały, a do tego szybko i z uśmie­ chem. Moja sekretarka o trafnym nazwisku EleanorBonsaint2 z pogodą udzie­ lała mi profesjonalnej pomocy w niezliczonych sprawach. Dziękuję także Ma­ riannę Teuber, Sabrinie Detmar i Jennifer Riddell z List VisualArts Center (Ośro­ dek Sztuki Wizualnej Lista) w MIT za pomoc w projekcie okładki. Moi wydawcy Drakę McFeely (Norton), Howard Boyer (obecnie w Uni- versity of Califoraia Press), Stefan McGrath (Penguin) i Ravi Mirchandani (obec­ nie w Orion) przez cały czas wspierali mnie doskonałymi radami. Jestem także wdzięczny moim agentom Johnowi Brockmanowi i Katince Matson za wysiłek oraz entuzjazm dla naukowych publikacji. Szczególne uznanie należy się Katyi Rice, która w ciągu ostatnich czternastu lat pracowała ze mną nad czterema książkami. Jej analityczne oko i ręka mistrza ulepszyły je i wiele mnie nauczyły o przejrzystości stylu. 2Bon - dobra, saint - święta —przyp■tłum. 9

Serdecznie dziękuję także mojej rodzinie za wyrazy zachęty i sugestie: Harry’emu, Roslyn, Robertowi i Susan Pinker, Martinowi, Evy, Carlowi i Erice Boodman, Saroji Subbiah i Stanowi Adamsowi. Dziękuję także Windsorowi, Wilfredowi i Fionie. Największa wdzięczność należy się mojej żonie Ilavenil Subbiah, która zaprojektowała ilustracje, opatrzyła tekst nieocenionymi komentarzami, służyła nieustanną radą, poparciem i dobrocią, brała też wraz ze mną udział w tej przygo­ dzie. Z miłością i wdzięcznością dedykuję Jej tę książkę. * * >;? Moje badania nad umysłem i językiem finansowały: National Institute of Health (Krajowy Instytut Zdrowia) (grant HD 18381), National Science Foun­ dation (Krajowa Fundacja Naukowa) (granty 82-09540, 85-18774 i 91-09766) oraz McDonnelł-Pew Center for Cognitive Neuroscience (Ośrodek Neurofizjo- logii Poznawczej McDonnell-Pew) w MIT.

1 STANDARDOWE WYPOSAŻENIE i Dlaczego w powieściach jest tak wiele robotów, nie ma ich zaś w życiu? Dużo dałbym, żeby mieć robota, który potrafiłby odstawiać na miejsce naczynia czy f załatwiać drobne sprawy. W tym stuleciu jednak, a pewnie i w następnym, nie j będę miał takiej możliwości. Istnieją oczywiście roboty, które potrafią spawać czy pokrywać lakierem elementy na taśmie produkcyjnej i które przetaczają się po korytarzach laboratoriów; moje pytanie dotyczy jednak maszyn, które cho­ dzą, mówią, widzą i myślą, często lepiej od swoich ludzkich właścicieli. Od 1920 roku, kiedy Kareł Capek ukuł słowo robot w swojej sztuce Uniwersalne | roboty Rossuma, autorzy tworzyli je masowo: Speedy, Cutie i Dave w Ja, Robot Isaaca Asimova, Robbie w Zakazanejplanecie, młócący kanister w Zgubionych i w kosmosie, Dalekowie w Dr Kto, gosposia Rosie w Jetsonach, Nomad w Star ) Trek, Hymie w Get Smart, bezmyślni lokaje i kłótliwi właściciele sklepów pa- i smanteryjnych w Sleeper, R2D2 i C3PO w Gwiezdnych wojnach, Terminator w | Terminatorze, komandor porucznik Data w Star Trek: Następnepokolenie i dow­ cipkujący krytycy filmowi w Mystery Science Theater 3000. To nie jest książka o robotach, lecz o ludzkim umyśle. Spróbuję wyjaśnić, czym jest umysł, skąd się wziął i w jaki sposób pozwala nam widzieć, myśleć, czuć, odnosić się do innych oraz zajmować wyższymi powołaniami, takimi jak sztuka, religia i filozofia. Przy okazji będę próbował rzucić nieco światła na cha­ rakterystycznie ludzkie dziwactwa. Dlaczego wspomnienia blakną? Jak maki­ jaż zmienia wyraz twarzy? Skąd się biorą etniczne stereotypy i dlaczego są irracjonalne? Dlaczego ludzie wybuchają gniewem? Dlaczego dzieci stają się nieznośne? Dlaczego głupcy się zakochują? Co wywołuje śmiech? I dlaczego ludzie wierzą w duchy? 11

Moim punktem wyjścia jest jednak przepaść między robotami w fantazji a robotami w rzeczywistości, ponieważ pokazuje pierwszy krok,jaki musimy zro­ bić, aby poznać samych siebie: docenić fenomenalnie skomplikowaną konstruk­ cję, leżącą u podstaw wyczynów ludzkiego umysłu, które traktujemy jako coś oczywistego. Podobnych do człowieka robotów nie ma nie dlatego, że sama koncepcja mechanicznego umysłu jest błędna. Przyczynąjest to, że inżynieryj­ ne problemy, które my, ludzie, rozwiązujemy, kiedy patrzymy, chodzimy, pla­ nujemy i przeżywamy nasze dni, są znacznie trudniejsze niż lądowanie na Księ­ życu czy rozszyfrowanie ludzkiego genomu. Raz jeszcze przyroda znalazła po­ mysłowe rozwiązania, których inżynierowie na razie nie potrafią skopiować. Kiedy Hamlet powiada: „A człowiek? (...) to arcydzieło - szlachetność rozumu, nieograniczone zdolności, proporcja kształtu, płynność ruchów”1, nie powinni­ śmy się zachwycać Szekspirem, Mozartem, Einsteinem czy Kareemem Abdul- Jabbaraem, ale czterolatkiem, który na naszą prośbę odkłada zabawki na półkę. W dobrze zaprojektowanym układzie części składowe to czarne skrzynki, wykonujące swoje funkcje jakby dzięki magii. To samo dotyczy umysłu. Służy nam on do rozważań nad światem, ale nie potrafi zajrzeć do własnego wnętrza czy innych naszych zdolności, żeby zobaczyć, najakiej zasadzie działają. Dla­ tego też padamy ofiarą iluzji, że nasza psychika pochodzi odjakiejś boskiej siły, tajemniczej istoty czy wszechmocnego źródła. W żydowskiej legendzie o Gole­ mie gliniana figura ożywa, kiedy najej ustach zostaje położona kartka z imie­ niem Boga. Ten pierwowzór odbija się echem w wielu opowieściach o robo­ tach. Wenus ożywia posąg Galatei na prośbę Pigmaliona. Turkusowa wieszczka zamienia drewnianego Pinokia w prawdziwego chłopca. Współczesne wersje archetypu Golema pojawiają się w niektórych mniej niż te bajki fantazyjnych opowieściach naukowych. Mówi się, że całą ludzką psychikę można wyjaśnić jedną wszechmocną przyczyną: dużym mózgiem, kulturą, językiem, życiem w społeczeństwie, uczeniem się, złożonością, samoorganizacją, dynamiką sieci neuronowej. Chciałbym przekonać czytelników, że naszych umysłów nie ożywiaj akieś boskie tchnienie czy jedna wspaniała zasada. Umysł, jak pojazd kosmiczny Apollo, został zaprojektowany do rozwiązywania wielu inżynieryjnych proble­ mów i dlategojest naszpikowany najnowocześniejszymi układami, z których każ­ 1William Shakespeare, Hamlet, przeł. S. Barańczak, Poznań 1990, s. 75. 12

dyjest skonstruowany tak, aby mógł przezwyciężać własne przeszkody. Zacznę od wyłożenia tych problemów, które zarówno stanowią ryzyko przy projektowaniu robotów,jak i są tematykąpsychologii. Wierzę bowiem, że wykrycie przez nauki o procesach poznawczych i badania nad sztuczną inteligencją trudności tech­ nicznych, przezwyciężanych przez naszą przyziemną aktywność umysłową, jest jedną z wielkich rewelacji w nauce, pobudzeniem wyobraźni porównywalnym z odkryciem, że wszechświat składa się z miliardów galaktyk czy że kropla wody ze stawu roi się od mikroskopijnego życia. Wyzwanie robotów Czego potrzeba, by zbudować robota? Pomińmy procesy wymagające nad­ ludzkich możliwości, takiejak obliczanie orbit planet, i zacznijmy od tych zwy­ czajnych: widzenia, chodzenia, chwytania, myślenia o przedmiotach i ludziach oraz planowania działań. W filmach sceny widziane oczyma robota pokazuje się często za pomocą konwencji filmowych, np. przez obiektyw typu rybie oko czy filmowane przez siatkę z nitek. To jest dobre dla nas, widzów, którzy już mamy odpowiednio funkcjonujące oczy i mózgi. Ale w żaden sposób nie pomaga robotowi. Robot nie ma w swoim wnętrzu małych ludzików - homunkulusów - którzy patrzą na obraz i mówią mu, co widzą. Gdybyś mógł spojrzeć oczyma robota na świat, nie wyglądałby jak obraz filmowy pokryty siatką z nitek, ale jak coś takiego: 225 221 216 219 219 214 207 218 219 220 207 155 136 135 213 206 213 223 208 217 223 221 223 216 195 156 141 130 206 217 210 216 224 223 228 230 234 216 207 157 136 132 211 213 221 223 220 222 237 216 219 220 176 149 137 132 221 229 218 230 228 214 213 209 198 224 161 140 133 127 220 219 224 220 219 215 215 206 206 221 159 143 133 131 221 215 211 214 220 218 221 212 218 204 148 141 131 130 214 211 211 218 214 220 226 216 223 209 143 141 141 124 211 208 223 213 216 226 231 230 241 199 153 141 136 125 200 224 219 215 217 224 232 241 240 211 150 139 128 132 204 206 208 205 233 241 241 252 242 192 151 141 133 130 200 205 201 216 232 248 255 246 231 210 149 141 132 126 191 194 209 238 245 255 249 235 238 197 146 139 130 132 189 199 200 227 239 237 235 236 247 192 145 142 124 133 198 196 209 211 210 215 236 240 232 177 142 137 135 124 13

198 203 205 208 211 22^ 226 240 210 160 -139 132 1-9 130 216 209 214 220 210 .231 245 219 169 143 148 129 128 136 211 210 217 218 214. 227 244 221 162 140 139 129 133 131 215 210 216 216 209 220 248 200 156 139 131 129 139 128 219 220 211 208 205 209 240 217 154 141 127 130 124 142 229 224 212 214 220 229 234 208 151 145 128 128 142 122 252 224 222 224 233 244 228 213 143 141 135 128 131 129 255 235 230 249 253 240 228 193 147 139 132 128 136 125 250 245 238 245 246 235 235 190 139 136 134 135 126 130 240 238 233 232 235 255 246 168 156 144 129 127 136 134 Każda liczba przedstawiajaskrawośćjednego z milionów maleńkich skraw­ ków, składających się na pole widzenia. Mniejsze liczby to ciemniejsze skraw­ ki, większe to jaśniejsze. Pokazane w szeregu liczby są faktycznie sygnałami z elektronicznej kamery nakierowanej na rękę ludzką, chociaż równie dobrze mogłyby to być wyładowania biegnące włóknami nerwowymi z oka do mózgu osoby patrzącej na rękę. Aby mózg robota —czy ludzki —rozpoznawał przed­ mioty i zapobiegał wpadaniu na nie, musi przełożyć te liczby na jaskrawość światła i odgadnąć, jakie rodzaje przedmiotów na świecie odbijają światło wy­ rażane przez te liczby. Problem jest tak trudny, że uczy pokory.

Po pierwsze, układ wzrokowy musi umiejscowić, gdzie kończy się przed­ miot. a zaczyna tło. Świat nie jestjednak książeczką do kolorowania z czarnymi konturami wokół zwartych części. Rzutowany do naszych oczu obraz świata jest mozaiką maleńkich zacienionych plamek. Być może wzrokowy układ mó­ zgu szuka obszarów, gdzie zestaw dużych liczb (jaśniejszy obszar) graniczy z zestawem małych liczb (ciemniejszy obszar). Można dostrzec taką granicę w przed­ stawionym prostokącie liczb; przebiega ona po przekątnej od prawego górnego brzegu do środkadolnej krawędzi. Niestety, na ogół nie znajdujemy krawędzi przed­ miotu tam, gdzie graniczy on z pustą przestrzenią. Zestawienie dużych i małych liczb może być wynikiem wielu różnych sposobów rozmieszczenia materii. Wydaje się, że rysunek, skonstruowany przez psychologów Pawana Sinha i Edwarda Adelsona pokazuje ramę zjasno- i ciemnoszarych kafelków. W rzeczywistości jednak jest to prostokątne wycięcie w czarnej pokrywie, przez którą patrzymy na część obrazu. Na następnym rysunku pokrywa została zdjęta i można zobaczyć, że każda para położonych obok siebie szarych kwadra­ tów pochodzi z różnie ustawionych przedmiotów. Duże liczby obok małych mogą pochodzić z przedmiotu stojącego przed innym przedmiotem, ciemnego papieru leżącego na jasnym, powierzchni po­ malowanej na dwa odcienie szarości, dwóch przedmiotów dotykających się bokami, szarego celofanu na białej stronie, wewnętrznego lub zewnętrznego kąta na styku dwóch ścian albo z cienia. W jakiś sposób mózg musi rozwią­ zać problem typu „jajko czy kura”: identyfikowania trójwymiarowych przed­ miotów z plamek na siatkówce oraz stwierdzania, czym jest każda plamka (cie- W 15

niem czy farbą, zagięciem czy nałożeniem na siebie warstw, czymś przezroczy­ stym czy matowym), na podstawie wiedzy, częściąjakiego przedmiotujest każ­ da z nich. Trudności dopiero się zaczynają. Kiedy już podzieliliśmy widziany świat na przedmioty, musimy wiedzieć, z czego są zrobione, na przykład ze śniegu czy z węgla. Na pierwszy rzut oka problem wydaje się prosty. Jeśli duże liczby pochodzą z jasnych obszarów, a małe z ciemnych, to duże liczby równają się białemu, czyli śniegowi, a małe czarnemu, czyli węglowi, prawda? Nieprawda. Natężenie światła padającego na punkt na siatkówce zależy nie tylko od tego, jak jasny lub ciemny jest przedmiot, ale także od tego, jak jaskrawe lub przy­ ciemnione jest światło oświetlające przedmiot. Światłomierz fotograficzny po­ kazałby, że więcej światła odbija się od bryły węgla na dworze niż od kuli śniegu w pomieszczeniu. To dlatego ludzie są tak często rozczarowanijakością swoich zdjęć i dlatego fotografowanie jest tak skomplikowaną umiejętnością. Kamera nie kłamie: zamienia sceny na dworze w mleko, a sceny w domu w błoto. Fotografowie, a czasami układy scałone aparatu fotograficznego, wycza­ rowują z filmu realistyczny obraz takimi sztuczkami, jak regulowanie czasu naświetlania, przysłony, uwzględnianie czułości błony, użycie lampy błysko­ wej i obróbka w ciemni. Nasz układ wzrokowy działa znacznie lepiej. W jakiś sposób pozwala nam widzieć jasno oświetlony węgiel na dworze w kolorze czarnym, a ciemną kulę śniegu w domu w kolorze białym. To bardzo szczęśliwa okoliczność, ponieważ nasze świadome doznania koloru ijasności odpowiadają rzeczywistemu światu, a nie temu, jaki przedstawia się oczom. Kula śniegujest miękka, mokra i prędko się topi, niezależnie od tego, czyjest na dworze czy w domu, a my widzimy, że jest biała, zarówno gdy jest w domu, jak i na dworze. Węgiel jest zawsze twardy, brudny i łatwo się pali, my zaś zawsze widzimy, żejest czarny. Zgod­ ność między tym, jak świat wygląda, a tym, jaki jest, musi być osiągnięciem magii naszego układu nerwowego, ponieważ czerń i biel nie oznajmiają się po prostu siatkówce. Jeśli nadal jesteś sceptyczny, oto proste doświadczenie. Kiedy telewizorjest zgaszony, ekran ma barwę szarozielonkawoniebieską. Kie­ dy jest włączony, pewne punkty świetlne ekranu rysują jasne obszary obrazu. Innejednak nie absorbują światła i nie malują ciemnych obszarów - po prostu pozostają szare. Miejsca, które widzimy jako czarne, są w rzeczywistości tylko bladym odcieniem kineskopu,jak przy wyłączonym aparacie. Czerńjest fikcją, wytworem zespołu obwodów mózgowych, które normalnie pozwalają nam wi­ 16

dzieć węgieljako węgiel. Przy projektowaniu ekranu telewizyjnego inżyniero­ wie wykorzystali sposób funkcjonowania tych zespołów obwodów mózgowych. Następnym problemem widzenia jest głębia. Nasze oczy spłaszczają trój­ wymiarowy świat w parę dwuwymiarowych obrazów na siatkówce, mózg zaś musi odtworzyć trzeci wymiar. Na siatkówce nie majednak znaków, które wska­ zują, w jakiej odległości znajduje się dana powierzchnia. Znaczek pocztowy w twojej dłoni może rzucać na siatkówkę taki sam kwadratowy obrazjak krzesło po drugiej stronie pokoju lub budynek w odległości wielu kilometrów (pierwszy rysunek). Deska do krojenia chleba, oglądana na wprost, może rzucać na siat­ kówkę taki sam prostokątjak postawione ukośnie obiekty o rozmaitych kształ­ tach (drugi rysunek). Siłę tego geometrycznego faktu i neuronowego mechanizmu, który sobie z nim radzi, odczujesz, patrząc przez chwilę na palącą się żarówkę lub na lampę błyskową aparatu, wskutek czego skrawek twojej siatkówki zostanie na krótko odbarwiony. Jeśli następnie spojrzysz na stronicę książki, efekt następczy obra­ zu (powidok) przywiera do niej i wydaje się, że ma 2,5 -5 centymetrów szero­ kości. Jeśli spojrzysz na ścianę, wydaje się, że powidok ma kilka metrów. Jeśli spojrzysz na niebo, jest wielkości chmury. Wreszcie, jak moduł wzrokowy miałby rozpoznawać przedmioty, żeby ro­ bot mógł je nazwać czy przypomnieć sobie, czym są? Oczywistym rozwiąza­ niem jest zbudowanie szablonu czy matrycy dla każdego przedmiotu, o dokład-

nie odpowiadającym mu kształcie. Kiedy pojawia się przedmiot, jego obraz na siatkówce będzie pasował do szablonujak okrągły kołek do okrągłego otworu. Szablon byłby oznaczony nazwą kształtu - w tym wypadku „litera P” - gdy zaś jakiś kształt pasowałby do niego, szablon oznajmiałby jego nazwę: Niestety, to proste urządzenie źle funkcjonuje na dwa możliwe sposoby. Widzi P, gdzie go nie ma; na przykład podnosi fałszywy alarm na R pokazane w pierwszym kwadracie poniżej. Jak też nie widzi P tam, gdzie one są; na przy­ kład nie dostrzega litery, kiedy jest przesunięta, przechylona, zbyt daleko, zbyt blisko lub jest zbyt wymyślna: Problemy te powstają, gdy mamy do czynienia zprostymi, wyraźnymi lite­ rami alfabetu. Wyobraź sobie próbę zaprojektowania identyfikatora koszuli czy twarzy! To prawda, po czterech dziesięcioleciach badań nad sztuczną inteligen­ cją technologia rozpoznawania kształtówjest nieco lepsza. Posiadasz może opro­ gramowanie, które skanuje stronicę, rozpoznaje druk i zamienia go z możliwą do przyjęcia dokładnością w pliki bajtów. Sztuczne detektory kształtów nadal nie mogą się jednak mierzyć z tymi, które mamy w głowach. Te sztuczne są zaprojektowane dla nieskazitelnych, łatwych do rozpoznania światów, a nie dla rozmazanego, zabałaganionego świata rzeczywistego. Dziwne cyfry u dołu cze­ ków zostały bardzo starannie zaprojektowane, aby ich kształty nie zachodziły na siebie, drukuje się je zaś na specjalnych maszynach, ustawiających je do­ kładnie tak, żeby szablony mogły je rozpoznać. Kiedy identyfikatory twarzy zostaną zainstalowane w budynkach, żeby zastąpić odźwiernych, nie będą na­ wet próbowały interpretować światłocieni twojej twarzy, ale będą sprawdzać

indywidualne, ostro zarysowane kontury tęczówki czy siatkę naczyń krwionośnych na siatkówce. W odróżnieniu od tego w naszych mózgach znajduje siępamięciowy zapis kształtu każdej znanej nam twarzy (i każdej litery, zwierzęcia, narzędzia i tak dalej), któryjestjakoś dopasowywany do obrazu na siatkówce, nawetkiedy tenjest zniekształcony na wszystkie wspomniane sposoby. W rozdziale czwartym zba­ damy,jak mózg dokonuje tego wspaniałego wyczynu. * * * Spójrzmy na inny codzienny cud: przenoszenie ciała z jednego punktu do drugiego. Kiedy chcemy, żeby maszyna się poruszała, dajemy jej koła. Wynala­ zek koła uważa się często za najwspanialsze osiągnięcie cywilizacji. Wiele pod­ ręczników podkreśla, że żadne zwierzę nie wyewoluowało kół, i cytuje ten fakt jako przykład, że ewolucja często niejest zdolna do znajdowania optymalnych rozwiązań problemów inżynieryjnych. Ale to wcale nie jest dobry przykład. Nawet gdyby natura mogła wyewoluować łosia na kołach, z pewnością nie po­ stąpiłaby tak. Kół można używać tylko na drogach i szynach. Grzęzną w każ­ dym terenie, któryjest zbyt miękki, śliski, stromy czy nierówny. Nogi są lepsze. Koła muszą się toczyć po trwałym, równym podłożu, dla nóg można natomiast szukać kolejnych, pojedynczych miejsc oparcia, na przykład wchodząc po szcze­ blach drabiny. Nogi można również stawiać tak, aby nie stracić równowagi, a także przekraczać przeszkody. Nawet dzisiaj , kiedy wydaje się, że świat jest jednym wielkim parkingiem, tylko mniej więcej połowa powierzchni lądów nadaje się dla pojazdów na kołach czy gąsienicach; większość jednak jest do­ stępna dla środków lokomocji poruszających się na nogach: zwierząt - wehiku­ łów stworzonych przez dobór naturalny. Nogi mająjednak wysoką cenę: oprogramowanie do kontrolowania ich funk­ cji. Obracając się, koło zmienia stopniowo punkt podparcia i może przez cały czas utrzymać ciężar. Punkt podparcia nogi zmienia się natychmiast, w tym celu zaś trzeba przenieść ciężar (na inne nogi lub na drugą nogę). Mechanizmy kon­ trolujące działanie nogi muszą na przemian utrzymywaćją na ziemi, kiedy dźwiga i przesuwa ciężar, oraz uwalniać od ciężaru, aby umożliwić ruch. Równocze­ śnie muszą także utrzymywać środek ciężkości ciała wewnątrz wielokąta wy­ znaczonego przez stopy, żeby ciało się nie przewróciło. Mechanizmy te muszą także minimalizować zbędne ruchy w górę i w dół, które są zmorą kawalerzy- stów. W nakręcanych zabawkach chodzących problemy te rozwiązuje prymi- 19

tywnie mechaniczny układ zamieniający obrotowy ruch wałka w ruch kroczą­ cy. Zabawki jednak nie potrafią przystosować się do terenu przez znajdowanie najlepszego oparcia dla stóp. Nawet gdybyśmy rozwiązali te problemy, udałoby nam sięjedynie zrozu­ mieć, jak kontrolować chodzącego owada. Mając sześć nóg, owad może za­ wsze trzymać trzy z nich na ziemi, podczas gdy pozostałe trzy podnosi. Jest stabilny w każdym momencie. Także stworzenia czworonożne, kiedy nie poru­ szają się zbyt szybko, mogą się przez cały czas opierać na trzech nogach. Jak to ujął pewien inżynier: „Sposób poruszania się zachowujących pionową postawę dwunożnych istot ludzkich wydaje się sam w sobie przepisem na katastrofę i wymaga nadzwyczajnej kontroli, aby działał w praktyce”. Chodząc, bezustan­ nie przechylamy się i powstrzymujemy upadek w ostatnim momencie. Biegnąc, odbijamy się co chwila do lotu. Te akrobacje lotnicze pozwalają nam stawiać stopy na oddalonych od siebie łub nierównomiernie rozstawionych miejscach oparcia, na których nie utrzymalibyśmy się w stanie spoczynku, jak też przeci­ skać się przez wąskie ścieżki czy przeskakiwać przeszkody. Dotychczas jednak nikt nie wykoncypował, jak to robimy. Kolejną trudnością jest kontrolowanie ramienia. Chwyć abażur lampy ar­ chitektonicznej i przesuń go wzdłuż przekątnej z miejsca na dole po lewej stro­ nie do najdalszego punktu w górze po prawej. Patrz ńa pręty i zawiasy podczas ruchu lampy. Chociaż abażur porusza się po linii prostej, każdy pręt zatacza skomplikowany łuk, chwilami szybko nurkując, chwilami pozostając niemal bez ruchu, czasami pochylając się, by się natychmiast wyprostować. A teraz wyobraź sobie, że masz to zrobić w odwrotnej kolejności: bez patrzenia na aba­ żur musisz zaprojektować sekwencję skrętów każdego złącza, dzięki której aba­ żur przesunie się z powrotem po linii prostej. Taka trygonometria jest przeraża­ jąco skomplikowana. Twoje ramię przypomina jednak taką lampę architekto­ niczną, mózg zaś bez wysiłku rozwiązuje te równania za każdym razem, kiedy np. na coś wskazujesz. Jeśli natomiast kiedykolwiek trzymałeś taką lampę za zacisk u podstawy, uznasz, że problem jest jeszcze trudniejszy, niż opisałem. Lampa chybocze się pod własnym ciężarem, jakby miała wolną wolę; tak samo zachowywałoby się twoje ramię, gdyby mózg nie uwzględniałjego ciężaru i nie brał na niego poprawki, rozwiązując niemal nierozwiązywalny problem fizyki. Jeszcze bardziej zadziwiającym wyczynem jest kontrolowanie ręki. Nie­ mal dwa tysiące łat temu grecki lekarz Galen wskazywał na wyśmienitą inży­ nierię ludzkiej ręki. To pojedyncze narzędzie manipuluje przedmiotami o zadzi­ 20

wiającej gamie rozmiarów, kształtów i wagi, od kłody po ziarno prosa. „Czło­ wiek manipuluje nimi wszystkimi - pisał Galen - jak gdyby jego ręce były stworzone do każdej z nich z osobna”. Rękę można ułożyć w hak (by podnieść wiadro), w szczypce (by trzymać papierosa), w pięcioszczękowy uchwyt (by podnieść tacę), trzyszczękowy uchwyt (by trzymać ołówek), dwuszczękowy uchwyt zaciskowy (by obracać klucz w zamku), zacisk (by trzymać młotek), uchwyt tarczowy (by otworzyć słoik) i uchwyt kulisty (by trzymać piłkę). Każ­ dy uchwyt wymaga precyzyjnej kombinacji napięcia mięśni, które odpowiednio kształtują rękę i utrzymująją w określonym stanie, by nie odgięła się pod wpły­ wem podnoszonego ciężaru. Pomyśl o podnoszeniu kartonu mleka. Chwycisz zbyt luźno - upuścisz go; chwycisz zbyt mocno - zgnieciesz; delikatnie koły­ sząc opakowaniem możesz opuszkami palców wyczuć, ile mleka jest w środku! Nie będę się nawet wdawał w rozważania ojęzyku, mięśniu bez kości, kontro­ lowanym tylko przez ściśnięcia, który potrafi wydobyć kawałek jedzenia spo­ między trzonowych zębów lub wykonać taniec baletowy, artykułując takie sło­ wa, jak „wstrząsające” czy „sześć”. * * * „Zwykły człowiek zachwyca się niezwykłymi rzeczami; mądry człowiek zachwyca się zwykłymi”. Pamiętając o tej maksymie Konfucjusza, przygląda­ my się w dalszym ciągu zwykłym czynnościom człowieka świeżym spojrze­ niem projektanta robotów, próbującego te czynności skopiować. Załóżmy, że w jakiś sposób zbudowaliśmy robota, który potrafi widzieć i poruszać się. Co zro­ bi z tym, co zobaczy? W jaki sposób podejmie decyzję, jak postępować? Inteligentna istota nie może traktować każdego widzianego przedmiotujako unikatowego obiektu, niepodobnego do niczego innego w całym wszechświe- cie. Musi uporządkować przedmioty w kategorie, żeby mogła do widzianego obiektu zastosować zdobytą z ciężkim trudem wiedzę o podobnych przedmio­ tach, najakie natknęła się w przeszłości. Każda jednak próba zaprogramowania zestawu kryteriów do zdefiniowa­ nia elementów należących do danej kategorii powoduje, że kategoria rozpada się. Pomijając trudno uchwytne pojęcia, takie jak „piękno” czy „materializm dialektyczny”, spójrzmy na podręcznikowy przykład dobrze zdefiniowanego słowa „kawaler”. Kawaler to oczywiście po prostu dorosły mężczyzna, który nigdy nie był żonaty. Teraz wyobraź sobie jednak, że przyjaciółka prosi cię o 21

zaproszenie Miku kawalerów na jej .przyjęcie. Co się stanie, jeśli użyjesz tej definicji, żeby zdecydować, które z poniżej wymienionych osób zaprosić? Przez ostatnie pięć lat Arthur żyje szczęśliwie z Alice. Mają dwuletnią córkę, ale nigdy nie wzięli ślubu. Bruce dostał wezwanie do wojska, umówi! się więc ze swoją przyjaciółką Barbarą, że wezmą ślub cywilny, dzięki czemu uniknie poboru. Nigdy nie żyli razem. Bruce spo­ tyka się z wieloma kobietami i ma zamiar się rozwieść, gdy tylko spotka kogoś, z kim zechce się ożenić. Charlie ma 17 lat. Mieszka z rodzicami i chodzi do szkoły średniej. David ma 17 lat. Opuścił dom, gdy miał 13 lat, założył mały biznes ijest teraz dobrze prosperującym przedsiębiorcą, żyjącym jak playboy w wytwornym apartamencie. Eli i Edgar są homoseksualistami i od lat mieszkają razem. Zgodnie z prawem swojego rodzinnego Abu Zabi Faisal może mieć trzy żony. Obec­ nie ma dwie i chętnie spotka kolejną potencjalną narzeczoną. Ojciec Gregory z katolickiej katedry w Groton upon Thames jest biskupem. Lista, której autorem jest informatyk Terry Winograd, pokazuje, że prosta definicja „kawalera” nie odpowiada naszemu intuicyjnemu pojęciu, kto pasuje do tej kategorii. Ktojest kawalerem, określamy po prostu, kierując się zwykłym zdrowym roz­ sądkiem, w zwykłym zdrowym rozsądku nie ma jednak nic zwykłego. W jakiś sposób musi się on znaleźć w mózgu człowieka lub robota. Zwykły zdrowy rozsą­ dek niejestpo.prostu encyklopedią życia, którą może podyktować nauczyciel lub którą można załadować do komputera jak olbrzymią bazę danych. Żadna baza danych nie zawiera wszystkich szczegółów, o których po prostu wiemy, mimo że nikt nigdy ich nas nie uczył. Wiemy, że kiedy Irvin wsadza psa do samocho­ du, nie jest on już na podwórku. Kiedy Edna idzie do kościoła, jej głowa idzie wraz z nią. Jeśli Douglas jest w domu, to musiał tam wejść przez jakiś otwór, chyba że urodził się w środku i nigdy nie wyszedł. Jeśli Sheila żyła o 9 rano i żyje także o 5 po południu, to musiała żyć w południe. Zebry na wolności nigdy nie noszą bielizny. Otwarcie słoika nowego rodzaju masła orzechowego nie spra­ wi, że dom wyparuje. Ludzie nigdy nie wkładają sobie do uszu termometrów do pieczenia mięsa. Myszoskoczkajest mniejsza od Kilimandżaro. 22

Inteligentnego układu nie można zatem napchać bilionami faktów. Trzeba go wyposażyć w mniejszą listę podstawowych prawd oraz dać zestaw reguł do wyciągania z nich wniosków. Reguły jednak, podobniejak kategorie zdrowego rozsądku, niesłychanie trudno ustalić. Nawet najprostsze z nich nie uchwycą naszego codziennego rozumowania. Mavis mieszka w Chicago i ma syna imie­ niem Fred; Millie także mieszka w Chicago i ma syna imieniem Fred. O ile jednak Chicago, w którym mieszka Mavis,jest tym samym miastem, w którym mieszka Millie, o tyle Fred, który jest synem Mavis, nie jest tym samym Fre­ dem, który jest synem Millie. Jeśli w twoim samochodzie jest torba, a w torbie pięć litrów mleka, to w twoim samochodziejest pięć litrów mleka. Jeśli jednak w twoim samochodzie jest pasażer, w nim zaśjest pięć litrów krwi, wniosek, że w twoim samochodzie j est pięć litrów krwi, byłby dziwaczny. Nawet gdybyśmy stworzyli zestaw reguł pozwalających na wyciąganie tyl­ ko sensownych wniosków, niełatwo wykorzystać je wszystkie do kierowania inteligentnym zachowaniem. Jestjasne, że myślący człowiek musi posługiwać się wieloma regułami równocześnie. Zapałka daje światło; piła tnie drewno; zamknięte drzwi otwiera się kluczem. Śmiejemy się jednak z człowieka, który zapala zapałkę, żeby zajrzeć do baku z benzyną, czy piłuje gałąź, na której sie­ dzi, lub niechcący zamyka klucze w samochodzie i zastanawia się, jak wydo­ stać ze środka rodzinę. Myślący człowiek musi ocenić nie tylko bezpośrednie skutki swego postępowania, ale także skutki uboczne. Myślący człowiek nie jestjednak w stanie przewidzieć wszystkich skutków ubocznych. Filozof Daniel Dennett proponuje, byśmy wyobrazili sobie robota zaprojektowanego do przyniesienia zapasowej baterii z pokoju, w którym znaj­ duje się także bomba zegarowa. Robot wersji pierwszej zobaczył, że bateria znajduje się na wózku, jeśli zaś wyciągnie wózek z pokoju, bateria także zosta­ nie wyciągnięta. Niestety, na wózku znajdowała się również bomba, a robot nie umiał wywnioskować, że wyciągając wózek, wyciąga także bombę. Robot wer­ sji drugiej był tak zaprogramowany, żeby rozważyć wszystkie skutki uboczne swojego działania. Właśnie kończył obliczenia, że wyciągnięcie wózka nie zmieni koloru ścian pokoju, i dowodził, że koła zrobią więcej obrotów, niż wózek ma kół, kiedy bomba wybuchła. Robot wersji trzeciej był tak zaprogra­ mowany, by odróżnić implikacje istotne od nieistotnych. Siedział i prezentował miliony możliwych następstw, wpisując wszystkie istotne na listę faktów do rozważenia, a wszystkie nieistotne na listę faktów do zignorowania, bomba zaś tykała. 23

Inteligentna istota musi przewidywać skutki na podstawie tego, co wie, ograniczając się do istotnych wniosków. Dennett podkreśla, że stanowi to głę­ boki problem, dotyczący nie tylko konstrukcji robota, ale także epistemologii, analizy tego, skąd wiemy to, co wiemy. Problem umknął uwagi pokoleń filozo­ fów, których iluzoryczna oczywistość własnego zdrowego rozsądku pozostawi­ ła w błogim zadowoleniu. Dopiero kiedy naukowcy zajmujący się sztuczną inteli­ gencją próbowali skopiować rozsądek w komputerach, będących w końcu doskonałym modelem tabula rasa, ujawnił się problem, zwany teraz „pro­ blemem układu odniesienia”. A jednak w jakiś sposób rozwiązujemy go za każdym razem, kiedy posługujemy się zdrowym rozsądkiem. * * * Wyobraźmy sobie, że wjakiś sposób przezwyciężyliśmy te trudności i mamy maszynę, która widzi, ma skoordynowane ruchy i zdrowy rozsądek. Teraz mu­ simy wymyślić, jak robot ich użyje. Musimy dać mu motywację. Czego powinien chcieć robot? Klasyczną odpowiedzią są podstawowe pra­ wa robotów Isaaca Asimova, „trzy prawa, które zakodowane są głęboko i nie­ wzruszenie w pozytronowym mózgu każdego robota”2: 1. Robotowi nie wolno zranić istoty ludzkiej lub przez zaniechanie działania po­ zwolić, aby stała jej się krzywda. 2. Robot musi wykonywać rozkazy dane przez istoty ludzkie, z wyjątkiem sytuacji, kiedy taki rozkazjest sprzeczny z Pierwszym Prawem. 3. Robot musi chronić własne istnienie, dopóki taka ochrona nie staje w sprzeczno­ ści z Pierwszym lub Drugim Prawem. Asimov wnikliwie zauważył, że instynkt samozachowawczy, ten uniwersalny imperatyw biologiczny, nie pojawia się automatycznie w złożonych układach. Musi zostać zaprogramowany (w tym wypadkujako Trzecie Prawo). W końcu równie łatwo zbudować robota, który mógłby zejść napsy czy eliminować usterki, popeł­ niając samobójstwo, jak i robota, który zawsze dba o siebie. Konstruktorzy robo­ tów patrzą czasem z przerażeniem, jak ich twory ochoczo odrywają własne czę­ ści lub rozpłaszczają się o ściany, a duża część najinteligentniejszych maszyn na świecie to pociski samosterujące dalekiego zasięgu i „inteligentne bomby”. 2Isaac Asimov, Ja, Robot, przel. J. Śmigły, Bydgoszcz 1993, s. 15.

Potrzeba wprowadzenia dwóch pozostałych praw też nie jest całkiem oczy­ wista. Po co dawać robotowi rozkaz, żeby słuchał rozkazów - dlaczego nie wystarczą same rozkazy? Dlaczego nakazywać robotowi, aby nie czynił krzyw­ dy - czy nie byłoby łatwiej nigdy nie nakazywać mu uczynienia krzywdy? Czy wszechświat zawiera mistyczną siłę popychającą istoty ku wrogości i dlatego w pozytronowy mózg trzeba wpisać program mówiący, jak się tej sile oprzeć? Czy inteligentne istoty nieuchronnie mają problemy z postawą moralną? W tym wypadku Asimov, podobnie jak całe pokolenia myślicieli i jak my wszyscy, nie był w stanie wyjść poza własne procesy myślowe i spojrzeć na nie jako na rezultat takiej a nie innej metody powstania naszych umysłów, nie zaś jak na nieunikniony wynik działania kosmicznych praw. Zawsze pamiętamy o zdolności człowieka do czynienia zła i łatwo uznać, że zło po prostu idzie w parze z inteligencją, jako część samej jej istoty. Jest to powtarzający się wątek w naszej tradycji kulturowej: Adam i Ewa kosztujący owocu z zakazanego drzewa wiedzy, ogień Prometeusza i puszka Pandory, szalejący Golem, targi Fausta z diabłem, Uczeń Czarnoksiężnika, przygody Pinokia, potwór Frankensteina, mor­ dercze małpy i zbuntowany HAL z „2001: Odyseja kosmiczna”. Od lat pięć­ dziesiątych do osiemdziesiątych niezliczone filmy o różnego rodzaju „kompu­ terach w amoku” odzwierciedlały popularne obawy, że egzotyczne komputery o dużej mocy będą jeszcze sprytniejsze i potężniejsze i któregoś dnia zwrócą się prżeciwko nam. Teraz, kiedy komputery rzeczywiście stały się sprytniejsze i potężniejsze, niepokój zanikł. Dzisiejsze wszędobylskie, połączone w sieć komputery miały­ by bezprecedensową zdolność psocenia, gdyby kiedykolwiek nabrały złych oby­ czajów. Katastrofy pojawiają się jednak tylko w wyniku nie dającego się prze­ widzieć chaosu albo ludzkiej złośliwości w formie wirusów. Nie martwimy się już elektronicznymi seryjnymi mordercami czy krzemowymi spiskami, ponie­ waż zaczynamy rozumieć, że zło - podobnie jak wzrok, koordynacja ruchowa i zdrowy rozsądek - nie są po prostu produktami ubocznymi funkcjonowania komputera, ale muszą zostać celowo zaprogramowane. Komputer na twoim biur­ ku, pracujący w WordPerfect, będzie wypełniał akapit za akapitem tak długo, jak długo w ogóle będzie funkcjonował. Jego oprogramowanie nie zdeprawuje się podstępnie, jak portret Doriana Graya. Nawet gdyby mogło do tego dojść, dlaczego komputer miałby tego chcieć? Aby coś dostać? Co? Więcej dyskietek? Kontrolę nad krajową siecią kolejową? 25

By mógł zaspokoić pragnienie popełnienia bezsensownego aMu przemocy wo­ bec technika naprawiającego drukarkę laserową? I czy nie musiałby się mar­ twić odwetem techników, którzy pokręcając śrubokrętem mogliby go zamienić w maszynę żałośnie śpiewającą w kółko dziecinną piosenkę? Być może sieć komputerowa mogłaby odkryć, że jedność daje siłę, i ukartować przejęcie wła­ dzy - ale co skłoniłobyjednego komputerowego ochotnika do wystrzelenia pa­ kietu danych słyszalnego na całym świecie i ryzykowania wczesnego męczeń­ stwa? I co przeszkodziłoby podkopaniu koalicji przez krzemowych dezerterów, uchylających się ze względu na sumienie? Agresja, jak każdy inny obszar ludz­ kiego zachowania, który traktujemy jako oczywisty, jest niezmiernie trudnym problemem inżynieryjnym! Łagodniejsze motywy działania stanowią jednak analogiczny problem. Jak zbudować program dla robota, żeby był posłuszny nakazowi Asimova i nigdy nie dopuścił do zranienia istoty ludzkiej przez zaniechanie działania? Akcja powieści Michaela Frayna z 1965 roku The Tin Men toczy się w laboratorium robotów, gdzie inżynierowie Skrzydła Etyki Macintosh, Goldwasser i Sinson sprawdzają altruizm swoich robotów. Trochę zbyt dosłownie zrozumieli hipote­ tyczny dylemat, prezentowany w każdym podręczniku etyki: dwóch łudzi znaj­ duje się wjednoosobowej łodzi ratunkowej i obaj zginą, jeśli jeden nie wysko­ czy. Inżyniei'owie wsadzają więc każdego robota na tratwę z innym pasażerem, spuszczają tratwę do zbiornika wody i obserwują, co się stanie. W pierwszej próbie Samaritan I zeskakiwał z tratwy z wielką skwapliwością, robił to jednak, żeby uratować cokolwiek, co było obok niego na tratwie, od czterdziestokilogra­ mowego worka fasoli po siedemdziesięciokilogramowy worek wodorostów. Po wielu ty­ godniach zaciętej argumentacji Macintosh przyznał, że ten brak rozróżniania niejest zado­ walający, porzucił Samaritana I i zbudował Samaritana II, który miał siępoświęcać tylko dla organizmów przynajmniej równie skomplikowanychjak on sam. Tratwa zatrzymała się, obracając się powoli kilka centymetrów nad wodą. - Spuść­ cie - krzyknął Macintosh. Tratwa uderzyła w powierzchnię wody. Sinson i Samaritan siedzieli bez ruchu. Stopniowo tratwa uspokoiła się, aż cienka warstwa wody zaczęła się przelewać po jej pokładzie. Samaritan natychmiast pochylił się do przodu i złapał głowę Sinsona. Cztere­ ma sprawnymi ruchami wymierzył wielkośćjego czaszki i zamarł, obliczając. Następnie z determinacją stoczył się do wody i zatonął, spoczywając na dnie zbiornika. Kiedyjednak roboty typu Samaritan II zaczęły się zachowywać jak moral­ ne istoty z książek filozoficznych, stawało się coraz mniej jasne, czy rzeczywi- 26