OSI SEKTOR DAMIRA FATUŠIĆA O životima djece na respiratoru odlučuje diferencijalni stroj

Ova kolumna nije o automobilima. Nije niti o umjetnoj inteligenciji, robotima, holivudskim fantazijama. Nije o znanstvenoj fantastici ni o Isaacu Asimovu. Tema ove kolumne stane u jedno jedino pitanje

 

Isaac Asimov, jedan od velikana literarne znanstvene fantastike, i znanstvene fantastike uopće, koji je slučajno bio i profesor biokemije, svoj je serijal od 38 kratkih priča i pet romana o robotima započeo još davne 1939. godine. Iako djela isprva nisu bila zamišljena kao serijal, od početka im je zajednička tema bila interakcija ljudi, robota i morala, a u priči 'Runaround' iz 1942., koja se našla i u kolekciji 'Ja, robot', prvi put izdanoj 1950., formulirao je tri zakona robotike, koji nisu postali samo važan dio znanstvene fantastike i piščeve ostavštine, nego i područja etike koje se bavi umjetnom inteligencijom.

Prvi zakon robotike kaže da robot ne smije ozlijediti ljudsko biće ili nedjelovanjem dopustiti da ljudsko biće bude ozlijeđeno. Drugi zakon nalaže da robot mora izvršavati naredbe koje mu daju ljudi, osim ako bi te naredbe bile u suprotnosti s prvim zakonom. Po trećem zakonu robot mora štititi svoje postojanje sve dok takva zaštita ne krši prvi ili drugi zakon. Kasnije je Asimov dodao i nulti zakon, koji kaže da robot ne smije nauditi čovječanstvu ili nedjelovanjem dopustiti da čovječanstvo bude ugroženo.

Ovi zakoni su također važan dio američkog filma 'Ja, robot' iz 2004. godine, koji je inspiriran, ali tek djelomično i temeljen na Asimovljevim djelima. Radnja filma se odvija 2035. godine, u kojoj humanoidni roboti tvrtke US Robotics služe čovječanstvu, koje štite tri zakona robotike. Del Spooner, detektiv iz Chicaga kojeg glumi, po mom mišljenju, nikad bolji Will Smith, mrzi robote i ne vjeruje im jer ga je robot serije NS4 spasio iz prometne nesreće zahvaljujući hladnoj logici. Spoonerove ozljede izliječene su i popravljene kibernetičkim transplantatima, koje je osobno usadio suosnivač US Roboticsa doktor Alfred Lanning, a kojeg portretira sveprisutni i uvijek rado viđeni James Cromwell. Kada Lanning padne u smrt kroz svoj od tla poprilično udaljen uredski prozor, policija to proglašava samoubojstvom, ali Spooner je skeptičan i zajedno s robopsihologinjom Susan Calvin – koja je, inače, glavi lik u Asimovljevom serijalu o robotima, a tu je tumači nedovoljno poznata Bridget Moynahan – krene istraživati Lanningovu smrt.

Neću vam otkrivati što se dalje događa, a, srećom, niti ne moram. Ovo je dovoljno da vam bude jasan meni jedan od najdražih dijaloga u jednom od najdražih mi filmova. U njemu detektiv Spooner robopsihologinji Calvin opisuje nesreću i objašnjava zašto mrzi robote. Ide otprilike ovako.

- Vraćao sam se natrag u postaju. Normalan dan, normalan život. Vozač kamiona zaspao je za volanom. Običan tip. Žena i djeca. Radi dvostruku smjenu. Nije vrag. Automobil koji je udario, vozač se zvao Harold Lloyd. Mrtav na mjestu. Ali njegova 12-godišnja kći bila je na suvozačkom mjestu. Nikad je nisam upoznao. Ali ne mogu zaboraviti njezino lice. Sarah. Htjela je biti zubarica. Kakva, dovraga, 12-godišnjakinja želi biti zubarica? Kamion je zdrobio naše automobile i gurnuo nas u rijeku. Mislim, metal postaje prilično mekan pri tim brzinama. Prikovana je. Prikovan sam. Ulazi voda. Ja sam policajac pa već znam da smo svi mrtvi. Još samo nekoliko minuta prije nego što to i shvatimo. NS4 je prolazio u blizini, vidio nesreću i skočio u vodu. Spasi je, spasi djevojku! Spasi je! Ali nije. Spasio je mene.

- Mozak robota je diferencijalni stroj. Čita vitalne znakove. Sigurno je izračunao...

- Da. Bio sam logičan izbor. Izračunao je da imam 45 posto šanse za preživljavanje. Sarah je imala samo 11 posto šanse. Ona je bila nečije dijete. 11 posto je više nego dovoljno. Ljudsko biće bi to znalo. Roboti nemaju ništa u srcu, samo svjetla i zupčanike. Ti im vjeruj, ako želiš.

Teške stvari, no, ako mislite da se ovakvi problemi i dileme nas ne tiču, promislite opet.

Među nama već neko vrijeme prometuju autonomna vozila koja s vremenom neumitno postaju sve naprednija i autonomnija, a trenutno najveće zapreke takvom napretku su upravo moralne prirode. Smrti izazvane greškama umjetne inteligencije u automobilima su se već događale, ali zamislite hipotetski, no u praksi već vrlo moguć slučaj da vozilo pregazi dijete kako bi izbjeglo nesreću u kojoj bi mogao poginuti vozač.

Međutim, ova kolumna nije o automobilima. Nije niti o umjetnoj inteligenciji, robotima, holivudskim fantazijama. Nije o znanstvenoj fantastici ni o Isaacu Asimovu. Tema ove kolumne stane u jedno jedino pitanje.

Kolika je šansa da Spinraza spasi život djetetu sa spinalnom mišićnom atrofijom koje je na respiratoru?

Jedan posto je više nego dovoljno. I neprocjenjivo.

Ljudsko biće bi to znalo.

Piše: Damir Fatušić

 

Povezane vijesti