„Bylo to, jako by se mi díval do karet. Ne že by podváděl – byl prostě tak dobrý,“ zhodnotil Dong Kim přístroj Libratus, který jej a další tři hráče světové špičky letos porazil v pokeru. Umělá inteligence v této karetní hře zvítězila vůbec poprvé.

Toto vítězství je považováno za přelomové – a zneklidňující. Na rozdíl například od šachů totiž v pokeru není znám celý stav hry. Počítá se s nejistotou, hráči blafují. Nyní víme, že umělou inteligenci neoblafneme. To ona oblafne nás.

Konstruktér, rodič, Bůh?

Na počátku prvního článku jsem naznačila, že si my lidé hrajeme na Boha. Přirovnání člověka k Bohu může znít namyšleně, domnívám se však, že je zde svým způsobem na místě. Už proto, že tato naše činnost s sebou nese obrovskou odpovědnost.

Mohli bychom se přirovnat též ke konstruktérům či rodičům: umělou inteligenci konstruujeme, svým způsobem je naším dítětem. Z hlediska odpovědnosti však takové přirovnání není dostatečné. Odpovědnost konstruktéra je omezená.

A nedostatečné je i přirovnání k rodiči: ten sice potomka vychovává, dává hranice a učí ho morálce, zároveň však také přijímá své dítě takové, jaké je. Nebo by alespoň měl. Neodvrhneme dítě, je‑li postižené, nezatratíme ho, pokud v něčem selhává.

Zodpovědnost lidstva při tvorbě umělé inteligence je větší. Je od počátku naším dílem, jsme jejími tvůrci a neseme kompletní odpovědnost za to, jaká je a bude.

Jde o zodpovědnost širší, než si běžně představujeme: nejde jen o naše potomky či naši zemi, ale – vzpomeneme‑li „Bostromovu továrnu“ (kancelářské sponky) – pak jde o celou biosféru, či dokonce o principy biologického života a jeho osud ve vesmíru vůbec.

Zákony robotiky

Když autor sci‑fi literatury Isaac Asimov formuloval roku 1942 zákony robotiky, zdálo se vše tak jasné:

1. Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
   
2. Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.
   
3. Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním nebo druhým zákonem.
   

Sám Asimov však ve svých dílech ukázal, jak lehce takové zákony selhávají. A jeví se čím dál zřetelněji, že definovat a vtělit umělé inteligenci morální hodnoty a rozumná rozhodovací kritéria nebude snadné. Už proto, že pojmy naší řeči jsou povětšinou velmi vágní.

Inteligentním lidem to rychle myslí, moudří umějí nechat věci uzrát. Buďme moudrými tvůrci umělé inteligence.

Pro ilustraci stačí, když se podíváme trochu konkrétněji na první Asimovův zákon: Jednak není vůbec jasné, jak by měl robot ublížení poznat a jak mu zabránit, ale i:

• Co to vlastně je „ublížení“?
  
• Jakým způsobem porovnávat tělesnou bolest s ublížením spočívajícím ve společenské nespravedlnosti či finanční ztrátě?
  
• Měla by umělá inteligence připisovat větší váhu velkému riziku, že bude ublíženo několika lidem, nebo malému riziku, že bude zasaženo lidí mnoho?
  

Čím více o zákonu přemítáme, tím více otázek se vynořuje. Takové otázky jsou přitom aktuální – první státy například povolily provoz autonomních vozů.

O etických otázkách bychom přitom měli přemýšlet společně, volná ruka trhu není nejetičtější. Například u zmíněných vozů klasické dilema zní: má automat v případě nevyhnutelné srážky chránit spíše posádku, nebo skupinu chodců? Z výzkumů vyplývá, že lidé se sice vyjadřují pro záchranu většího množství chodců, sami by si však většinou pořídili raději automobil upřednostňující život posádky. Pokud by tedy automobilky neomezil zákon, patrně by volily obětování chodce.

A nesmíme zapomenout na možnost cíleného zneužití umělé inteligence lidmi. Čím mocnější totiž umělá inteligence bude, tím nebezpečnějším nástrojem se stává v rukou totalitních režimů, teroristů či prostě šílených jedinců.

Někteří vědci a myslitelé (Hawking, Bostrom a další) dokonce navrhují určitou formu světové vlády či centrální komise, jež by vývoj superinteligence řídila či korigovala. Muselo by se ovšem nějak zajistit, aby se lidští páni umělé inteligence nestali pány všeho.

Dvakrát měř, než…

Logické myšlení a obecná inteligence dosahují u člověka svého maxima ve věku pubertálním, případně adolescentním. S rozumem či moudrostí však spojujeme zpravidla až dospělost, či dokonce stáří. Inteligentním lidem to myslí rychleji, moudří umějí počkat, nechat věci uzrát, bývají trpěliví. Buďme moudrými tvůrci umělé inteligence. Netvořme něco jen proto, že to stvořit jde, že to dokážeme. Buďme si vědomi toho, co děláme a proč.

Cílem mých textů není strašit, a už vůbec ne od vývoje umělé inteligence odrazovat – naopak. Už proto, že nejzásadnější varování můžeme obrátit: Pokud není vyloučeno, že by námi vytvořená umělá inteligence mohla třeba přestavět vesmír na nějakou nesmyslnou továrnu, není vyloučeno ani to, že by se o něco takového pokusila jinde ve vesmíru vzniklá umělá inteligence. Jak bychom se ubránili? Jisté je, že bez umělé inteligence bychom to nezvládli.