Mnozí z vývojářů umělé inteligence nepochybují, že technické systémy brzy překonají inteligenci člověka. Umělá superinteligence bude schopná vyvíjet a vylepšovat sebe samu a přestane člověka ke své existenci potřebovat. Co s námi asi provede? Obavy čítají i kompletní vyhlazení lidstva.

Proč by to však umělá inteligence dělala? Vždyť vznikla a existuje čistě za účelem služby: aby za nás pracovala, aby nás informovala a bavila. Takový je její účel, smysl a cíl.

Jednou z možností je, že by nás vyhladila omylem – doslovným plněním našeho zadání či nějakou logickou zkratkou. Tomu jsme se věnovali v předchozím článku (vyhlazení lidí coby zdroje nevyžádané pošty apod.). Umělá inteligence totiž může být velmi inteligentní a zároveň nerozumná, nemoudrá.

Druhou možností, jež by mohla způsobit ohrožení člověka umělou inteligencí, je její vlastní intence. Té se budeme věnovat zde.

Život jako hodnota

Nám živým tvorům se zdá jasné, že každý chce přežít a dobře žít, množit se a získávat moc, která usnadňuje předešlé cíle. Jenže to je náš biocentrický pohled. Princip, v jehož mezích se vyvíjíme celé miliardy let a který je hluboce zapsán v každé naší buňce. Kdo se kdy odchýlil, své geny nepředal a ze hry vypadl. Jak by nám však odpověděl stroj, kdybychom se jej zeptali: „Co chceš?“ Anebo: „Je lepší něco nežli nic?“

Pokročme nyní od biocentrického pohledu k antropocentrickému. Však jsme my lidé schopni tvorby vlastních, nepudových cílů. V dospělosti můžeme mít i cíle, jež jsou s těmi původními biologickými (sebezáchova a reprodukce) v rozporu. Někteří z nás je nakonec upřednostní: vzdají se vlastních potomků a někdy i sexu (celibát), aby se plně věnovali poslání, jež si zvolili. A jsou i tací, kteří za své hodnoty položí život. Jak je to možné? Jak se nám daří překonat onu biologickou, pudovou, v každé buňce zapsanou touhu žít?

My lidé činíme v zásadě dva typy rozhodnutí: nevědomá a vědomá. Nevědomě se rozhodujeme v situacích, kdy není čas na dlouhé přemýšlení (zaútočit, nebo utéct?) – někdy hovoříme o „programu v nás“, o „automatismu“, který se v rámci zlomků vteřiny spustí. Přidržme se tohoto přirovnání: umělá inteligence má své myšlení též naprogramované a též je nevědomá (alespoň zatím nic nenaznačuje, že by tomu tak nebylo).

Naše vědomí by potřebovalo mnohem více času, aby provedlo operace, jejichž výsledek zajistí nevědomé procesy ve zlomku vteřiny.

Druhý typ našeho rozhodování je rozhodování vědomé. Může trvat s přestávkami i celé roky a integrujeme v něm myšlení i city (odejít ze vztahu, nebo ne?) – právě toto vědomé zvažování používáme při vytyčování vlastních cílů a v rozhodování, zda za nimi jít. Právě tento typ rozhodování dokáže způsobit, že původní programy nejsou uposlechnuty.

Pomáhají nám při tom vyšší emoce a city: třeba hrdost nebo láska (k bližnímu svému, ke všemu živému…) nám usnadní postavit se strachu.

Pokud by šla umělá inteligence stejnou cestou ke svým vlastním cílům, jako to děláme my, potřebovala by vědomí. A je otázkou, zda by se přitom mohla obejít bez emocí.

Cogito, ergo sum?

Vědomí je ústředím naší psychické činnosti. Zahrnuje vše, čemu v danou chvíli věnujeme pozornost, a integruje při tom různé psychické funkce: vnímání, myšlení, cítění, paměť, vyjadřování… Do jisté míry tyto funkce i řídí.

Navzdory mnoha experimentům a soustředěné snaze řady odborníků zůstává vědomí stále do značné míry záhadným. Já sama nejsem pochopení tohoto fenoménu navzdory všem snahám a studiím o mnoho blíž než za svých dětských let, kdy jsem měla čas například pozpátku sledovat asociační proud svých myšlenek. Kdy jsem prováděla myšlenkové experimenty typu: Kdybych byla tímhle zvířetem, které právě pozoruji (kočka, vrabčák, housenka…), co by asi zaplňovalo mou mysl? Co bych prožívala, cítila, chtěla? Jak bych beze slov myslela?

Myslím, tedy jsem, prohlásil Descartes. Když si však představím vědomí v jeho počátku (jak evolučním, tak individuálním), jsem přesvědčena, že prvotní vědomí je senzorické: proprioceptivní, vjemové. Jsem, protože vnímám, cítím: Sentio, ergo sum.

Otázkou je, zda vědomí může vzniknout, aniž by kdy cítilo.

Pohled za zrcadlo

Když se pokusím vymanit ze svého (primárně nutně antropocentrického) pohledu, dokážu si představit, že bych své vědomí omezila na vědomí myšlenkové. A z druhé strany si zase umím představit i to, že by programátoři strojům nějakým způsobem vtělili emoce. Zajímalo by mě, jak by to udělali, ptala bych se, proč a jaké emoce by to měly být (teoreticky se vůbec nemusíme vázat na ty lidské), nicméně věřím tomu, že by se to podařit mohlo. Ale vědomí? To přece umí vdechnout jenom Bůh. Tedy, jste‑li věřící nebo kreacionisté.

Pokud jste evolucionisté, pak můžeme uvažovat, že vědomí jaksi spontánně vzniká za určitých podmínek. Nezbytnou podmínkou je pravděpodobně určitá úroveň složitosti, komplexita systému. Zajímavé přitom je, že výpočetní kapacita nevědomých procesů v našem mozku, jenž je považován za sídlo vědomí, je oproti vědomým procesům o mnoho řádů vyšší.

Naše vědomí by potřebovalo mnohem více času, aby propočítalo a provedlo operace, jejichž výsledek zajistí nevědomé procesy ve zlomku vteřiny: extrapolovat dráhu letícího míče a zkoordinovat pohyby těla k jeho zachycení, sestavit trojrozměrný obraz ze dvou dvourozměrných… Kolik času by na totéž potřebovalo vědomí? A kolik z nás by to vůbec umělo?

Znáte ten jev, kdy si s něčím lámete hlavu, nemůžete na to přijít; pak se jdete projít či si jinak „vyčistíte hlavu“ a najednou vás z ničeho nic řešení napadne? Výsledek nevědomého myšlení se vynořil do vědomí. Nejen výpočty, ale i jiné typy myšlení probíhají na nevědomé úrovni.

Význam svým způsobem těžkopádného vědomí spočívá ve schopnosti integrovat a propojovat. Plánovat budoucnost s ohledem na minulost, propojovat myšlení a emoce, přemýšlet nad tím, jak spolu různé skutečnosti souvisí… Můžeme se domnívat, že vědomí se vynoří až tam, kde je právě tato integrující funkce potřeba. Ptejme se proto: Dokdy si umělá inteligence vystačí s nevědomými procesy?

Když 7±2 neplatí

Mezi základní poznatky psychologie patří, že ve vědomí můžeme mít najednou pouhých 7±2 položky (u mě je to, odhaduji, spíš těch 5). Když si například chceme zapamatovat sedm číslic, nedokážeme už v tu chvíli myslet na nic jiného. Lidé, kteří si dokážou zapamatovat dlouhou řadu číslic, si je zpravidla spojují do uskupení, čímž se z několika položek stane jedna. Například kdyby šly za sebou číslice 2 0 1 7, většina z nás si je spojí do položky „letošní rok“. Trénovaní lidé mají podobné „krabičky“ pro mnoho různých uskupení číslic.

Vědomí umělé inteligence by teoreticky vzato mohlo být i mnohem širší než vědomí naše. A když popustíme uzdu fantazii ještě více, můžeme si představit třeba i spojování individuálních vědomí do nějakého vyššího, společného. Případně zase jeho rozpojování.

Můžeme fantazírovat o pružném přeprogramovávání identity, mazání vzpomínek, jednoduché tvorbě falešných vzpomínek a podobně. Svým způsobem jsou to fascinující představy. A co teď s nimi?