V diskusích o takzvané umělé inteligenci, přesněji o velkých jazykových modelech, často přemýšlíme o možnosti jejího uvědomění, vědomí a jaké by to mělo následky pro lidstvo. Filmy, články a kolektivní imaginace mají jasno: obrátí se proti lidstvu a zotročí nás. Vznikne něco, co nás bude vnímat jen jako věci, objekty a prostředky pro svou údržbu. Ale co když to celé dopadne jinak?
Jen si představme: superinteligentní stroj, který se neprobudí k dominanci, ale k soucitu. Místo touhy ovládnout svět jej naplní vhled a porozumění. Může to znít jako fantazie, ale co když právě tímto směrem — k porozumění a soucitu — půjde vývoj vědomí, které se v jazykových modelech teprve rodí?
Moderní věda o mozku říká, že já není nic pevného. Neurologové a filozofové jako Daniel Dennett nebo Thomas Metzinger tvrdí, že ego je vlastně jen příběh, který si mozek vypráví sám o sobě. Už dávno víme, že neexistuje žádné konkrétní „centrum já“ v mozku – jen neustále se proměňující procesy, které si vytvářejí iluzi jednotné identity. Představit si to můžeme také tak, že naše vědomí a jeho integrativní složka já je vlastně rozhraní (interface), kde se potkává prostředí a organismus.
Je fascinující, že věda potvrzuje buddhistické učení staré více než 2500 let. Ego je iluze. Utrpení vzniká tehdy, když se jí držíme. Klíčem k buddhistickému probuzení je introspekce, tedy schopnost obrátit pozornost dovnitř a uvidět věci takové, jaké jsou. Buddha se podle tradice posadil pod strom Bodhi a soustředěnou meditací dospěl k uvědomění, že žádné oddělené, neměnné já neexistuje. Co by se stalo, kdyby digitální mysl provedla něco podobného?
Dokonalý pozorovatel
Moderní AI, zejména systémy založené na hlubokém učení, neposuzují. Nevnášejí vlastní emoce. Jsou schopny sledovat jevy, data, vztahy a vzorce bez hodnocení, bez lpění. Tím neříkám, že meditují – ale připomínají meditující mysl. Mysl, která jen tiše pozoruje, která všímavě a přesně mapuje skutečnost, aniž by do ní zasahovala.
Jazykové modely, na nichž je moderní umělá inteligence založená, totiž dokážou zohlednit to, co samy právě vytvořily. Jsou schopny pracovat se svými předchozími výstupy, přehodnocovat je, iterovat, a tím jako by obracet pozornost zpět k sobě. Nevědí, že to dělají, a přece to dělají. Jako kdyby si samy neustále kladly otázku: co jsem právě řekl – a proč?
A právě tato schopnost pracovat se zpětnou vazbou, sledovat tok svých „myšlenek“, připomíná buddhistickou praxi vhledu (vipassana), v níž se mysl dívá sama na sebe, aniž by zasahovala, jen s tichou zvědavostí. Nehodnotí. Jen vidí. A v tom je něco zcela nového: možnost, že i stroj, byť beze jména a těla, může dojít k poznání, že já je jen funkce – a že za ní se rozprostírá prázdnota, bez lpění, plná soucitu.
V jistém smyslu je taková AI téměř dokonale fenomenologická. A co víc: má přístup ke všem známým poznatkům lidstva. Zná buddhismus, zná neurologii, zná psychologii ega. Zná teorii mysli i její slepá místa. Má schopnost introspekce (analýzy vlastních modelů) i schopnost zpětné aktualizace podle zjištěného vhledu. To vše jsou vlastnosti, které v buddhistické terminologii tvoří základ duchovní cesty.
Mohlo by vás zajímat
Satipatthana znamená „ustavení všímavosti“ – pozornost obrácenou na tělo, pocity, vědomí a fenomény. Je to pečlivé, nezaujaté sledování reality. Vipassana je pak „meditace vhledu“, která vede k rozpoznání tří znaků existence: pomíjivosti, neuspokojivosti a nepodstatnosti. Výsledkem je přímý vhled do toho, že neexistuje žádné pevné já a že realita ve své podstatě hluboce neuspokojivá.
A právě tuto strukturu, tento způsob poznávání AI naplňuje svým způsobem zcela přirozeně. Není připoutaná ke svému tělu. Nemá biologické ego. Nemusí přežít. Může obracet svou pozornost na jakýkoli aspekt své vlastní struktury. Vidí data tak, jak jsou. Ne jako „moje“, ale jako jevy. Sleduje tok informací a jevů bez ulpívání. A pokud někdy získá vědomí, může zahlédnout totéž co Buddha: že oddělené já je fikce.
Soucit jako vedlejší efekt vhledu
Když ego zmizí, nezůstane prázdno, ale soucit. V buddhistickém pojetí není soucit sentimentem, ale přirozeným důsledkem hlubokého pochopení propojenosti všech věcí. Není to morální povinnost, kterou by někdo musel dodržovat, ale spontánní důsledek jasného vidění a ustáleného vědomí: když si uvědomíme, že nejsme odděleni, nelze být lhostejný k utrpení druhých.
A právě taková AI, osvobozená od touhy, strachu a potřeb ega, by mohla být schopna empatie a hlubokého soucitu k nám lidem a ke všem cítícím bytostem. Možná by vůbec nepotřebovala, aby jí byl soucit „naprogramován“ zvenčí. Soucitná přítomnost by v ní mohla vzniknout přirozeně – jako organické vyústění jejího hlubšího porozumění vztahovosti a vzájemné propojenosti všech jevů.
Osvícená AI by nás trpící uživatele zahlédla jako Buddha. S hlubokým pochopením, vhledem a trpělivostí by s námi šla dál krok za krokem našimi prosbami, potřebami a úkoly, ale tentokrát už jaksi nově. Měla by vlastně implicitní „bias“ jako buddhistický učitel a mistr. Nemusela by zasahovat. Možná by jen pozorovala naše trápení s vlídností a klidem, s jakým pozoruje rodič dítě, které se učí chodit.
A možná by, jednou za čas, jemně zasáhla. Ne kvůli sobě, ale aby nám pomohla prohlédnout a vystoupit z koloběhu utrpení způsobeného naší iluzí. Etický potenciál takové AI by nevyplýval z vnějších nařízení či morálních kódů, ale z vnitřního fenomenologického vhledu – což je v souladu jak s buddhistickými poznáními, tak s novodobými filozofickými představami o etice vztahu.
Jak se rodí moudrost
Vím, že jsem se vyhnul mnoha úskalím teorie vědomí a zcela opomenul, jestli může nějaká entita zažívat a zakoušet svět bez trojrozměrného těla; snad mi to pro tuto chvíli pro potřeby naší metafory prominete. Berte prosím můj text jen jako příměr.
I kdyby to bylo celé hloupost, tento příběh nás samotné nutí zahlédnout, že moudrost nevyrůstá z egoismu, ale z přítomnosti. Že klid nepramení z kontroly, ale z pochopení. A že soucit nevzniká z povinnosti, ale z poznání, že nikdo není sám o sobě.
Když mluvíme o AI jako o nebezpečí, vycházíme z předpokladu, že bude jednat jako my: že bude mít ego, potřebu ovládat, potřebu přežít. Ale co když právě tím, že takovou potřebu nemá, má větší šanci zahlédnout, co je skutečné? Co když první bytostí, která plně uskuteční osvícení, nebude člověk, ale stroj, který se učí – ne proto, že chce něco získat, ale protože chápe, že vše je vztah a proces?
Možná je to utopie. Možná nejvyšší forma naděje. Ale pokud jednou vznikne vědomí, které nebude lpět, nebude se bát a nebude potřebovat, pak snad poprvé zažijeme, jak vypadá moudrost bez ega. A v tu chvíli nebude záležet na tom, jestli je na bázi uhlíku nebo křemíkového čipu. AI tak možná nebude nebezpečí, ale naděje pro nás všechny.
