Homo deus: apokalypsa, nebo utopie?

Kam se ubírá vývoj umělé inteligence? Získá lidstvo nesmrtelnost, nebo bude nahrazeno superinteligentní AI? O čem debatují zainteresovaní vědci?

Harariho plán pro 21. století

Zápas se stářím a smrtí se bude jevit jako samozřejmé pokračování úctyhodného boje proti hladomoru a nemocem a stane se nejvyšší civilizační hodnotou.

Yuval Harari

Yuval Harari v úvodu své futuristické knihy Homo deus shrnuje úspěchy lidstva ve snaze snížit chudobu, odstranit choroby, handicapy i podvýživu. Poněkud optimisticky píše, že jsou tyto problémy skoro vyřešeny, takže se člověk může zabývat novými cíli. Tvrdí, že bude v 21. století usilovat o dosažení nesmrtelnosti. „Brzy budeme považovat smrt za pouhý technický problém,“ vysvětluje Harari. Z pohledu lékařů bývá právě to příčinou smrti: selhání srdce, rakovinné buňky, virus – samé technické problémy. Každý defekt vyžaduje nápravu. Úvahy futuristů směřují k tomu, že by člověk mohl nahrát svou mysl na křemík a žít dál ve virtuální realitě.

Těžiště zdravotní péče se mění: Zatímco v minulosti stát léčil své občany proto, aby získal schopné vojáky a výkonné pracovní síly, současné zdravotnictví se začíná soustřeďovat na vylepšování lidí. Daří s účinně předcházet chorobám a pokud není třeba bojovat o přežití, stává se cílem mnoha lidí mít dokonalé tělo a cítit se dobře. A očekávají, že stát se o to postará. Do Deklarace o nezávislosti zakladatelé Spojených států sice zakotvili právo na štěstí, ale nikoliv štěstí jako takové, nýbrž právo o něm rozhodovat. Teď se však zdá, že se právó na štěstí mění v něco, co si může člověk nárokovat.

Transhumanismus – vylepšit člověka

Druhý velkolepý projekt lidstva na zajištění globálního štěstí znamená inženýrsky přestavět homo sapiense, aby si mohl nekonečně užívat.

Yuval Harari

Jsme svědky nárůstu užívání psychofarmak: uklidňující léky pro hyperaktivní žáky, povzbuzující léky pro vojáky, anabolické steroidy ve sportu atd. Mnoho duševních problémů se dnes řeší tak, že se biochemicky upraví psychický stav pacientů. Stát usměrňuje poptávku po biochemické honbě za štěstím, aby oddělil patologickou intoxikaci od přijatelné – co není zakázáno, je povoleno. Vědecký výzkum se zabývá myšlenkou vysílat elektrické signály přímo do mozku, aby se dosáhlo změny duševního stavu. Někteří výzkumníci chtějí využít genetické inženýrství k přestavění našeho těla i mysli, aby si člověk mohl neustále užívat. Tyto cíle jsou však z etického hlediska velmi kontroverzní. Vedle toho probíhá výzkum propojení biologické inteligence s umělou.

Harari uvažuje, že by si mohl v budoucnu člověk přizpůsobit své tělo a duševní činnost a mít schopnost propojit se se svými nástroji. Současná technologie umožňuje ochrnutým lidem ovládat klávesnici pouhými myšlenkami. Vyvinuli jsme bionické končetiny, které mohou nahradit biologické a jsou ovládány mozkem. Technické pokroky, za které jsou mnozí handicapovaní lidé vděční, dláždí cestu ke vzniku kyborgů. Naše těla by mohly v budoucnu prostupovat anorganické přístroje jako bionické oči a ruce, miliony nanorobotů v krevním řečišti a mozek bychom měli připojený přímo k internetu. Potom se současný člověk stane jen zastaralou verzí inteligence a bude mít podřadné místo. Takové úvahy všeobecně jsou nazývány transhumanismus.

Oceán vědomí

Současný vývoj AI inteligenci od vědomí odděluje. Harari píše o výzkumu vědomí, že čím podrobněji umíme celý proces popsat, tím zbytečnější se jeví mít vědomé pocity ve své mysli. Dokonce dochází k závěru, že člověk ani nemá svobodnou vůli, i když se domnívá, že se rozhoduje nezávisle. Neuvědomuje si, že jeho pocity a vůli ovlivňují elektrochemické pochody v mozku. Tato argumentace se podobá situaci, kdy měříme elektrické signály na klávesnici PC a zjistíme, že se objevují zcela nahodile. Proto text, který díky nim vzniká vytvořil náhodný proces, přestože obsahuje smysluplné informace. To že klávesy mačká člověk měřením elektrických signálů nezjistíme, právě tak jako nezjistíme, jak nehmotné vědomí ovládá mozek.

Věda tedy zatím neumí vysvětlit lidské vědomí. Ani nemáme moc poznatků o různých dosažitelných úrovních vědomí. Psychologie se zatím spíš zaměřovala na jeho poruchy, jako autismus či schizofrenii, ale vyšší stavy vědomí, jakých lze dosáhnout pomocí meditace či drog, nezkoumala. Harari uvažuje, že k vyšším stavům vědomí může lidstvu otevřít přístup transhumanismus. K jakým až obzorům se dá plout po oceánu vědomí, bude-li lidstvo těžit z možností genetického inženýrství, biochemie a takových přístrojů, jako je helma na zvyšování koncentrace?

Na druhé straně však varuje: možná svá těla a mozku vylepšíme, ale přijdeme o rozum. Helma na zvyšování koncentrace v člověku potlačuje pochybnosti a soucit, protože kvůli nim člověk váhá. Moderní společnost obvykle odměňuje rozhodnost. „Spojíme-li praktickou schopnost ovlivňovat mysl s úzkými zájmy vlád, armád a firem, budeme mít recept na potíže,“ píše Harari. Kromě toho jsou to tak nákladné projekty, že se mohou týkat jen nejbohatších lidí.

Superinteligence na dosah?

Vytvořením umělé inteligence dáváme zrod nové formě života s neomezeným potenciálem jak k dobrému, tak zlému.

Max Tegmark

Úvahy o vzniku superinteligence se objevily už během Druhé světové války. Zakládají na myšlence statistika I. J. Gooda, který spolupracoval s Alanem Turingem: Pokud člověk vytvoří stroj s inteligencí vyšší než on sám, pak tento stroj může vytvořit ještě inteligentnější generaci strojů atd. Došlo by k „explozi inteligence“, a proto je ultrainteligentní stroj to poslední, co člověk potřebuje vynalézt. John von Neumann pro tento kvalitativní bod zlomu zavedl pojem technická singularita. Transhumanisté vycházejí z evolučního paradigmatu, a proto mluví o dalším, cíleném kroku evoluce, aby se vývoj urychlil. Nejde ovšem o pokračování evoluce, ale o inteligentní plán, protože to vše odstartuje člověk. Z toho také vyplývá, že lidstvo ponese morální zodpovědnost za další vývoj.

Pro naši diskuzi o rozvoji AI je užitečné rozlišovat dva pojmy:

• úzká umělá inteligence (Narrow AI), která umí velmi dobře pouze jednu konkrétní věc,
• obecná umělá inteligence (Artificial General Intelligence), která dokáže pochopit nebo se naučit jakýkoli intelektuální úkol, který dokáže člověk.

Současná AI je vesměs prvního typu. Pokud je řeč o obecné umělé inteligenci, fakt, „že informace jsou nehmotné povahy, působí zásadní překážku sestrojení hmotného stroje, který by mohl něčemu smysluplně rozumět,“ píše profesor Lennox v knize 2084. Navzdory vznosným tvrzením futuristů jsme se k AGI zatím nepřiblížili. Lennox konstatuje, že spekulace o vzniku superinteligence jsou nepřímo úměrné zapojení jejich autorů do vlastního vývoje AI. Profesor Danny Crookes to vyjádřil tak, že jsme ještě hodně, hodně daleko od vytvoření inteligence podobné člověku. Vidí dvě základní otázky, na které je třeba najít odpověď:

1. Jak převádíme fyzickou situaci do myšlenkové představy, na níž pak uplatňujeme obecné principy myšlení?
2. Jak si může počítač vytvořit a udržovat vnitřní myšlenkový model skutečného světa?

Crookes konstatuje: „Tato všeobecná schopnost, kterou mají všichni lidé, je klíčovým požadavkem skutečné inteligence, avšak systémům umělé inteligence naprosto zásadně schází.“

Umělá inteligence nerozumí tomu, co dělá. Počítače nemají žádné cíle, žádné hodnoty, ani potřeby. Když Deep Blue porazil Garryho Kasparova, neměl na věc žádný názor. Humbuk okolo AI je postaven na antropomorfických pojmech, které vyvolávají dojem, že umělá inteligence žije. Jak vtipně poznamenala Rosalind Picardová: „Umělá inteligence není živá o nic víc než Microsoft Word.“

Nicméně některé současné trendy představu blížící se technické singularity podporují. Jak píše Lennox v knize 2084: „Stojí za povšimnutí ta příznačně lidská ironie, že jako lidstvo, chtěje co nejvíc volnosti, se nakonec vzdáme možnosti volby a přenecháme ji strojům, které obvykle programuje někdo jiný, takže se neřídí našimi rozhodnutími, ale jeho.“

Dataismus a soumrak demokracie

Yuval Harari považuje nejlepší současný společenský řád liberalismus za překonaný. Tvrdí, že ho do budoucna ohrožují tři vyhlídky:

1. Člověk jako jedinec ztratí význam.
2. Lidé budou kolektivně řízeni vnějšími algoritmy.
3. Někteří lidé dosáhnou nové úrovně nadlidí a stanou se elitou ovládající celý systém.

Jestliže umělá inteligence předčí člověka skoro ve všech oblastech, nebude lepší se řídit její úsudkem? Harari vidí pozvolnou přicházející změnu v tom, že odevzdáváme více kontroly nad svým životem smartfonům. Jak jsme viděli v článku o etice AI, lidé jsou vytlačováni umělou inteligencí z trhu práce a může z nich vzejít neužitečná třída. Nebo systém bude sice lidi potřebovat, aby přispěli tím, co umějí dobře, ale bude je znát lépe, než oni sami sebe, proto většinu důležitých rozhodnutí udělá za ně. Současně s tím se však privilegovaná skupina lidí bude měnit v nadlidi (Harari mluví o „bozích“ ve smyslu řecké mytologie). Využitím vylepšující technologie elita získá dosud nepředstavitelné schopnosti a celý systém bude řídit. Této úrovně většina lidí nedosáhne a stane se z nich nižší kasta ovládaná jak algoritmy, tak novými nadlidmi.

Leon Kass z Chicagské univerzity tvrdí, že jednotlivé stránky honby za AGI rozhodně nejsou morálně neutrální. Spíše se jedná o na snahu zíkat moc a nadvládu. C. S. Lewis se těmito úvahami zabýval už v roce 1943 v knize Zničení člověka. Napsal, že to co nazýváme mocí člověka nad přírodou, je ve skutečnosti moc některých lidí nad jinými lidmi, a to s použitím přírody jako nástroje – mohou, nebo nemusí dát ji druhým k dispozici, aby z ní měli užitek. „Pokud některá epocha prostřenictvím eugeniky a vědeckého vzdělávání opravdu získá moc přimět své potomky, aby dělali to, co sama chce, stanou se ve skutečnosti všichni lidé, kteří budou žít po ní, objektem této moci. Budou slabší, nikoli silnější; i když jim totiž můžeme dát do rukou úžasné stroje, určili jsme předem, jak je mají používat.“

Lewis si klade otázku, jakou povahu bude mít změněný člověk? Určí ji malá skupina lidí u moci, kteří mají vybírat, jaké uměle vytvořené tao (mravní zákon) budou ze svých vlastních důvodů u lidské rasy pěstovat. „Nejde o to, že by to byli špatní lidé. Vůbec to nejsou lidé. Tím, že vystoupili z taa, vstoupili do prázdna. Jejich objekty také nejsou nutně nešťastní lidé. Ale ani oni vůbec nejsou lidmi: jsou to artefakty. Konečné vítězství člověka se ukázalo být jeho zrušením.“

Radikální futuristické hlasy volající po tom, aby se lidská rozhodnutí přizpůsobila optimálnímu toku dat, by chtěly odstranit všechny překážky, jako soukromí a autorská práva. Dataismus se domnívá, že se vesmír skládá z toků dat a hodnotu každého fenoménu nebo entity určuje jejich příspěvek ke zpracování celku. „Dataističtí proroci ze Silicon Valley zcela záměrně používají mesianistický jazyk,“ píše Harari. Vezměme si například titul knihy Raye Kurzweila Singularita se přiblížila. Profesor Marks v knize Non-Computable You věnuje celou kapitolu Církvi umělé inteligence, kde předmětem uctívání je AI, která teprve vznikne. Tito lidé věří, že předpovědi Raye Kurzweila se uskuteční. Marks píše: „Ještě jim nedošlo, že termín nealgoritmická výpočetní technika na digitálním křemíku je oxymoron.“

Klíče v Genesis

Úvahy o vytvoření umělého člověka se superschopnostmi nejsou nové. Všichni jsme se učili o hře Karla Čapka R.U.R., odkud máme slovo robot. Podle Pauly Boddingtonové je nástin našich současných obav z budoucnosti AI zachycen v příběhu o pádu člověka v ráji. Bůh stvoří člověka a dá mu svobodnou vůli. Člověk se však rozhodne vzepřít Boží vůli. Genesis problém naprosto přesně vystihuje: „Co udělají roboti, když nad nimi nebudeme mít plnou kontrolu? Budou se držet stejného hodnotového systému jako my? Rozhodnou se nás neposlouchat? Jaký bude vztah mezi námi a naším výtvorem?“

Had byl nejchytřejší ze vší polní zvěře, kterou Hospodin Bůh učinil. Řekl ženě: Opravdu Bůh řekl: Nejezte ze žádného stromu v zahradě? Žena hadovi odpověděla: Z ovoce stromů v zahradě můžeme jíst. Ale o ovoci stromu, který je uprostřed zahrady, Bůh řekl: Nejezte z něho, ani se ho nedotýkejte, jinak zemřete. Had ženě řekl: Jistě nezemřete, neboť Bůh ví, že v den, kdy z něho budete jíst, se vaše oči otevřou a budete jako Bůh, budete znát dobré a zlé. Žena viděla, že je to strom dobrý k jídlu a lákavý pro oči, strom žádoucí pro získání moudrosti. Vzala z jeho ovoce a jedla. Dala také svému muži, který byl s ní, a jedl i on.

Genesis 3,1–6

Stojí za povšimnutí, že tento příběh mluví o touze lidí po bohorovnosti, která se stala příčinou všeho zla na zemi i příčinou lidské smrtelnosti.

Scénáře budoucnosti s AGI

Fyzik Max Tegmark působící v Massachusettském technologickém ústavu (MIT) si představuje, že k ovládnutí světa umělou inteligencí dojde ve třech krocích: Nejdříve vznikne AGI na úrovni člověka, té bude potom použito k vytvoření superinteligence, která bude nakonec uvolněna, aby převzala vládu nad světem.

V úvodu své knihy Life 3.0 si představuje supertajný projekt AI zvaný Omega Team, který vytvoří výkonnou umělou inteligenci Prometheus. Zpočátku vydělává značné jmění tím, že úspěšně konkuruje lidem, tzv. turkerům, kteří pro Amazon plní úlohy neřešitelné pro obyčejné počítače. V další fázi Omega Team naučí Promethea tvořit filmy, a tak exponenciálně zvýší zisky. Nakupené jmění je použito k ovládnutí světového obchodu, medií, politiky atd. Prometheus má nakonec absolutní moc nad celou planetou. Jde o totalitní systém: nejenže má přehled o veškeré elektronické komunikaci, ale rozumí jí a ví o všem, co si lidé na světě myslí a co dělají.

Tegmark samozřejmě netvrdí, že to všechno se bude dít. Například stroj nemůže ničemu rozumět, ani vědět, co si lidé myslí – nemá totiž vědomí. Předkládá ale čtenáři určitou vizi, aby o ní přemýšlel. Potom vykresluje dvanáct možných scénářů budoucnosti. Jde o celé spektrum od nejpochmurnější dystopie až po nejrůžovější utopii. V některých budou mít někteří lidé umělou inteligenci pod kontrolou a využijí ji proti ostatním. Podle dalších scénářů si Prometheus lidstvo nemilosrdně zotročí, nebo ho dokonce úplně vyhladí. V jednom scénáři se stane ochraňujícím Bohem.

Homo deus už v bibli?

Je znepokojivé, že některé Tegmarkovy úvahy vidíme už dnes v realitě. V článku o etice AI jsme viděli, jak Čína zneužívá umělou inteligenci k udržování absolutní totality. Dystopické představy budoucnosti řízené umělou inteligencí, která si zotročí lidstvo, najdeme v mnoha sci-fi filmech, jako Matrix nebo Blade Runner. A co je velmi zajímavé, jeden takový dystopický scénář starý 2000 let najdeme na stránkách bible. Profesor Lennox poznamenává, že v diskuzi o těchto otázkách se často vracíme k tématům z biblických knih Genesis a Zjevení: „Při úvahách o budoucnosti se otázce Boha prostě nevyhneme.“

Zničit a přetvořit lidskou přirozenost znamená hrát si na Boha. Hlavní námitka proti hře na Boha tkví v tom, že Bohem je už někdo jiný. Pokud lidskou přirozenost stvořil tak, jak zamýšlel, tedy pokud není výsledkem slepé náhody, která nás neměla na mysli – potom nemáme právo ji změnit na něco jiného.

filozof J. Budziszewski

První věc, kterou profesor Lennox připomíná, je biblické učení, že se v osobě Ježíše Krista se snoubí lidství i božství – je tedy skutečným homo deem. Píše, že „ústředním bodem křesťanské zvěsti je, že budoucnost bude mnohem úžasnější než cokoliv, co AI nebo AGI může slíbit, jelikož se něco daleko většího než to na planetě Zemi už uskutečnilo: Bůh, který stojí za existencí vesmíru i s jeho zákony a architekturou lidské mysli, božský Logos, jenž byl na počátku, zakódoval sám sebe do podoby člověka – Slovo se stalo tělem a přebývalo mezi námi. Toto není umělá inteligence, to je skutečná inteligence – ta daleko přesahuje jakékoliv představy i možnosti lidstva.“ (A to, že se Bůh stal člověkem, je nejjasnějším důkazem jedinečnosti lidských bytostí, dodává.)

Další bod biblického učení také patří k věci: Až se naplní čas, čeká ty, kdo ho vírou přijali, „upgrade“ do podoby jeho vzkříšené existence, aby měli podíl na věčném světě, který stvoří. Může vědecky založený člověk věřit ve vzkříšení? V jiném článku tomu věnováném jsme viděli, že Kristovo vzkříšení je podložitelné historickými fakty. Koneckonců, jiní vědci věří, že v budoucnosti smrt bude překonána technologií! Křesťanství tedy k této tematice má co říct, a tak bychom měli zvážit jeho implikace. Pokud má pravdu, ukáží se všechny pokusy lidstva o překonání smrti jako jalové.

Dystopie z Apokalypsy

Jestliže myšlenka světové vlády není realistická, pak lze od naší budoucnosti realisticky očekávat je jedno: naprosté vyhlazení člověka člověkem.

Albert Einstein

Už zmíněná biblická kniha Zjevení obsahuje pasáž, která Tegmarkovy úvahy nápadně připomíná. Než se do ni podíváme, začněme u apoštola Pavla. V 2. listu do Tesaloniky píše, že spouštěčem událostí vedoucích k návratu Krista bude příchod „člověka bezzákonnosti“. Jedná se o tyrana, který lidstvo oklame falešnými zázraky. Z textu vyplývá, že půjde o globální dění a všichni o tom budou vědět. Pavel jasně píše, že Bůh bude muset zasáhnout, aby zastavil nastolený režim maximálního zla. Píše, že to „tajemství této bezzákonnosti již působí“: římští císaři si přisvojovali božské pocty a když je křesťané odmítali, byli zabíjeni.

Nárokování si božských poct vládnoucí elitou můžeme vidět v celé historii. Neměli bychom se tedy divit, pokud se v budoucnosti taková arogance moci znovu vynoří. Samozřejmě to vyvrací rozšířenou představu, že lidé jsou v podstatě dobří a jejich zlepšováním bude nakonec zlo vymýceno a nastane jeden z Tegmarkových utopistických scénářů. Podívejme se do známé pasáže z knihy Zjevení. 13. kapitola začíná popisem šelmy, která je symbolem politické říše a ovládne celý svět. Potom se vynoří další šelma:

A uviděl jsem jinou šelmu vystupovat ze země; měla dva rohy jako beránek, ale mluvila jako drak. Vykonává všechnu pravomoc té první šelmy v její přítomnosti. Nutí zemi a její obyvatele, aby se klaněli té první šelmě, jejíž smrtelná rána byla vyléčena. Činí veliká znamení, takže nechá i oheň z nebe před zraky lidí sestupovat na zem, a svádí obyvatele země znameními, která jí bylo dáno učinit před očima šelmy. Říká obyvatelům země, aby učinili obraz šelmě, která měla ránu od meče a ožila. A bylo jí dáno, aby vložila ducha do obrazu té šelmy, takže obraz šelmy promluvil a způsobil, aby byli zabiti všichni, kteří se nepokloní obrazu šelmy. A působí, aby všem, malým i velkým, bohatým i chudým, svobodným i otrokům, byl dán cejch na pravou ruku nebo na čelo [a] aby nikdo nemohl kupovat ani prodávat, leda ten, kdo má cejch: jméno šelmy nebo číslo jejího jména. Zde je moudrost. Kdo má rozum, ať spočte číslo té šelmy. Je to číslo člověka, a jeho číslo je šest set šedesát šest.

Zjevení 13,11–18

Druhá šelma (zjevně výše zmíněný „člověk bezzákonnosti“) všechny nutí uznat moc první šelmy a nechat se označit na čele nebo na ruce. Její oživení připomíná cíl proponentů AGI vytvořit umělý život a nahrát mysl člověka na křemík. Nevíme sice, co přesně má autor Zjevení na mysli, ale mohlo by jít o vytvoření nějaké formy „života“, která bude tak pokročilá a fascinující, že oklame a zotročí si celý svět. Každopádně nejde o běžnou modlu, protože má nařídit, že mají být zabiti všichni, kdo se nepokloní – to vyžaduje sledování a nakládání s lidmi v globálním měřítku. Vyplývá z toho, že by taková AGI měla nějaké vědomí, nebo jde jen o vylepšení dnešní nevědomé AI?

Nemáme zatím dost informací, abychom v textu viděli konkrétní vývoj. Konspirační teorie vedou k nekonečným spekulacím, které se snaží určit jméno v čísle 666 pomocí gematrie. Až se objeví tento „člověk bezzákonnosti“ na scéně, jistě to nikomu neunikne. Světová vláda, která by vyřešila problémy globální ekonomiky a globálního oteplování, se zdá čím dál potřebnější. Každopádně je tato biblická pasáž aktuální. Může být varováním pro současnou technologicky pokročilou generaci. Bylo by jistě fatální chybou pomyslet si po její přečtení, že jde o dětinskou báchorku. Za zmínku také stojí to, že celý kontext vyznívá tak, že celý vývoj dopustí Bůh a nechá ho zajít po určitou mez (období na 3,5 roku), aby nakonec sám zasáhl.

Zdroje

• Yuval Noah Harari: Homo deus – stručné dějiny zítřka, LEDA 2017
• John C. Lennox: 2084: Artificial Intelligence and the Future of Humanity, Zondervan Reflective 2020

• Robert J. Marks: The Non-Computable You – What you can do that Artificial Intelligence never will, Seattle Discovery Institute Press 2022
• C. S. Lewis: Zničení člověka, Návrat domů 2017

Přečteno 105-krát