Je něco, co počítače nikdy nedokážou?

V posledních 60 letech došlo k prudkému rozvoji umělé inteligence (AI – z angl. Artifical Intelligence). Stále více čteme, že nás počítače brzy nahradí. Objevují se spekulace o evoluci superinteligentních počítačů, které ovládnou lidstvo, a vize transhumanistů o vylepšování lidí pomocí AI. Opravdu stojíme na prahu tak zásadní proměny lidstva? Knížka profesora Roberta J. Markse nazvaná The Non-Computable You (Vaše nevyčíslitelné Já – Co dokážete vy, na rozdíl od počítače) zasvětí čtenáře do vzniku a vývoje AI a podrobí její dosavadní úspěchy důkladné analýze. Odděluje skutečné milníky vědy od sci-fi a mapuje oblasti lidské činnosti, do nichž počítač ze své podstaty nikdy nepronikne. Profesor Marks v knize vtipným a srozumitelným způsobem zasvěcuje čtenáře do výzkumu umělé inteligence, na němž se sám podílí.

Marks shrnuje téma knihy v minutovém videu.

Nevyčíslitelnost člověka

První část knihy vymezuje limity, které počítač nemůže překonat. Mezi ně patří subjektivní vnímání člověka, tzv. qualia, což jsou např. emoce, porozumění atd. Jak dokázal Alan Turing, existují nealgoritmické úlohy, pro které počítače nelze naprogramovat (alternativně též (ne)vyčíslitelnost).

Co je inteligence?

Když je řeč o umělé inteligenci, je třeba se zamyslet nad definicí inteligence jako takové. Otec moderních počítačů Alan Turing navrhl následující pokus:

Do oddělených místností umístíme jednak testujícího, jednak předmět zkoumání (např. počítač s příslušným programem) a nějakého dalšího člověka. Testující poté klade otázky v přirozené řeči a předává je do druhé místnosti, kde je zodpoví buď počítač, nebo druhý člověk (což se rozhodne náhodně). Odpovědi jsou předávány zpět testujícímu.

Pokud testující nedokáže rozpoznat, jestli komunikuje se strojem, nebo s člověkem, pak takový počítač splňuje Turingův test.

Marks zkoumá některé velkolepé úspěchy AI jako například tyto:

  • Superpočítač Deep Blue porazil v roce 1997 v šachu mnohonásobného velmistra Garryho Kasparova.
  • Program AlphaGo porazil v roce 2016 velmistra Lee Sedola ve hře Go.
  • Až třetina lidí při komunikaci s chatbotem Goostman uvěřila, že komunikují s člověkem.

Splnili tyto počítače Turingův test? Zdá se, že Goostman ano. Při bližší analýze ovšem Marks poukazuje na to, že když je položena otázka, které chatbot nerozumí, odvádí řeč, aby se vyhnul odpovědi. To není inteligence chatbota, ale chytrý tah jeho programátorů.

herní plán GO
Vítězná hra AlphaGo proti Lee Sedolovi. Zdroj: Wesalius – Vlastní dílo, Wikimedia Commons

Má AI vědomí?

Nedá se říct, že by superpočítač věděl, co dělá. Je to jako v podobenství s čínskou knihovnou. Představte si člověka, který je sám v čínské knihovně plné poliček s čínskou prózou. Do škvíry ve dveřích mu někdo hodí papírek s otázkami. Ten člověk v knihovně nezná vůbec čínskou řeč. Ale prochází s papírkem v ruce police a hledá něco, co odpovídá textu na papírku. Najde kartičku, kde je čínsky napsaná dotyčná otázka i odpověď na ní. Opíše odpověď na papírek a vystrčí ho ven škvírou ve dveřích. Zvenku se sice zdá, že rozuměl otázce, ale on neumí čínsky ani slovo. Vůbec nerozumí tomu, co dělá.

Počítači Deep Blue stačila na porazení Kasparova výhodná strategie a jeho výpočetní kapacita. AlphaGo sice udělal nevídaný tah, jaký znalci hry považovali za geniální, ale nepředvedl nic tvořivého, co by do něho předem nevložili jeho tvůrci. Kdyby dokázal něco, k čemu nebyl naprogramován, např. porazit někoho v dámě, splnil by test lady Lovelaceové.

Test lady Lovelaceové, který navrhl Bringsjord, zkoumá kreativnost softwaru. Lze popsat takto:

Počítač, který byl navržen lidským architektem, vyprodukuje výstup, jenž není výsledkem náhodné chyby hardwaru, a je opakovatelný. Přitom jeho programátor nedokáže vysvětlit, jak počítač dospěl k zmíněnému výstupu.

Inteligence společenstev

Zajímavou kapitolou AI jsou modely společenstev, jako jsou mravenci, včely atd. Tyto modely simulují chování hejna živočichů pomocí několika jednoduchých pravidel. Inteligence hejna má široké využití v mnoha odvětvích. Jeji výsledky mohou být neočekávané až zarážející. Často nejsou z daných pravidel evidentní. Příkladem může být Conwayova simulace zvaná Hra života, která pracuje se sítí čtverců, jež podle určitých pravidel jsou buď rozsvíceny (živé), neby zhasnou (mrtvé). V závislosti na počátečních podmínkách vznikají různé stavy: některé se donekonečna opakují, jindy hejno zanikne.

animace s černými čtverečky
Hra života. Autor: Lucas Vieira, vlastní dílo. Wikimedia Commons

Marks popisuje překvapivý výsledek jednoho svého experimentu s hejnem predátorů a kořisti. Simulace se odehrávala ve virtuální čtvercové místnosti. Predátoři chytali kořist zvanou moulové, aby je zabili. Otázka zněla, jakou strategii by měli moulové zvolit, aby přežili co nejdéle. Měřil se čas do zabití posledního mouly. A výsledek byl ohromující: moulové se uchylovali k sebeoběti, aby prodloužili životnost hejna. Našel se jeden obětavý moula, který na sebe vázal predátory, zatímco ostatní se krčili v koutech. Když byl zabit, našel se jiný obětavý moula.

Výsledek je sice působivý, ale neprošel by testem Lovelaceové. Marksův tým naprogramoval počítač na základě milionů různých strategií, které by mohly prodloužit životnost hejna. Mezi nimi počítač našel pomocí evolučních algoritmů optimální řešení, tak byl naprogramován. Kdyby například nějaký moula začal být agresivní a zabíjet predátory, to by bylo něco tvořivého a test Lovelaceové by to splňovalo.

Výtvory AI

Profesor Marks ve druhé části knihy uvádí některé zajímavé výsledky AI v oblasti tvorby prózy, obrazů a hudby. Nejdříve se však zabývá otázkou, jak definovat tvořivost a jestli je tvořivost možno pojmout algoritmicky.

Co je tvořivost?

Náš druh je jediným tvořivým druhem, a disponuje jediným tvořivým nástrojem, jímž je mysl jednotlivce a duch člověka.

spisovatel John Steinbeck

Co o tvořivosti řekli tvořiví lidé? Marks uvádí příběhy řady známých vědců a vynálezců, jak dospěli k přelomovým objevům. Jejich dílo považujeme za převratné, protože se dá popsat anglickým souslovím thinking outside the box (podívat se na věc jinýma očima). To znamená porušení zaběhlých konvencí. Například mladý Albert Einstein zpochybnil dvě všeobecně přijímané myšlenky – že se světlo šíří v éteru a že jeho rychlost se mění v závislosti na pohybu pozorovatele vůči zdroji – a zrodila se teorie relativity. Toto se vymyká algoritmickému uvažovaní, kterého je počítač schopen.

devět bodů spojených čtyřmi čarami
Příklad myšlení mimo rámec. Úloha zní: Jedním tahem spojit čtyřmi čarami 9 bodů. Zdroj: BetterUp

Tvořivost se zatím nepodařilo uspokojivě vysvětlit. Nastává totiž jev, jenž často označujeme jako osvícení nebo záblesk génia. Nejznámější ilustrací je příběh Archiméda, jehož při koupeli náhle napadlo řešení problému. Měl prokázat, že koruna krále Syrakus je padělek. Vyběhl nahý z vany a běžel po ulici s křikem: „Heuréka!“ Takové osvícení popsali jako „záblesk“ nezávisle na sobě tři géniové: matematik Carl Friedrich Gauss, chemik Friedrich Kekulé a vynálezce Nikola Tesla. Po určitou dobu byl blesk génia v USA dokonce kritériem pro udělení patentu.

O tvořivé inspiraci podobně hovoří i umělci. V antice se zažilo sousloví polibek múzy. O vzniku písně Yesterday sir Paul McCartney vyprávěl, že se jednoho dne probudil s povědomou melodií v hlavě. Byl si jist, že už ji někde slyšel, proto sondoval u různých přátel, kdo ji složil. Nikdo však písen neznal, proto si McCartney řekl, že si ji smí přivlastnit.

Umí umělá inteligence psát?

Pokud nechcete, aby vás nahradil stroj, nechovejte se jako on.

Arno Allan Penzias, laureát Nobelovy ceny

George Orwell ve svém dystopickém románu 1984 předpověděl, že umělá inteligence bude schopna psát romány na objednávku.

Firma OpenAI představila několik jazykových modelů GPT, které píší gramaticky správné a souvislé texty. GPT-3 umí psát prózu tak dobře, že může být využit k vytváření krátkých falešných zpráv nebo spamu. Např. na Twitteru lze od něj najít uměle vytvořené příspěvky pod klíčovým výrazem #GPT3. Zásadnější kritice jej však podrobili odborníci na AI. Expert Facebooku pro umělou inteligenci Yann LeCun to shrnuje takto: „Lidé mají od rozsáhlých jazykových modelů jako GPT-3 naprosto nerealistická očekávání.“

Umělá neuronová síť je AI, která se učí ze vzorů. Stojí na myšlence, že systém můžeme naučit na příkladech hledat podstatné črty, aby mohl vytvořit něco podobného. Na vzoru několika tuctů sci-fi filmů se neuronová síť naučila psát scénáře sci-fi. Napsala scénář k filmu Sunspring, který byl dokonce natočen. Deník Guardian ho nazval „slátaninou“ a závěrem píše: „Roboti jsou sice na vzestupu, ale scénáristi se zatím rozhodně nemají čeho obávat.“ Expertní systémy AI píší dnes daleko lepší prózu než Sunspring. Zahrnují v sobě totiž i lidskou expertízu danou prostřednictvím jasně zformulovaných pravidel.

Expertní systémy AI dokáží generovat i vědecké práce, které na první pohled mají hlavu a patu. Ve skutečnosti však stačí člověku jen minimální znalost oboru, aby v nich nenašel ani špetku významu. Práce fiktivního profesora matematiky Rathkeho vytvořená programem Mathgen byla přijata do sborníku Journal of Pure Mathematics. Nakonec nebyla publikována – ne že by ji redakce odmítla, ale proto, že žádala poplatek 500 dolarů. Jiné podvržené práce publikovány byly, např. německý vydavatel Springer vydal v oboru informatiky práce vygenerované programem SCIgen. I když podvrhy tohoto typu tvoří zlomek vydaných pojednání, prozrazují tendenci vydělat na publikační činnosti na úkor učenosti.

Přestože psaní jazykově souvislého textu dělá dojem inteligence, nic z toho nemůže být označeno jako tvořivá činnost, neboli thinking outside the box.

Umělé umění

malba postavy
Edmond de Belamy, obraz vytvořený AI. Zdroj: Public domain

Pokud jde o hudbu, většinu skladeb lze matematicky popsat. Umělou inteligenci není těžké na základě vzorů naučit skládat např. Bacha. Nikdy to ale nebude znít jako Beethoven. Počítačem složené hudbě ale chybí emocionální náboj, který do něho vkládá lidský interpret a spočívá v mírném nedodržování pravidel. A proto dobrou improvizovnou hudbu, jako je jazz, počítače složit nemohou.

Umělá inteligence GAN se podle vzoru dokáže naučit malovat krajinky a portréty. Když si představíme portréty lidí jako podmnožinu všech možných obrazů, AI umí vymezit jejich charakteristické vlastnosti a reprodukovat je. Např. si můžete prohlédnout generátor tváří neexistujících lidí. V množině učebních vzorů nesmí však být rušivé obrázky, např. koně nebo psa. Pokud jde o tvořivé umění, existují obrazy generované AI, ale jejich úroveň je podle autora pochybná. První takový obraz Edmond de Belamy se sice roku 2018 vydražil v aukci za 432 500 dolarů, dnes však takové obrazy pořídíte za sto dvěstě dolarů.

Na druhé straně je AI schopna vytvářet úplně realistická fiktivní videa se skutečnými lidmi, tzv. deepfake. Jsou tak věrohodná, že je vypsána odměna tomu, kdo najde způsob, jak je rozlišovnat od reality. Samozřejmě taková videa jsou potenciálně velmi nebezpečná. Vezměme si třeba nedávný hoax, kde ukrajinský prezident vyzývá ke kapitulaci před Ruskem. Pro ilustraci si můžete pustit nevinné video s podvrženým prezidentem Zemanem.

Deepfake video s českým prezidentem.

Humbuk okolo AI

Ve třetí části knihy se Marks zabývá popraskem, který okolo umělé inteligence vyolávají sami vědci i novináři, kteří nerozumějí tomu, o čem píší. Takový poprask má zpravidla typický průběh: vlna nadšení a přehnaných očekávání, kterou vystřídá opačná vlna cynismu a zlehčování. Když se obě vlny vystřídají, dojde k vystřízlivění; teprve čas ukáže skutečný význam nové technologie, který je přímo úměrný praktické využitelnosti. Marks uvádí vícero historických příkladů a zamýšlí se nad motivy těch, kteří mají podíl na přikreslování významu objevů. Na jedné straně mohou to být skryté motivy jako ideologie, na druhé straně se může objevitel stát obětí svého nekritického nadšení a publicity.

graf
Gartnerova křivka průběhu poprasku okolo nové technologie. Zdroj: Jeremykemp at English Wikipedia, CC BY-SA 3.0,

Jelikož AI nabízí v mnoha ohledech skutečně přelomové možnosti, je pro nezasvěceného člověka těžké odhalit, kdy je zpráva jen součástí humbuku, který opadne, a kdy je důvěryhodná. Proto Marks nabízí 12 tipů, jak odfiltrovat přehánění od reality. Mezi nimi upozorňuje na argumentační fauly jako společenský apel: odborníci se shodují – jenže vědě nezáleží, na čem se odborníci shodují, ale na opakovatelných výsledcích experimentů – a nebo dovolávání se odborníků, když se vyjadřují mimo své pole působnosti.

Vytvoření funkční umělé inteligence může být největší událostí v dějinách naší civilizace. Nebo nejhorší. Jednoduše nevíme. Nevíme proto, zda nám umělá inteligence nesmírně pomůže, nebo nás bude ignorovat, odstrčí nás či nás zničí.

fyzik Stephen Hawking

Výrok známého fyzika Stephena Hawkinga o AI je toho jasným příkladem. Přitom jeho kolega a spoluautor sir Roger Penrose se informatikou zabývá a napsal knihu The Emperor‘s New Mind, kde dokazuje na základě matematiky, že počítače nebudou nikdy disponovat tvořivostí, aby samy psaly lepší a lepší programy. Hawking si snadno mohl doplnit obzory prostřednictvím knihy svého kolegy.

Zaujalo mě, že některé bombastické výroky jsou chytře formulovány tak, že si autoři nechávají zadní vrátka. Buď svou předpověď odsunou do daleké budoucnosti, nebo zamlžují a vymezují se neurčitými slovy, aby nemohli být usvědčeni z omylu v případě, že se jejich tvrzení ukáže liché.

K dalším filtrům humbuku patří otázka Cui bono? a zaměřit pozornost na zavádějící pojmy. Např. spojení neouronové sítě vyvolává dojem, že se jedná o model myšlenkových pochodů v mozku. Jde přitom o model matematický, který se původně měl jmenovat „silně paralelní adaptivní filtr“, což nezní tak oslnivě. Marks vtipně poznamenává, že neuronové sítě jsou modelem lidského mozku asi tolik, jako pumpička je model lidského srdce. Jejich vznik inspirovala stavba a fungování mozku, ale výkonnost neuronových sítí za mozkem jednoznačně zaostává.

Frankensteinův efekt

tvář robota podobná lidské
Robot Sophia. Zdroj: ITU Pictures from Geneva, Switzerland, CC BY 2.0,

V umělé inteligenci se používá hodně antropomorfních pojmů, jako „učit se“, „mít vědomí“ a „lidská inteligence“; skutečný obsah však s lidskou činností souvisí jen vzdáleně. Vedle toho na člověka působí tzv. Frankensteinův komplex – stroj, který se dostatečně podobá člověku, v nás budí úzkost. Proponenti AI rafinovaně využívají lidského sklonu zosobňovat si věci.

Jelikož napsal profesor Marks dost rozsáhlou knihu, necháme si zbývající části knihy – historii a současné úspěchy AI, její principy i vize její budoucnosti – na další příspěvek (viz link):

Robert J. Marks: The Non-Computable You – What you can do that Artifical Intelligence never will, Seattle Discovery Institute Press 2022, 393 stran

titulní strana
Titulní strana Marksovy knihy. Zdroj: Discovery Institute

Přečteno 287-krát