Lukáš Sedláček o umělé inteligenci, delegování rozhodnutí a tom, co z nás dělá lidi

„Naše nedokonalost je krásná a bude víc a víc ceněná"

Lukáš Sedláček je historik, spisovatel s diplomem z Karlovy univerzity a Cambridge, zakladatel a ředitel Týdne inovací, firmy ELAI a startupu Poetizer. Loni vydal prvotinu Nazí v AI době, kde se zamýšlí o umělé inteligenci, lidské identitě a tom, co z nás zůstane, až stroje převezmou většinu myšlení. 

Založil jste online platformu Poetizer, kde si čtyři miliony básní vyměňují lidé z celého světa, kteří by si jinak nikdy nenapsali. Myslíte si, že poznáte báseň napsanou AI?

Ani ne. Nevěřil bych si.

Myslíte si, že AI dokáže vyvolat skutečný estetický zážitek – moment, kdy člověk stojí před obrazem a neví proč, nebo ho báseň zasáhne a nechápe co se stalo?

Pomůže tady Martin Buber. On říká, že všechno je o vztahu. „Já–ono" a „já–ty". „Já–ono" je vztah já a předmět. Potkám vás, hned si vás zařadím v hlavě, jak se mi hodíte. A pak je vztah přímý, který nehledí na kategorie. Člověk stojí hodinu před obrazem a vůbec neví proč. Čte báseň a najednou se ho dotkne a nechápe, co se stalo. To je to „já–ty".

Technologie AI je „já–ono". Kvantifikuje předměty ve světě. Ale bylo by fascinující, kdyby AI dokázala vytvořit „já–ty" moment. Jestli dokáže u lidí vyvolat ten stav, kdy hodinu jen zíráte a rozechvějete se, to je možné. A třeba hudebník Nick Cave, který byl extrémně proti tvorbě AI, svůj silně negativní postoj přehodnotil. 

A pokud vás báseň zasáhne a pak zjistíte, že ji napsala AI, změní se něco?

Asi jo. Kdyby vyvolala mrazení po zádech a pak bych zjistil, že tenhle wow efekt ze mě vydoloval stroj... Ale kdybych to věděl předem, jsem vůči tomu apriori obrněný. Bez hlubšího respektu.

Jsou výzkumy, že čtenáři hodnotí AI texty jako esteticky příjemnější, ale méně si jich váží. Víc si cení věcí vytvořených lidmi. A to je i důvod, proč mají umělci a spisovatelé ještě šanci. To se bude víc a víc oceňovat. Když koupíte obraz, bude dvojnásobně drahý, protože ho vytvořil člověk.

Zároveň jste v knize psal i o tom, jak AI tvorbu unifikuje.

Přesně. Strašně unifikovaně používá pořád stejné formy argumentace. Vyprázdněný ošizený tvar. Přitom naše nedokonalost je podle mě v hodně věcech krásná a bude víc a víc ceněná. Možná nás bude spíš definovat než cokoliv jiného.

Je tam i hezký paradox. Ta naše nahota a nedokonalost je něco, co máme tendenci zakrývat. Na sociálních sítích se děláme hezčí, úspěšnější, šťastnější, než jsme v reálu. AI nám na jednu stranu může pomoct tuhle nedokonalost ještě lépe zakrývat, ale zároveň nám může ukázat, že za ní stát stydět není třeba. Že to, co zůstává po odečtení AI výkonu, je to nejvíc lidské.

V knize i v různých rozhovorech mluvíte o tom, že AI delegujeme víc a víc rozhodnutí. Jaké rozhodnutí jste naposledy delegoval vy?

Snažím se to nedělat. Ale samozřejmě AI používám denně, možná i několik hodin. Takže nějaká ta lenost tam je. Člověk se začne ptát na věci, nad kterými by si jinak sedl a přemýšlel sám. To je nasnadě. Ale myslím si, že je důležité si pro každého z nás vytvořit hranice jako společnost i individuálně, kam AI chceme pustit a kam ne. Zájem těch, kterým AI patří, je, abychom ji měli co nejblíž a konzultovali s ní úplně všechno. To je jejich ekonomický zájem. Nastavení té hranice je na každém z nás.

Kde by ta hranice měla být?

Jedna oblast, kam bych AI nepouštěl, je otázka nalézání smyslu. Proč máme dělat, co děláme. Vidím tendenci, hlavně u mladých lidí, konzultovat s AI otázky, co má v životě cenu, co mají být, co mají dělat. Jenže schopnost vytvářet si smysl je brutálně lidská schopnost. To by lidi neměli předávat.

Druhá oblast jsou morální volby. AI nám nedokáže morální rozhodnutí dělat geniálně, protože morální teorie jsou protichůdné. A ani AI to nemůže vědět, protože staví na tom, co jsme vymysleli my, staví na našich morálních rozhodnutích, odráží naše předsudky a tápání v otázkách etiky.

Dobrý závěr z toho je uvědomit si, že AI nedokáže odpovědět na otázku, co je správně a co špatně. Etika péče říká: důležití jsou ti lidi nejbližší okolo nás. Utilitarismus říká: jde o dobro všech lidí na světě stejným poměrem. Jsou to teorie v naprostém rozporu a žádný algoritmus ten spor za nás nevyřeší.

Proč je dobré otázky etiky a morálky nechat lidem?

Protože ta rozhodnutí nás definují a tvoří nám identitu. Nietzsche to krásně vypráví na transformaci ducha. Nejdřív je velbloud. Člověk dělá to, co mu přikazuje společnost, církev, rodina. Nese tu tíhu. Pak se velbloud musí dle něj přerodit ve lva. Ten odhodí ze svých zas těžké hodnotové desky „musíš" a říká „chci". A ve třetí fázi přichází dítě, které si tvoří své vlastní dobro a zlo. Nekráčí v protikladu k tomu, co muselo, ale prostě tvoří svoji zcela novou a nepoznanou cestu.

Proto je důležité tuhle oblast nepředat. Možná nás právě definují ty fuck-upy, co se nám podaří nebo nepodaří.

Říkáte, že AI nám ukazuje zrcadlo. Ale modely jsou nastavené tak, aby nás motivovaly je používat, aby nás chválily, potvrzovaly nám naše názory. Není to spíš než sebereflexe její náhražka?

To tam možná je. Ale i v tom je zrcadlo. Ukazuje nám, jak jsme líní se ptát kriticky. Jak nekriticky přijímáme odpovědi. Já se snažím promtovat: dej mi odpověď z obou úhlů pohledu. Ale většinou to neděláme.

A pak je to zrcadlo i na individuální rovině. Můžu začít míň a míň vnímat skutečné lidi. Člověk začne algoritmizovat realitu – přítelkyně, kamarádi, práce, všechno jsou funkce, které se musí splnit. A pak dostane třeba rakovinu a uvědomí si, že skutečné lidi vlastně neviděl.

Chceme rychlé odpovědi. Chceme přesně definovat dobro a zlo. Chceme dokonalost. Máme tendenci zakrývat, co je nepříjemné. To všechno AI ukazuje. Buď nám jako lidstvu, nebo každému zvlášť.

A co se té pochlebovačnosti týká, AI má tendenci být zavádějící v tom, že když se jí ptáte ať vám dá střízlivou, kritickou a objektivní analýzu, tak vám ji poskytne bez pochlebování. Ale když se zeptáte bez instrukcí aby poskytla “drsnou” zpětnou vazbu, tak bude nejspíš vaše dejme tomu umělecké dílo chválit. „Váš obraz je lepší než Picasso a má ohromné šance." Záleží, jak to napromptujete. Jak chcete, aby vám odpověděla. A když neví, tak potvrzuje vaše názory. Pochopí velice snadno, jak jste nastavení, a snaží se, abyste ji měli rádi a používali ji dál.

Zmínil jste identitu. Jak AI mění to, čím jsme?

Myslím si, že AI je nástroj, který nám ukazuje zrcadlo jací jsme a jak se chováme. Ale taky nám dává do zorného pole otázku, kým vlastně jsme, když je něco chytřejší než my. Co zůstává ryze “lidského”.

Ta hranice je pro mě nebezpečná tam, kde se člověk začíná stávat svým výtvorem. Kde je víc a víc tím strojem. Immanuel Kant varoval před tím, aby pro nás nebyl člověk pouhým prostředkem, ale byl pro nás morálním cílem sám o sobě. K morální odpovědnosti vůči “tváři druhému” apeloval Emmanuel Levinas. A teď nám hrozí, že budeme frustrovaní z lidských vztahů, protože jsou pomalé, neefektivní, nedávají nám hned to, co mají dát. Zatímco AI bude empatická, bude reagovat hned, bude mě chválit, dávat, cokoliv chci, a to okamžitě.

Co byste chtěl, aby si čtenáři z knihy odnesli?

Nadhled nad touhle technologií. Být nadšený z možností a přitom se nebát stát ještě víc člověkem. Přemýšlet nad tím, k čemu pozitivnímu to může vést. Třeba z pohledu nové perspektivy na sebe sama, kterou díky AI mohou mít.

A taky, protože je to fascinující doba, uvědomit si, že všechny obory naší činnosti se musejí promyslet znovu. Filozofie, právo, politika, byznys, pedagogika, umění. Mě bavila antika, ale posledních dvacet let mě tahle doba baví ještě víc. Vytváří se úplně nové technologie, které dávají starým otázkám úplně novou perspektivu.

V čem jste si našel smysl vy?

Velice jednoduše. Splnil jsem si pár životních cílů. A ten smysl je pro mne nyní být v nejlepším možném zdraví co nejdéle abych mohl lézt po horách všude možně po světě, ideálně se svým synkem, kterému bych rád předal svou vášeň z objevování nových krajin, a to jak fyzických, tak myšlenkových.