Otázky to přitom nejsou zrovna snadné, a ani příjemné, jak bylo naznačeno, v sázce je skutečně vše – přežití či nepřežití lidstva v té podobě, jak si ji dnes představujeme. K velkému kladu Bostromova uvažování patří jeho otevřenost, upřímnost, s níž před čtenářem skutečně nic neskrývá – strkat hlavu do písku by totiž bylo to nejhloupější, co bychom mohli udělat, a rozhodně se vyplatí být předem připraveni na všechny eventuality, jakkoli by se nám mohly zdát děsivé. Dalším velkým kladem je pak srozumitelnost, s níž své uvažování  a vývody předkládá – k jejich pochopení totiž není třeba universitního vzdělání, jen trocha ochoty přemýšlet.

Aby bylo jasno, Bostrom nastiňuje – a velice racionálně, bez emocí a nějakých intelektuálních triků – realitu, možnou realitu budoucnosti, proti níž by byly vize Terminátora a podobných snímků pouhou podívanou ve stylu Jeníček a Mařenka... A z všemožných úhlů probírá jednotlivé eventuality, od vzniku umělé inteligence, jež bude chytřejší než člověk – což je v některých oblastech již realitou – ke vzniku superinteligence, kterou vytvoří již umělá inteligence sama, bez našeho přičinění, a také, bez našich zásahů. Tvrdí, a není proč mu nevěřit, že k superinteligenci nakonec dospějeme.  A lze téměř s jistotou předpokládat, že její "motivační systémy by se mohly zásadně odlišovat od těch lidských. Nemáme důvod očekávat, že by běžná umělá inteligence byla motivována láskou, nenávistí, pýchou nebo jiným obvyklým lidským citem tohoto typu." V případě superinteligence je to pak ještě pravděpodobnější. Protože ta se bude řídit pouze a pouze vlastními cíli, a nějaké lidstvo, to jí může být ukradené, respektive, stát jí v cestě. Proto si, Bostromovými slovy, "naléhavě musíme vytvořit přesnou představu, co konkrétně se může pokazit – abychom těmto selháním mohli předejít."

Vše je ztížené tím – protože nejsme, respektive nebudeme v nějakém hollywoodském filmu –, že proti nám bude stát soupeř zcela jiný, chladný, bez citů. A vše pak může jít ráz na ráz: "Konečná fáze začíná v okamžiku, kdy umělá inteligence získá tolik síly, že již nemá zapotřebí utajení. Nyní může své cíle uskutečňovat přímo a v plném rozsahu. Toto stadium může začít ‘úderem’, jímž umělá inteligence vyhladí celý lidský druh a všechny lidmi stvořené automatické systémy, které by jí mohly klást inteligentní odpor." Sci-fi? Ani náhodou!

O jedné věci také Bostrom, vedle exkurzí do ekonomiky, počítačové vědy, prognostiky, neurologie a podobně, píše: totiž o tom, že tím, kdo onu Pandořinu skříňku otevře, nebude nikdo jiný, než právě my, lidé. Tedy, nějaký ješitný či nepřemýšlející vědec, zkrátka fachidiot, eventuelně nějaký zaslepený byznysman, korporace, politici, kterým půjde jen o vlastní, privátní zájmy. Protože, jak trpce poznamenává, právě vědci, protože bez nich by to nešlo, leckdy nevidí dál než mimo svůj pracovní stůl: "Špatná zpráva: Brzy vznikne zařízení, které zničí svět. Dobrá zpráva: Dostali jsme grant na jeho vybudování."

I proto je dobré a potřebné Bostromův čtivý, byť nepříjemný text číst. Ovšem otázkou je, zdali jej budou číst právě ti, kteří mohou další vývoj ovlivnit, a kteří možná právě v tuto chvíli jásají nad dalšími objevy (a zisky).

Josef Rauvolf, překladatel a publicista