Superinteligence: Až budou stroje chytřejší než lidé

(...) Přesto všechno je Nicku Bostromovi nutno přiznat odvahu za to, s jakou vehemencí, komprehenzivitou a odhodláním se pustil do vyčerpávajícího přehledu problematiky, jež futurology, zaměřené na umělou inteligenci a myslící stroje, ovládá přinejmenším od dob Turingova stroje.

(...) V knize, která právě vyšla v češtině a kterou jako varování chválí velikáni technologického průmyslu Bill Gates či Elon Musk, řeší Bostrom přesně ono dilema komiksu, které popisuje Ol Jensen astronautům: jak zabezpečit, aby umělá inteligence nepřekročila jisté zákony, etiku, morálku. (...) Jedna věc je ekonomická otázka, kde stát na takové obří výdaje vezme peníze, ale druhá je právě morálně-etická: jak zajistit, aby lidé ochotně a sami od sebe neodevzdali svoji budoucnost do rukou umělé inteligence? Nebo aby si ji ona sama nevzala, až bude schopna před svými tvůrci či kontrolory ukrývat své pravé úmysly? Až bude prostě chytřejší než člověk. Bostrom nedává jednoznačnou odpověď. V zásadě jen naznačuje směry, kterými by se vývoj mohl ubírat, jaké druhy umělé inteligence by se mohly vyvinout, jaké hrozí jejich politické či mocenské zneužití a jaké by mohlo být komerční využití. Při přemýšlení o tomto vývoji zdůrazňuje jednu věc, kterou si dnešní obdivovatelé robotů málo uvědomují: inteligenční revoluce či inteligenční exploze – tedy vznik umělé inteligence, která nejen předčí člověka, ale bude schopna i obnovovat sebe sama – může přijít pomalu, krok za krokem a na několika místech najednou. Nebo ale také znenadání, rychle a učící schopnost takové inteligence zdaleka přesáhne cokoli dnes představitelného. Může znásobovat své vědomosti a schopnosti v řádu minut či sekund.

(...) Autor každopádně není optimista, jeho kniha je tak jedním velkým varováním a zároveň vědeckou i politickou výzvou. Do jádra umělé inteligence by se měly vkládat hodnoty a pokyny slučitelné s existencí lidstva – než si z planety udělá vlastní zdroj. A definice takových univerzálních lidských hodnot není úkol pro programátory. Jednou z mála výtek k Superinteligenci byl právě její apokalyptický tón. Ve zmíněném zápasu ovšem získal body i Bostrom. V roce 2014 se předpokládalo, že výhra umělé inteligence v go přijde zhruba za deset let; tři roky po vydání knihy už počítače nemají rovnocenného soupeře.

Na základě poznatků z neurologie, kognitivní vědy, filozofie i výpočetní techniky autor předkládá některé možné scénáře budoucnosti a varuje před těmi dystopickými. I u těch, které zřejmě mají být pozitivní alternativou, se však můžeme ptát, zdali si skutečně přejeme jejich uskutečnění.