Člověk může být jako kuře. Nepochopí, proč jej AI usmrtí, varuje expert

Izraelský myslitel Juval Noah Harari vystoupil v zaplněném pražském Fóru Karlín, kde varoval před nástupem umělé inteligence. Podle něj lidstvo čelí bezprecedentní výzvě – poprvé v historii vytváří entity inteligentnější než my sami, které mění kulturu, mezilidské vztahy i globální geopolitiku.

Harari svou přednášku začal úvahou o svobodné vůli. Lidé si podle něj často myslí, že jejich rozhodnutí jsou založena na svobodné vůli. V éře algoritmů na sociálních sítích a digitálních platformách ale podle něj lidé ve skutečnosti často pouze reagují na to, co jim systémy naservírují s cílem udržet jejich pozornost.

Lídři v oblasti AI čekají katastrofickou událost. Ta pak může rozpoutat vzpouru lidí

Myslitel tak varuje, že s nástupem umělé inteligence ztrácíme kontrolu nad vlastními rozhodnutími. Algoritmy a AI dokážou lidi „hacknout“. Rozumí totiž lidským emocím a slabinám lépe než my sami a dokážou nás efektivně manipulovat. „Vidíme, co nám algoritmus ukáže,“ zaznělo ve Foru Karlín.

Juval Noah Harari Izraelský historik Juval Noah Harari přednáší na konferenci Love Tomorrow Conference o udržitelném rozvoji. (28. července 2022) Izraelský historik, filozof a profesor na Hebrejské univerzitě v Jeruzalémě se před více než deseti lety celosvětově proslavil bestsellerem Sapiens: Od zvířete k božskému jedinci. Kniha popisuje vývoj lidstva a jeho kultury od počátků až po současnost, kdy člověk vládne planetě. Své myšlenky pak rozvinul v dalších publikacích jako například Homo Deus, kde se zabývá budoucím směřování lidstva, či 21 lekcí pro 21. století, v nichž se naopak zaměřuje na problémy současného světa. Do Prahy přijel na pozvání institutu Solvo.

Nová impéria versus periferie

Podle Harariho vstupujeme do věku „AI impérií“, což je v současnosti USA a Čína, která koncentrují obrovskou ekonomickou a vojenskou moc. Na rozdíl od historických impérií lze totiž data a výpočetní výkon ovládat jen na několika místech světa, v několika centrech.

Pro státy jako Česko tak existují podle něj v zásadě tři scénáře: stát se vazalem jednoho z velkých AI impérií, vybudovat vlastní nezávislou AI infrastrukturu, což je téměř nemožné, nebo postupovat společně v rámci Evropské unie. Nejlepší cestou je tak podle něj integrace.

Zajímavý je i Harariho pohled na AI. Nevnímá ji totiž jako obyčejný nástroj. Na rozdíl například od nože je autonomním agentem, který dokáže sám rozhodovat a vymýšlet nové nápady.

AI zlobí. Chybí jí hodnoty lidí, nestačí jí jen lépe hlídat, varují experti

S tím ale přichází nové výzvy i nebezpečí. Lidstvo totiž nemá žádnou historickou ani biologickou zkušenost s tím, jak kontrolovat entity, které jsou mnohem inteligentnější než lidé. Nebo s nimi pouze soužít. Harari tak přirovnává rozdíl mezi AI a člověkem k rozdílu mezi člověkem a kuřetem. Kuře například nemusí chápat důvody, proč jej člověk usmrtí. Stejně tak mohou dopadnout lidé ve vztahu k AI.

Umělá inteligence podle něj časem promění i vztahy. Lidé – zejména mladší generace – začínají trávit více času s AI entitami a navazují s nimi hluboké či dokonce romantické vztahy, což formuje jejich budoucí modely chování a očekávání od mezilidských vztahů.

Pavel varoval před riziky umělé inteligence. V projevu vzpomněl i na Havla

Zde podle Harariho nastupuje potřeba regulace. Vlády by měly zakázat AI vydávat se za lidské bytosti nebo vytvářet škodlivé vztahy. Jak ale predikuje, technologické firmy budou těmto regulacím odporovat.