Karel Janeček o AI: Nejhorší scénář? Totalita hlídaná umělou inteligencí

Ještě před několika desítkami let by si jen málokdo dokázal představit, jak rychle se svět jednoho dne promění.

Technologie, které v dnešní době považujeme za naprostou samozřejmost, totiž byly buď v plenkách, anebo existovaly v představách autorů sci-fi.

Pak ale přišly počítače, mobilní telefony, internet, a nakonec i umělá inteligence… Tedy technologie, které zásadně změnily způsob, jakým žijeme, pracujeme, komunikujeme i získáváme informace.  

A právě o těchto otázkách nyní v podcastu Agáty Hanychové promluvil matematik, miliardář a autor volebního systému D21 Karel Janeček. „Náš svět se úplně radikálně mění šíleným způsobem,“ prohlásil Janeček v souvislosti s rychlým vývojem umělé inteligence.

„Kam si teda myslíte, že to dojde třeba za padesát let?“ zeptala se pak Karla Janečka Hanychová. „Jsou různé varianty… A já bych klidně řekl, že za dvacet jedna let, že to nebude trvat padesát let. Ta úplně nestrašnější, která nenastane, ale je potřeba si jí být vědom a střežit se před ní, by byla cesta ala Čína, kdy se staneme otroky technologií. Kdy budeme hlídaní umělou inteligencí, kamerami a vším. A začne to tím, že bude nějaký totalitní systém, který bude ovládat lidi,“ odpověděl jí Janeček.

„V historii to vždycky bylo tak, že diktatura nebo totalita jednou skončí. Diktátor zemře, nebo zemřou jeho potomci… Ale technologie by neumřely, takže pokud bychom se nedejbože měli dostat do nějaký totality, daný technologiema, tak to může být konečná. A já na to upozorňuju, protože jsem fascinován, že si to lidé stále neuvědomují,“ pokračoval známý matematik.

Je totiž známo, že v Číně jsou technologie běžně využívány ke kontrole pohybu a chování obyvatel, a pokud člověk poruší stanovená pravidla, může čelit omezením, jako je zablokování účtu, ztráta přístupu k některým službám nebo nemožnost cestování.

Janeček přitom upozornil, že bychom tyto mechanismy neměli vnímat jako něco, co se nás v Evropě netýká, a zároveň prohlásil, že takovou možnost považuje v souvislosti s umělou inteligencí za nejhorší možný scénář. 

„Já bych byl radši, abychom jako společnost vymřeli, než abychom se dostali do situace totalitních otroků, kteří by prostě nežili. To je prostě lepší to zkusit znova. Nějakou novou evoluci, nějaký druhý pokus. Takže ta druhá varianta je, že si to sami zničíme nějakou jadernou válkou, že se vyhladíme… A to věřím, že nenastane! A pak přichází ta nejlepší varianta, ta první, která se stane, a ta je ta, že se jako lidé probudíme. A probudíme se v tom, že pochopíme, že primární hodnota, kterou máme, je naše svoboda, naše kreativita a že jsme zde proto, abychom tvořili, abychom prožívali a abychom byli autentiční,“ dodal ještě v podcastu Agáty Hanychové Karel Janeček.