Bývalý diplomat a profesor Petr Drulák se v komentáři publikovaném na facebookovém profilu spolku Svatopluk zabývá prudkým rozvojem umělé inteligence a neobvyklým sporem, který kolem ní vznikl ve Spojených státech. Zatímco někteří představitelé největších technologických firem volají po bezpečnostních pravidlech a zpomalení vývoje nejpokročilejších systémů, prezident Donald Trump nechce připustit, aby Spojené státy v technologickém soupeření ztratily náskok před Čínou.

„Není obvyklé, aby firmy tlačily na vládu, že je má přísněji regulovat a už vůbec ne, aby technologické firmy volaly po zpomalování výzkumu,“ upozorňuje Drulák. Bezpečnostní argumenty technologických firem i Trumpovu představu, že překážky americkému vývoji zvýhodní Čínu, přitom označuje za pochybné.

Pozornost věnuje především šéfovi společnosti Anthropic Dariu Amodeiovi, který navrhuje externí posuzování rizik připravovaných modelů a bezpečnostní standardy podporované americkou vládou. Jeho návrh podpořili také šéf OpenAI Sam Altman, Elon Musk a šéf Google DeepMind Demis Hassabis.


Drulák nabízí i mnohem přízemnější vysvětlení. Menší konkurenti podle něj tvrdí, že největší hráči „straší“, aby ostatním předepsali pravidla, která jim umožní zachovat dominanci na trhu. Podobně se podle něj k volání po zpomalování vývoje staví také držitel Turingovy ceny a někdejší šéf výzkumu AI ve společnosti Meta Yann LeCun.

Do stejného sporu řadí i Marka Zuckerberga. Meta staví část své strategie na otevřeně dostupných modelech, zatímco někteří její konkurenti své nejpokročilejší systémy drží uzavřené. „Svůj software dává veřejně k dispozici, doufá, že veřejnou dostupností nastaví budoucí standard. Její konkurenti konstrukci svých modelů utajují a standard si chtějí prosadit skrze vládu ve Washingtonu. Mediální panikou ji dostávají pod tlak,“ píše Drulák.


Současnou situaci přirovnává k americké mobilizaci poté, co Sovětský svaz vyslal na oběžnou dráhu první družici a následně prvního kosmonauta. Tehdejší soupeření podle něj přineslo řadu významných inovací, politici se však zároveň nechávali unášet technooptimismem i dystopickými představami a přeceňovali vliv dobývání vesmíru na pozemské mocenské vztahy. Za vyvrcholení tohoto přístupu označuje Reaganovu představu „hvězdných válek“.

Drulák se přitom odvolává na LeCuna, který zpochybňuje představy o možnostech současné AI. Dnešní systémy podle Drulákova výkladu dokážou překládat, psát odborné i populární texty nebo řešit složité matematické problémy, stále však zásadně zaostávají v poznávání a jednání ve fyzickém světě. K dosažení schopností srovnatelných s člověkem by proto podle něj byly zapotřebí další technologické průlomy.

Tyto pochybnosti však podle Druláka zanikají v politické mobilizaci kolem AI. Upozorňuje především na protesty proti výstavbě datových center ve Spojených státech. Trump podle něj jejich odpůrce obvinil z prosazování čínských zájmů, skutečné důvody odporu však vidí Drulák mnohem přízemněji.

„Protesty proti datovým centrům přitom většinou nemají nic společného s Čínou a primárně ani s umělou inteligencí. Lidem vadí, že zdražují elektřinu, omezují dostupnost vody a zatěžují hlukem,“ píše Drulák a poukazuje na vysokou spotřebu energie datových center i nároky na jejich chlazení.


Z toho vyvozuje také politické důsledky. „Jinými slovy, začne se hroutit společenské zázemí liberálního progresivismu. Progresivisté nejspíše přijdou o voliče,“ předpovídá Drulák.

Skutečný přelom by podle něj přišel až s případnou superinteligencí schopnou samostatně se zdokonalovat nad rámec lidských schopností. Zároveň zdůrazňuje, že „vůbec není zřejmé, zda je něco takového možné“. Pokud by však takový systém vznikl, mohl by podle něj využívat rostoucí digitální závislost společnosti a ovlivňovat lidi ve svůj prospěch.

Drulák tento hypotetický scénář přenáší i do politiky. „Vzhledem k tomu, jaká část politické komunikace se odehrává na internetu, je celkem snadno představitelné, že superinteligence by si zajistila své politiky,“ píše. Lidé by se podle něj v krajním případě mohli stát „figuranty v soubojích různých sebezdokonalujících se softwarů“.

„Ale to naštěstí zatím nehrozí. AI zůstává nástrojem v lidských rukách. Co z toho vyplývá? Užívat s rozumem a nenechat se strašit,“ uzavírá bývalý diplomat Petr Drulák.