Že papež Lev XIV. hodlá svou první encykliku věnovat mj. AI, se očekávalo. Překvapila vás přesto něčím?

Existovaly domněnky, že ji vydá už papež František. Jeho pontifikát rámovaly sociální encykliky Laudato si’ a Fratelli tutti – o životním prostředí, ekologii vztahů a jejich souvislostech pro život na planetě. Na řadě byla otázka, jak naše lidství proměňují moderní technologie. Třetí encykliku se papež František sice rozhodl věnovat Božskému Srdci (Dilexit nos / Zamiloval si nás), základy pro Magnifica humanitas ale už vidíme v jiných dokumentech. Na závěr pontifikátu se papež František podepsal pod dokument Antiqua et nova, který vydaly dva vatikánské úřady – Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání – a který pojednává o vztahu mezi vírou a umělou inteligencí. Dnes jej můžeme číst jako odkaz nástupci. Nepřekvapilo mě tedy, že Lev XIV. stejné téma zvedá. Rámuje ho ovšem „po svém“.

Co tedy Lev XIV. ve srovnání s Františkem přidává?

Zatímco v Antiqua et nova se o umělé inteligenci mluví především jako o nástroji, v Magnifica humanitas už nacházíme také úvahy o AI jako o aktérovi, který spoluutváří prostředí našeho života a ovlivňuje naše jednání a vztahy. Lev XIV. zdůrazňuje, že nové technologie v čele s AI do značné míry určují podobu světa. Magnifica humanitas rozhodně není jen „encyklikou o umělé inteligenci“, jak se často mylně interpretuje. Papež v ní originálně rozvíjí celé sociální učení církve, které založil už papež Lev XIII. sociální encyklikou Rerum novarum (1891), když reagoval na průmyslovou revoluci. Neměl přitom ambici navrhovat lepší parní stroje, ale reflektoval, co průmyslová revoluce znamená pro člověka a společnost. Lev XIV. na tuto tradici navazuje a ptá se, jak se při vývoji nových technologií a jejich používání můžeme stát lepšími lidmi.

Proč odborná veřejnost pokládá za relevantní, co k rozvoji digitálních technologií říká papež?

Papež představuje jiný typ autority, než na jaký jsme zvyklí u vyjádření vývojářů, technologických podnikatelů, politiků nebo IT odborníků. Svět mu naslouchá proto, že přináší jiný pohled. Nemusí soutěžit o zákazníky, nemusí usilovat o investice ani o technologickou převahu. Stojí mimo hlavní proud. Může si proto dovolit klást klíčové otázky: Proč tyto technologie vyvíjíme? Komu mají sloužit? Jaký svět s nimi chceme vytvořit?

Encyklika vyšla na jaře. Jaké reakce ve světě zatím vyvolává?

V Evropě se encyklika setkává převážně s příznivým přijetím, mimo jiné proto, že její důraz na odpovědný rozvoj a regulaci digitálních technologií souzní s přístupem Evropské unie. V Číně je její veřejný ohlas podle dostupných informací podstatně menší a papežův hlas tam z pochopitelných důvodů nemá takový společenský vliv. Velmi zajímavá je debata ve Spojených státech, kde sídlí většina nejvýznamnějších společností vyvíjejících pokročilé modely AI a kde se soustřeďuje značná část technologické a ekonomické moci, o které papež píše. Reakce na encykliku jsou zde různorodé. Někteří komentátoři oceňují, že papež upozorňuje na rizika spojená s automatizací lidského rozhodování, rostoucí závislostí na technologiích a koncentrací moci v rukou několika technologických gigantů. V širší americké debatě však zaznívají také hlasy, které důraz na regulaci a opatrnost vnímají jako překážku inovací a technologického pokroku. Papež přitom neodmítá samotný vývoj AI, ale připomíná, že jeho tempo a směřování nemohou určovat pouze ekonomické zájmy technologických společností.

Papež otevírá diskusi o budoucnosti s AI. Říká, že technologie mají přispívat ke společnému dobru a lidské důstojnosti – nikoli naopak. Mohu pro to něco podniknout jako jednotlivec, nepatrný vůči technologickým obrům?

Papež tvrdí, že musí vzniknout vzdělávací aliance mezi školou a rodinou. Obě mají vést ke kritickému myšlení. Co dál na rovině jednotlivce? Být náročným uživatelem, ověřovat si informace získané z AI a uvažovat, jak technologické firmy nakládají s našimi daty. Kdo je vlastní? Komu přinášejí zisk? Kdo nese náklady? Řada služeb je sice zdarma, ale i za jejich používání často platíme jinak než penězi – například poskytováním osobních údajů a informací o našem chování. Ty mohou firmy využívat k dalšímu rozvoji svých služeb a v některých případech také k trénování modelů AI.

Mám dojem, že veřejnost ve světě AI hledá kladného hrdinu – třeba firmu Anthropic, jejíž zakladatel byl při uvedení, ale i v době přípravy encykliky ve Vatikánu. Je to ale vůbec možné?

Veřejnost by ráda věřila, že existuje technologická společnost, která bude AI vyvíjet rychle, bezpečně a v zájmu lidstva. Anthropic se do této role dostal především díky důrazu na bezpečnost a odpovědný vývoj AI, který je významnou součástí jeho veřejné prezentace. Jejich úsilí je třeba ocenit, ale poslední měsíce ukazují, jak je problém složitý. V září Anthropic zveřejnil zprávu o několika závažných incidentech, při nichž jeho modely během bezpečnostního testování neoprávněně zasáhly do skutečných počítačových systémů. Firma přiznala, že její dosavadní bezpečnostní kontroly nedokázaly takové chování dostatečně předvídat. V říjnu upozornil na možnost, že by se budoucí systémy AI mohly samy autonomně šířit prostřednictvím počítačových sítí. Nestačí tedy, aby technologické firmy slibovaly odpovědnost, jsou potřeba podmínky, za nichž může společnost tuto odpovědnost ověřovat a kontrolovat. Papežova argumentace je velmi aktuální, protože upozorňuje, že otázku AI nelze redukovat na etiku jednotlivých vývojářů. Musíme se ptát na struktury moci, ekonomické zájmy, demokratickou kontrolu a spravedlivé rozdělení přínosů. Už papež František varoval, že AI může zvýšit tzv. digital divide (digitální nerovnost) a prohloubit propast mezi bohatými a chudými.

Jenže dají se tyto nůžky přivřít?

Celou encyklikou se jako červená nit vine téma lidské důstojnosti. Papež připomíná, že hodnota člověka nespočívá v jeho výkonu ani v tom, jak dokáže využívat nejmodernější technologie. Umělá inteligence přitom může existující sociální rozdíly ještě prohlubovat. Ne každý má přístup ke stejně kvalitním nástrojům a ne každý dokáže využívat jejich možnosti. Zároveň ale vidíme zajímavý paradox: ani ti, kteří mají k dispozici nejvýkonnější systémy, na tom nemusejí být vždy lépe. AI jim sice umožňuje zvládat více práce, ale současně na ně vytváří tlak, aby byli stále produktivnější. Člověk se tak může paradoxně stát otrokem technologie, která mu měla práci usnadnit. Sociální nerovnost proto nepřekonáme jen tím, že všem zajistíme přístup k výkonnějším technologiím. Musíme se také ptát, komu jejich rozvoj skutečně slouží a jaký život nám umožňují žít.