Překotný vývoj a masivní rozšíření umělé inteligence (dále AI) můžeme právem považovat za jedno z nejvýznamnějších znamení naší doby. Jedná se o technologii, která zásadním způsobem proměňuje lidskou komunikaci, práci, utváření vztahů, a nakonec i to, jak rozumíme světu kolem nás. Papež František si je vědom významu AI a hovoří v jejím případě o skutečné revoluci.

První zmínky o AI v projevech současného pontifika nalézáme již v roce 2019. Ty však byly spíše jen okrajové. Na římském semináři Společné dobro v digitálním věku hovořil o AI v souvislosti s riziky šíření dezinformací a nepravdivých dat. V promluvě na kongresu Důstojnost dítěte v digitálním světě pak připomněl, jak pokročilá algoritmika pomáhá v oblasti filtrování nelegálního a škodlivého obrazového obsahu. V následujícím roce však již papež hovoří o AI obšírněji.

V únoru 2020 zorganizovala Papežská akademie pro život pracovní setkání s názvem Dobrý algoritmus? Umělá inteligence: etika, právo a zdraví. V promluvě k jeho účastníkům představil František AI jako součást nové „digitální galaxie“, která ovlivňuje to, jak rozumíme světu i sobě samým. Připomněl, že algoritmy AI se běžně podílejí na rozhodování v mnoha důležitých oblastech lidského života a mění tak způsob našeho myšlení i jednání. Zároveň však upozornil také na negativní tendenci, kdy nové technologie přispívají k posilování socio-ekonomických nerovností. Jejich uživatelé, „redukováni na ‚spotřebitele‘“, se totiž stávají „obětí soukromých zájmů soustředěných v rukou několika málo osob“, které pak často bez jejich vědomí získávají z jejich digitálních otisků data pro své komerční či politické cíle. Tímto se podle papežových slov „otupuje kritické myšlení a uvědomělé uplatňování svobody“ a vznikají významná rizika pro rozvoj demokratických společností.

Existuje dobrý algoritmus?

I přesto lze říci, že papež pohlíží na umělou inteligenci převážně pozitivně. Ve zmíněném proslovu nepojmenoval jen její rizika, ale nazývá ji Božím darem, který může sloužit jako zdroj mnoha pozitivních změn pro dobro lidstva. K tomu, aby AI nesla dobré ovoce, je nicméně potřeba ji vyvíjet a používat eticky. Algoritmy AI musejí být vyvíjeny zodpovědným způsobem, který pamatuje na společné dobro celé lidské rodiny. Papež proto vyzývá ke vzniku tzv. algoritmické etiky (algoretiky), která by umožnila „kompetentní, mezioborové hodnocení procesů, jimiž utváříme vztahy mezi lidmi a současnými technologiemi“. Jako významné vodítko nám při tom může sloužit dodržování principů formulovaných v sociální nauce církve.

V závěru tohoto setkání (28. 2. 2020) došlo k podpisu tzv. Římské výzvy k etice umělé inteligence. Zástupci Papežské akademie pro život, italské vlády, Microsoftu, IBM a FAO UN (Food and Agriculture Organization of the UN) se společně přihlásili k požadavku vyvíjet a využívat AI odpovědně, s respektem k lidské důstojnosti, základním právům a spravedlnosti. V závěru roku 2020 pak papež zaměřil svůj listopadový modlitební úmysl k tomu, „aby pokrok v oblasti robotiky a umělé inteligence byl vždy ve službách člověka“.

Nežít jen virtuálně

Následující dva roky se papež, patrně nikoliv bez souvislosti s probíhající pandemií koronaviru, AI přímo nevěnoval. V roce 2023 to však bohatě vynahradil. Hned v lednu se v promluvě k účastníkům setkání Etika AI: Abrahámovský závazek k Římské výzvě vrátil k etickým otázkám kolem AI a podtrhl, že z technologického rozvoje musí těžit každý a nesmí se stát, aby vedl k diskriminaci, zejména pak slabých a zranitelných. V textu Františkova projevu čteme o potřebě specifi cké „digitální antropologie“, která kromě etiky přesahuje také do oblasti vzdělání a práva.

Tyto myšlenky papež dále rozvinul v projevu k účastníkům únorového plenárního shromáždění Papežské akademie pro život s názvem Sbližování s člověkem. Nové technologie pro společné dobro. Zdůraznil, že ve světě, který doznává hlubokých proměn v důsledku bezprecedentně rychlého rozvoje moderních technologií, je nutné nově reflektovat podmínky lidského života. Papež považuje za důležité, abychom „virtuální nenechali převládnout nad reálným“, a přestože se hranice mezi člověkem a technologií stává čím dál více nezřetelnou, nesmíme podle něj dopustit, aby se zcela vytratila. Při březnové audienci účastníků mezioborových Minerva Dialogů, pořádaných každoročně Dikasteriem pro kulturu a vzdělávání, papež pak znovu apeloval na klíčovou roli důstojnosti lidské osoby, která musí být zachována i v kontextu rychlého vývoje nových technologií. Podle papeže se totiž nesmí stát, aby algoritmy AI „omezovaly či podmiňovaly úctu k lidské důstojnosti nebo vylučovaly soucit, milosrdenství, odpuštění a především naději, že lidé jsou schopni se změnit“.

Hledání moudrosti srdce

Velmi obsáhle pak František pojednal o umělé inteligenci ve svém poselství k 57. Světovému dni míru, který nesl název Umělá inteligence a mír. Směřování vývoje AI v něm považuje do značné míry za otevřenou věc. Pozitivního cíle ovšem dosáhneme jedině tehdy, pokud prokážeme, že jsme schopni jednat odpovědně – že budeme „respektovat základní lidské hodnoty, jako je inkluzivita, transparentnost, bezpečnost, spravedlnost, diskrétnost a důvěryhodnost“. K jejich prosazování se mají zavázat všichni, kdo přispívají k vědeckému výzkumu a napomáhají technickému rozvoji, a na naplňování tohoto cíle mají být jednotlivými aktéry technologického vývoje zřízeny zvláštní orgány dohledu. Poprvé zde také papež zmiňuje techniky tzv. strojového a hlubokého učení. Hovoří o riziku jejich zneužití v dezinformačních kampaních, při porušování soukromí či vlastnických práv, při diskriminaci, zasahování do volebních procesů či upevňování autoritářských režimů. K tomu, aby se tato rizika snížila, je podle něj nutné způsob i rozsah užití těchto technologií regulovat.

Se zvláštní obezřetností František v promluvě pohlíží na využití AI v oblasti vývoje autonomních zbraňových systémů a vyžaduje, aby nad nimi byl držen dohled. V oblasti vzdělávání potom zdůrazňuje potřebu vést mladé lidi ke kritickému myšlení, které jim umožní rozpoznávat dezinformace. V závěru promluvy se obrací k mezinárodnímu společenství a vybízí jej ke stanovení závazných norem upravujících vývoj a implementaci AI.

V lednu 2024 pronesl papež poselství k 58. Světovému dni sdělovacích prostředků s názvem Umělá inteligence a moudrost srdce: Na cestě k plně lidské komunikaci. Hned v úvodu odmítá rozšířenou představu, že s dosažením schopnosti vytvořit a rozvíjet určitý druh inteligence lidstvo přebírá roli Stvořitele. Namísto toho vybízí současníky, aby hlouběji promýšleli, přijímali a rozvíjeli své lidství. Zve je k hledání moudrosti srdce, která umí v člověku vidět nejen tvora, který myslí, ale počítá také s jeho emocemi, přáními, sny, ale i se schopností setkat se s Bohem. Je to právě moudrost srdce, „ctnost, která nám umožňuje integrovat celek a jeho části, naše rozhodnutí a jejich důsledky, naši ušlechtilost a zranitelnost, naši minulost a budoucnost, naši individualitu a naši příslušnost k většímu společenství,“ která by měla být hlavní kvalifikací všech, kdo se podílejí na rozvoji moderních technologií. Algoritmy totiž „nejsou neutrální“. Naopak, mohou být zneužívány ke komerčním, politickým či jiným cílům – a vidění světa jejich optikou může také vytvářet nebezpečí, že lidský život bude čím dál více redukován na výčet dat a osobních údajů.

Nepřenechat rozhodování strojům

V podstatě to samé František zopakoval ještě jednou v italské Apulii, kde se zúčastnil summitu zemí G7, a jako první papež v historii zde měl 14. června 2024 příležitost promluvit k lídrům nejvyspělejších ekonomik světa. AI charakterizoval ve svém příspěvku příznačně jako „fascinující a zároveň hrozivý nástroj“. Téma dvojakosti AI, její pozitivní i negativní potenciál, pak rezonovalo celým jeho projevem. Zopakoval svou výzvu k rozvoji etiky AI a výrazně zazněl i jeho apel, že v zájmu zachování důstojnosti lidské osoby nelze přenechat rozhodování strojům. V neposlední řadě vyslovil požadavek na úplný zákaz vývoje a používání autonomních zbraní. Ten pak v červenci zopakoval i ve svém poselství pro mezináboženský kongres Etika umělé inteligence pro mír konaný v Hirošimě, jehož se zúčastnili představitelé 11 světových náboženství.

Jen několik dní po svém vystoupení na summitu G7 hovořil papež na mezinárodní konferenci pořádané nadací Centesimus Annus Pro Pontifi ce. Upozornil zde, že AI dramaticky ovlivňuje ekonomiku a společenský život, že může mít negativní dopady na kvalitu života, mezilidské a mezinárodní vztahy, globální stabilitu a tím i na náš společný, planetární domov. Opět varoval před posilováním technokratického paradigmatu a kulturou vyřazování. Zároveň představil i několik konkrétních návrhů na dosažení toho, aby umělá inteligence sloužila jak pro blaho lidstva, tak integrálnímu rozvoji jednotlivců. Jsou to: 1. vzdělávání veřejnosti v oblasti využití AI, 2. zavedení (mezinárodních) regulačních mechanismů, 3. cílené vytváření pobídek motivujících technologické firmy k etickému chování či 4. pečlivě zkoumání dopadů AI na trh práce a soukromí lidí.

V září 2024 se pak papež František ve své řeči na plenárním shromáždění Papežské akademie věd zaměřil na hlubší filozofické a antropologické souvislosti AI. Zdůraznil, že AI není pouze nástrojem efektivity, ale také zrcadlem lidských hodnot a etických rozhodnutí. Apeloval na vědce a výzkumníky, aby se při jejím vývoji nesoustředili jen na technologické možnosti, ale především na možné důsledky pro lidskou důstojnost a sociální spravedlnost. Znovu připomněl, že žádný algoritmus nemůže nahradit lidskou odpovědnost a že technologie musí vždy zůstat ve službě člověka, nikoliv naopak.

Srdce „epochální proměny“

Papež nepouští téma umělé inteligence ani v letošním roce. Účastníkům Světového ekonomického fóra v Davosu (20.–24. ledna 2025) zdůraznil riziko prohloubení „krize pravdy“ způsobené šířením dezinformací a manipulativního obsahu. Znovu připomněl, že AI musí být zapojena do služby společnému dobru a lidské důstojnosti, která nesmí být nikdy narušena či podřízena honbě za efektivitou.

V podstatě všechny papežovy myšlenky odráží též dokument Antiqua et Nova o vztahu mezi umělou a lidskou inteligencí, který 28. ledna 2025 společně vydalo Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání. Vše zároveň nasvědčuje tomu, že další oficiální církevní vyjádření k tématu AI budou následovat. Je také vysoce pravděpodobné, že se mu bude nadále věnovat i papež. V AI totiž rozpoznává srdce „epochální proměny“ – skutečnou technologickou revoluci našeho věku, stavějící lidstvo na novou křižovatku dějin. Z jeho textů a promluv je také naprosto zřetelné, že mu jako hlavě církve leží na srdci, aby tato „epochální proměna“ nakonec vedla k větší rovnosti mezi lidmi, rozvoji svobody a humanity, nikoliv k novým formám vykořisťování a útlaku.

Autoři pracují ve Výzkumné skupině pro teologii a současnou kulturu při Evangelické teologické fakultě Univerzity Karlovy.