Etika AI
Prozkoumejte etické zásady AI: principy a rámce zajišťující etický vývoj, nasazení a používání technologií umělé inteligence. Seznamte se se spravedlností, tran...
6 min čtení
AI
Ethics
+5
Dne 15. května 2026 — v 135. výročí Rerum Novarum, základního textu Církve o práci a sociální spravedlnosti — podepsal papežem Lev XIV Magnifica Humanitas , svou první encykliku. Jejím předmětem: umělá inteligence a co znamená zůstat lidským v éře algoritmů.
Nejedná se o text z okrajů diskuse o AI. Vychází od jedné z nejstarších a nejčtenějších morálních autorit na světě, v době, kdy AI automation přetváří to, jak pracují, učí se, komunikují a jsou řízeni miliarly lidí. Ať už vyvíjíte AI systémy, používáte je, nebo prostě žijete v světě jimi utvářeném, encyklika pokládá otázky, které stojí za zamyšlení.
Zde je, co říká — a proč na tom záleží mimo náboženské kruhy.
Ústřední otázka
Encyklika se otevírá jasnou premisou: technologie není nikdy neutrální. Každý AI systém v sobě nese cíle, předpoklady a zájmy těch, kteří jej navrhují, financují, regulují a nasazují.
To znamená, že důležitá otázka není co umí AI dělat? Důležitá otázka zní: pomáhá AI tomu, abychom se stali více lidskými, nebo nás redukuje na datové body, metriky výkonu a objekty řízení?
Papež Lev je přímý: AI musí sloužit lidské osobě. Lidská osoba nesmí sloužit algoritmům, trzům nebo moci.
Dva obrazy: Babylon a Jeruzalém
Encyklika vychází ze dvou kontrastních biblických obrazů, aby zarámovala svůj argument.
První je Babylónská věž — pomník technických schopností pohnaný ne moudrostí, ale pýchou a touhou po kontrole. Lidé, kteří ji stavěli, chtěli dosáhnout velikosti na vlastních podmínkách, bez pokory. Výsledkem nebyla jednotnost, ale zmatek a fragmentace. Papež používá tento obraz jako varování proti kultuře vývoje AI, která následuje schopnost za každou cenu, koncentruje moc bez odpovědnosti.
Druhý obraz je obnova Jeruzaléma — město není projektem jednoho mocného architekta. Stavějí jej rodiny, řemeslníci, kněží, starší a běžní pracovníci. Každý má svou roli. Práce slouží životu komunity, ne slávě žádné skupiny.
Kontrast je jednoduchý a výrazný: můžeme stavět s AI jako věž moci, nebo jako město, kde má každá osoba své místo.
Připraveni rozšířit své podnikání?
Začněte svou bezplatnou zkušební verzi ještě dnes a viďte výsledky během několika dní.
Lidská důstojnost není skórem výkonu
Jedním z nejčastěji opakovaných témat encykliky je bezpodmínečná povaha lidské důstojnosti. Osoba má důstojnost ne proto, že je produktivní, efektivní, zdravá nebo ekonomicky užitečná. Osoba má důstojnost jednoduše proto, že je osobou — včetně doby, kdy je zranitelná, stará, nemocná, chudá nebo trpící.
To je obrovský rozdíl v kontextu AI. Autonomní AI systémy se mohou jevit jako působivě schopné. Odpovídají na otázky, generují obsah, analyzují data a věrohodně napodobují jazyk. Ale nemají tělo, svědomí, osobní odpovědnost, zkušenost s utrpením a kapacitu pro lásku. Nemohou být přirovnávány k osobám a nemohou být konečnými soudci lidské hodnoty.
Když AI systémy bodují, hodnotí, najímají, schvalují a odmítají lidi, tato logika musí být odmítnuta — nebo alespoň učiněna odpovědnou lidské kontrole.
Kde se technologie stává hrozbou pro lidi
Encyklika identifikuje šest oblastí, kde AI představuje konkrétní rizika pro lidskou důstojnost a veřejné blaho:
Práce. AI automation může zvýšit produktivitu a odstranit nebezpečné úkoly z rukou lidí. Ale může také vytlačit pracovníky, snížit hodnotu lidské práce a umožnit bezprecedentní dohled nad zaměstnanci. Encyklika trvá na tom, že práce není jen příjem — je to prostor důstojnosti, kreativity, vztahů a služby. Technologie by měla lidem pomáhat lépe pracovat, ne je redukovat na zaměnitelné jednotky v systému.
Pravda. AI může generovat syntetické obrázky, falšované hlasy a přesvědčivé dezinformace v rozsahu. Když se hranice mezi skutečným a vyrobeným stává nemožnou k navigaci, důvěra se zhroutí — v institucích, v žurnalistice, v sobě navzájem. Encyklika považuje erozi sdílené pravdy za hlubokou sociální a duchovní hrozbu.
Svoboda. Algoritmické systémy mohou sbírat data o chování, předvídat odpovědi a jemně nasměřovat pozornost způsoby, které si lidé sotva všimnou. To není neutrální. Tvaruje to, co lidé věří, co chtějí a jak hlasují. Encyklika to vnímá jako přímou hrozbu pro skutečnou lidskou svobodu a sebeurčení.
Děti a mladí. Platformy poháněné AI mohou podporovat učení, kreativitu a spojení. Mohou také vést k závislosti, osamělosti, kyberstalingu a vykořisťování. Dokument požaduje zvláštní ochranu mladých lidí před systémy navrženými tak, aby maximalizovaly zapojení na úkor pohody.
Válka. Autonomní zbraně a algoritmické rozhodování zrychlují tempo a vzdálenost vojenské akce, zmenšují prostor pro lidský úsudek a odpovědnost. Encyklika varuje, že v kultuře, která již normalizuje moc jako nástroj řešení problémů, je AI-povolená válka zvlášť nebezpečná.
Nerovnost. Ekonomické výhody pokročilé AI jsou koncentrovány v bohatých národech a korporacích. Environmentální náklady, vykořisťující práce v anotaci dat a výrobě hardwaru a poruchy z automatizace padají nepřiměřeně na chudší regiony. Dokument toto pojmenuje jako strukturální nespravedlnost.
Přihlaste se k odběru newsletteru
Získejte nejnovější tipy, trendy a nabídky zdarma.
Regulace je nutná, ale nestačí
Papež Lev požaduje právní rámce, které chrání spravedlnost a veřejné blaho. AI systémy, které ovlivňují životy lidí — při najímání, úvěru, zdravotnictví, policejní práci nebo přístupu ke službám — musí být transparentní, vysvětlitelné a napadnutelné. Tam, kde algoritmus formuje život osoby, musí být člověk, který je za tento výsledek odpovědný.
Ale encyklika se nezastavuje u zákona. Regulace určuje podlahy, ne stropy. To, co požaduje, je kultura odpovědnosti — mezi vývojáři, vedením, tvůrci politik, pedagogy, rodiči a uživateli. Každý, kdo činí rozhodnutí o tom, jak jsou AI workflow vytvářeny nebo nasazovány, se podílí na utváření druhu společnosti, kterou tyto systémy vytvářejí.
Vzdělání jako první linie obrany
Významná část textu se zaměřuje na vzdělání. Naučit lidi používat nové nástroje nestačí. Naučit lidi, kdy je nepoužívat — a proč — je stejně důležité.
Vlastnosti, které encyklika zdůrazňuje, jsou v jejich nemodnosti nápadné: trpělivost číst dlouhý text, disciplína ověřit si tvrzení před jeho sdílením, schopnost rozlišit mezi argumentem a apelem na emoce, ochota zůstat v obtížných rozhovorech se skutečnými lidmi spíše než se stáhnout do algoritmicky kurovaného komfortu.
Školy, tvrdí dokument, by neměly primárně produkovat technicky zběhlé pracovníky. Měly by produkovat lidi schopné pravdy, svobody, odpovědnosti a soužití. Vysoce automatizovaná společnost bez těchto kvalit není pokročilejší. Je křehčí.
Práce jako důstojnost, ne jen výstup
Vracejíc se k tradici Rerum Novarum, encyklika trvá na tom, že lidská práce není pouze ekonomickým vstupem. Práce je místo, kde lidé uplatňují kreativitu, budují vztahy, přispívají na něco větší než sami sobě a potvrzují svou důstojnost na světě.
AI, která transformuje práci v neustálý dohled, zaměnitelné mikro-úkoly a tlak na nelidskou efektivitu, může produkovat více výstupu, zatímco vyprazdňuje lidskou zkušenost přispívání. To je ztráta, i když se čísla HDP zlepší.
Cesta k míru
Poslední část spojuje AI s válkou a mírem. Papež varuje proti tomu, co nazývá kultur moci — jedné, která považuje sílu za normální a přirozený odezvu na konflikt. V éře AI se tato logika stává nebezpečnější, protože rozhodování se zrychluje a vzdaluje se od skutečných lidských tváří, které jsou zasaženy.
Proti tomu encyklika navrhuje civilizaci lásky — ne jako slogan, ale jako praktický program: odzbrojit jazyk nepřátel, obnovit dialog, budovat spravedlnost, poslouchat ty, kterých se to dotklo, a posilovat instituce a zvyky diplomacie.
Co to znamená pro lidi vyvíjející AI
Magnifica Humanitas není technickým dokumentem. Nepředepisuje konkrétní architektury nebo struktury správy. To, co dělá, je trvání na rámci: účelem AI není maximalizovat efektivitu, zisk nebo moc. Jeho účelem je sloužit každé lidské osobě — včetně, zejména těch s nejmenší mocí v systému.
Pro ty, kteří vyvíjejí AI systémy, AI agenty a AI workflow , které se dotýkají skutečných životů lidí, encyklika nabízí tři praktické otázky, ke kterým se stojí za to vracel:
Kdo profituje a kdo nese náklady? Pokud výhody vašeho AI systému plynou vzhůru a rizika padají na pracovníky, uživatele nebo komunity s menší mocí — tato asymetrie si zaslouží pojmenování a řešení.
Je zde člověk odpovědný za tento výsledek? Algoritmické výstupy, které ovlivňují přístup lidí k pracím, zdravotnictví, úvěrům nebo příležitostem, musí mít člověka, který může vysvětlit, zkontrolovat a v případě potřeby obrátit rozhodnutí.
Činí to osobu více nebo méně schopnou vykonávat skutečný úsudek? AI, která nahrazuje lidské myšlení v situacích s vysokým rizikem — spíše než aby jej informovala — se pohybuje špatným směrem.
Přečtěte si originál
Tento článek je kondenzovanou interpretací, ne překladem nebo náhradou úplného textu. Encyklika je podstatná, hustě poseta historickými a teologickými referencemi a stojí za přečtení v plném rozsahu — včetně těch, kteří nesdílí papežovu náboženskou tradici.
Oficiální dokument je dostupný přímo z Vatikánu:
Magnifica Humanitas — Úplný text na Vatican.va
Samotný název je prohlášením. Magnifica Humanitas — nádherné lidstvo. V době, kdy nejhlasitější hlasy v AI často mluví o inteligenci jako o něčem, co lze inženýrsky zpracovat, optimalizovat a nakonec překonat, stojí za to tento název brát vážně.
