Algoritmus rozhodne, co bude ve vašem zdroji. Další filtruje zprávy. Jiní zase diktují, jak máme pracovat. 25. května vydal papež Lev XIV. svou první encykliku Magnifica Humanitas („Velikost lidstva“). Na umělou inteligenci nahlíží ne jako na gadget, ale jako na neviditelnou infrastrukturu našich životů.
Není to jen o technologii. Lev XIV. zakládá své závěry na sociální doktríně katolické církve. Přímo odkazuje na encykliku Rerum novarum (1891) papeže Lva XIII., u příležitosti 135. výročí tohoto dokumentu. „Novými fenomény“ pak byly továrny a průmyslový kapitalismus. A dnes? Jedná se o datová centra a algoritmy.
Měřítko se změnilo. „Lidstvo na sebe nikdy nemělo tolik vlivu,“ píše papež.
Ústřední otázka je strohá: co se stane s lidskou důstojností, když rozhodnutí činí algoritmus?
Odzbrojení stroje
Klíčová fráze: odzbrojení technologie.
Žádný zmatek. Lev XIV. (dříve kardinál Robert Francis Prevost) nepožaduje návrat ve vývoji. Chce zabránit tomu, aby se AI stala Dominátorem.
Nyní svět honí nejproduktivnější algoritmy a největší datová centra. Zisky z výpočetního výkonu získává hrstka hráčů. To ovlivňuje demokracii. To ovlivňuje ekonomiku.
“Jako u každého hlavního inflexního bodu, AI soustřeďuje moc do rukou těch, kteří mají kapitál.”
Regulace nestačí. Spojení mezi technickou mocí a právem dominovat musí být přerušeno. AI musí být odstraněna z monopolů. Musí se to otevřít. Měl by být dostupný pro každého a neměl by sloužit jako nástroj pro několik málo lidí k ovládání mnoha.
Komu patří pravda?
Algoritmy filtrují realitu.
Nejde jen o „falešné zprávy“. Záleží na tom, kterým pravdám je věnována povrchní pozornost. Platformy optimalizují obsah pro zapojení. Pod reakcí. Rozhořčený. Ale ne určitě.
Pravda nezmizí. Topí se pod transparentními systémy, které tvoří názory, aniž by odhalily své karty.
Musíme lidi naučit tyto mechanismy rozpoznávat. Veřejný soud by neměl patřit serverům vlastněným korporacemi nebo vládami.
Smrt důstojnosti v práci
Práce se rozpadá.
AI nejen automatizuje procesy. Redefinuje autonomii. Lev XIV. varuje před potenciální sociální katastrofou. Pokud jsou inovace zaměřeny pouze na snižování nákladů a zvyšování zisků, lidé zůstávají pozadu.
Nejde jen o ztrátu zaměstnání. Jde o kvalitu práce. Dozor. Roztříštěné úkoly. Tuhost. Lidský element se vypaří a zůstanou jen měřitelné, ovladatelné jednotky.
Pamatujete na Rerum Novarum? Pak mluvili o tom, jak průmyslová revoluce vyvíjí tlak na lidi. Magnifica Humanitas vidí digitální revoluci, která dělá totéž.
Práce by měla být prostorem důstojnosti. Účastnit se. Pokud AI promění pracovníka v nahraditelnou funkci, jedná se o morální selhání, nikoli o technický úspěch.
Válka bez krve
Tady se ochlazuje.
Lev XIV. útočí na starý koncept “spravedlivé války”. Ne proto, že by sebeobrana byla špatná. Ale protože se válka změnila.
Automatizované systémy zpracovávají informace. Formulují strategii. Identifikují nepřítele.
Rozhodnutí se vzdalují lidskému tělu. Odpovědnost se rozpouští v kodexu. Algoritmy necítí. Jsou vypočítaví. A nyní tahají za nitky konfliktu, zatímco my stojíme stranou, v bezpečí a vzdáleni.
