„Zu Daten degradiert“

Papst warnt Menschen vor Ausbeutung durch KI

Nach einem Jahr im Amt veröffentlichte Papst Leo seine erste Enzyklika.(Bild: AFP/HANDOUT)

Mit deutlichen Worten hat Papst Leo XIV. vor den Gefahren Künstlicher Intelligenz gewarnt. In seiner ersten Enzyklika als Oberhaupt der katholischen Kirche spricht der Pontifex von neuen Formen der Ausbeutung, digitaler Abhängigkeit und einer Bedrohung für Menschenwürde und soziale Gerechtigkeit. Besonders scharf kritisiert der Papst die Macht globaler Technologiekonzerne und die oft unsichtbaren Arbeitsbedingungen hinter modernen KI-Systemen.

Das mehr als 100 Seiten lange Lehrschreiben mit dem Titel „Magnifica Humanitas“ („Großartige Menschheit“) wurde am Montag im Vatikan vorgestellt. Die erste Enzyklika eines Papstes gilt traditionell als programmatische Grundsatzerklärung für dessen Pontifikat. Leo XIV. steht seit Mai vergangenen Jahres an der Spitze von weltweit 1,4 Milliarden Katholiken.

Bei der Präsentation war der Papst persönlich anwesend – nach Angaben der katholischen Kirche ein Novum bei der Vorstellung einer Enzyklika. Der erste Papst aus den USA hatte sich bereits in den vergangenen Monaten mehrfach zu Chancen und Risiken von Künstlicher Intelligenz geäußert.

Warnung vor digitaler Ausbeutung
In dem Schreiben warnt Leo XIV. eindringlich davor, KI als etwas „Immaterielles“ oder „Magisches“ zu betrachten. Hinter digitalen Anwendungen stehe vielmehr eine weltweite Kette aus Arbeit, Rohstoffgewinnung und Abhängigkeiten. „Nichts ist in der Welt der KI immateriell oder magisch“, heißt es in dem Text.

Kritisiert werden insbesondere schlecht bezahlte Datenarbeit sowie gefährliche Arbeitsbedingungen bei der Gewinnung von Rohstoffen für digitale Technologien. „Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt“, schreibt der Papst.

Kritik an Tech-Konzernen
Besonders kritisch äußert sich der Pontifex über den Einfluss großer Technologiekonzerne. Kleine, sehr einflussreiche Gruppen könnten Informationen und Konsum lenken, demokratische Prozesse beeinflussen und wirtschaftliche Dynamiken steuern, heißt es in der Enzyklika. Viele Beobachter sehen darin eine deutliche Kritik an den milliardenschweren Tech-Eliten in den USA.

Auch Menschenhandel im digitalen Raum wird thematisiert. Kriminelle Netzwerke würden Plattformen, digitale Profile und anonyme Bezahlsysteme nutzen, um Menschen auszubeuten. Menschen würden dabei zu „Daten“ und „Paketen“ degradiert. Technologie dürfe nicht neue Abhängigkeiten schaffen, wenn sie gleichzeitig Emanzipation verspreche, mahnt der Papst.

„Bleiben wir der Wahrheit treu“
Zudem warnt Leo XIV. vor Manipulation durch KI-generierte Inhalte. Durch „unaufhörliche Flüsse von Informationen, Meinungen und Bildern“ könnten Entscheidungen und Vorlieben gezielt beeinflusst werden. „Bleiben wir der Wahrheit treu!“, appelliert der Papst in seinem Lehrschreiben.

Gleichzeitig betont die Enzyklika die Unterschiede zwischen menschlicher und künstlicher Intelligenz. KI könne zwar Sprache und Verhalten imitieren, verfüge aber weder über Bewusstsein noch über moralisches Gewissen. Begriffe wie Liebe, Verantwortung oder Freundschaft könne sie nicht verstehen.

KI dürfe deshalb niemals als moralisch neutral betrachtet werden, heißt es weiter. Der Papst fordert klare Verantwortung und Kontrolle bei Entwicklung und Einsatz entsprechender Systeme.

Aufruf zu Dialog und Verantwortung
Neben den Risiken technologischer Entwicklungen ruft Leo XIV. auch dazu auf, angesichts globaler Krisen nicht in Resignation zu verfallen. Internationale Organisationen, Diplomatie sowie Dialog und multilaterale Zusammenarbeit seien entscheidend, um Konflikte zu lösen und Vertrauen wiederherzustellen. Worte und Kommunikation könnten dabei sowohl spalten als auch versöhnen, mahnt der Papst.

Anthropic-Mitgründer bei Präsentation
Für Aufmerksamkeit sorgte bei der Vorstellung der Enzyklika auch die Teilnahme von Chris Olah, Mitgründer des KI-Unternehmens Anthropic. Das Unternehmen liegt derzeit im Streit mit der US-Regierung unter Präsident Donald Trump, weil es seine KI-Modelle nicht für autonome Waffensysteme und zur Überwachung der Zivilbevölkerung bereitstellen will.

Die Enzyklika trägt das Datum 15. Mai – exakt 135 Jahre nach Veröffentlichung der Sozialenzyklika „Rerum novarum“ durch Papst Leo XIII. Der sogenannte „Arbeiterpapst“ hatte damals die Grundlagen der katholischen Soziallehre in Zeiten der industriellen Revolution gelegt.

Lackner lobt „Zeugnis für Menschenwürde“
Der Salzburger Erzbischof Franz Lackner sprach laut Kathpress von einem „klaren Zeugnis für die Würde des Menschen“. Der Papst benenne zwar die positiven Errungenschaften des technischen Fortschritts, zeige aber auch deutlich die Risiken einer Entwicklung auf, in der sich der Mensch letztlich selbst verdränge.