Die Würde des Menschen als Kompass für den Umgang mit KI

Am 15. Mai 1891 veröffentlichte Leo XIII. die Enzyklika „Rerum Novarum“, die die Grundlage der bis dahin inexistenten Soziallehre der Katholischen Kirche bilden sollte. Leo XIV. veröffentlichte 135 Jahre später, ebenfalls am 15. Mai, seine Enzyklika „Magnifica Humanitas“, die er als Fortschreibung der Soziallehre der Kirche im Digitalzeitalter und Zeitalter von KI versteht. Die Anliegen der Enzyklika gehen noch darüber hinaus. Sie beschreibt zugleich die dem Papst wichtigen politischen Themen: Frieden, Verhandlungen statt Krieg, Multilateralismus, die Menschheit als Erdengemeinschaft.

Während allgemein eine gewisse Ratlosigkeit zu bemerken ist, wie mit den Potenzialen und Gefahren von KI umzugehen ist, findet der Papst in der seit 1891 kontinuierlich, entsprechend den immer neuen Herausforderungen im Zuge des historischen Wandels, weiter entwickelten Soziallehre der Kirche ein breites Fundament, von dem aus die Grundprobleme des Digitalzeitalters und von KI analysiert werden können und das die Formulierung von Handlungsoptionen ermöglicht.

Kompass ist ihm die Würde des Menschen und deren Gefährdung im Zuge historischen Wandels. Die Würde des Menschen hängt nicht davon ab, welche Leistung er erbringt oder ob er nützlich ist. Das sagte auch schon Immanuel Kant. Die Menschenrechte machen klar, wie diese Würde in der Praxis zu respektieren und durchzusetzen ist. Der Mensch darf nicht auf Daten reduziert werden.

Gefahrendiagnose: „Digitale Versklavung“

Leo XIV. warnt vor aktuell vertretenen Konzepten wie Transhumanismus und Posthumanismus. Der Transhumanismus missachte die Grenzen, die der Mensch habe. Der Posthumanismus negiere den Menschen als Person und löse die Person im Grunde auf. Er schreibt: „Um die kulturellen Prämissen herauszustellen, die mit der laufenden digitalen Revolution einhergehen, möchte ich die Aufmerksamkeit nun auf einige Strömungen lenken, für die der Fortschritt in einem über die menschliche Natur Hinausgehen besteht und die wir mit den Begriffen Transhumanismus und Posthumanismus zusammenfassen können. Sie bilden den ideologischen Hintergrund, der in einigen technologischen Machtzentren anzutreffen ist und kolonisieren vereinfachend das kollektive Bewusstsein insbesondere in den Medien und sozialen Netzwerken, indem sie mit einer futuristischen Vision vom „verbesserten Menschen“ (enhanced human) oder vom „Hybriden aus Mensch und Maschine“ Begeisterung für die neuen Technologien wecken.“ [Abs. 115]

Zur Gefahrendiagnose bezüglich des Einsatzes von KI gehört der Hinweis auf die Machtkonzentration der Digitalkonzerne, die die staatliche Gewalt, die im demokratischen Verständnis den Einzelnen und die Gesellschaft schützt und dem Gemeinwohl dient, unterlaufen. Das Digitalzeitalter bringe die Gefahr einer neuen Versklavung mit sich, die abzuwehren sei. Leo zieht dabei Lehren aus der Geschichte: Die Kirche habe Sklaverei, Versklavung und Sklavenhandel nicht bekämpft und selber davon profitiert. Hierfür spricht er eine Entschuldigung aus. Aus diesen gravierenden Fehlern, Verbrechen gegen die Menschlichkeit nicht entschieden entgegengetreten zu sein, zieht Leo die Herausforderung, nunmehr von Anfang an proaktiv gegen die heutigen Formen der Versklavung zu kämpfen.

Im Detail zielt dies auf digitale Ausbeutung und die Schaffung von Abhängigkeiten, die sich in verschiedener Weise manifestieren: Menschen werden durch algorithmische Systeme überwacht, gesteuert oder manipuliert; Plattformarbeit schafft prekäre Beschäftigung ohne soziale Absicherung; Daten werden extrahiert wie früher Rohstoffe — ohne Zustimmung, ohne Gegenleistung; wenige große Tech-Konzerne kontrollieren Wissen, Daten und Infrastruktur; Länder des globalen Südens werden zu „datenliefernden Peripherien“; KI-Systeme reproduzieren Machtasymmetrien und Diskriminierungen; KI kann rassistische oder koloniale Muster automatisieren; sie kann Ungleichheiten verschärfen, statt sie zu überwinden. Sie konstruiert mindestens teilweise eine Pseudowirklichkeit.

Ohne Regulierung drohe eine „digitale Versklavung“ ganzer Bevölkerungsgruppen. Leo sieht das Wertesystem in Gefahr, das in den letzten ca. 150 Jahren entstanden ist: Solidarität, Subsidiarität, Menschenwürde und Menschenrechte, Orientierung am Gemeinwohl und soziale Gerechtigkeit, Gemeinschaftsbildung, soziale Verantwortung von Privateigentum, Frieden und Dialog, Bewusstsein der Grenzen des Menschen – das heißt, Bewusstsein, dass die technische Optimierbarkeit des Menschen begrenzt ist und bleiben wird, dass das transhumanistische Denken in eine Sackgasse führe.

Man kann es so zusammenfassen: Die Antwort auf die Gefahren, die im Digitalzeitalter von KI ausgehen (können), kennen wir bereits. Es handelt sich um das Wertesystem, das aus der Kritik an der industriellen Moderne und den Totalitarismen des 20. Jahrhunderts erwachsen ist. Die Challenge besteht darin, die anhaltende Relevanz dieses Wertesystems anzuerkennen und es zu verteidigen.

Leo verkennt weder die Potenziale noch Vorzüge von KI. Er unterstreicht aber, dass KI eben künstlich und nicht menschlich ist, was u.a. bedeute: „Sogenannte Künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Leib, empfinden weder Freude noch Schmerz, reifen nicht in Beziehungen, wissen nicht von ihrem Inneren her, was Liebe, Arbeit, Freundschaft und Verantwortung bedeutet. Sie haben auch kein moralisches Gewissen […]. Sie können Sprache, Verhalten und Beurteilung imitieren, sie können Empathie oder Verständnis simulieren […]. Auch wenn diese Werkzeuge als „lernfähig“ dargestellt werden, unterscheidet sich ihre Art des Lernens von der einer menschlichen Person. Es handelt sich nicht um die Erfahrung eines Menschen, der sich vom Leben formen lässt und im Laufe der Zeit durch Entscheidungen, Fehler, Vergebung und Treue wächst; vielmehr ist es eine statistische Anpassung auf der Grundlage von Daten und Rückmeldungen, die zwar sehr effektiv sein kann, aber kein inneres Wachstum impliziert.“ [Abs. 100]

„Magnifica Humanitas“: Eine in sich stimmige Analyse

Die Enzyklika hat große mediale internationale Aufmerksamkeit erfahren. Man muss die Diagnosen des Papstes nicht teilen, um trotzdem zu bemerken, dass KI und generell dem Digitalzeitalter mit einer in sich stimmigen Sozialphilosophie begegnet wird – was nirgendwo in der Politik und bei den Digitalkonzernen der Fall ist. Da ist nur Stückwerk, das intellektuelle und philosophische Armseligkeit dokumentiert. KI scheint ihre Macher*innen eines Teils ihrer Intellektualität beraubt zu haben.

Die Enzyklika eines Papstes geht von der kirchlichen Lehre und vom katholischen Glauben aus. Alles, was Leo zu KI und zum Digitalzeitalter zu sagen hat, bindet er erwartungsgemäß daran zurück. Das minimiert allerdings nicht die Richtigkeit seiner Einsichten in das, was digital geschieht. Seine Frage: „Was bauen wir?“ [Abs. 90] muss von Gesellschaft, Wirtschaft, Kultur und Politik ebenso in sich schlüssig beantwortet werden wie von den Religionsgemeinschaften.

Seine Stimme wird eher gehört, als die des „Digitalen Human(itar)ismus“, der eine Einhegung von KI und allgemein Digitalität durch die Priorisierung der den Menschen objektiv zuträglichen Leistungen und Potenziale erreichen möchte. Die findet man im Gesundheits- und Pflegewesen, in der Landwirtschaft, in Schule und Bildung, in sicherer Mobilität usw. usf. Im Sinne eines digitalen Human(itar)ismus schreibt Leo XIV.: „Im digitalen Bereich liegt die Kontrolle über Plattformen, Infrastrukturen, Daten und Rechenleistung in vielen Fällen nicht in der Hand der Staaten, sondern von großen wirtschaftlichen und technologischen Akteuren, die de facto die Zugangsbedingungen, die Regeln der Sichtbarkeit und die Möglichkeiten der Teilhabe selbst festlegen. […] Angesichts dieser Machtkonzentration in der digitalen Welt werden die großen Prinzipien der Soziallehre zu Maßstäben für die Beurteilung und Einordnung dieser neuen Situation: die unveräußerliche Würde des Menschen, das Gemeinwohl, die allgemeine Bestimmung der Güter, die Subsidiarität, die Solidarität und die soziale Gerechtigkeit. Diese Prinzipien rufen zur Prüfung auf, ob die Macht digitaler Infrastrukturen und Algorithmen tatsächlich Teilhabe und Verantwortung fördert, die Schwachen schützt, Chancengleichheit gewährleistet und auf das Wohl aller ausgerichtet bleibt.“ [Abs. 95 und 96]

Konkrete Maßnahmen zur Einhegung von KI

Leo XIV. liefert nicht nur eine grundlegende Analyse der Chancen und Risiken von KI, sondern nennt auch konkrete Maßnahmen: „Vorsicht“, „strenge Kontrollen“, „manchmal … Verlangsamung bei der Einführung von KI“, „angemessene rechtliche Rahmenbedingungen“, „unabhängige Aufsicht“, „Aufklärung der Nutzer“, „eine Politik, die sich nicht ihrer Aufgabe entzieht“ [Abs. 106]. Diese Stichworte werden dann im Detail ausgefüllt, sodass ein umfassendes Handlungsprogramm entsteht.

Hierzu sei noch einmal ein Abschnitt zitiert: „Die Wahrheit ist ein Gemeingut und nicht das Eigentum derer, die Macht oder Sichtbarkeit besitzen. Wir müssen daher eine Ökologie der Kommunikation fördern. Auf der Ebene öffentlicher Regelungen bedeutet dies, Vorschriften zu erlassen, die die Logik hinter der Auswahl und Verbreitung von Inhalten transparenter werden lassen und den Schutz personenbezogener Daten gewährleisten. Auf sozialer und kultureller Ebene erfordert dies hingegen die Stärkung der intermediären Körperschaften, einen seriösen Journalismus sowie Orte des Austauschs, an denen Argumentation und Überprüfung mehr zählen als die unmittelbare Reaktion. Auf der Ebene der Schule und der Familie heißt dies, dass das Bewusstsein für ein neues Bildungsverständnis reifen und dass die korrekte und kritische Nutzung digitaler Instrumente, von KI- sowie Einkaufs- und Investitionsplattformen vermittelt werden muss. Und auf der Ebene der Universität besteht die große Herausforderung in der Integration von Wissen durch Vermittlung sowohl der Fähigkeit, Kenntnisse zu verknüpfen und zu kombinieren, um komplexe Sachverhalte zu verstehen als auch von Methoden zur Überprüfung der Fakten.“ [Abs. 137] Das Thema Bildung und KI wird anschließend im Detail analysiert.

Leo befasst sich mit der „Würde der Arbeit“ in der Nachfolge von „Rerum Novarum“ und trägt der Wirtschaft auf, der Würde des Menschen zu dienen. Er ruft zur „Entwaffnung“ sowohl der Worte wie der KI auf und setzt in der Tradition seiner Vorgänger seit Paul VI. auf die „Zivilisation der Liebe“, um der „Normalisierung“ von Gewalt, Krieg und allgemein toxisch eingesetzter Macht etwas entgegenzuhalten.

„Was wollen wir bauen?“ fragt Leo XIV.

Die konkret angesprochenen Maßnahmen, von denen einige zitiert wurden, unterscheiden sich nicht von denen, die in der öffentlichen Diskussion auftauchen. Aber da fehlt oft der Rahmen, das heißt die Antwort auf die ganz grundlegende Frage, was „wir“ bauen wollen. Es wäre eine Aufgabe, die politisch wohl am besten als EU-Agenda koordiniert würde. Das setzt voraus, dass sich die Mitgliedsstaaten auf neue gemeinsame europäische Zielbestimmungen verständigen, die über die Frage einer Digitalsteuer und der Verantwortung der Plattformbetreiber für die Gesetzeskonformität der angebotenen Inhalten und Dienste hinausgehen.

Die Chancen dafür stehen schlecht, wie man daran sieht, dass jedes Mitgliedsland erst einmal für sich entscheidet, ob es Social Media für Unterdreizehnjährige, Untervierzehnjährige, Unterfünfzehnjährige, Untersechzehnjährige … verbietet, garniert mit vagen Hinweisen, dass man sich da in der EU koordinieren solle. Das ist Stück- und Flickwerk und belegt nur, dass die Kraft und der Wille, eine grundsätzliche Orientierung und Zielbestimmung in Sachen Digitalität und KI auszudiskutieren, nicht vorhanden sind. In die Enzyklika „Magnifica Humanitas“ sind zahlreiche wissenschaftliche Erkenntnisse eingearbeitet und sie wird von Einsichten geleitet, die weder am Christ- noch am Katholischsein hängen. Darauf lässt sich aufbauen.