MÜNDLICHE ERKLÄRUNG
Internationale der Humanisten
Dialogseminar zu Artikel 17 bei der Europäischen Kommission
„Die ethischen und sozialen Auswirkungen künstlicher Intelligenz“
Sprecherin: Dr. Dorothea Winter
Ich möchte mit einem Bild beginnen. Europa gleicht einem Mosaik. Aus der Nähe betrachtet sieht man nur Steine, jeder mit seiner eigenen Farbe, seiner eigenen Form, und die Unterschiede sind allgegenwärtig: Länder, Sprachen, Kulturen, religiöse und philosophische Traditionen. Doch aus der Distanz betrachtet, fügen sich die Steine zu einem Bild zusammen, und dieses Bild ist es, was die Steine trotz all ihrer Unterschiede gemeinsam haben.
Und dieses Bild ist in erster Linie humanistisch. Die Gründungswerte der Union, verankert in Artikel 2 des Vertrags über die Europäische Union, sind Menschenwürde, Freiheit, Demokratie, Gleichheit, Rechtsstaatlichkeit und Achtung der Menschenrechte. Sie sind humanistisch, weil sie den Menschen als freies, vernunftbegabtes Subjekt anerkennen. Lässt man diese Verpflichtungen außer Acht, verliert das Mosaik seine Bedeutung; die Steine bleiben, aber nicht die Symbolik.
In dieses Bild tritt nun ein neues Werkzeug: der Hammer. Wir benutzen einen Hammer, um Steine zu bearbeiten, sie zu formen, zu verfeinern und in ein Muster einzupassen. Und der Hammer in diesem Moment ist die Künstliche Intelligenz.
Ein Hammer kann einen Stein zerschlagen oder reparieren, und KI besitzt dieselben Fähigkeiten. Die Frage ist daher, in wessen Händen sie liegt, mit welcher Ausbildung und nach welchem Zweck. Jeder Hammer trägt die Entscheidungen seiner Schöpfer in sich: was er verstärkt, was er unterdrückt.
Hier kommt das Rahmenkonzept des digitalen Humanismus ins Spiel. Der digitale Humanismus ist die philosophisch-humanistische Position, die auf drei Grundannahmen beruht.
Die erste Annahme ist, dass KI ein Werkzeug ist und als solches weder gut noch schlecht noch neutral ist. KI als neutral zu betrachten, wäre ein Kategorienfehler, denn Neutralität impliziert Wahrheit, während KI-Systeme lediglich Wahrscheinlichkeiten liefern. Ein LLM wie ChatGPT sagt das nächste Token anhand von Mustern in seinen Trainingsdaten voraus, sodass jede Ausgabe als Vorhersage zu verstehen ist.
Die humanistische Antwort ist daher eindeutig. Wir dürfen keine Erwartungen an KI-Systeme stellen, die sie nicht erfüllen können. Wir müssen rational über KI sprechen, ohne in die gefährlichen Narrative zu verfallen, die sie umgeben: Animismus, Transhumanismus oder, jüngst, die Behauptung von CEOs großer KI-Unternehmen, KI nähere sich einer „rekursiven Selbstverbesserung“. Solche Behauptungen sind philosophisch, humanistisch und wissenschaftlich problematisch und lenken von den drängenden Fragen nach konkreten Systemen mit spezifischen Designs und spezifischen Auswirkungen ab. Software ist Software. Dies ist, wie ich hinzufügen möchte, auch die Grundlage des KI-Gesetzes selbst: ein risikobasierter Rahmen, der Systeme nach ihrem tatsächlichen Schadenspotenzial klassifiziert, nicht nach der rhetorischen Kategorie „KI im Allgemeinen“.
Zweitens kann KI als Selektionssystem bezeichnet werden. Die Ergebnisse der KI sind eine Auswahl der Quellen, aus denen Informationen gewonnen werden, der verstärkten Muster, der unterdrückten Alternativen, der übernommenen und der verworfenen Deutungsmuster. Diese Auswahl wird durch die Trainingsdaten des Systems, die Entwickler und die kommerziellen Interessen der Plattform, auf der es läuft, bestimmt. All dies bleibt dem Nutzer verborgen.
Diese unsichtbare Selektion wirkt nun im Zentrum zweier Bereiche, in denen humanistische Anliegen besonders dringlich sind: der öffentlichen Verwaltung und der Bildung.
Ein Beispiel aus der öffentlichen Verwaltung ist die sogenannte „Toeslagenaffaire“ aus den Niederlanden – ein Algorithmus der Steuerbehörde, der die doppelte Staatsbürgerschaft als Risikofaktor für Sozialleistungsbetrug einstufte – beschuldigte fälschlicherweise etwa 26.000 Familien und zwang die Regierung Rutte im Januar 2021 zum Rücktritt. Dies sind die strukturellen Folgen der Delegation von Auswahlentscheidungen an intransparente Systeme ohne demokratische Kontrolle.
Im Bildungsbereich ist die Frage noch weitreichender. Generative KI-Tools, die von Schülern genutzt werden, wählen vorab aus, was als relevante Antwort gilt, welche Quellen als relevant gelten und welche Stimmen sichtbar sind und welche nicht. Laut Eurostat vertrauen mehr als 50 Prozent der Europäer zwischen 16 und 24 Jahren generativen KI-Systemen, korrekte Antworten zu liefern; 40 Prozent überprüfen die Ergebnisse selten oder nie. Eine ganze Generation lernt Wissen durch einen intransparenten Selektionsmechanismus kennen, der nicht europäischen Idealen entspricht und von kommerziellen Gewinnen getrieben ist. Und die KI-Kompetenz, die ihnen ermöglichen würde, dies zu erkennen, wird im europäischen Recht selbst geschwächt: Das KI-Gesetz machte sie gemäß Artikel 4 zur Pflicht, und der Digitale Omnibus würde sie zu einer Empfehlung degradieren.
Die dritte Verpflichtung betrifft die Verantwortung. KI-Systeme sind die erfolgreichste Technologie, die wir je entwickelt haben, um Verantwortung zu verteilen. Wenn die Ergebnisse eines KI-Systems ethisch problematisch sind, beispielsweise wenn jemand diskriminiert wird, wird die Verantwortung abgeschoben. Die Entwickler schieben die Verantwortung auf die Ingenieure, die Ingenieure auf die Ausbilder, die Ausbilder wiederum auf die Daten.
In der Philosophie bezeichnen wir dies als das Problem der vielen Hände. In den komplexen und global verteilten Prozessen, durch die KI-Systeme entwickelt und eingesetzt werden, wird es schwierig festzustellen, wer was getan hat, und noch schwieriger, zu sagen, wer für ein bestimmtes Ergebnis verantwortlich gemacht werden kann.
Es wäre ein mangelhafter philosophischer Vortrag, Hannah Arendt nicht mindestens einmal zu erwähnen, daher kommen wir nun darauf zurück. Hannah Arendt entwickelte ein Konzept, das sie die Herrschaft des Niemands nannte. Damit meinte sie die Gefahr, die entsteht, wenn Menschen sich hinter Regeln und Verfahren verstecken, um persönliche Verantwortung zu vermeiden, sodass niemand kritisiert, niemand zur Rechenschaft gezogen werden kann und doch immer jemand beherrscht wird. Dieselbe Gefahr sehe ich in der Implementierung von KI, wo menschliche Verantwortung an Systeme delegiert wird, die selbst nicht in der Lage sind, sie zu tragen. Entscheidungen über das Leben von Menschen, ihre Bildung, ihre Kommunikation, ihren Zugang zu medizinischer Beratung werden durch KI-Systeme getroffen, während jeder Mensch in der Kette auf das System verweist. Und das System, wie wir gerade gesehen haben, kann keine Antwort geben.
Der digitale Humanismus lehnt die Herrschaft des Niemands ab. Er besteht darauf, dass für jede folgenreiche Entscheidung, an der ein KI-System mitwirkt, ein Mensch oder eine Institution namentlich genannt, angerufen und zur Rechenschaft gezogen werden kann. Diesem Prinzip folgt auch Artikel 14 des KI-Gesetzes, der sogenannte „Human-in-the-Loop“-Ansatz: Hochrisiko-KI-Systeme müssen so konzipiert sein, dass natürliche Personen sie während ihres gesamten Betriebs effektiv überwachen können und keine folgenreiche Entscheidung vollständig an die KI-Systeme delegiert wird.
Wenn wir die Entwicklung von KI ohne diese humanistisch-europäischen Anker zulassen, durchlaufen wir einen Strukturwandel hin zu einer neuen Wirtschaftsordnung, deren erste Konturen sich bereits in Europa selbst abzeichnen. Ich nenne diese Ordnung KI-Neokolonialismus. Eine kleine Anzahl multinationaler Technologiekonzerne verfügt über die Modelle, die Rechenleistung, die Daten, den politischen Einfluss und die Macht, zu definieren, was als Wissen gilt, und zieht daraus beträchtliche Gewinne. Alle anderen, einschließlich der europäischen Bürger, liefern die Grundlage für diese Systeme: Daten. Daten sind der Rohstoff der 2020er Jahre, des Zeitalters der KI: unbegrenzt skalierbar, durch Nutzung unerschöpflich und kontinuierlich aus unserer Aufmerksamkeit, unserem öffentlichen Diskurs und unseren Bildungsinhalten gewonnen. Und bei dieser Datengewinnung werden wir von diesen Systemen als transparente Konsumenten angesprochen, anstatt als Subjekte freier Urteilskraft, wie es unsere humanistisch-europäische Tradition von uns erwartet.
Was folgt daraus? Erstens sollte jeder europäische Bürger das Recht auf eine menschliche Überprüfung jeder folgenreichen automatisierten Entscheidung haben, unabhängig davon, ob diese von einer öffentlichen Behörde oder einem privaten Unternehmen getroffen wird.
Wenn der Staat eine Leistung gewährt, ein Kind für Schutzmaßnahmen einstuft oder eine Risikobewertung für einen Angeklagten vornimmt, oder wenn ein Unternehmen über Kreditvergabe, Einstellung oder Plattformzugang entscheidet, muss dem Bürger eine namentlich genannte Person oder Institution zur Verfügung stehen, die er zur Rechenschaft ziehen kann. Artikel 22 der DSGVO verankert dieses Prinzip bereits, und das Parlament kann es nun zu einem verbindlichen, positiven Anspruch ausbauen.
Das Digitalgesetz vom November 2025 schlägt die entgegengesetzte Richtung ein. Unter dem Vorwand der Vereinfachung setzt es die Verpflichtungen des KI-Gesetzes für Systeme mit hohem Risiko bis Dezember 2027 aus, darunter das Recht der Bürger auf eine Begründung für automatisierte Entscheidungen; es führt ein neues berechtigtes Interesse an „KI“ gemäß der DSGVO ein, das es der KI-Entwicklung ermöglicht, das Recht auf Datenschutz außer Kraft zu setzen; und es erlaubt Anbietern, ihre eigenen Systeme als nicht risikoreich einzustufen, ohne diese Entscheidung öffentlich zu registrieren, wodurch die einzige bestehende Transparenzmaßnahme beseitigt wird.
Während das KI-Gesetz und die DSGVO den Menschen als Subjekt der Beurteilung behandeln, betrachtet das Omnibusgesetz den Menschen als Rohmaterial für die KI-Entwicklung. Das Recht auf einen benannten, rechenschaftspflichtigen Entscheidungsträger ist ein konstitutives Merkmal demokratischer Regierungsführung unter den Bedingungen der Automatisierung, und kein Vereinfachungspaket sollte dieses Recht aushebeln.
Zweitens: Wenn KI am Arbeitsplatz eingesetzt wird, müssen Arbeitnehmer ein Mitbestimmungsrecht haben. Verändert KI die Arbeitsbedingungen durch algorithmische Einsatzplanung, automatisierte Leistungsbeurteilung oder Überwachung am Arbeitsplatz, müssen die betroffenen Arbeitnehmer vor der Einführung des Systems konsultiert werden und dürfen nicht erst im Nachhinein informiert werden. Die Europäische Säule sozialer Rechte verpflichtet uns bereits zu diesem Prinzip, und die EU-Betriebsratsrichtlinie kann entsprechend angepasst werden, um es speziell auf KI auszudehnen. Auch die empirischen Belege sprechen dafür. Daron Acemoglu schätzt in seiner Studie für das National Bureau of Economic Research aus dem Jahr 2024, dass die Produktivitätsgewinne generativer KI im kommenden Jahrzehnt weniger als ein Prozent der gesamten Faktorproduktivität ausmachen werden und dass diese Gewinne überwiegend dem Kapital zugutekommen, während die Arbeitnehmer kaum davon profitieren.
Drittens muss Europa einen europäischen öffentlichen KI-Trust einrichten, der sowohl die im Rahmen von InvestAI angekündigte Recheninfrastruktur als auch die darunterliegende mehrsprachige Trainingsdatenebene verwaltet. Als Vorbild dient das CERN, wo ein vertragsbasierter Rat die Mitgliedstaaten, die Wissenschaft, die Zivilgesellschaft und die Partner gemäß Artikel 17 zusammenbringt. Alle sind durch die Charta an die europäischen Grundrechte und den öffentlichen Zugang gebunden. Europa hat dies bereits erfolgreich umgesetzt. Die Tradition des öffentlich-rechtlichen Rundfunks nach 1945 beruht auf dem Prinzip, dass bestimmte Güter an Wert verlieren, wenn sie dem Markt überlassen werden. Dazu gehört auch die grundlegende Infrastruktur für öffentliches Denken, Kommunikation und Bildung.
Ich möchte auf das Bild zurückkommen, mit dem ich begonnen habe. Europa ist ein Mosaik. Hände, die keiner Regel verpflichtet sind, mit einem schlecht gefertigten Hammer, werden immer weiter auf die Steine einschlagen, bis ihre Formen verschwimmen, ihre Farben verblassen, ihre Konturen sich auflösen und das Bild aus der Ferne nicht mehr erkennbar ist. Danke.
„Quo vadis, AI? „Ein humanistischer Ansatz für Europa“, Humanisten International