Humanisten warnen die EU vor KI-Monopolen und fordern öffentliches Eigentum und menschliche Kontrolle

Eine KI-Ethikerin von Humanists International hat die EU-Kommission vor der wirtschaftlichen und epistemischen Abhängigkeit gewarnt, die sich aus dem Besitz von KI-Infrastruktur und -Daten durch ausländische Technologiemonopole ergibt. Sie forderte daraufhin die Einrichtung einer öffentlichen KI-Stiftung und die Stärkung des Rechts auf menschliche Überprüfung von KI-Entscheidungen.

Das Intervention wurde von Dr. Dorothea Winter, wissenschaftliche Mitarbeiterin für angewandte Ethik an der Humanistischen Universität Berlin, am 8. Juni im Rahmen des Dialogseminars der Europäischen Kommission gemäß Artikel 17 zum Thema „Die ethischen und sozialen Auswirkungen künstlicher Intelligenz„nachdem er von Humanists International als Vertreter nominiert worden war.“

In einer Sitzung zu aktuellen sozialen und ethischen Herausforderungen warnte Dr. Winter davor, dass Europa ohne starke humanistische Verankerung Gefahr läuft, in eine Wirtschaftsordnung abzurutschen, in der wenige ausländische Konzerne die Macht besitzen, zu definieren, was als Wissen gilt, und gleichzeitig aus europäischen Daten Profit schlagen. In diesem von ihr als „KI-Neokolonialismus“ bezeichneten Umfeld werden europäische Bürgerinnen und Bürger als transparente Konsumenten und Rohmaterial für die KI-Entwicklung behandelt, anstatt als vernunftbegabte Subjekte mit freiem Urteilsvermögen.

In diesem Kontext skizzierte sie die Kernpunkte des digitalen Humanismus. Erstens sollte KI als Werkzeug betrachtet werden, dessen spezifische Systeme spezifische Auswirkungen und Risiken mit sich bringen, anstatt sich von übergeordneten Narrativen vereinnahmen zu lassen. Zweitens muss KI als Selektionssystem verstanden werden, das – beeinflusst von Daten, Entwicklern und kommerziellen Interessen – intransparent entscheidet, welche Narrative verstärkt und welche unterdrückt werden. Schließlich fordert der digitale Humanismus, dass für jede folgenreiche Entscheidung eines KI-Systems ein Mensch zur Rechenschaft gezogen werden muss, da KI die Verantwortung für getroffene Entscheidungen verlagert.

Dr. Dorothea Winter, Humanistische Universität Berlin

Dr. Winter kritisierte die diesbezüglich vorgeschlagene EU-Gesetzgebung:

Während das KI-Gesetz und die DSGVO den Menschen als Subjekt der Beurteilung behandeln, betrachtet das Omnibusgesetz den Menschen als Rohmaterial für die KI-Entwicklung. Das Recht auf einen benannten, rechenschaftspflichtigen Entscheidungsträger ist ein konstitutives Merkmal demokratischer Regierungsführung unter den Bedingungen der Automatisierung, und kein Vereinfachungspaket sollte dieses Recht aushebeln.

Um der anhaltenden Machtkonzentration im Bereich der KI entgegenzuwirken, stellte sie drei konkrete Forderungen an die europäischen politischen Entscheidungsträger:

1. Das Recht auf menschliche Überprüfung: Jeder europäische Bürger muss das Recht auf eine menschliche Überprüfung jeder folgenreichen automatisierten Entscheidung haben, die von öffentlichen Stellen oder privaten Unternehmen getroffen wird. In diesem Zusammenhang kritisierte sie das Digitalisierungsgesetz, das bestehende Schutzmaßnahmen gegen automatisierte Entscheidungsfindung schwächen könnte.
2. Mitbestimmung der Arbeitnehmer: Die Arbeitnehmer müssen aktiv konsultiert werden, bevor KI-Systeme implementiert werden, die die Arbeitsbedingungen durch automatisierte Planung, Bewertung oder Überwachung verändern.
3. Ein europäischer öffentlicher KI-Trust: Nach dem Vorbild des CERN und der europäischen Tradition des öffentlich-rechtlichen Rundfunks sollte ein öffentlicher Trust die Recheninfrastruktur und die Trainingsdaten verwalten, die durch öffentliche Investitionen finanziert werden.

Das Dialogseminar begann mit Eröffnungsreden von Kommissar Magnus Brunner und Lucilla Sioli, Direktorin des EU-Büros für Künstliche Intelligenz. Hochrangige EU-Beamte und Experten, die von religiösen und nicht-konfessionellen Organisationen benannt wurden, diskutierten die langfristigen gesellschaftlichen Herausforderungen im Zusammenhang mit KI. Der Dialog gemäß Artikel 17 ist Teil des formellen Dialogs der Europäischen Kommission mit religiösen und nicht-konfessionellen Organisationen nach Artikel 17 des Vertrags über die Arbeitsweise der Europäischen Union.

Porträtfoto: © Konstantin Börner