MONDELINGE VERKLARING
Humanisten Internationaal
Seminar over de dialoog volgens artikel 17 bij de Europese Commissie
“De ethische en maatschappelijke impact van kunstmatige intelligentie”
Spreker: Dr. Dorothea Winter
Laat ik beginnen met een beeld. Europa is als een mozaïek, en als je er dichtbij komt, zie je alleen maar stenen, elk met zijn eigen kleur, zijn eigen vorm, en de verschillen zijn alles: landen, talen, culturen, religieuze en filosofische tradities. Maar als je een stapje terugdoet, vormen de stenen een beeld, en dat beeld is wat de stenen, ondanks al hun verschillen, gemeen hebben.
En dat beeld is bovenal humanistisch. De grondbeginselen van de Unie, vastgelegd in artikel 2 van het Verdrag betreffende de Europese Unie, zijn menselijke waardigheid, vrijheid, democratie, gelijkheid, de rechtsstaat en respect voor de mensenrechten. Ze zijn humanistisch omdat ze de mens beschouwen als een vrij, redenerend subject. Als we deze beginselen wegnemen, verliest het mozaïek zijn beeld; de stenen blijven staan, maar de betekenis verdwijnt.
Nu verschijnt er een nieuw instrument in dit beeld, namelijk de hamer. We gebruiken een hamer om stenen te bewerken, te snijden, te verfijnen en in een patroon te passen. En de hamer in dit geval is kunstmatige intelligentie.
Een hamer kan een steen breken of repareren, en AI heeft dezelfde capaciteiten. De vraag is daarom in wiens handen het zich bevindt, met welke training en volgens welk ontwerp. Elke hamer draagt de keuzes van zijn makers in zich: wat het versterkt, wat het onderdrukt.
Hier komt het raamwerk van digitaal humanisme in beeld. Digitaal humanisme is de filosofisch-humanistische positie die gebaseerd is op drie uitgangspunten.
De eerste aanname is dat AI een hulpmiddel is, en als zodanig is het noch goed, noch slecht, noch neutraal. AI als neutraal beschouwen zou een categoriefout zijn, omdat neutraliteit waarheid impliceert, terwijl AI-systemen alleen waarschijnlijkheden produceren. Een LLM zoals ChatGPT voorspelt het volgende token op basis van patronen in de trainingsdata, waardoor elke output die we ontvangen moet worden opgevat als een voorspelling.
Het humanistische antwoord is daarom duidelijk. We kunnen geen verwachtingen scheppen van AI-systemen die ze niet kunnen waarmaken. We moeten rationeel over AI praten, zonder te vervallen in de gevaarlijke verhalen die eromheen circuleren: animisme, transhumanisme, of, meer recent, de bewering van CEO's van grote AI-bedrijven dat AI op weg is naar "recursieve zelfverbetering". Dergelijke beweringen zijn filosofisch, humanistisch en wetenschappelijk problematisch en leiden af van de dringende vragen over specifieke systemen, met specifieke ontwerpen, die specifieke effecten produceren. Software is software. Dit, moet ik eraan toevoegen, is ook de architectuur van de AI-wet zelf: een risicogebaseerd kader dat systemen classificeert op basis van hun daadwerkelijke vermogen om schade aan te richten, niet op basis van de retorische categorie "AI in het algemeen".
Ten tweede kan AI worden beschouwd als een selectiesysteem. De output van AI is een selectie van bronnen waaruit geput wordt, patronen die versterkt worden, alternatieven die onderdrukt worden, denkkaders die overgenomen worden en kaders die verworpen worden. Deze selectie wordt gevormd door de data waarop het systeem is getraind, door de ingenieurs die het hebben ontworpen en door de commerciële belangen van het platform waarop het draait. Niets hiervan is zichtbaar voor de burger die het systeem gebruikt.
Deze onzichtbare selectie speelt nu een rol in twee domeinen waar humanistische zorgen het meest urgent zijn: openbaar bestuur en onderwijs.
Een voorbeeld uit de openbare administratie is de zogenaamde Toeslagenaffaire in Nederland – een algoritme van de belastingdienst dat dubbele nationaliteit als risicofactor voor uitkeringsfraude beschouwde – waardoor ongeveer 26.000 gezinnen ten onrechte werden beschuldigd en de regering-Rutte in januari 2021 aftrad. Dit zijn de structurele gevolgen van het delegeren van selectie aan ondoorzichtige systemen zonder democratisch toezicht.
In het onderwijs is de vraag nog belangrijker. Generatieve AI-tools die door leerlingen worden gebruikt, selecteren vooraf wat als een relevant antwoord geldt, welke bronnen de moeite waard zijn om te raadplegen, welke stemmen hoorbaar zijn en welke niet. Eurostat meldde dat meer dan 50 procent van de Europeanen tussen de zestien en vierentwintig jaar erop vertrouwt dat generatieve AI-systemen de juiste antwoorden geven; 40 procent controleert de resultaten zelden of nooit. Een generatie leert hoe kennis eruitziet via een selectiemechanisme dat ondoorzichtig is, ontworpen buiten de Europese idealen om en gedreven door commercieel gewin. En de AI-geletterdheid die hen in staat zou stellen dit te herkennen, wordt zelf verzwakt in de Europese wetgeving: de AI-wet maakte het een verplichting onder artikel 4, en de Digitale Omnibus zou het reduceren tot een aanbeveling.
De derde verplichting betreft verantwoordelijkheid. AI-systemen zijn de meest succesvolle technologie die we ooit hebben ontwikkeld om verantwoordelijkheid te spreiden. Wanneer de output van een AI-systeem ethisch problematisch is, bijvoorbeeld wanneer iemand wordt gediscrimineerd, verschuift de verantwoordelijkheid. Ontwerpers wijzen naar ingenieurs; ingenieurs wijzen naar trainers; trainers wijzen naar de data.
In de filosofie noemen we dit het probleem van de vele handen. In de complexe en wereldwijd verspreide processen waarmee AI-systemen worden ontwikkeld en geïmplementeerd, wordt het moeilijk om te achterhalen wie wat heeft gedaan, en nog moeilijker om te bepalen wie verantwoordelijk kan worden gehouden voor een bepaalde output.
Het zou een zwak filosofisch gesprek zijn zonder minstens één keer Hannah Arendt aan te halen, dus hier zijn we dan. Hannah Arendt ontwikkelde een concept dat ze de 'heerschappij van Niemand' noemde. Hiermee bedoelde ze het gevaar dat ontstaat wanneer mensen zich verschuilen achter regels en procedures om persoonlijke verantwoordelijkheid te ontlopen, zodat er met niemand gediscussieerd kan worden, niemand ter verantwoording kan worden geroepen, en er toch altijd iemand wordt geregeerd. Ik zie hetzelfde gevaar in de implementatie van AI, waarbij menselijke verantwoordelijkheid wordt gedelegeerd aan systemen die daar zelf niet toe in staat zijn. Beslissingen over het leven van mensen, hun opleiding, hun communicatie, hun toegang tot medisch advies, worden genomen door AI-systemen, terwijl elke mens in de keten naar het systeem verwijst. En het systeem, zoals we zojuist hebben gezien, kan geen antwoord geven.
Digitaal humanisme verwerpt de heerschappij van Niemand. Het stelt dat voor elke belangrijke beslissing die een AI-systeem mede produceert, er een mens of een instelling moet zijn die kan worden genoemd, aangesproken en ter verantwoording geroepen. Dit is ook het principe dat de AI-wet vastlegt in artikel 14, de zogenaamde 'human-in-the-loop'-aanpak: risicovolle AI-systemen moeten zo worden ontworpen dat natuurlijke personen er effectief toezicht op kunnen houden gedurende hun werking, en dat geen enkele belangrijke beslissing volledig aan de AI-systemen wordt gedelegeerd.
Als we AI laten ontwikkelen zonder deze humanistisch-Europese ankers, ondergaan we een structurele transformatie naar een nieuwe economische orde, waarvan de eerste contouren al binnen Europa zelf zichtbaar zijn. Ik ben deze orde AI-neokolonialisme gaan noemen. Een klein aantal multinationale technologiebedrijven bezit de modellen, de rekenkracht, de data, de politieke invloed en de macht om te bepalen wat als kennis geldt, en zij halen hier aanzienlijke commerciële winst uit. Alle anderen, inclusief de Europese burger, leveren wat deze systemen nodig hebben: data. Data is de grondstof van de jaren 2020, het AI-tijdperk, onbeperkt schaalbaar, nooit uitgeput door gebruik en continu onttrokken aan onze aandacht, ons publieke debat en onze educatieve inhoud. En in deze onttrekking worden we door deze systemen aangesproken als transparante consumenten in plaats van als subjecten van vrij oordeel, zoals onze humanistisch-Europese traditie ons voorschrijft.
Wat volgt hieruit? Ten eerste zou elke Europese burger recht moeten hebben op een menselijke toetsing van elke belangrijke geautomatiseerde beslissing, ongeacht of deze door een overheidsinstantie of een particulier bedrijf is genomen.
Wanneer de staat een uitkering verstrekt, een kind beoordeelt voor beschermingsmaatregelen, of een verdachte op risico inschat, of wanneer een bedrijf besluit over kredietverlening, aanwerving of toegang tot een platform, moet de burger een specifiek persoon of instelling hebben die ter verantwoording kan worden geroepen. Artikel 22 van de AVG legt dit principe reeds vast, en het Parlement kan het nu versterken tot een bindend recht voor beide partijen.
De Digital Omnibus van november 2025 gaat de tegenovergestelde richting op. In naam van vereenvoudiging schort deze wet de verplichtingen met betrekking tot systemen met een hoog risico uit de AI-wetgeving op tot december 2027, waaronder het recht van de burger op een toelichting op een geautomatiseerde beslissing; introduceert een nieuw legitiem belang voor "AI" onder de AVG, waardoor AI-ontwikkeling voorrang kan krijgen boven het recht op gegevensbescherming; en staat aanbieders toe hun eigen systemen als niet-risicovol te classificeren zonder die beslissing openbaar te maken, waarmee de enige transparantiewaarborg die er bestond, verdwijnt.
Waar de AI-wet en de AVG de mens als subject van oordeel beschouwen, behandelt de Omnibuswet de mens als grondstof voor de ontwikkeling van AI. Het recht op een benoemde, verantwoordelijke besluitnemer is een essentieel kenmerk van democratisch bestuur in een tijd van automatisering, en geen enkel vereenvoudigingspakket mag dit recht tenietdoen.
Ten tweede moeten werknemers, wanneer AI op de werkvloer wordt ingezet, recht hebben op medezeggenschap. Wanneer AI de arbeidsomstandigheden verandert, bijvoorbeeld door middel van algoritmische planning, geautomatiseerde evaluatie of werkplekbewaking, moeten de werknemers wier omstandigheden worden veranderd, worden geraadpleegd vóórdat het systeem wordt ingevoerd, en niet pas nadat het is ingevoerd. De Europese pijler van sociale rechten verplicht ons al tot dit principe, en de Europese richtlijn inzake ondernemingsraden kan worden aangepast om dit specifiek voor AI te gelden. En de empirische bewijzen zijn overtuigend. Daron Acemoglu schat in zijn studie uit 2024 voor het National Bureau of Economic Research dat de productiviteitswinsten van generatieve AI in het komende decennium minder dan één procent van de totale factorproductiviteit zullen bedragen, en dat deze winsten overwegend ten goede zullen komen aan kapitaal, terwijl er vrijwel niets ten goede zal komen aan arbeid.
Ten derde moet Europa een Europees publiek AI-trustfonds oprichten om zowel de computerinfrastructuur die onder InvestAI is aangekondigd als de meertalige trainingsdatalaag daaronder te beheren. Het bestuursmodel is CERN, waar een op verdrag gebaseerde raad de lidstaten, de wetenschappelijke gemeenschap, het maatschappelijk middenveld en de partners van artikel 17 samenbrengt, die allen door middel van een handvest gebonden zijn aan de Europese grondrechten en aan openbare toegang. Europa heeft dit al eerder gedaan. De traditie van publieke omroep na 1945 berust op het principe dat bepaalde goederen in waarde dalen wanneer ze aan de markt worden overgeleverd, en de basisinfrastructuur voor publiek redeneren, communicatie en onderwijs behoort daartoe.
Laat me terugkeren naar het beeld waarmee ik begon. Europa is een mozaïek. Handen die zich aan geen enkele regel houden, met een slecht gemaakte hamer, zullen de stenen blijven bewerken tot hun vormen vervagen, hun kleuren verdwijnen, hun randen oplossen en het beeld van een afstand gezien niet meer te onderscheiden is. Dank u wel.
'Quo vadis, AI? Een humanistische benadering voor Europa' , Humanists International