Humanisten waarschuwen de EU voor AI-monopolies en pleiten voor publiek eigendom en menselijke controle.

Een AI-ethicus van Humanists International heeft de Europese Commissie gewaarschuwd voor de economische en epistemologische afhankelijkheid die voortvloeit uit het feit dat buitenlandse technologiemonopolies de AI-infrastructuur en -data in handen hebben. In reactie hierop heeft ze aangedrongen op de oprichting van een publiek AI-trustfonds en de versterking van het recht op menselijke toetsing van AI-beslissingen.

De interventie werd verzorgd door dr. Dorothea Winter, onderzoeksmedewerker toegepaste ethiek aan de Humanistische Universiteit Berlijn, op 8 juni tijdens het dialoogseminar van de Europese Commissie over artikel 17 met als thema " De ethische en sociale impact van kunstmatige intelligentie ", nadat zij door Humanists International was aangewezen als vertegenwoordiger.

Tijdens een sessie over actuele maatschappelijke en ethische uitdagingen waarschuwde dr. Winter dat Europa, zonder sterke humanistische fundamenten, het risico loopt af te glijden naar een economische orde waarin een klein aantal buitenlandse bedrijven de macht heeft om te bepalen wat als kennis geldt, terwijl ze tegelijkertijd commerciële winst behalen uit Europese data. Onder deze dynamiek, die zij "AI-neokolonialisme" noemde, worden Europese burgers behandeld als transparante consumenten en grondstof voor AI-ontwikkeling, in plaats van als redenerende subjecten met een vrije meningsuiting.

In die context schetste ze de belangrijkste principes van het digitale humanisme. Ten eerste moet AI worden gezien als een instrument waarbij specifieke systemen specifieke effecten en risico's produceren, in plaats van te vervallen in de valkuil van grote verhalen. Ten tweede moet AI worden beschouwd als een selectiesysteem dat op ondoorzichtige wijze bepaalt welke verhalen worden versterkt en welke worden onderdrukt, gevormd door de data, de ontwikkelaars en commerciële belangen. Ten slotte, aangezien AI de verantwoordelijkheid voor genomen beslissingen verspreidt, benadrukt het digitale humanisme dat er een mens verantwoordelijk moet zijn voor elke belangrijke beslissing die een AI-systeem neemt.

Dr. Dorothea Winter, Humanistische Universiteit Berlijn

Dr. Winter bekritiseerde de voorgestelde EU-wetgeving in dat opzicht:

Waar de AI-wet en de AVG de mens als subject van oordeel beschouwen, behandelt de Omnibuswet de mens als grondstof voor de ontwikkeling van AI. Het recht op een benoemde, verantwoordelijke besluitnemer is een essentieel kenmerk van democratisch bestuur in een tijd van automatisering, en geen enkel vereenvoudigingspakket mag dit recht tenietdoen.

Om de voortdurende machtsconcentratie in de AI-sector tegen te gaan, presenteerde ze drie concrete eisen aan Europese beleidsmakers:

1. Het recht op menselijke toetsing: Iedere Europese burger moet recht hebben op menselijke toetsing van elke belangrijke geautomatiseerde beslissing die door overheidsinstanties of particuliere bedrijven wordt genomen. In dit verband bekritiseerde ze het wetsvoorstel Digital Omnibus, dat de bestaande bescherming tegen geautomatiseerde besluitvorming zou kunnen verzwakken.
2. Medezeggenschap van werknemers: Werknemers moeten actief worden geraadpleegd voordat AI-systemen die de arbeidsomstandigheden veranderen door middel van geautomatiseerde planning, evaluatie of toezicht, worden geïmplementeerd.
3. Een Europees publiek AI-trustfonds: gemodelleerd naar CERN en de Europese traditie van publieke omroep, zou een publiek trustfonds het beheer moeten voeren over de computerinfrastructuur en trainingsdata die met publieke investeringen worden gefinancierd.

Het dialoogseminar werd geopend met een toespraak van commissaris Magnus Brunner en Lucilla Sioli, directeur van het EU-bureau voor kunstmatige intelligentie. Aan het seminar namen hoge EU-functionarissen en deskundigen deel, die waren voorgedragen door religieuze en niet-confessionele organisaties, om de maatschappelijke uitdagingen op lange termijn van kunstmatige intelligentie te bespreken. De dialoog in het kader van artikel 17 maakt deel uit van de formele dialoog tussen de Europese Commissie en religieuze en niet-confessionele organisaties, zoals vastgelegd in artikel 17 van het Verdrag betreffende de werking van de Europese Unie.

Portretfoto: © Konstantin Börner