De AI Act: Een pakket aan stokken om mee te slaan, maar wie vangt de klappen? 

Afgelopen woensdag was het zover: de AI act werd aangenomen. Hoewel het waarschijnlijk nog enkele jaren duurt voordat toezichthouders deze regels zullen handhaven, staat vast dat er nu een set regelgeving rondom AI is. In mijn boek “De AI Revolutie” behandel ik deze wetgeving al. Sommige aspecten, zoals duidelijke regels voor het gebruik van biometrische identificatie zoals gezichtsherkenning door autoriteiten, vind ik zeer positief. Maar er zijn ook zorgen: regelgeving kan de innovatiekracht van Europa op het gebied van kunstmatige intelligentie ernstig belemmeren, terwijl we al achterlopen. In dit artikel zal ik de aankomende regels bespreken en reflecteren op hun invloed.

De AI Act omvat in essentie een classificatie van verschillende AI-systemen. De wet verbiedt bepaalde vormen van kunstmatige intelligentie volledig, zoals gezichtsherkenning zonder wettelijke basis. Daarnaast identificeert de wet systemen met een hoog risico, zoals autonome voertuigen of algoritmes die medische diagnoses stellen, en plaatst deze in een aparte categorie. Voor “General Purpose AI” stelt de wet verplichtingen op het gebied van transparantie en documentatie.

Systemen die sociaal wenselijk gedrag beoordelen, zoals de algoritmes die in China gebruikt worden om inwoners te rangschikken op basis van hun gedrag, worden volledig verboden. Het is begrijpelijk dat er zorgen bestaan over dergelijke systemen. Toch is het opmerkelijk dat er in een samenleving waarin monetair belonen van wenselijk gedrag gangbaar is, zo’n radicale afwijzing bestaat tegen het concept van sociale kredietsystemen. Dit terwijl de gehele westerse samenleving eigenlijk op een vergelijkbaar concept gebouwd lijkt. De ironie dat het kapitalisme, als een van de eerste en grootste systemen van sociaal krediet, in het westen is ontstaan, laat ik voor nu buiten beschouwing.

Deze verschuiving naar strengere regelgeving voor AI kan gezien worden als een tweesnijdend zwaard. Enerzijds kan het zorgen voor een hogere mate van veiligheid en betrouwbaarheid in Europese AI-systemen. Anderzijds kan deze strikte regelgeving de ontwikkeling en het concurrentievermogen van de Europese AI-industrie in de weg staan. Startups en kleinere ondernemingen, vaak de drijvende kracht achter innovatie, kunnen disproportioneel geraakt worden door de kosten en complexiteit die compliance met zich meebrengt. Dit kan hun vermogen om te concurreren en innoveren beperken. Hoewel toezichthouders zich waarschijnlijk voornamelijk zullen richten op het controleren van grote overtreders, vergelijkbaar met de aanpak bij privacywetgeving, blijft de druk op kleinere bedrijven om aan dezelfde eisen te voldoen bestaan. Dit roept vragen op over hoe een balans kan worden gevonden tussen het waarborgen van veiligheid en het stimuleren van innovatie binnen de Europese AI-sector.

Voor zogenoemde “General Purpose AI” (GPAI), systemen die veelzijdig inzetbaar zijn zonder dat ze voor elke nieuwe taak opnieuw geprogrammeerd hoeven te worden, zoals ChatGPT of Claude-3, worden specifieke regels voorgesteld. Een belangrijk aspect van deze regelgeving is de eis tot transparantie over de gebruikte trainingsdata. OpenAI, het bedrijf achter ChatGPT, is momenteel niet transparant over de inhoud van de gebruikte datasets. Mira Murati, CTO van OpenAI, zei recent in een interview niet te weten welke beelden gebruikt voor het nieuwe video model CORA. Het verplicht stellen voor bedrijven om open te zijn over welke data is gebruikt voor het ontwikkelen van Large Language Models (LLMs), zou het mogelijk maken om te traceren welk materiaal is ingezet bij hun training. Dit zou bijdragen aan een grotere transparantie en verantwoordelijkheid in de ontwikkeling van AI-systemen, waardoor gebruikers en toezichthouders een beter inzicht krijgen in de werking en basis van deze technologieën.

De EU AI Act implementatie introduceert krachtige handhavingsmechanismen om te garanderen dat iedereen de gestelde eisen naleeft. Overtreders van de wet kunnen rekenen op forse boetes, die oplopen tot 7% van de wereldwijde jaaromzet of €35 miljoen als zij verboden AI-gebruik overtreden, en tot 3% of €15 miljoen voor de meeste andere overtredingen. Dit betekent dat een technologiegigant zoals Microsoft, met een jaaromzet van 56,5 miljard dollar, bijna 4 miljard dollar aan boetes kan verwachten als ze de regels niet volgen.