Clearview AI krijgt megaboete, maar wanneer wordt de overheid gecontroleerd?
Clearview AI kreeg recent een boete van 30,5 miljoen euro voor het overtreden van de privacywetgeving door een database aan te leggen met gegevens van 30 miljard mensen (waarschijnlijk gezichten, aangezien er anders meer mensen in staan dan er op aarde leven).
Veel AI technieken zoals generatieve AI en voorspellende modellen kunnen erg nuttig zijn voor de samenleving. Maar er zijn ook technieken die veel risicovoller zijn. Gezichtsherkenningstechnologie is naar mijn mening een van de meest risicovolle AI-technologieën, vooral wanneer het zonder toestemming wordt gebruikt, zoals bij Clearview AI het geval was.
Machine learning-technieken zijn gevoelig voor fouten en vooringenomenheid, vooral als ze gebaseerd zijn op slechte kwaliteit data, zoals scrapes van social media. Dit kan leiden tot structurele discriminatie en andere ellende.
Het is goed dat bedrijven die de regels overtreden, worden beboet door de Autoriteit Persoonsgegevens (Dutch DPA). De volgende stap zou moeten zijn dat ook overheden die gebruikmaken van deze bedrijven ter verantwoording worden geroepen, misschien is dat nog wel belangrijker. Diverse Europese politiediensten maakten gebruik van de database van Clearview AI aldus Bits of Freedom (zie dit artikel).
Gezichtsherkenning en vergelijkbare technologieën kunnen niet zomaar zonder consequenties worden ingezet. Het is essentieel dat niet alleen bedrijven, maar ook overheden verantwoording afleggen voor het gebruik van dergelijke technieken. Alleen dan kunnen we zorgen voor een toekomst waarin technologie de samenleving dient, zonder de privacy en rechten van burgers te schenden.
Wat betekent dit voor de toekomst van gezichtsherkenningstechnologie? Hoe kunnen we ervoor zorgen dat technologieën op een ethische manier worden gebruikt, terwijl we tegelijkertijd innoveren en vooruitgang boeken? En welke stappen moeten overheden nemen om transparanter te zijn over hun gebruik van gevoelige data en AI-technologieën?
Lees er meer over in mijn boek De AI Revolutie!
Meer lezen? Mijn boek ‘De AI Revolutie’ vertelt je alles wat je wilt weten.
Dit artikel is onderdeel van een serie rondom Maarten Sukel’s boek “De AI-Revolutie: Hoe kunstmatige intelligentie de maatschappij gaat veranderen (en daar nu al mee bezig is)”. Het boek duikt dieper in de invloed van AI op onze toekomst en hoe we als samenleving de juiste koers kunnen bepalen in deze nieuwe, spannende tijd. Het boek ligt op de planken in verschillende boekhandels of is online te bestellen.
Lees meer
Waarom het geen goed idee is om camera’s aan duiven te hangen
Waarom het geen goed idee is om camera’s aan duiven te hangen. Slimme camera’s die hangen aan duiven en op het hoofd van paarden worden gezet om drugscriminaliteit tegen te gaan. Dit klinkt misschien als het scenario van een sciencefictionfilm, maar het werd (bijna)...
De digitale realiteit zijn we kwijt en komt ook niet meer terug
De digitale realiteit zijn we kwijt en komt ook niet meer terug. De opkomst van geavanceerde algoritmen, die in staat zijn om teksten, beelden en zelfs audio te genereren die nauwelijks van menselijke creaties te onderscheiden zijn, maakt het ontwikkelen van systemen...
Is social media het nieuwe tabak?
Is social media het nieuwe tabak? In 1930 werd er breed reclame gemaakt voor sigaretten: minder irritatie van de keel, lekker ontspannen en een hulpmiddel tegen hoesten. Nu, bijna 100 jaar later, is het duidelijk: roken veroorzaakt kanker en een breed scala aan...