Clearview AI krijgt megaboete, maar wanneer wordt de overheid gecontroleerd?
Clearview AI kreeg recent een boete van 30,5 miljoen euro voor het overtreden van de privacywetgeving door een database aan te leggen met gegevens van 30 miljard mensen (waarschijnlijk gezichten, aangezien er anders meer mensen in staan dan er op aarde leven).
Veel AI technieken zoals generatieve AI en voorspellende modellen kunnen erg nuttig zijn voor de samenleving. Maar er zijn ook technieken die veel risicovoller zijn. Gezichtsherkenningstechnologie is naar mijn mening een van de meest risicovolle AI-technologieën, vooral wanneer het zonder toestemming wordt gebruikt, zoals bij Clearview AI het geval was.
Machine learning-technieken zijn gevoelig voor fouten en vooringenomenheid, vooral als ze gebaseerd zijn op slechte kwaliteit data, zoals scrapes van social media. Dit kan leiden tot structurele discriminatie en andere ellende.
Het is goed dat bedrijven die de regels overtreden, worden beboet door de Autoriteit Persoonsgegevens (Dutch DPA). De volgende stap zou moeten zijn dat ook overheden die gebruikmaken van deze bedrijven ter verantwoording worden geroepen, misschien is dat nog wel belangrijker. Diverse Europese politiediensten maakten gebruik van de database van Clearview AI aldus Bits of Freedom (zie dit artikel).
Gezichtsherkenning en vergelijkbare technologieën kunnen niet zomaar zonder consequenties worden ingezet. Het is essentieel dat niet alleen bedrijven, maar ook overheden verantwoording afleggen voor het gebruik van dergelijke technieken. Alleen dan kunnen we zorgen voor een toekomst waarin technologie de samenleving dient, zonder de privacy en rechten van burgers te schenden.
Wat betekent dit voor de toekomst van gezichtsherkenningstechnologie? Hoe kunnen we ervoor zorgen dat technologieën op een ethische manier worden gebruikt, terwijl we tegelijkertijd innoveren en vooruitgang boeken? En welke stappen moeten overheden nemen om transparanter te zijn over hun gebruik van gevoelige data en AI-technologieën?
Lees er meer over in mijn boek De AI Revolutie!
Meer lezen? Mijn boek ‘De AI Revolutie’ vertelt je alles wat je wilt weten.
Dit artikel is onderdeel van een serie rondom Maarten Sukel’s boek “De AI-Revolutie: Hoe kunstmatige intelligentie de maatschappij gaat veranderen (en daar nu al mee bezig is)”. Het boek duikt dieper in de invloed van AI op onze toekomst en hoe we als samenleving de juiste koers kunnen bepalen in deze nieuwe, spannende tijd. Het boek ligt op de planken in verschillende boekhandels of is online te bestellen.
Lees meer
Ik besteedde mijn geld om LLM’s te benchmarken op Nederlandse examens – zodat jij dat niet hoeft te doen
In dit blog deel ik mijn ervaringen met het benchmarken van verschillende grote taalmodellen (LLM’s) op basis van Nederlandse staatsexamens. Veel benchmarks richten zich op Engels, waardoor specifieke prestaties in het Nederlands vaak onderbelicht blijven. Ik verzamelde en verwerkte meer dan 12.000 PDF’s met examenvragen om inzicht te krijgen in hoe modellen zoals o1-mini, GPT-4o en Claude-3 presteren op begrijpend lezen en andere Nederlandstalige taken. Het resultaat? o1-mini blijkt beter én goedkoper te presteren dan duurdere modellen. Dit blog biedt waardevolle inzichten voor bedrijven die Nederlandstalige AI-toepassingen willen bouwen of opschalen.
Gebruikt de Tweede Kamer ondanks een ‘verbod’ toch generatieve modellen om te schrijven (of reflecteren ze vaker)?
Gebruikt de Tweede Kamer ondanks een ‘verbod’ toch generatieve modellen om te schrijven (of reflecteren ze vaker)? Generatieve AI is als de uitvinding van het toetsenbord of van de pen: weigeren ermee te leren werken is een goede manier om boventallig te worden. Voor...
Muziek, kunst en (kunst)matige intelligentie
Muziek, kunst en (kunst)matige intelligentie Recentelijk heeft kunstmatige intelligentie (AI) voor opschudding gezorgd in de creatieve wereld, vooral binnen de muziekindustrie. Nieuwe platforms zoals Suno.ai en Udio stellen gebruikers in staat om binnen enkele...