Autoriteit Persoonsgegevens wil toezicht op kunstmatige intelligentie en algoritmen

De inzet van algoritmes vindt inmiddels op grote schaal plaats. Dat geldt niet alleen voor private organisaties, maar ook voor de overheid: van de belastingdienst en de politie tot verschillende gemeentes.

Het inzetten van algoritmes biedt volgens de waakhond veel kansen, maar er kleven ook serieuze risico’s aan.

De AVG-beginselen van rechtmatigheid, behoorlijkheid en transparantie bieden een goede basis om de inzet van kunstmatige intelligentie en algoritmes op een positieve wijze bij te laten dragen aan de samenleving, aldus de AP.

Bij het gebruik van algoritmes die persoonsgegevens verwerken moet aan enkele basisvoorwaarden worden voldaan. Zo moet er een grondslag zijn voor de verwerking, bijvoorbeeld toestemming of de uitvoering van een contract. Daarnaast mogen gegevens die verwerkt worden voor het ene doel niet zomaar op een later moment ook voor een ander doel worden gebruikt (doelbinding). Verder gelden er – afhankelijk van het type persoonsgegevens – ook bijvoorbeeld normen rond de opslag en beveiliging van de persoonsgegevens.

De grens tussen ‘wat geweldig dat dit kan’ en ‘bloedlink wat hier gebeurt’ kan juist hier soms akelig dicht bij elkaar komen, stelt de waakhond vast. De grens tussen sollicitanten eerlijk en integer selecteren en… discrimineren, tussen klanten weigeren nadat gebleken is van een concreet (betalings)risico en klanten weigeren omdat ze vooraf enkel zijn geprofileerd als risico, tussen verkiezingen eerlijk laten verlopen en… manipuleren, tussen verdachten aanhouden nadat er een concrete verdenking is of mensen voor enige verdenking al profileren als verdachten.

In de komende periode zal de AP zich richten op het verder uitwerken van haar toezicht op AI en algoritmes waarin persoonsgegevens worden gebruikt.

Lees meer op Emerce.nl