Privacy & AI

Nu digitale systemen steeds slimmer worden, lijkt het erop dat mensen niet langer de enigen zijn die in staat zijn kennis te vergaren. Artificial intelligence (AI), oftewel kunstmatige intelligentie, verwijst naar het technologische vermogen om op autonome wijze nieuwe data te genereren en te leren over een breed spectrum aan informatie. AI en privacy zijn onlosmakelijk met elkaar verbonden: verantwoord gebruik van AI vraagt om het waarborgen van privacybescherming en het zorgvuldig omgaan met gevoelige informatie. AI wordt steeds vaker gebruikt in diverse organisaties en sectoren voor uiteenlopende doeleinden, zoals besluitvorming, communicatie en probleemoplossing.

Hoewel het inzetten van AI vele voordelen kan bieden, is het niet zonder risico. AI-systemen maken gebruik van algoritmes die persoonsgegevens verwerken, soms zelfs zonder dat deze direct worden ingevoerd, bijvoorbeeld via gebruikersinteracties. Transparantie over deze algoritmes is essentieel, omdat het gebruik ervan privacyrisico’s met zich meebrengt en het risico op datalekken vergroot. Het is belangrijk om kritisch te blijven op de input en output van generatieve AI, omdat AI-modellen vaak als ‘black box’ functioneren en het lastig kan zijn te beoordelen welke data worden gebruikt. AI kan gevoelige informatie in documenten automatisch herkennen, classificeren en maskeren of anonimiseren, maar het blijft essentieel om zorgvuldig te beoordelen welke data je invoert en om dataverlies te beperken.

Wilt uw organisatie AI in gaan zetten? Breng dan van te voren eerst goed de privacy risico’s in kaart en zorg dat u de juiste maatregelen neemt om de privacy van uw inwoners, klanten, leden of patiënten te beschermen. Het opstellen van processen en een duidelijke regulering van verantwoordelijkheden kan hierbij helpen. Hierbij is zowel de AI-gerelateerde wet en regelgeving, als de Algemene Verordening Gegevensbescherming (AVG) relevant.

Verantwoordelijkheid voor AI

De diversiteit aan toepassingen waar AI voor gebruikt wordt, roept de vraag op wie binnen een organisatie de verantwoordelijkheid draagt voor verantwoorde inzet van AI. In beginsel ligt deze verantwoordelijkheid bij de personen die privacy en informatieveiligheid waarborgen. Zij zijn bekend met de uitdagingen, risico’s en basisbeginselen zoals transparantie, en beschikken over compliance tools zoals registratie van verwerkingsactiviteiten en data processing impact assessments. AI-systemen verwerken vaak persoonsgegevens, wat kan leiden tot datalekken en ethische vraagstukken. Gegevens die als trainingsdata in AI-modellen zijn opgenomen, zijn bovendien lastig te verwijderen.

Juridische ontwikkelingen

Alhoewel AI relatief in de kinderschoenen staat, vinden er in aanzienlijk tempo technologische ontwikkelingen plaats. Overheidsinstanties en governance experts wereldwijd werken aan regelgeving en universele beginselen. In dit kader kunnen zowel niet-specifieke wetgeving die desalniettemin op AI van toepassing wordt geacht, als meer specifieke nieuwe wetgeving aan de orde zijn. Het is belangrijk om AI en algoritmes alleen toe te passen binnen de kaders van de AVG en andere relevante regels, en om interne afspraken en beleid op te stellen voor verantwoord gebruik.

Onder de huidige wet- en regelgeving vinden we bijvoorbeeld de AI Act en de Algemene Verordening Gegevensbescherming (AVG), gericht op respectievelijk regulering van AI en de omgang met persoonsgegevens.

Daarnaast vinden we een AI framework in de OECD Framework for the classification of AI systems. Middels dit framework kunnen beleidsmakers verschillende soorten AI-systemen classificeren, waarbij onderscheid wordt gemaakt in People & Planet, Economic Context, Data & Input, AI Model and Task & Output. Het framework is verbonden met de OECD AI principles: de eerste intergouvernementele standaard met betrekking tot AI, gericht op innovatieve en betrouwbare AI, die mensenrechten en democratische waarden respecteert. Het beschermen en bevorderen van mensenrechten zien we ook terug in de UNESCO Recommendations on the Ethics of AI, wat toeziet op de ethiek rondom AI. Naast het beschermen en bevorderen van mensenrechten, beoogt het ook te anticiperen op morele verplichtingen die toekomstig worden gecodificeerd.

Heeft u een vraag over privacy bij het inzetten van AI? Hieronder behandelen we veelgestelde vragen. Heeft u een vraag die wij op deze pagina nog niet behandelen? Stel deze dan aan onze experts, zij beantwoorden uw vraag binnen twee werkdagen.