Waarom AI geen ver-van-je-bed-show is

Er is al een hoop wetgeving, al dan niet nog in de maak, waar u zich als marketeer, fondsenwerver of directeur mee bezighoudt op marketing vlak. Denk aan de AVG, de Telecomwet, de E-privacy verordening. En dan komt er nu ook de AI act aan. Onlangs heeft het Europees Parlement akkoord gegeven op (haar voorstel voor) deze AI Act. De AI Act is gericht op makers, distributeurs, verkopers en gebruikers van AI. Het is een risico gebaseerde aanpak. Sommige vormen van AI worden verboden (gezichtsherkenning in openbare ruimten), anderen gereguleerd. Nu het Europees parlement gestemd heeft, starten de onderhandelingen tussen het Europees Parlement, de Europese Raad van Ministers en de Europese Commissie (‘Triloog’) voor de definitieve versie van de AI Act. Europa is als eerste in de wereld in zo’n vergevorderd stadium als het gaat om AI wetgeving. Al is deze dus nog niet van kracht.

Wat is AI (Artificial Intelligence)?

AI bestaat in allerlei vormen en (bedrijfs)toepassingen, een aantal gebruikt u mogelijk zelf al, denk aan: Siri, bepaalde video games zoals Call of Duty en ook Netflix en Spotify maken gebruik van algoritmes à la ‘deze muziek vind je misschien ook leuk’. AI kan ook ingezet worden door organisaties om bijvoorbeeld klanten die bepaalde producten bekeken of gekocht hebben, producten aan te bieden die verband houden met die eerdere aankopen of interesses. Ook chatbots voor online klantondersteuning kunnen gebruik maken van AI of gebaseerd zijn op AI. AI is eigenlijk al overal!

Artificial Intelligence (AI) is de mogelijkheid van een machine om mensachtige vaardigheden te vertonen, zoals redeneren, leren, plannen en creativiteit. Het gaat over zelflerende systemen en algoritmes. Systemen of applicaties worden gevoed door mensen en gaan dan vervolgens met hun zelflerend vermogen aan de slag. Ze nemen dus zelfstandig beslissingen. Zo zijn er robots die de opdracht hebben gekregen om een goal te scoren met voetballen. Door hun zelflerend vermogen worden ze hier steeds beter in. Ze bedenken zelf bewegingen en ‘trucjes’ om hun doel te bereiken. Sommige robots doen dat inmiddels beter dan Messi (niets ten nadele van Messi, overigens).

Er zijn verschillende AI toepassingen:

Machine learning (data-analyse door zelflerende algoritmen)
Robot ondersteunende procesautomatisering (menselijke handelingen nabootsen)
Virtuele agents of chatbots
Data mining
Deep learning
Spraakherkenning
Patroon of gezichtsherkenning

In een CBS enquête uit 2021 gehouden onder 13.000 bedrijven gaven organisaties aan hier al in meerdere of mindere mate mee aan de slag te zijn:

Bron CBS: enquête IT gebruik bedrijven 2021

Waarom ineens al die belangstelling voor AI?

De reden dat AI nu zo’n hot item is, is dat de ontwikkeling ervan in een razend tempo gaat, met ChatGPT vooroplopend als een toepassing die door steeds meer mensen – en voor steeds meer toepassingen – wordt gebruikt. AI is ineens heel tastbaar en heel toegankelijk. Er wordt daarnaast gewaarschuwd voor de negatieve effecten, recent nog door een Google pionier. Mensen zijn bang dat de enorm snelle ontwikkeling van AI kan zorgen voor het verspreiden van misinformatie, vooroordelen in algoritmen en discriminatie (bias), zoals bij deze toepassing van Amazon en voor een toenemende dominantie van de big tech partijen.

De AI Act

De Europese Commissie heeft nu een voorstel gepresenteerd voor een verordening die AI moet reguleren. De AI Act is gericht op makers, distributeurs, verkopers en gebruikers van AI. Het is een risico gebaseerde aanpak waarbij onderscheid wordt gemaakt tussen:

Verboden AI systemen: een aantal AI systemen wordt verboden, omdat deze een onacceptabel risico vormen voor de rechten en vrijheden van burgers. Te denken valt aan social scoring, het maken van risicoprofielen van personen op basis van toezicht op hun gedrag, zoals criminele of financiële activiteiten. Ook massa surveillance is verboden waarbij u camera’s alles laat opnemen om er een incident uit te kunnen halen.
AI systemen met een hoog risico: dit zijn systemen die een hoog – maar acceptabel – risico vormen voor de rechten en vrijheden van burgers, mits die risico’s gemitigeerd worden. Denk aan systemen voor biometrische identificatie, migratie en asiel. Het omvat ook toepassingen die ingezet worden voor screening, beoordeling en selectie in het onderwijs of recruitment. Het gaat daarnaast om producten die onder specifieke EU-wetgeving vallen, zoals de luchtvaart, kritieke infrastructuur en medische apparaten. Voor het aanbieden en inzetten van hoog risico AI moeten maatregelen worden getroffen.
AI systemen die mensen kunnen beïnvloeden, denk aan deep fakes en chatbots: deze systemen worden geacht een lager risico te vormen voor de rechten en vrijheden. Wel moet u informeren over het gebruik van deze systemen, zodat iemand begrijpt dat hij of zij met een chatbot interacteert.
Gewone AI systemen: deze systemen worden geacht een minimaal risico te vormen. Hier gaat de EU gedragscodes en zelfregulering stimuleren. Het gaat hier bijvoorbeeld om AI in games, wanneer dit wordt gebruikt om responsief, adaptief of intelligent gedrag te genereren in personages. Of het gaat om het gebruik van spam filters.

De wet kijkt naar een AI-systeem als een product en past hier productvoorschriften en regels voor markttoelating op toe. Zo moet er een bijvoorbeeld een productomschrijving zijn, logging van de aanpassingen, testen en krijgt een systeem dat goedgekeurd is een CE-markering.

AI en de AVG

Als er bij het gebruik van AI sprake is van een verwerking van persoonsgegevens, dan is de AVG van toepassing. Dus wanneer er contactgegevens van klanten door een chatbot worden gebruikt, moet u rekening houden met de AVG. Naast de meer low risk AI toepassingen zoals hierboven beschreven, kan AI ook ingezet worden voor high risk toepassingen, zoals gezichtsherkenning, fraudebestrijding en medische diagnoses.

U voelt al aan uw ‘water’ dat de verwerking van deze gegevens veel gevoeliger is en veel meer impact heeft op de privacy van de betrokkene.

De Autoriteit Persoonsgegevens is de toezichthouder als het gaat om de AVG. Zij zullen ook de toezichthouder zijn straks met de komst van de AI Act.

Hoe nu verder?

Alhoewel de EU wel ‘haast’ maakt met de komst van de AI Act, is de wetvorming een langdurig proces. In de triloog moeten de drie gremia het eens worden voordat de wet van kracht kan worden.

Wat vindt ChatGPT hiervan?

Wij hebben ChatGPT gevraagd wat eigenlijk het effect is van de AI Act en daarop kregen wij het volgende antwoord:

“The introduction of the AI Act represents a significant step towards ensuring the ethical and responsible development and use of AI technologies. By addressing critical concerns, promoting transparency, and establishing guidelines for high-risk AI systems.”

Tsja, dat AI is zo gek nog niet.

Zet u AI al in binnen uw organisatie en wilt u laten controleren of u wel voldoet aan de AVG? Schakel dan gerust onze experts in.