Voor wie is de wet bedoeld?

De Europese Commissie richt zich in de wet op zowel de ontwikkelaars (aanbieders), distributeurs als de gebruikers van AI-systemen.

Wat verstaat de wet onder een AI-systeem?

De EU hanteert daarbij de volgende definitie van een AI-systeem:

Een systeem dat ontworpen is met autonome elementen en dat, op basis van door machines en/of mensen aangeleverde data en input, afleidt hoe het een gegeven reeks doelstellingen kan verwezenlijken met behulp van machinaal leren en/of op logica of kennis gebaseerde benaderingen, en systeem-gegenereerde output kan produceren zoals inhoud (generatieve AI-systemen), voorspellingen, aanbevelingen of beslissingen die van invloed zijn op de omgevingen waarmee het AI-systeem interageert.

Wat zijn de doelstellingen van de wet?

In de wet staan vier doelstellingen centraal:

• ervoor zorgen dat AI-systemen veilig zijn en de grondrechten en waarden van de EU respecteren;
• rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;
• de handhaving van bestaande wetgeving die van toepassing is op AI-systemen verbeteren;
• de ontwikkeling van een interne markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.

Welke soorten AI-systemen onderscheid de wet?

De wet kiest voor een “risicogebaseerde aanpak”, waarbij onderscheid wordt gemaakt tussen AI-systemen met:

• een onaanvaardbaar risico;
• een hoog risico;
• een beperkt risico;
• een minimaal risico.

AI-systemen met een onaanvaardbaar risico

In de wet staan AI-systemen genoemd die een onaanvaardbaar risico met zich meebrengen, omdat er bijvoorbeeld een schending van grondrechten plaatsvindt of een duidelijke bedreiging voor de veiligheid bestaat. Een voorbeeld van een dergelijke AI-praktijk is het gebruik van subliminale technieken waarvan personen zich niet bewust zijn, waardoor fysieke of psychologische schade optreedt. Ook AI-gedreven ”sociale scoring” en gezichtsherkenning in openbare ruimten voor rechtshandhaving, zijn verboden.

AI-systemen met een hoog risico

Naast AI-systemen met een onaanvaardbaar risico, onderscheid de wet ook AI-systemen met een hoog risico. Dit zijn AI-systemen die bedoeld zijn om gebruikt te worden als veiligheidscomponent, zoals medische hulpmiddelen, en AI-systemen met implicaties op het gebied van de grondrechten, zoals op het gebied van onderwijs en beroepsopleiding.

De belangrijkste vereiste voor AI-systemen met een hoog risico is de verplichting een keuring uit te voeren voordat het product op de markt gezet kan worden (conformiteitsbeoordeling). AI-systemen, die ingezet worden als veiligheidscomponent voor publieke infrastructuur of biometrische identificatie, moeten door een derde partij beoordeeld worden. Andere systemen voldoen met een conformiteitsbeoordeling door de provider of importeur EU.

Bij een conformiteitsbeoordeling moet specifiek worden gekeken naar risicomanagement, de kwaliteit van data sets (voor training), documentatie en verslaglegging van belangrijke ontwerpbesluiten, transparantie en informatievoorziening naar de gebruikers, passend menselijk toezicht, en de robuustheid, accuraatheid en veiligheid van het systeem. Ook is het bijvoorbeeld verplicht een hoog risico AI-systeem te registreren in een centrale Europese database. Distributeurs van hoog risico AI-systemen zijn verantwoordelijk dat het systeem voldoet aan de eisen van de EU-regulering.

Gebruikers zijn verplicht om het gebruik van het AI-systeem te monitoren en bij te houden welke data gebruikt is om bijvoorbeeld voorspellingen te doen. Ook moeten zij systemen gebruiken volgens instructies van de provider en de doelen waarvoor het systeem ontwikkeld is. Wordt daarvan afgeweken dan bepaalt de regulering dat de gebruiker als provider gezien moet worden, met de eisen die daarvoor gelden.

AI-systemen met een beperkt risico
AI-systemen in deze categorie hoeven enkel te voldoen aan transparantieverplichtingen. Bijvoorbeeld om personen die AI gebruiken in staat te stellen weloverwogen beslissingen te nemen. Dit gebeurt bijvoorbeeld bij een chatbot door de gebruiker te laten weten dat hij met een AI-aangestuurde machine spreekt.

AI-systemen met een minimaal risico
AI-systemen in deze categorie vormen een minimaal tot geen risico voor de gezondheid en de veiligheid van een persoon. Voor deze systemen gelden geen aanvullende eisen die verder gaan dan de huidige wetgeving. De EC en de EU-lidstaten faciliteren uitsluitend in vrijwillige gedragscodes en moedigen de naleving hiervan aan.

Hoe verder?

Zoals gezegd is deze wet nu in onderhandeling en is het streven dat er een definitief akkoord is in het najaar van 2023, waarna EU-lidstaten de verordening in eigen land gaan doorvoeren. Praktisch zou dat betekenen dat de Europese wet op AI op zijn vroegst in 2024 in werking zal treden. Alhoewel het nog niet duidelijk is hoe de handhaving precies zal gaan, zullen organisaties zich dit jaar wel moeten voorbereiden. Vooral organisaties die betrokken zijn bij AI-systemen met een onaanvaardbaar en hoog risico krijgen waarschijnlijk te maken met strenge handhaving en aanzienlijke financiële gevolgen bij overtreding.

To be continued…

Bronnen:

• A digital future for Europe
• AI-regels: wat het Europees Parlement wil (oktober 2020)
• Persmededeling Europese wet op AI (december 2022)
• Voorstel Europese wet op AI (pdf) (december 2022)
• Europese AI-verordening: veel procedurele en inhoudelijke eisen (PwC, maart 2022)
• AI-regelgeving vanuit de Europese Unie: waar staan we nu? (Dirkzwager, november 2022)
• Het stapsgewijze vormingsproces van de AI Act (Considerati, februari 2023)