Met de komst van de Europese AI Act is er nu een risico-indeling van AI-processen, van minimaal tot aan verboden. Een van die categorieën is hoog risico. Wat zijn hoog risico AI-processen precies en hoe weet je of jouw organisatie hiermee werkt? Dat lees je in dit artikel.
Wat zijn hoog risico AI-processen?
Om goed te begrijpen wat hoog risico AI-systemen zijn, is het belangrijk om ook de andere risicocategorieën mee te nemen. Hieronder vind je een overzicht.
Onaanvaardbaar risico (verboden AI)
Dit zijn AI-systemen die een directe bedreiging vormen voor de rechten en veiligheid van mensen. Enkele voorbeelden zijn sociale scoring door overheden, schadelijke gedragsmanipulatie en emotieherkenning op de werkvloer of in de klas. Deze AI-processen zijn verboden in de EU AI Act.
Hoog risico AI
Dit zijn AI-systemen die een zwaarwegende impact hebben op de gezondheid, veiligheid, grondrechten of de rechtsstaat. Dit soort AI-processen zijn wel toegestaan, maar onder strenge voorwaarden en verplichtingen.
Beperkt risico
AI-systemen uit deze categorie hebben een laag risico op misleiding. Denk bijvoorbeeld aan chatbots, generatieve AI-tools (voor het schrijven van teksten) en deepfakes. De belangrijkste regel is de transparantie-eis: gebruikers moeten weten dat ze met AI te maken hebben.
Minimaal of geen risico
Hier valt de overgrote meerderheid van alledaagse AI onder, zoals spamfilters en AI in videogames. Vanuit de Europese AI Act gelden voor dit soort AI-processen geen extra regels.
Deze regels voor hoog risico AI-processen staan in de EU AI Act
Gebruikt of ontwikkelt jouw organisatie een hoog risico AI-systeem? Dan gelden er strenge eisen voordat je dit in de praktijk mag gebruiken, waaronder:
-
-
- Risicomanagement. Je moet doorlopend de risico’s voor grondrechten en veiligheid in kaart brengen en beperken.
- Data governance. De trainingsdata moet van hoge kwaliteit, representatief en vrij van vooroordelen en vooringenomenheid (bias) zijn.
- Menselijk toezicht. Het AI-systeem mag nooit 100% zelf beslissen. Er moet altijd een mens zijn die de uitkomsten kan aanpassen of stopzetten.
- Transparante documentatie. Je moet verantwoording kunnen afleggen met uitgebreide technische documenten en uitleg van het AI-proces.
- Registratie en impact-assessment. Voor veel organisaties is een Fundamental Rights Impact Assessment (FRIA) en registratie in een Europese database verplicht.
-
Vallen jouw AI-processen onder hoog risico?
Om te bepalen of jouw AI-systemen onder hoog risico vallen, kijk je niet alleen naar welke AI-software je gebruikt, maar vooral naar de maatschappelijke impact van het AI-proces. Vraag je steeds af of de beslissing van AI directe invloed heeft op het leven, de kansen of de rechten van een persoon.
Hier is een checklist per branche om te bepalen of je met hoog risico AI-processen werkt:
-
-
-
- HR en recruitment
Gebruik je AI voor het automatisch screenen van cv’s of het beoordelen, selecteren of promoveren van medewerkers? - Onderwijs en training
Gebruik je AI om te beslissen over toelating, examencijfers of opleidingsniveaus van studenten? - Financiële diensten en toegang
Bepaalt een algoritme of iemand een lening, hypotheek, verzekering of uitkering krijgt (credit scoring)? - Kritieke infrastructuur
Zet je AI in voor de veiligheid van de energie-infrastructuur, waternetwerken of het verkeer? - Rechtspraak, politie en migratie
Gebruik je AI voor risico-analyses van mensen, bewijsbeoordeling of visumaanvragen?
- HR en recruitment
-
-
Is het antwoord ‘ja’ op een van de bovenstaande vragen? Dan werk je met een hoog risico AI-systeem volgens de EU AI Act.
Zo houd je je aan de regels voor hoog risico AI-systemen
Als je er eenmaal achter bent dat je met een hoog risico AI-proces werkt, houd je je met de 4 stappen hieronder aan de regels.
1. Breng al het AI-gebruik in kaart (AI Audit)
Maak een overzicht van alle AI-tools die in jouw organisatie worden gebruikt. Vergeet hierbij niet de schaduw-AI-tools op de afdelingen. Dat zijn AI-tools, zoals ChatGPT en vertaalsoftware, die medewerkers gebruiken buiten het zicht van de IT- of compliance-afdeling.
2. Bepaal de manier van gebruik en de impact
Vraag je bij elke AI-tool af: gebruiken medewerkers deze voor ondersteunende taken, zoals teksten schrijven of brainstormen, of voor besluitvorming over mensen? In het eerste geval is er sprake van een lager risico dan bij het laatste geval.
3. Zorg voor menselijke controle
Voorkom dat een AI-systeem zelfstandig besluiten neemt. Gebruik AI daarom alleen als assistent die een opzetje maakt, waarna een medewerker de definitieve beslissing neemt.
4. Kies voor een veilige, gecertificeerde AI-oplossing
Zorg dat je AI-leverancier voldoet aan Europese wetgeving, dat de data in de EU blijft en dat de AI-modellen niet getraind worden met jouw data. Op die manier verlaag je de risico’s van het AI-gebruik in je organisatie aanzienlijk.
Veilige en AI Act-compliant AI-processen met SafeGPT
Vind je het ingewikkeld om aan alle regels van de Europese AI Act te voldoen, of heb je hulp nodig bij het inrichten van je AI-processen? Onze specialisten begeleiden je hier graag bij. Door met elkaar alles in kaart te brengen en goed in te richten, weet je zeker dat het AI-gebruik in jouw organisatie veilig én volgens alle geldende wetten en regels gebeurt.
Neem contact op of plan een kennismaking in. We leren je graag kennen!
