Gemeenten kiezen voor veilig AI-platform
Gemeenten in de regio’s Zeeland, Zuid-Holland en Utrecht zetten een belangrijke stap richting een veiliger en efficiënter gebruik van kunstmatige intelligentie door te starten met pilots van SafeGPT, een innovatief Nederlands AI-kantoorautomatiseringsplatform. In januari 2023 begonnen zes nieuwe gemeenten met de implementatie van deze technologie, die speciaal is ontwikkeld om te voldoen aan de hoogste veiligheidsnormen en Europese regelgeving.
Doel van de AI Act
De AI Act is ontworpen om innovatie te bevorderen en tegelijkertijd de veiligheid en fundamentele rechten van mensen te beschermen. Dit wordt bereikt door duidelijke regels te stellen voor het ontwerpen, ontwikkelen en gebruiken van AI-systemen. Vanaf 2 februari 2025 moeten alle verboden AI-systemen zijn uitgefaseerd en moeten organisaties ervoor zorgen dat hun medewerkers voldoende kennis hebben van AI. Het niet naleven van deze regels kan leiden tot hoge boetes, oplopend tot 35 miljoen euro of 7% van de wereldwijde jaaromzet. Bron: Digitale Overheid
Risicogebaseerde Benadering
De AI Act maakt een onderscheid tussen verschillende niveaus van risico voor AI-systemen:
- Laag risico: Deze systemen hebben minimale verplichtingen, zoals het waarborgen van AI-geletterdheid.
- Hoog risico: Voor deze systemen gelden strenge eisen, waaronder uitgebreide documentatie en toezicht.
- Verboden AI-systemen: AI-systemen die een onaanvaardbaar risico vormen, zoals sociale scoring, moeten worden uitgefaseerd. Bron: European Commission
Belangrijke Acties voor 2 Februari 2025
Uitfaseren van Verboden AI-Systemen
- Maak een inventaris van alle AI-systemen die binnen de organisatie worden gebruikt.
- Bepaal per systeem het risiconiveau en identificeer welke systemen verboden zijn.
- Zorg ervoor dat deze verboden systemen vóór 2 februari 2025 volledig zijn uitgefaseerd.
Zorgen voor AI-Geletterdheid (Voor meer informatie over AI-geletterheid, lees ons eerdere blog)
- Medewerkers (die werken met AI) moeten voldoende kennis hebben over de werking en de risico’s van AI-systemen.
- Ontwikkel trainingsprogramma’s om AI-geletterdheid te bevorderen. Dit kan bestaan uit algemene AI-trainingen en specifieke trainingen voor bepaalde tools en toepassingen.
- Zorg voor een continu proces waarin medewerkers op de hoogte blijven van de laatste ontwikkelingen op het gebied van AI.
Aanbevelingen voor Organisaties
- Stel een AI Gedragscode Op: Dit document helpt om de basisprincipes van AI-gebruik binnen de organisatie vast te leggen. Het bevat richtlijnen voor het gebruik van AI en helpt om AI-geletterdheid te vergroten en gewenst gedrag te bevorderen.
- Gebruik een Overzichtelijk AI-Platform: Een platform dat uitsluitend AI-tools bevat die voldoen aan de AI Act zorgt ervoor dat je medewerkers op een veilige en verantwoorde manier met AI werken.
- Monitor en Update Regelmatig: AI-geletterdheid is een continu proces. Zorg ervoor dat medewerkers voortdurend op de hoogte blijven van nieuwe ontwikkelingen en wijzigingen in AI-systemen en toepassingen.
Conclusie
De Europese AI Act introduceert belangrijke veranderingen die organisaties verplichten om hun AI-systemen en -kennis tegen 2 februari 2025 op orde te hebben. Het uitfaseren van verboden AI-systemen en het waarborgen van AI-geletterdheid zijn cruciale stappen om aan de nieuwe regelgeving te voldoen. Door tijdig actie te ondernemen en de juiste maatregelen te implementeren, kunnen organisaties niet alleen voldoen aan de wet, maar ook de voordelen van AI op een verantwoorde en veilige manier benutten.
SafeGPT staat klaar om je te ondersteunen bij deze belangrijke transitie. Ons platform biedt de tools en inzichten die je nodig hebt om te voldoen aan de AI Act. Wij bieden begeleiding om ervoor te zorgen dat je organisatie voldoet aan de nieuwe regelgeving. Neem vrijblijvend contact met ons op voor meer informatie en advies over hoe wij je kunnen helpen om aan de AI Act te voldoen.
