Dit jaar is de EU AI Act in werking getreden, een wetgeving die kunstmatige intelligentie (AI) binnen Europa reguleert. De verordening heeft als doel een balans te vinden tussen innovatie en de bescherming van democratische waarden, zoals vastgelegd op pagina 2: “AI moet dienen als instrument voor mensen, met als uiteindelijke doel het welzijn van de mens te vergroten.” Maar wat betekent deze wet concreet voor scholen? Hoe kun je je voorbereiden op de implicaties? Laten we dat samen uitzoeken.

Welke AI-systemen vallen onder de Act?

De EU AI Act classificeert AI-systemen in vier risiconiveaus:

1. Onaanvaardbaar risico (zoals social scoring-systemen).
2. Hoog risico, waar onderwijs ook onder valt.
3. Beperkt risico, zoals chatbots.
4. Minimaal risico, zoals spamfilters.

Voor het onderwijs richten de regels zich vooral op hoog-risico-systemen die onder andere:

• Toegang, toelating en toewijzing tot onderwijs reguleren.
• Het leerproces en evaluaties sterk sturen.
• Ongeoorloofd gedrag tijdens toetsen monitoren (pagina 16, Overweging 56).

Zelfs als je vooral denkt aan toepassingen zoals ChatGPT, omvat de wetgeving ook systemen als Snappet en andere tools met ingebouwde AI-functies. Dit betekent dat scholen verantwoordelijk zijn voor het naleven van de regels, inclusief het trainen van personeel en het waarborgen van transparantie.

Hoe kan Onderwijs Orakel helpen?
Onderwijs Orakel biedt specifiek advies en ondersteuning voor scholen die willen voldoen aan de EU AI Act. Met onze ervaring in het draaien van lokale AI en het verbinden van systemen via Microsoft Azure – zoals het bouwen van een chatbot in GPT-stijl binnen de EU – helpt Onderwijs Orakel je om AI compliant én effectief in te zetten.

AI Geletterdheid: Een nieuwe verplichting!

Vanaf februari 2025 eist de EU AI Act dat iedereen die AI gebruikt – of het nu leraren of leerlingen zijn – AI-geletterd is (pagina 6, sectie 20). Dit betekent niet alleen weten hoe je een AI-tool gebruikt, maar ook begrijpen:

• Hoe resultaten tot stand komen.
• Welke risico’s er verbonden zijn aan het gebruik.
• Hoe AI de leeromgeving beïnvloedt.

Dit vraagt om meer dan een ‘knoppencursus’. Docenten en leerlingen/studenten moeten leren kritisch te kijken naar de werking van AI en de gevolgen binnen de onderwijscontext. Artikel 14 (pagina 60) benadrukt bijvoorbeeld dat menselijk toezicht essentieel blijft bij AI-systemen.

Een AI-geletterd docententeam kan betere beslissingen nemen over het gebruik van tools zoals Snappet of generatieve AI. Leerlingen leren dan niet alleen wat AI kan, maar ook wat het betekent.

Aan de slag met AI-geletterdheid?
Bij Onderwijs Orakel bieden we AI-workshops die specifiek zijn toegespitst op scholen. We trainen docenten om AI effectief en veilig te gebruiken, met een kritische blik op risico’s en kansen. Onze trainingen behandelen zowel technologische als onderwijskundige aspecten, zodat je team klaar is voor de toekomst.

Praktijkcodes en AI Functionarissen

Vanaf mei 2025 zijn er specifieke praktijkcodes beschikbaar die scholen helpen bij de implementatie van de regels (pagina’s 86-87). Hoewel deelname niet verplicht is, is het sterk aan te raden om aansluiting te zoeken bij deze codes via bijvoorbeeld Kennisnet.

Daarnaast is het verstandig om een AI-functionaris aan te stellen, vergelijkbaar met de FG (functionaris gegevensbescherming) bij de AVG. Deze persoon:

• Houdt toezicht op AI-gebruik.
• Zorgt dat personeel en leerlingen goed geïnformeerd zijn.
• Documenteert welke AI-systemen worden gebruikt.

Ondersteuning nodig?
Met de expertise van Onderwijs Orakel in zowel onderwijstechnologie als compliance kan er geholpen worden bij het opzetten van een plan en de selectie of training van een AI-functionaris.

Generatieve AI en Leeftijdsgrenzen

Vanaf augustus 2025 gelden er strengere eisen voor generatieve AI zoals ChatGPT, Claude, en Gemini (pagina 83). Daarnaast hebben veel van deze systemen leeftijdsgrenzen. Wist je bijvoorbeeld dat ChatGPT officieel alleen door leerlingen van 13 tot 18 jaar gebruikt mag worden met ouderlijke toestemming? Scholen moeten dit registreren, net zoals eerder gebeurde bij toestemmingen rondom coronatests.

Daarnaast moeten scholen nadenken over richtlijnen voor het gebruik van generatieve AI. Hoe garandeer je dat deze tools veilig worden gebruikt zonder dat leerlingen overmatig afhankelijk worden? Dit vraagt om een duidelijke visie op de rol van AI in je onderwijsstrategie en vastlegging in procedures en afspraken.

Hoe Onderwijs Orakel helpt bij generatieve AI:
Onderwijs Orakel heeft uitgebreide ervaring met het veilig integreren van generatieve AI in scholen. Of het nu gaat om lokaal AI draaien voor privacyredenen, het opzetten van chatbots in GPT-stijl via Microsoft Azure binnen de EU, of het implementeren van Europese leeftijdsrichtlijnen – Onderwijs Orakel zorgt dat jouw school compliant én innovatief blijft.

Concreet Tijdpad voor Scholen

Hier is een beknopt overzicht van belangrijke mijlpalen:

• Februari 2025: AI-geletterdheid verplicht voor personeel.
• Mei 2025: Praktijkcodes beschikbaar.
• Augustus 2025: Generatieve AI-modellen moeten voldoen aan de AI Act.
• Augustus 2026: Hoog-risico AI-systemen, zoals Snappet, moeten volledig compliant zijn.

Conclusie

De EU AI Act brengt uitdagingen, maar ook kansen. Het dwingt scholen om bewuster om te gaan met AI en vraagt om actie: van het opleiden van personeel tot het opstellen van duidelijke richtlijnen. Scholen die proactief een AI-functionaris aanstellen en investeren in AI-geletterdheid zullen goed voorbereid zijn. Uiteindelijk gaat het erom dat AI het onderwijs verrijkt zonder de menselijke dimensie uit het oog te verliezen.

Onderwijs Orakel biedt oplossingen!
Als specialist in AI en onderwijstechnologie staat Onderwijs Orakel klaar om je te begeleiden. Of het nu gaat om AI-geletterdheid, het opzetten van veilige technologie binnen de EU, of advies over hoe je AI kunt inzetten om leerresultaten te verbeteren – Onderwijs Orakel helpt jouw school vooruit. Neem contact op en ontdek wat Onderwijs Orakel voor jouw organisatie kan betekenen.

De tijd van passief afwachten is voorbij. Het is aan ons, als onderwijsprofessionals, om deze nieuwe realiteit te omarmen en te zorgen dat AI veilig en verantwoord wordt ingezet.

EU AI Act

Gids AI-verordening Rijksoverheid