In de afgelopen maanden hebben we hard gewerkt aan de verdere ontwikkeling van de Feedback Companion, en nu kunnen we met goed nieuws aankondigen dat we AI zonder grote beperkingen kunnen inzetten voor het onderwijs. Waarom? Dankzij een belangrijke update vanuit de AI-verordening (AI Act) zijn er duidelijke richtlijnen die aangeven waar AI-systemen in het onderwijs wél en niet onder de hoog-risicocategorie vallen. Dit betekent veel goeds voor tools zoals de Feedback Companion, die bedoeld zijn om het onderwijs te verbeteren en ondersteunen!

Wat zegt de AI-verordening?

De AI-verordening (AI Act) stelt dat systemen die een directe invloed hebben op onderwijsbeslissingen, zoals toelating, evaluatie van leerresultaten, en het monitoren van leerlingen tijdens examens, onder de categorie “hoog-risico toepassingen” vallen. Dit houdt in dat deze systemen aan strenge regels moeten voldoen.

Maar… er is goed nieuws! Als het AI-systeem geen directe beslissingen neemt of wezenlijke invloed heeft op een besluit, valt het niet onder de hoog-risicocategorie. Denk hierbij aan systemen die:

• Een beperkte procedurele taak uitvoeren.
• Het resultaat van een menselijke activiteit verbeteren, zoals feedback geven op werk.
• Het proces ondersteunen door controle op afwijkingen, zonder beslissingen te vervangen.
• Een voorbereidende taak uitvoeren voor een beoordeling.

Waarom is dit goed nieuws voor de Feedback Companion?

De Feedback Companion, zoals we die nu ontwikkelen, past perfect in deze laatste categorieën. De tool is namelijk niet bedoeld om definitieve beslissingen te nemen, maar om de docenten en de studenten te ondersteunen door feedback en feedforward te bieden op basis van eerder ingeleverde opdrachten. Dit valt dus niet onder de hoog-risicotoepassingen, wat betekent dat we AI zonder beperkingen kunnen blijven inzetten om het feedbackproces te verbeteren en efficiënter te maken.

Voorbeeld uit de praktijk: Wanneer een student een opdracht inlevert, analyseert de Feedback Companion het werk en geeft suggesties voor verbeteringen. Dit ondersteunt het leerproces zonder dat het de beoordeling van de docent vervangt of beïnvloedt. Het blijft altijd de docent die de uiteindelijke beslissing neemt. Het kan ook de dialoog tussen de student en docent verbeteren, doordat je bijvoorbeeld concreter de prestaties van het geleverd(e) werk kunt bespreken.

Wat betekent dit voor de AVG en data in de cloud?

Hoewel de AI-verordening ons veel vrijheid geeft in de toepassing van AI, moeten we nog steeds rekening houden met de AVG (Algemene Verordening Gegevensbescherming). Dit betekent dat de privacy van gebruikers te allen tijde gewaarborgd moet blijven. Gelukkig is er ook goed nieuws op dit vlak: zolang de persoonsgegevens binnen de EU worden verwerkt en opgeslagen, kunnen we gebruikmaken van cloudoplossingen die aan de AVG-vereisten voldoen.

Enkele belangrijke punten om rekening mee te houden:

1. Toestemming en transparantie: Gebruikers moeten weten hoe hun gegevens worden verwerkt. Dit moet helder en duidelijk gecommuniceerd worden.
2. Dataminimalisatie: Verzamel alleen de gegevens die nodig zijn voor het verbeteren van het leerproces.
3. Dataopslag en -beveiliging: Of je nu data lokaal opslaat of in de cloud, de beveiliging van de gegevens moet altijd gegarandeerd zijn. Kies dus voor een cloudprovider die voldoet aan de AVG-richtlijnen.
4. Rechten van gebruikers: Gebruikers moeten hun gegevens kunnen inzien, corrigeren en verwijderen wanneer zij dat willen.

De volgende stap: AI in het onderwijs verder verankeren

Met de huidige ontwikkelingen kunnen we dus veilig verder werken aan AI-ondersteunde oplossingen zoals de Feedback Companion, zonder dat we in de hoog-risicocategorie vallen. Dit opent de deur voor meer innovatie en gebruik van AI in het onderwijs, zolang we de AVG-vereisten strikt in acht nemen.

Voor iedereen die meer wil lezen over de AI Act en de AVG, zijn er belangrijke bronnen die je verder kunnen helpen:

• AI Act Verordening (2024): AI Act | Shaping Europe’s digital future (europa.eu).
• Gids AI Verordening Oktober 2024: Gids AI-verordening | Brochure | Rijksoverheid.nl.

Met de Feedback Companion kunnen we met vertrouwen en flexibiliteit AI inzetten om feedback en feedforward te geven op studentenwerk, zonder de kernbeslissingen van docenten over te nemen. Dat is goed nieuws voor de toekomst van het onderwijs!

Lokale AI draaien: Waarom het een gamechanger is voor het onderwijs

Lokale AI draaien, zoals met de Feedback Companion, biedt veel voordelen voor het onderwijs. In plaats van afhankelijk te zijn van cloudoplossingen, kun je AI-modellen lokaal installeren en gebruiken op je eigen computer of schoolserver. Dit heeft een aantal belangrijke voordelen:

1. Volledige controle over data: Doordat alles lokaal draait, heb je de controle over de data. Dit betekent dat je voldoet aan strikte privacyregels zoals de AVG, omdat de data binnen je eigen systeem blijft en niet naar externe servers wordt gestuurd.
2. Geen internet nodig: Omdat je de AI lokaal draait, ben je niet afhankelijk van een constante internetverbinding. Dit maakt het ideaal voor scholen met beperkte of onstabiele internettoegang.
3. Kostenefficiënt: Lokale AI-oplossingen besparen kosten op lange termijn, omdat je niet betaalt voor dure cloudinfrastructuren of -diensten. Je maakt optimaal gebruik van de hardware die je al hebt.
4. Flexibiliteit en aanpasbaarheid: Je kunt de AI-modellen zelf aanpassen en trainen op basis van je specifieke onderwijsbehoeften, wat zorgt voor gepersonaliseerde leerervaringen voor jouw studenten.

Door lokale AI te draaien, zoals met kleinere LLM’n, zoals LLaMA op een HP Fury laptop met minimaal een T1000 GPU, kunnen docenten en studenten eenvoudig AI inzetten zonder privacy- of internetproblemen. Dit is ook een mooie aanvulling op een mogelijke toekomst van gepersonaliseerd en schaalbaar onderwijs, zonder zorgen over externe afhankelijkheden!

Blijf op de hoogte van alle ontwikkelingen door de kennisclips te volgen op YouTube en voor verdere uitleg over AI en onderwijs op onze website.