Afgelopen week mocht ik, Pascal Mariany, een workshop geven tijdens het drukbezochte Samen Digitaal Café over AI bij Hogeschool Utrecht. Met meer dan 80 aanmeldingen was de interesse in lokale AI-oplossingen super! In twee sessies kregen ruim 60 deelnemers een intensieve stoomcursus over de voordelen van lokale AI en hoe deze technologie veilig en effectief binnen het onderwijs kan worden ingezet. Als digitale goody bag is de presentatie te downloaden in dit blogbericht!

De Opkomst van Lokale AI: Waarom het Relevant is voor het Onderwijs

De workshop begon met een korte inleiding op de nieuwe Europese AI Act. Deze wetgeving stelt strenge eisen aan de transparantie, veiligheid en privacy van AI-systemen die in het onderwijs worden gebruikt. Cloudgebaseerde AI-oplossingen brengen risico’s met zich mee, vooral op het gebied van dataprivacy en -controle. Lokale AI biedt hier een uitweg, waarbij onderwijsinstellingen zelf de controle houden over hun gegevens en deze veilig binnen de muren van de school of hogeschool blijven.

Stoomcursus Lokale AI: Wat Heb Je Nodig?

Tijdens de workshop besprak ik de essentiële hardware en software om zelf AI-modellen, zoals LLaMA, lokaal te draaien. Voor wie zelf aan de slag wil, zijn er basisbenodigdheden: een GPU met minimaal 8 GB VRAM, 32 GB RAM, en bij voorkeur een SSD voor snelle data-opslag. Maar ook MacBooks vanaf een M1 chip en 16 GB RAM draaien lokale LLM’s prima! Met deze setup kun je AI draaien zonder afhankelijkheid van externe servers, wat niet alleen de veiligheid verhoogt, maar ook bijdraagt aan een betere leerervaring voor studenten.

Praktijkvoorbeelden: Van Feedback tot Peer Reviews en nog veel meer!

Lokale AI kan in het onderwijs op tal van manieren worden ingezet. Denk bijvoorbeeld aan de Feedback Companion die automatisch feedback kan genereren op basis van leerdoelen. Ook kan de AI bijdragen aan peer reviews door structuur te bieden en constructieve feedback te stimuleren. Tijdens sprint reviews of retrospectives biedt lokale AI inzichten in de voortgang en suggesties voor verbeteringen. Dit zijn maar enkele van de vele toepassingen die besproken werden in de sessie, want je kunt bijvoorbeeld ook röntgenfoto’s analyseren of een Snake Game laten programmeren door lokale AI modellen.

Zelf Uitproberen: Een Kennisclip Serie voor Meer Diepgang

Voor degenen die meer willen weten, verwijs ik graag naar de kennisclips op OnderwijsOrakel.nl. Hierin leg ik stap voor stap uit hoe je lokale AI opzet, beheert en effectief inzet binnen jouw onderwijscontext. Bekijk de kennisclips om een vliegende start te maken: Kennisclips – Lokale AI.