Steeds vaker wordt AI toegepast in digitaal leermateriaal en schooladministratiesystemen. Dat biedt kansen voor gepersonaliseerd leren, het verlichten van administratieve lasten en onderwijsinnovatie. Tegelijkertijd brengt het – voor scholen – ook vragen met zich mee over privacy, gegevensbescherming, dataveiligheid, ethiek en de kwaliteit van het onderwijs.
De Europese AI-verordening (AI Act) stelt specifieke eisen aan AI-toepassingen, waarbij onderwijstoepassingen vaak als ‘hoog-risico’ worden aangemerkt en daardoor aan strenge voorwaarden moeten voldoen. Leveranciers geven regelmatig aan dat zij zoekende zijn: hoe bepaal je of een toepassing onder de AI Act valt en welke eisen horen daarbij? Scholen vragen daarnaast steeds vaker aan onder andere SIVON naar de veiligheid van software en leermateriaal en naar de impact van AI in onderwijstoepassingen.
Toetsingskader AI
Om leveranciers en scholen hierbij te ondersteunen, ontwikkelt SIVON in opdracht van het ministerie van OCW en in samenwerking met Kennisnet en Edu-V een toetsingskader AI. Dit kader helpt om inzicht te krijgen in:
- Wanneer een toepassing onder de AI-verordening valt (bijvoorbeeld bij zelflerende of autonome systemen).
- Hoe AI-toepassingen in het onderwijs in risicocategorieën kunnen worden ingedeeld, met speciale aandacht voor hoog-risico AI zoals in systemen die het onderwijsniveau beoordelen.
- Welke criteria relevant zijn vanuit het juridisch kader (AI -verordening).
- Praktijkvoorbeelden die laten zien hoe AI in onderwijssoftware wordt toegepast.
Het toetsingskader geeft scholen en leveranciers houvast en maakt het gesprek over AI-toepassingen eenvoudiger.
Samen met leveranciers en schoolbesturen
In het najaar wordt het toetsingskader AI afgestemd met leveranciers. Hierover zijn we in gesprek met Edu-V, de VDOD en de MEVW. Daarnaast is er een klankbordgroep van schoolbesturen betrokken. Mocht je meer willen weten, neem dan contact op met Arjan Geurts, projectleider toetsingskader AI via a.geurts@sivon.nl