Artificiële intelligentie (AI) biedt grote kansen in het onderwijs. Tegelijk zijn er risico’s voor privacy, gelijke kansen en onderwijskwaliteit. Wat mag wel? Wat moet je regelen? En hoe houd je grip op risico’s? Het Toetsingskader AI, ontwikkeld door SIVON in samenwerking met Kennisnet, helpt daarbij. Met het toetsingskader vertalen we de AI-Verordening (de Europese wet die regels stelt voor de ontwikkeling en het gebruik van AI-systemen) naar de onderwijspraktijk.
Het toetsingskader richt zich in eerste plaats op leveranciers. Zij kunnen hiermee, op basis van de AI-Verordening, nagaan of hun ict-systeem met AI onder de nieuwe regels valt, welke risico’s dat meebrengt en welke maatregelen nodig zijn om aan de wettelijke eisen te voldoen en risico’s voor leerlingen en medewerkers te beperken.
Download het Toetsingskader AI
Bekijk de interactieve website Toetsingskader AI
Toetsingskader: rol voor scholen
Voor scholen is het met name interessant om zich bewust te zijn van de hoog-risico-toepassingen, omdat je dan als school extra maatregelen moet nemen. Hoog-risico-toepassingen kunnen, zijn:
- AI-systeem voor toelating tot of toewijzing van (beroeps)onderwijs
- AI-systeem voor het evalueren van leerresultaten
- AI-systeem voor het beoordelen van het (beroeps)onderwijsniveau
- AI-systeem voor het monitoren van deelnemers tijdens examens
In het toetsingskader wordt uitgelegd wanneer een systeem hieronder valt (wat is precies de definitie van een AI-systeem volgens de verordening), welke mogelijke uitzonderingen er zijn en welke maatregelen de leverancier en het schoolbestuur moeten nemen als ze gebruik maken van een hoog-risico-applicatie.
Let op: Wordt er op jouw school AI-tools of generatieve AI door docenten aangepast voor onderwijstoepassingen dan wordt jouw school gezien als aanbieder van een AI-systeem. Dit betekent dat de school dan de ook de stappen van de leverancier moet doorlopen.
Toetsingskader: rol voor leveranciers
Wat kan je met het Toetsingskader AI?
- Je bepaalt of een toepassing onder de AI-Verordening valt.
- Je krijgt inzicht of sprake is van een hoog risico toepassing.
- Je weet welke verplichtingen gelden voor leveranciers en school.
- Je maakt bewuste en verantwoorde keuzes.
- Je weet welke risico’s jouw toepassing heeft en welke maatregelen je kunt treffen.
Het toetsingskader helpt je in vier stappen
- Je bepaalt of het systeem onder de AI-Verordening valt.
- Je checkt of het om verboden toepassingen gaat.
- Je beoordeelt of er sprake is van hoog risicotoepassing.
- Je kijkt of er uitzonderingen gelden.
Op basis van deze stappen, bepaal je welke maatregelen je moet nemen.
Toetsingskader AI en een wetgeving die in ontwikkeling is
De wetgeving en toelichting op de AI-Verordening is in ontwikkeling. Doordat de precieze invulling van de nieuwe wet nog niet bekend is, verwachten wij dat het Toetsingskader AI regelmatig wordt geüpdatet met de recente informatie. Zodra nieuwe wetgeving bekend is, passen wij het toetsingskader hierop aan en communiceren we de nieuwe versie via onze communicatiekanalen richting scholen en leveranciers. Wil jij als eerste op de hoogte worden gehouden over een nieuwe versie van het Toetsingskader AI? Meld je dan aan voor de mailinglijst:
Webinar: Toetsingskader AI: wat betekent dit voor mijn schoolbestuur?
In het webinar voor schoolbesturen op 13 april lichten we het Toetsingskader AI toe, gaan we met de deelnemers door de verschillende stappen van het toetsingskader en leggen we het uit hoe je dit toetsingskader kunt gebruiken richting leveranciers. Er is voldoende tijd om vragen te stellen over het toetsingskader en het gebruik hiervan. Meld je aan.
Webinar voor leveranciers: Aan de slag met het Toetsingskader AI
In het webinar voor leveranciers op 16 april lichten we het Toetsingskader AI toe en gaan we met de deelnemers door de verschillende stappen van het toetsingskader. Er is voldoende tijd om vragen te stellen over het toetsingskader en het gebruik hiervan. Meld je aan.
Bekijk de veelgestelde vragen over het veilig gebruiken van AI binnen de school.
Lees het artikel in vakblad IPON over het toetsingskader AI.