Generatieve AI — zoals ChatGPT, Copilot of Gemini — biedt leerlingen en leraren nieuwe mogelijkheden en kansen om te ontdekken, creëren en leren. Maar aan die kansen zijn ook risico’s verbonden, met name op het gebied van informatiebeveiliging en privacy. Daarom is het niet alleen de vraag óf je AI mag gebruiken, maar ook hoe je dat bewust en verantwoord doet.
Wat kan er met AI?
AI-tools zijn meestal vrij toegankelijke apps of online software die je direct kunt gebruiken of downloaden. Vaak kun je echter géén afspraken maken over privacy (zoals een verwerkersovereenkomst), en is onduidelijk waar de gegevens van leerlingen en medewerkers worden opgeslagen. Ook is het niet altijd helder of die data wordt gebruikt voor het trainen van het AI-model. Daardoor houd je weinig grip op wat er met de gegevens van jouw gegevens leerlingen en medewerkers gebeurt. Zonder goede afspraken zijn dit soort tools ongeschikt voor leerlingen en medewerkers. Daarom is het belangrijk om het gebruik van AI bewust te begeleiden en alleen te werken met veilige, gecontroleerde toepassingen.
Wat kan je als school(bestuur) of team nu al doen?
Denk vooraf goed na over het gebruik van AI. Het gaat niet alleen om wat er technisch kan, of juridisch mag, maar ook of je AI wel op deze manier op school wilt gebruiken. Past het bij de visie van het schoolbestuur? Hiervoor kan je gebruik maken van de Schoolafspraken generatieve AI die Kennisnet ontwikkeld heeft.
Denk ook na over andere aandachtpunten zoals:
- Geef leraren en ict’ers basiskennis over hoe AI werkt — en welke risico’s er zijn, gebruik hiervoor de informatie bij Kennisnet over AI Geletterdheid.
- Laat leerlingen jonger dan 13 jaar niet zelf gebruik maken van AI. Generatieve AI kan vooroordelen versterken, onjuiste informatie geven en valt niet afdoende onder kinderbeschermende afspraken. Bovendien waarschuwen deskundigen dat AI-chatbots onveilig kunnen zijn, onder andere omdat interacties met AI schadelijke effecten kunnen hebben op de mentale gezondheid van kinderen.
- Laat leerlingen in het vo AI gebruiken in een gecontroleerde omgeving, zoals via een schoolaccount en zonder persoonsgegevens.
- Zet geen persoonsgegevens van leerlingen en medewerkers in de AI-tool.
- Maak op school afspraken over het gebruik van AI, gebruik hiervoor de Handreiking AI in het onderwijs.
- Vraag IBP-functionarissen, ict-medewerkers of de ict-coördinator om mee te denken en te adviseren.
Sectorafspraken en hulpmiddelen
Binnen het funderend onderwijs wordt gewerkt aan sectorbrede afspraken en uitleg over het gebruik van AI en de gevolgen daarvan. Kennisnet ontwikkelt hulpmiddelen voor scholen voor het gebruik van AI. School-CERT adviseert en waarschuwt in geval van een cybersecurity-incident in het onderwijs. SIVON ondersteunt scholen met informatie over privacy en beveiliging en deelt updates en hulpmiddelen via sivon.nl. SIVON werkt aan een Toetsingskader AI waarmee leveranciers (en scholen) kunnen bepalen of het gebruik van een AI-toepassing risicovol is en welke aanvullende maatregelen nodig zijn.