De snelle ontwikkelingen in generatieve AI zorgen ervoor dat deze technologie steeds autonomer functioneert, zoals ook werd geïllustreerd door het voorbeeld dat Alexander Klöpping, begin februari, vertelde bij Eva Jinek. Deze ontwikkeling zet publieke waarden zoals autonomie en menselijkheid onder druk en brengt veiligheidsrisico’s met zich mee. Nieuwe vormen van AI kunnen toegang vragen tot gevoelige informatie, zoals e-mails, agenda’s en zelfs bankgegevens. Daarnaast kunnen systemen autonoom grote hoeveelheden metadata verzamelen en koppelen.
Iedere leerling kan via zijn of haar eigen device toegang krijgen tot deze vorm van AI-tools, met alle bijbehorende risico’s. Daarbij gaan de ontwikkelingen razendsnel. Wat gisteren nog een vergezicht was, is vandaag een reële mogelijkheid. Hoe kunnen we als onderwijs regie houden, de integriteit van ons onderwijs bewaken én de kansen pakken die AI ons ook biedt.
Wet Gratis Schoolboeken
Al eerder pleitten SIVON, Kennisnet en de sectorraden om devices onderdeel te laten maken van de Wet Gratis Schoolboeken. Vanuit het oogpunt van kansengelijkheid en eigentijds onderwijs is een device onlosmakelijk verbonden met het onderwijs gaven wij in eerdere oproepen aan.
Daarbij is inmiddels duidelijk dat het onder verantwoordelijkheid van de school beheerde devices noodzakelijk zijn om digitale veiligheid te waarborgen. Als klap op de vuurpijl zien we nu dat ook de ontwikkelingen rondom AI dit onderstrepen.
Binnenkort wordt de evaluatie van de Wet Gratis Schoolboeken gepubliceerd. Wij roepen de politiek op om deze evaluatie aan te grijpen om devices onder deze wet te brengen en zo toe te werken naar beheerde devices op iedere school. In de aankomende behandeling van onderwijsbegroting vragen we de partijen om hiervoor ruimte in de begroting te creëren. Daarnaast willen we de Kamer vragen om er bij de staatssecretaris op aan te dringen dat dit ook wordt meegenomen in het aangekondigde actieplan digitalisering.
“Technologie moet het leren ondersteunen, niet ondermijnen. Als leerlingen met AI-tools via hun eigen device bedoeld of onbedoeld leerresultaten kunnen beïnvloeden, metadata kunnen koppelen en we niet meer kunnen instaan voor de beveiliging van onze gevoelige data, dan verliezen wij, als onderwijs, de regie. Dat risico kunnen en willen wij als schoolbestuur niet nemen. Daarom pleiten wij tenminste voor devices vanuit de school beheerd, als eerste no-regret maatregel bij dit grote vraagstuk.” – Tijmen Smit, College van bestuur Kalsbeek College
In gesprek met schoolbesturen
Een aantal schoolbesturen heeft al aangegeven niet te willen wachten op een wetswijziging. SIVON en Kennisnet gaan hierover graag in gesprek om samen te verkennen welke stappen scholen nu al kunnen zetten om de risico’s van autonome AI in de klas zo klein mogelijk te houden. Wil je hierover meepraten, stuur dan een mail naar info@sivon.nl.