De rol van technologie in het onderwijs groeit razendsnel. Van digitale leeromgevingen tot geavanceerde AI-toepassingen: de impact van Big Tech op scholen is onmiskenbaar. Tegelijkertijd groeit de zorg over de afhankelijkheid van technologiebedrijven die door hun omvang en dataverzameling in toenemende mate het gebruik van digitale onderwijssystemen en de verwerking van persoonsgegevens beïnvloeden.
In het onderwijs zien we veel discussie over het gebruik en de afhankelijkheid van Big Tech. Vaak wordt daarbij vergeten dat in de Europese Unie (EU) wet- en regelgeving juist is ingevoerd om Europese burgers te beschermen. Denk aan de AVG en de AI-verordening: deze wetten fungeren als essentiële vangrails voor veilig en verantwoord technologisch gebruik.
Net als vangrails in het verkeer is wetgeving niet bedoeld om af te remmen, maar om veilig koers te houden. Ze geven scholen ruimte om te innoveren, met de zekerheid dat de rechten van leerlingen en medewerkers beschermd zijn. Zo behouden scholen grip op de data in hun digitale omgeving, zonder overgeleverd te zijn aan de keuzes van grote technologiebedrijven.
EU-wetgeving als basis voor digitale soevereiniteit
EU-wetgeving biedt scholen een stevige basis om verantwoord om te gaan met AI en persoonsgegevens. De Europese regels zijn gebaseerd op ethische uitgangspunten, waarin menselijke waardigheid en privacy als fundamentele rechten centraal staan. Deze richtlijnen: transparantie, menselijke controle, non-discriminatie vormen ook de kern van de AI-verordening.
SIVON ziet deze wetgeving als een stevig fundament voor een verantwoorde toepassing van AI door scholen. Zoals Job Vos, adviseur IBP bij SIVON, stelt: “De wetten en regels zijn een kompas dat scholen richting geeft aan digitale autonomie“.
SIVON vindt het belangrijk dat scholen de vrijheid hebben om te kiezen, net zoals veiligheid en privacy een belangrijke randvoorwaarde zijn voor gebruik van ict. Deze uitgangspunten zijn vastgelegd in de positionpaper Big Tech en EdTech.
Toetsing is cruciaal: óók bij AI
Producten en diensten die voldoen aan de AVG en de AI-verordening zijn in principe veilig en verantwoord te gebruiken vanuit het perspectief van privacy en gegevensbescherming. Een Data Protection Impact Assessment (DPIA) – een soort ‘APK’ voor digitale tools – kan dit bevestigen. Op de basis van de AVG is het de verantwoordelijkheid van schoolbesturen om alleen getoetste en daardoor goedgekeurde producten en diensten te gebruiken.
Dat is geen gemakkelijke taak. Heldere richtlijnen voor docenten, toegankelijke aanvraagprocedures voor nieuwe tools en structurele aandacht voor digitale geletterdheid in het team kunnen scholen hierbij helpen. Kennisnet heeft in samenwerking met de PO-Raad, VO-raad, AOb, NOLAI, SIVON en het ministerie van OCW de toolkit Schoolafspraken generatieve AI gelanceerd. Deze toolkit helpt scholen bij het maken van afspraken over het gebruik van generatieve AI op school. SIVON helpt scholen concreet door het toetsen van digitale tools via een DPIA en een toets op de verwerkersovereenkomsten.
Zonder leveranciers geen AI
Bij de toetsing van producten en diensten is er speciale aandacht voor AI. AI is alleen mogelijk doordat leveranciers AI in hun producten en diensten aanbieden. Vanuit het programma Digitaal Veilig Onderwijs toetst SIVON de informatiebeveiliging en privacy van producten en diensten van leveranciers. Bij de toetsing van AI is de Europese wet- en regelgeving (AVG en AI Verordening) leidend. Zo krijgen scholen inzicht welke ict-systemen ze veilig kunnen inzetten.
Job voegt hieraan toe: “Natuurlijk gaat het niet om blind regels volgen, maar om het beschermen van wat werkelijk waardevol is: de digitale autonomie van onze leerlingen. Dat doe je met de regels.”
Om leveranciers en scholen te ondersteunen of een toepassing onder de AI Act valt en welke eisen daarbij horen, ontwikkelt SIVON in opdracht van het ministerie van OCW en in samenwerking met Kennisnet en Edu-V een toetsingskader AI.
Minder afhankelijkheid van Big Tech
SIVON ondersteunt de ontwikkeling en adoptie van veilige én betaalbare Europese alternatieven, die voldoen aan de EU-wetgeving. Zo is SIVON gestart met een pilot voor een Open Source Programm Office (OSPO). Deze pilot draagt bij aan meer autonomie en keuzevrijheid voor schoolbesturen.
Zolang zulke alternatieven nog ontbreken, is het niet realistisch om geen applicaties van buiten Europa te gebruiken. In alle gevallen is het belangrijk dat applicaties in het onderwijs veilig zijn en zorgvuldig worden getoetst.
Uit ervaring blijkt dat bindende afspraken met Big Tech over privacy en veiligheid mogelijk zijn. Dit is eerder aangetoond door de afspraken die gemaakt zijn met Google door SIVON en SURF en met Microsoft door SURF in samenwerking met APS IT-diensten en SLBdiensten. Ook de producten van Apple worden getoetst.