SURF adviseert schoolbesturen om vooralsnog geen gebruik te maken van Microsoft 365 Copilot. Uit onderzoek blijkt namelijk dat er privacyrisico’s verbonden zijn aan het gebruik van de generatieve AI-tool. SURF blijft met Microsoft in gesprek om deze risico’s op te lossen, maar raadt op basis van bestaande risico’s het gebruik vooralsnog af.
In 2024 voerde SURF Vendor Compliance samen met externe privacy-experts van Privacy Company, een Data Protection Impact Assessment (DPIA) uit op Microsoft 365 Copilot. Hierbij is gekeken naar gebruik van medewerkers en volwassen studenten omdat Microsoft de betaalde educatie licentie vooralsnog niet beschikbaar stelt voor minderjarigen. Hieruit kwamen een aantal privacyrisico’s naar voren voor gebruikers.
Vastgestelde privacyrisico’s
De risico’s hebben onder andere betrekking op een gebrek aan transparantie van Microsoft. Het is niet duidelijk welke persoonsgegevens Microsoft verzamelt en bewaart over het gebruik van Microsoft 365 Copilot. Verder zijn de gegevens die gebruikers ontvangen als zij een inzageverzoek doen onvolledig en onbegrijpelijk. Daarnaast is het aannemelijk dat Microsoft 365 Copilot onjuiste en onvolledige persoonsgegevens genereert, en merken gebruikers niet dat ze met onjuiste gegevens werken omdat ze te veel vertrouwen op de generatieve AI-tool.
Advies: gebruik Copilot vooralsnog niet
SURF blijft met Microsoft in gesprek om mitigerende maatregelen te treffen. Op dit moment kan SURF echter niet anders dan concluderen dat de vastgestelde hoge risico’s onvoldoende worden weggenomen. Daarom is het advies richting onderwijs- en onderzoeksinstellingen om Microsoft 365 Copilot vooralsnog niet te gebruiken. SURF blijft met Microsoft in gesprek en informeert de leden zodra de situatie verandert. Op basis van de bevindingen van SURF adviseren wij schoolbesturen eveneens om COpilot vooralsnog niet te gebruiken. Zodra de situatie verandert, houdt SURF ons hiervan op de hoogte en informeren wij onze schoolbesturen.
Volledig rapport openbaar beschikbaar
De volledige bevindingen van het onderzoek zijn te vinden in de Data Protection Impact Assessment (DPIA) die door SURF openbaar is gemaakt.
Webinar door SIVON
Half januari organiseert SIVON in samenwerking met SURF een webinar over deze DPIA. De definitieve datum volgt.
Meer informatie? Meer informatie? Bezoek vendorcompliance.surf.nl of neem contact op via vendorcompliance@surf.nl.