Uit een verkennend onderzoek van het College van de Rechten van de Mens blijkt dat basisscholen zich bewuster moeten worden van de risico’s van algoritmen. Deze kunnen docenten en scholen ondersteuning bieden, maar er kleven ook grote risico’s aan, zoals discriminatie.
In het onderzoek, uitgevoerd door KBA Nijmegen en ResearchNed, is gekeken naar het gebruik van algoritmen in het onderwijs en de risico’s op discriminatie. Opvallend is dat het gebruik van algoritmen in het onderwijs sterk is toegenomen. Ongeveer de helft van de basisscholen maakt nu gebruik van adaptieve leersystemen. Deze systemen passen de lesstof aan op basis van het gedrag van leerlingen. Zo krijgt een leerling die veel fouten maakt makkelijkere oefenstof, terwijl een leerling die de stof goed begrijpt moeilijkere vragen krijgt voorgelegd.
Risico op ongelijke behandeling
Het risico van verkeerd advies bij digitale leersystemen, zoals Snappet of Gynzy, ligt in de mogelijkheid van onnauwkeurige inschattingen van leerlingniveaus, wat kan leiden tot ongelijke behandeling en uitsluiting. Dit is met name het geval bij leerlingen met specifieke behoeften, zoals leerlingen met ADHD of dyslexie. Bovendien kunnen vooroordelen en bestaande ongelijkheden versterkt worden door gebrekkige testen van deze systemen, wat kan leiden tot discriminatie en kansenongelijkheid. Vooral leerlingen met een migratieachtergrond of uit gezinnen met een laag inkomen kunnen hiervan de dupe zijn.
Elke leerling heeft het recht op gelijke behandeling en de kans om zich te ontwikkelen in het onderwijs. Het gebruik van algoritmen en andere digitale middelen kan hieraan bijdragen. Wel dient rekening te worden gehouden met de verschillende behoeften van elke leerling. Dit sluit aan bij artikel 1 van onze Grondwet, waarin wordt gesteld dat gelijke gevallen gelijk moeten worden behandeld. Ook de Algemene wet gelijke behandeling en Europese wetten en verdragen benadrukken het recht op gelijke behandeling. Scholen en onderwijsinstellingen moeten zich houden aan deze regels om ervoor te zorgen dat elke leerling gelijke ontwikkelingskansen krijgt.
Het College van de Rechten van de Mens roept het ministerie van Onderwijs, Cultuur en Wetenschap op om discriminatie en uitsluiting bij het gebruik van algoritmen te voorkomen. Daarnaast adviseert het college om de algoritmen specifiek te testen op mogelijke risico’s voor ongelijke behandelingen bij verschillende groepen leerlingen. Bovendien wordt geadviseerd om schoolbesturen, docenten, ouders en leerlingen in te lichten over de risico’s van het gebruik van algoritmen in het onderwijs.
Algoritmen bij studenten
Basisscholen zijn niet de enige instellingen die gebruik maken van algoritmen. De Dienst Uitvoering Onderwijs (DUO) gebruikt al sinds 2012 algoritmen om mogelijke fraudeurs van studiefinanciering op te sporen. Het systeem maakt gebruik van zelfgemaakte risico-indicatoren, zoals leeftijd en opleidingsniveau, om potentiële fraudeurs te identificeren. Uit onderzoek kwam echter naar voren dat studenten met een migratieachtergrond opvallend vaak beschuldigd werden van fraude. De minister van Onderwijs zette kort na dit onderzoek het algoritme dat voor opsporing werd gebruikt stop.