AI in het onderwijs

AI in het onderwijs

De stichting CITO, bekend van verschillende toetsmethoden, doet onderzoek naar de ethische aspecten van AI bij toetsing. Het onderzoek is nog niet afgerond, maar is wel belangrijk in een tijd waarin scholieren en studenten thuis toetsen moet maken, eventueel onder het oog van een digitale surveillant.

Op welke manieren wordt AI momenteel ingezet bij examinering?

1. Toetsen met een camera

Proctoring is een van de manieren om op afstand te surveilleren en wordt gebruikt om fraude tegen te gaan bij toetsen. Veel studenten zijn het echter niet eens met deze maatregel. Ze vinden dit digitale toezicht namelijk een inbreuk op hun privacy: zo worden zij gefilmd in hun eigen kamer en wordt hun typgedrag soms bijgehouden. Als we dit systeem van fraudepreventie bekijken vanuit de concept AI verordening van de EU, dan is er hier waarschijnlijk sprake van een systeem met transparantie verplichtingen (artikel 52 van de AI Verordening). Een van de typen AI-systemen die in deze categorie vallen zijn systemen waarmee biometrische data wordt gecategoriseerd (artikel 52(2) van de AI Verordening). Bij proctoring wordt gebruik gemaakt van biometrische data, namelijk het kijk- en typgedrag van studenten. Hiermee kunnen studenten worden gecategoriseerd in mogelijk frauderend of niet frauderend. Dit heeft als gevolg dat de gebruikers van deze systemen transparant moeten zijn over hoe deze systemen werken

Op dit moment bevat de AVG al regels over geautomatiseerde besluiten die grote gevolgen kunnen hebben voor een individu. Het bestempeld worden als fraudeur zou daar ook onder kunnen vallen, aangezien dit grote gevolgen kan hebben voor de rest van de opleiding van een student. Mocht het advies van een proctoring systeem blind worden opgevolgd, dan zal de verwerkingsverantwoordelijke aan de regels van artikel 22 van de AVG inzake geautomatiseerde besluitvorming moeten voldoen. De verwerkingsverantwoordelijke dient dan passende maatregelen te treffen waarmee de bescherming van de rechten, vrijheden en gerechtvaardigde belangen van de betrokkene (lees: student) kan worden gegarandeerd. Daaronder wordt tenminste verstaan het recht van de betrokkene om zijn standpunt kenbaar te maken, het recht om geautomatiseerde besluiten aan te vechten en het recht op menselijke tussenkomst.

2. Automatisch toetsen nakijken

AI kan ook gebruikt worden in het onderwijs om toetsen na te kijken. Dat zal in Nederland nog wel even duren, maar in de VS wordt er al gebruik gemaakt van geautomatiseerde toetsbeoordeling. Een AI-systeem wat toetsen inhoudelijk beoordeelt, en dus niet alleen meerkeuzeantwoorden controleert, zal in de categorie hoog-risico systemen vallen. In Annex 3 van de AI Verordening worden  AI-systemen die studenten beoordelen, aangemerkt als hoog-risico. Door de kwalificatie van hoog-risico zullen ontwikkelaars van deze systemen aan alle verplichtingen voor hoog-risico systemen moeten voldoen, waaronder het laten certificeren van het systeem en het bijhouden van de prestaties van het systeem.

De beoordeling van een toets kan ook een vorm van geautomatiseerde besluitvorming zijn. Stel dat een opleiding maar één toets heeft na drie jaar studeren, dan zal de verwerkingsverantwoordelijke bij een geautomatiseerde beoordeling aan de regels van artikel 22 van de AVG moeten voldoen.

Conclusie

In Nederland wordt AI nu vooral gebruikt voor proctoring en niet voor het nakijken van toetsen. Bij proctoring moet er worden voldaan aan de transparantievereisten, dus studenten moeten worden geïnformeerd over hoe het systeem werkt. Als er een AI-systeem zou worden gebruikt om open vragen te beoordelen, dan zal de ontwikkelaar van dat systeem aan alle vereisten voor hoog-risico systemen moeten voldoen.

Voor AI-systemen waarvan de uitkomsten grote gevolgen kunnen hebben voor het individu, bestaan er nu al regels. Indien de uitkomsten blind worden overgenomen, stelt artikel 22 AVG extra eisen aan het gebruik van dit soort systemen. Een proctoringsysteem of een automatisch nakijksysteem zou hieronder kunnen vallen.

Vragen?

Neem dan vrijblijvend contact met ons op.