Het gebruik van AI in het assessment van studenten heeft tal van voordelen. Het vermindert de fouten die kunnen voortkomen uit menselijk handelen en draagt bij aan een betrouwbaarder examenproces. Echter, er zijn verschillende mogelijke valkuilen geconfronteerd bij het gebruik van AI in dit veld. Hieronder zullen we een paar van die gevaren bespreken:
AI modelleren vereist enorme hoeveelheden gegevens die gericht zijn op het assesmentproces. Als de data die wordt gebruikt om het model te voeden, gebiasted of onvolledig is, kan het model fouten vertonen. Daarom is het van cruciaal belang dat controller en onderzoeker toegang hebben tot een gecorrigeerd dataset die representatief is voor het studentenpopulatie.
AI-systemen zijn onderworpen aan kunstmatige beperkingen. Met andere woorden, ze kunnen beperkingen hebben die hun mogelijkheden beperken. Als er bijvoorbeeld niet-proportionele controles worden toegepast die betekenis geven in een kader, kan dit eruit resulteren dat studenten niet worden behandeld volgens wat ze verdienen.
Omdat AI-algoritmes geen empathie of begrip hebben voor de studenten, moeten verhoudingen bewaard en gecontroleerd blijven. Als er te veel vertrouwen wordt gelegd in het algoritme en dit eruit resulteert in een gebrek aan menselijke interventie, zou dit ernstige gevolgen kunnen hebben. Daarom is het belangrijk dat AI-algoritmes juist gebruikt worden als een hulpmiddel voor verstandige beslissingen, in plaats van als vervanging van de menselijke instincten.
Omdat AI-algoritmes aan het leren zijn van de tijd, moeten ze af en toe worden aangepast aan de veranderingen. Als er onvoldoende ethische aanpassingen worden uitgevoerd of als er een gebrek aan controle is op het algoritme, kan dit ertoe leiden dat studenten niet behandeld worden volgens wat ethisch is.
Valkuilen van AI voor student assessment
Hoewel AI een waardevolle tool kan zijn bij het assessment van studenten, kunnen er desondanks een aantal valkuilen optreden. Daarom is het belangrijk dat AI-systemen alleen worden gebruikt als een hulpmiddel, en niet als vervanging van menselijke oordelen.
