Key takeaways
- En række nye apps kan muligvis registrere elevernes følelser.
- Intel og klasseværelsessoftwareproducenten Class udvikler angiveligt software, der vil holde øje med digitale elevers ansigter og kropssprog.
- Nogle eksperter er bekymrede for, at brug af kunstig intelligens til at overvåge elever kan føre til krænkelser af privatlivets fred.
Skoler kan snart bruge kunstig intelligens (AI) til at overvåge elevernes følelsesmæssige tilstande.
Intel og klasseværelsessoftwareproducenten Class udvikler software, der holder øje med digitale elevers ansigter og kropssprog. Systemet kan angiveligt registrere, om eleverne keder sig, er distraherede eller forvirrede, men nogle eksperter er bekymrede for, at softwaren kan føre til krænkelser af privatlivets fred.
"Sådanne AI-baserede overvågningsprodukter bør være gennemsigtige om, hvordan disse data bliver brugt," sagde Michael Huth, medstifter af virksomheden Xayn og leder af computerafdelingen på Imperial College London, til Lifewire i en e-mail interview. "Hvis det bruges til at spore engagement i en elevårgang, hvor engagement på individniveau ikke registreres, er det noget mindre problematisk set ud fra et privatlivsperspektiv. Hvis nogle af disse data skulle bruges til at påvirke elevvurderingen, vil jeg dog kan se alle mulige problemer opstå."
Vagter over studerende
Class og Intel er gået sammen om at integrere en AI-baseret teknologi, der kører sammen med videokonferencesoftwaren Zoom, rapporterede Protocol. Softwaren kan bruges til at overvåge elever, hedder det i rapporten.
"Gennem vores partnerskab med Intel vil vi være i stand til at bringe nye, fordybende funktioner til Class' software, der er drevet af forskningsstøttede funktionaliteter," ifølge virksomhedens hjemmeside. "Vi vil også arbejde sammen med Intel for at udnytte ressourcer og give undervisere og studerende værdifuld indsigt, fælles casestudier, hvidbøger, webinarer og meget mere."
Intel fort alte Protocol, at klasseværelsessoftwaren er i de tidlige stadier, og der er ingen planer om at sende produktet til markedet.
Partnerskabet med Class er ikke det eneste potentielle samarbejde mellem Intels software til følelseslæsning og andre producenter. En online brochure fra Intel præsenterer en ny elektronisk tavle kaldet Viewboard rettet mod skoler. Intel-software "gør det muligt for myViewboard at vurdere og vise elevernes følelsesmæssige tilstande som øjeblikkelig feedback til undervisere," ifølge brochuren.
Klasse er et af mange softwareprodukter, der foregiver at spore elevernes følelser ved hjælp af kunstig intelligens. Der er også 4Little Trees, en læringsplatform for følelsesdetektering, der er "en virtuel undervisningsassistent [der] ville hjælpe ved at vælge de bedst egnede spørgsmål til dig eller udfordre dig, når det er nødvendigt," ifølge virksomhedens hjemmeside.
Ashish Fernando, administrerende direktør for AI-virksomheden iSchoolConnect, fort alte Lifewire i et e-mailinterview, at AI kan trænes til at vurdere menneskelig adfærd og egenskaber uden påvirkningen af subjektive fordomme, som individer har.
"AI kan vurdere et betydeligt større antal menneskelig adfærd, inklusive mikroudtryk, der er lette at gå glip af, med en hastighed, der er meget hurtigere end et menneske," sagde Fernando. "Hvor feedback kunne have taget timer, kan AI nu levere det samme inden for et par minutter."
Privatlivsproblemer
Brugen af kunstig intelligens til at overvåge mennesker vokser. Snapchat har AI-teknologi, der vurderer det følelsesmæssige niveau af en gruppe mennesker ved en live-begivenhed. Mad Street Den bruger computervision AI til at hjælpe detailhandlere med at genkende potentielle køberes ansigtsudtryk og følelser. BrainQ udnytter AI til at forstå, hvordan passagerer interagerer med de selvkørende køretøjer, de bruger. Og virksomheder bruger kunstig intelligens til at spore førertræthed.
"Dette er en stor brugssag for trafiksikkerhed, men det rejser spørgsmål om privatlivets fred for chauffører i deres personlige køretøjer," sagde Huth. "Vil træthedsoplysninger blive delt med forsikringsselskabet eller bilproducenten? Eller vil det bare advare chaufføren om at stoppe og hvile sig? Dette er mindre et problem for kommercielle bilflåder såsom lastbiler, varevogne eller førerhuse."
Et problem er, at AI's information, såsom muskelbevægelse for at udlede følelsesmæssig tilstand, måske ikke er pålidelige, sagde Huth. "Dette skaber et dilemma, da mere pålidelig kunstig intelligens kan kræve adgang til endnu mere følsomme data såsom EEG-signaler," tilføjede han.
For studerende kan AI være nyttig til at overvåge overholdelse under onlineeksamener, når en proctor ikke kan være fysisk til stede. Men denne brug af AI til dette er omstridt, sagde Huth, fordi systemet forsøger at afgøre, om en elev har til hensigt at snyde eller snyder, og der er et reelt potentiale for falske positiver, der resulterer i den uberettigede straf af studerende, der ikke har gjort noget forkert.
"Enhver AI, der bruges til dette formål, skal være robust nok til at håndtere toiletpauser, nervøse tics hos individuelle elever (såsom uberegnelige øjenbevægelser) og så videre," sagde Huth.
