Key takeaways
- Tencent skabte en ansigtsgenkendelsesteknologi til at fange børn, der spiller videospil efter et statspåbudt udgangsforbud.
- Forældrekontrol uden forældre, der passer på børns skuldre, er ikke noget nyt.
- Eksperter siger, at problemer med ansigtsgenkendelseshåndhævede regler omfatter personligt privatliv og nøjagtighed.
Det kinesiske spilfirma Tencent bruger ansigtsgenkendelsesteknologi til at håndhæve et spiludgangsforbud for mindreårige, og eksperter siger, at en verden af teknologi-håndhævede regler ikke er langt væk.
Ansigtsgenkendelsessoftware er ikke ny teknologi, men efterhånden som den bliver mere avanceret, har den mere kontroversielle anvendelser ud over blot at låse vores smartphones op. Dr. Vir Phoha, professor ved College of Engineering and Computer Science ved Syracuse University, sagde, at der er mange bekymringer, når man bruger ansigtsgenkendelse til at håndhæve regler, men at man specifikt skiller sig ud fra resten.
"Min største bekymring er, at… den private industri bliver et statsinstrument til at håndhæve love," sagde Phoha til Lifewire over telefonen. "Og det er vigtigt, fordi der måske ikke er nok kontrol og balance inden for … den private industri til at sikre, at der er gennemsigtighed i, hvordan tingene bliver gjort internt."
Forældrekontrol uden forældrene
Tencent sagde, at det bruger ansigtsgenkendelsesteknologi til at fange børn, der spiller videospil sent ud på natten. Kina vedtog et lovforslag i 2019, der håndhæver et spiludgangsforbud for alle under 18 år, og begrænser tid brugt på at spille et spil til hverdags- og weekendtimer. Så selvom teknologien virker invasiv, blev den skabt for at løse problemet med børn, der går imod udgangsforbuddet.
Ifølge Digital Trends scanner teknologien, kendt som "Midnight Patrol", en persons ansigt fra computerskærmen for at matche det med et registreret navn og ansigt og holder styr på deres spilletid i overensstemmelse hermed.
Selv hvis nogle forældre ville glæde sig over, at deres børn adlyder reglerne, kan teknologi virkelig erstatte en forælder?
“Jeg tror, der er en konflikt mellem forældrenes rettigheder og forældrenes forpligtelser. Og med statsmanderede ting, er forældre norm alt de bedste dommere,” sagde Phoha.
Selvom denne specifikke teknologi er i Kina, godkendte Federal Trade Commission en verificerbar forældresamtykkemetode i 2015, der tillader enheder at bruge ansigtsgenkendelsesteknologi til at opnå forældres samtykke. Denne teknologi er lidt anderledes, fordi den er rettet mod at scanne forældres ansigter, før børn kan få adgang til bestemt indhold for at sikre, at en forælder giver sit samtykke til det. Phoha sagde dog, at det at have et kamera i dit hjem, der overvåger tingene, åbner op for potentielle problemer.
"Hvis et kamera er tilladt i hjemmet, som en tredjepart, der giver adgang til mit hjem, når mit barn leger, synes jeg, det er et stort, stort problem," sagde han.
Problemer med regler for ansigtsgenkendelse
Bortset fra de etiske spørgsmål om statsmanderede regler eller overtagelse af en forældrerolle sagde Phoha, at med ansigtsgenkendelse er der altid problemer med nøjagtighed.
"[Ansigtsgenkendelse] kan let forfalskes, især hvis det er foran en computer og udføres eksternt, som Tencents er," sagde han.
Hvis det er statsmandat, og hvis det er tvangsmæssigt eller resulterer i straffeforanst altninger, så er jeg ikke særlig tryg ved det."
Hvis ansigtsgenkendelse blev en mere almindeligt accepteret måde at håndhæve regler på, kunne det i høj grad påvirke farvede mennesker på grund af teknologiens iboende racemæssige skævhed. Adskillige undersøgelser har vist, at ansigtsgenkendelse kan fejlidentificere mennesker, især farvede.
Ved brug af applikationsbilleder af højere kvalitet er antallet af falsk-positive højest i vest- og østafrikanske og østasiatiske mennesker og lavest hos østeuropæiske individer. Denne effekt er generelt stor med en faktor på 100 flere falske positiver mellem lande,” lyder en del af en undersøgelse fra 2019 fra NIST i ansigtsgenkendelsesdemografi.
Phoha tilføjede, at i videnskabelig forskning er ansigtsgenkendelse i stand til at bestemme langt mere end blot ansigtstræk, herunder at registrere en persons hjertefrekvens og identificere, om en person har en bestemt sygdom.
Ansigtsgenkendelsesteknologi kan også registrere dine følelser. For eksempel kan Amazons ansigtsgenkendelsessoftware, kendt som Rekignition, registrere følelser i folks ansigter, herunder frygt.
Phoha sagde, at vi kommer tættere på en verden af ansigtsgenkendelse/overvågningshåndhævede regler med disse typer teknologi. Han tilføjede, at vi især bør være på vagt over for et statsmandat regelsystem for ansigtsgenkendelse.
"Når jeg vil logge ind på en telefon og bruge ansigtsgodkendelse, kan jeg gøre det efter mit eget skøn - det er mit valg, og jeg kan bruge det, som jeg vil have det," sagde han. "Men hvis det er statsmandat, og hvis det er tvangsmæssigt eller resulterer i straffeforanst altninger, så er jeg ikke særlig tryg ved det."
