Key takeaways
- Virksomheder bruger kunstig intelligens til at overvåge deres ansatte.
- Amazon installerede maskinlæringsdrevne kameraer i sine varevogne tidligere på året.
- AI-overvågning kan føre til privatlivs- og sikkerhedsproblemer, hvis det bruges af skrupelløse virksomheder.
Arbejdsgivere sporer i stigende grad deres medarbejdere ved hjælp af kunstig intelligens, og iagttagere siger, at denne praksis giver anledning til bekymring for privatlivets fred.
Amazon installerede maskinlæringsdrevne kameraer i sine varevogne tidligere i år. Virksomheden fort alte for nylig sine chauffører, at de skal acceptere at bruge dem. Praksis med overvågning på arbejdspladsen kan være lovlig, men ikke alle er enige om, at det er etisk.
"Virksomheder har brugt medarbejderovervågningsværktøjer i årtier, men med avanceret teknologi bliver de mere invasive," sagde Aimee O'Driscoll, en sikkerhedsforsker ved teknologisammenligningswebstedet Comparitech, i et e-mailinterview.
"Det meste af medarbejderovervågning kan betragtes som en krænkelse af privatlivets fred, og det kan hævdes, at det, Amazon gør, ikke er meget anderledes end at have CCTV-kameraer på et kontor."
Bliv set eller bliv fyret
Amazons cirka 75.000 leveringschauffører i USA skal nu underskrive en "biometrisk samtykke"-formular. Tilladelsesformularen giver AI-drevne kameraer mulighed for at se chaufførers placering, bevægelser og biometriske data. Medarbejdere, der ikke underskriver dokumentet, kan blive fyret.
AI-overvågning sporer alt, hvad Amazon-chaufførerne gør, og invaderer forsøgspersonens formodede privatliv, sagde Chris Hauk, en privatlivsforsker på privatlivswebstedet Pixel Privacy, i et e-mailinterview.
"Dette inkluderer optagelse, hver gang motivet gaber eller kradser et følsomt område," tilføjede han. "En chauffør har i det mindste en vis ret til et skin af privatliv, mens han er inde i deres køretøjer."
Medarbejderovervågning af AI er et voksende problem. Walmart har patenteret en kunstig intelligens-teknologi, der gør det muligt at lytte til medarbejdernes interaktioner med kunder ved kassen, påpegede O'Driscoll.
Softwareudvikler Enaible leverer produktivitetsværktøjer baseret på AI-software. Forskellige virksomheder, herunder Macy’s, bruger Microsofts analysesystem, som kan overvåge medarbejdernes adfærd. Domino's har brugt AI-teknologi til at kontrollere, at pizzaerne er lavet korrekt.
"Et af hovedproblemerne er, at når det bruges på den forkerte måde, kan manglende privatliv føre til sikkerhedsproblemer," sagde O’Driscoll.
"Overvågningsdata kan ende i hænderne på kriminelle, eller dårlige aktører kan selv bruge AI-overvågning til at målrette mod ofre."
Biometriske ansigtsscanninger resulterer i en matematisk repræsentation af den registreredes ansigt, som kan bruges til at identificere og spore dem hvor som helst, resten af deres liv, sagde Ray Walsh, en privatlivsekspert på webstedet ProPrivacy, i en e-mail interview.
"Dette rejser alvorlige privatlivs- og sikkerhedsrisici for Amazon-chauffører, hvis data kan blive brudt, lækket eller potentielt endda udnyttet af regeringens snoops ved hjælp af en kendelse," tilføjede han.
Fordi AI-teknologi er relativt ny, er der ikke konkrete retningslinjer omkring brugen af den med hensyn til privatliv, sagde O'Driscoll. "Når det er sagt, vil sikkerhed sandsynligvis altid være en legitim undskyldning for krænkelse af privatlivets fred, så Amazon er dækket af sine nuværende hensigter," tilføjede hun.
Mens medarbejderne har ret til at afslutte eller give samtykke til den foreslåede AI-overvågning, gør de det i lyset af en enorm magtubalance, O'Driscoll sagde, at AI-overvågning skulle reguleres. "Virksomheder bør ideelt set have legitime årsager (såsom sikkerhed) til AI-overvågning," tilføjede hun.
Nogle stater har vedtaget lovforslag, der begrænser og regulerer brugen af overvågning på arbejdspladsen, men føderal lovgivning mangler, påpegede Walsh.
I 2019 blev loven om algoritmisk ansvarlighed indført i huset og senatet, men den blev i sidste ende afvist. En lignende lov kan blive indført i år, og "det er håbet, at en demokrat-ledet kongres og Det Hvide Hus kan forbedre sine chancer for at bestå," sagde Walsh.
Forvent ikke privatliv på jobbet
Ikke alle mener, at Amazons overvågning af dets chauffører er en krænkelse af privatlivets fred.
"Jeg synes, det er svært at argumentere for, at en medarbejder har en rimelig forventning om privatlivets fred i et virksomhedsejet køretøj," sagde Will Griffin, chief ethics officer for AI-virksomheden Hypergiant, i et e-mailinterview.
"Den større bekymring er, at alle disse chauffører i løbet af få år vil blive erstattet af autonome køretøjer. Så enhver debat om førerpolitik vil blive et omdiskuteret punkt, efterhånden som flåden bliver fuldstændig autonom."
Amazon-sagen fremhæver behovet for en fagforening eller målrettet føderal intervention som en måde at genoprette magtbalancen mellem Amazons arbejdere og virksomheden, sagde Griffin.
"Mens medarbejderne har ret til at stoppe eller give deres samtykke til den foreslåede AI-overvågning, gør de det i lyset af en enorm magtubalance," tilføjede han.
