Key takeaways
- AI-systemer, der overvåger leveringslastbiler, straffer uretfærdigt Amazon-chauffører, hævder en ny rapport.
- Amazon-systemet er en del af en voksende tendens til, at virksomheder bruger teknologi til at overvåge deres arbejdsgivere på afstand.
-
Nogle AI-software giver arbejdsgivere mulighed for løbende at overvåge medarbejdernes adfærd i baggrunden og tegne mønstre i deres arbejdsgang.
Arbejdsgivere bruger i stigende grad software til fjernovervågning af medarbejdere, hvilket vækker bekymring blandt nogle fortalere for privatlivets fred.
En ny rapport hævder AI-drevne kameraer i Amazons varevogne har uretfærdigt straffet chauffører. Artiklen viste, at chauffører led af fejlbehæftede advarsler, forkerte førerkort, upraktiske antagelser om trafikforhold og chauffører, der fulgte praksis for at omgå teknologien.
"Mens AI forbedres, vil der stadig blive begået fejl," sagde Raymond Ku, direktør for Center for Cyberspace Law & Policy ved Case Western Reserve University, til Lifewire i et e-mailinterview. "Som en retfærdighedssag tror jeg, at vi alle mener, at en person, der på nogen måde bliver straffet af AI-beslutningstagning, skal gøres opmærksom på dette og få mulighed for at anfægte beslutningen."
Amazon's AI-kameraer
Amazon har sagt, at det installerede AI-drevne kameraer i sine leveringskøretøjer som en sikkerhedsforanst altning. Kameraerne er beregnet til at overvåge, hvornår leveringschauffører udfører farlige manøvrer som at køre stopskilte eller lave ulovlige U-vendinger.
Når kameraerne opdager mulige "hændelser" i forbindelse med usikker kørsel, tager disse tilfælde hensyn til arbejdernes præstationsresultater. Lavere score reducerer chancen for, at chauffører får bonusser, ekstra løn og præmier.
Men Amazon-chauffører fort alte Motherboard, at de bliver straffet for nogle kørevaner, der anses for at være sikre eller uden for deres kontrol. Amazon svarede ikke på en anmodning fra Lifewire om en kommentar.
Ku påpegede, at eftersom chaufførerne accepterede at blive optaget, lider de ikke af en krænkelse af privatlivets fred i henhold til loven.
"Det betyder dog ikke, at den gennemsnitlige arbejder ville være tilfreds med overvågningen eller ikke ville protestere, hvis de kunne," tilføjede han. "Dette gælder især, når overvågningen begynder at gribe ind i mere traditionelle personlige rum."
Rapporten rejser bredere spørgsmål om, hvorvidt data kan tilgås og bruges i retssager eller af politi og føderale embedsmænd, fort alte databeskyttelsesadvokat Bethany A. Corbin til Lifewire i et e-mailinterview. Det kunne også påvirke erstatningsansvar, påpegede hun.
"For eksempel, hvis AI-teknologien fortæller medarbejderen ikke at se sig i sidespejlene, og medarbejderen kommer ud for en ulykke som et direkte resultat af dette råd, hvem er så skylden?" Corbin tilføjede.
Voksende overvågning
Overvågningen stopper ikke hos Amazon. Et stigende antal virksomheder bruger teknologi til at overvåge deres medarbejdere på afstand, fort alte privatlivsekspert Chris Hauk til Lifewire i et e-mailinterview.
For eksempel bruger AI-marketingfirmaet Blackbelt et Allocate time tracking-system, der giver virksomheden mulighed for selvstændigt at overvåge og spore sine ansattes computeraktivitet. Microsofts Workplace Analytics vil gøre det muligt for arbejdsgivere at se en medarbejders tid på websteder, skrive e-mails og mere i løbet af en arbejdsdag.
Walmart arbejder også på et system, der lytter efter lyden af raslen fra tasker eller bip fra kassescannere for at spore medarbejdermålinger og sikre, at medarbejderne udfører deres opgaver korrekt og effektivt. Sensorerne kan endda lytte til kunder, mens de chatter, mens de står i kø og registrerer, om medarbejderne hilser kunderne ordentligt.
Arbejdspladsovervågning er blevet mere udbredt siden pandemiens begyndelse, fort alte privatlivsekspert Pankaj Srivastava til Lifewire i et e-mailinterview.
"Det meste af denne teknologi er positioneret som 'forbedring af produktiviteten', men måden nogle af disse værktøjer fungerer på antyder en større tolerance over for arbejdsgivere til at overvåge hver aktivitet i deres arbejdsstyrke," tilføjede han. "For eksempel at overvåge, hvor meget tid medarbejderne bruger på hver opgave, tage et fjernbillede for at sikre, at medarbejderne er ved deres skrivebord, og endda overvåge besøgte websteder og optage en medarbejders tastaturtryk og musebevægelser."
Mens AI forbedres, vil der stadig blive begået fejl.
Nogle AI-software giver arbejdsgivere mulighed for løbende at overvåge medarbejdernes adfærd i baggrunden og tegne mønstre i deres arbejdsgang, sagde han.
"En medarbejder kan blive fyret baseret på deres personlige præstationsrapport, der citerer, at de tog et par minutter længere tid at udføre en opgave end norm alt," sagde Srivastava.
"Farvel, badeværelset går i stykker."
