Key takeaways
- Privatlivseksperter rejser bekymring over Facebooks brug af offentlige Instagram-billeder til at træne kunstig intelligens.
- Programmet blev lært at genkende billeder ved at vise computeren over 1 milliard offentlige billeder.
- Instagrams privatlivspolitik indeholder en sektion, der fortæller brugerne, at oplysninger kan blive brugt i forskning og udvikling.
Facebooks brug af Instagram-billeder til at træne kunstig intelligens vækker bekymringer om privatlivets fred.
Den sociale mediegigant annoncerede for nylig, at den havde bygget software, der kan lære af det, den ser på. Programmet blev lært at genkende billeder ved at gennemgå over 1 milliard offentlige billeder. Eksperter siger, at brugere skal være opmærksomme på, at Facebook bruger deres billeder.
"Det handler om at kende samtykke," sagde James E. Lee, driftschef for Identity Theft Resource Center, i et e-mailinterview.
"Instagrams privatlivspolitik - som de fleste nok ikke læser - angiver meget tydeligt, at virksomheden forbeholder sig retten til at bruge de billeder, du poster, til research. Brugere kan slå ansigtsgenkendelse til/fra i deres privatlivsindstillinger."
Bedre end resten
Facebooks program, med tilnavnet SEER for SELF-supERvised, slog andre kunstig intelligens (AI)-modeller i en objektgenkendelsestest, hævdede virksomheden. Programmet opnåede en "klassificeringsnøjagtighedsscore" på 84.2 %, da det blev testet, der kontrollerer, om et kunstig intelligens-program kan identificere, hvad der er på et billede.
"SEERs præstation viser, at selvstyret læring kan udmærke sig ved computervisionsopgaver i virkelige omgivelser," sagde virksomheden i et blogindlæg.
"Dette er et gennembrud, der i sidste ende baner vejen for mere fleksible, præcise og tilpasningsdygtige computervisionsmodeller i fremtiden."
Selvom Facebooks vilkår og betingelser kan give dem mulighed for at udnytte brugerdata på en sådan måde, er de fleste brugere ikke eksplicit og aktivt klar over, at deres data bliver udvundet til sådanne formål.
Hvis det lanceres kommercielt, vil SEER hjælpe med at identificere objekter - ikke mennesker - uden at være programmeret til at vide via en etiket, hvad der er på et billede, sagde Lee. "Det er en mere effektiv og hurtigere måde end den nuværende metode, der kræver enorme datasæt for at matche et objekt med dets identitet," tilføjede han.
"Der er altid mulighed for misbrug, men der er også legitime potentielle fordele ved denne form for teknologi."
Facebooks program kan hjælpe virksomheden med at bedre politiindhold, der overtræder dets politikker, for eksempel at begrænse uønsket eksponering for obskøne eller grafiske billeder, sagde Aimee O’Driscoll, en sikkerhedsforsker på privacy site Comparitech, i et e-mailinterview. Det kunne også bruges til automatisk at beskrive billeder, hvilket forbedrer brugeroplevelsen for personer med synshandicap.
Du har allerede accepteret dette program
Instagrams privatlivspolitik inkluderer en sektion, der fortæller brugerne, at oplysninger kan blive brugt i forskning og udvikling. "Virksomheden bruger sin skare af data til en anden del af sin forretning, på samme måde som den bruger brugerdata til at fodre sin reklamevirksomhed," sagde O’Driscoll.
"Alligevel kan brugerne stadig føle sig utilpas ved, at deres billeder bliver brugt på denne måde."
Yashar Behzadi, administrerende direktør for Synthesis AI, en virksomhed, der bruger kunstig intelligens til computersyn, sagde, at Facebooks seneste AI-fremskridt repræsenterer en "betydelig forbedring" i computersynskapacitet.
"Brugere kan sandsynligvis forvente bedre billedtagging og kontekstsøgning, mens annoncører vil drage fordel af mere præcis brugermålretning," tilføjede han.
Men Facebooks tilgang til at udnytte milliarder af Instagram-billeder rejser nogle alvorlige privatlivs- og lovgivningsmæssige bekymringer, sagde Behzadi.
"Selvom Facebooks vilkår og betingelser kan tillade dem at udnytte brugerdata på en sådan måde, er de fleste brugere ikke eksplicit og aktivt klar over, at deres data bliver udvundet til sådanne formål," sagde han.
"Vi mener, at virksomheder bør være mere ligefremme og gennemsigtige over for brugerne, hvilket giver dem fuld kontrol over deres data."
Mange andre virksomheder har brugt kunstig intelligens til at identificere et billedes indhold, påpegede Bobby Gill, administrerende direktør for app-udvikleren Blue Label Labs, i et e-mailinterview. "Men det faktum, at dette næsten helt sikkert vil blive brugt til markedsføring, er det, der er bekymrende," tilføjede han.
Det nye program kan rejse potentielle bekymringer om privatlivets fred, afhængigt af hvordan Facebook planlægger at bruge systemet, sagde Gill.
"Disse data vil sandsynligvis være tilgængelige for tekniske marketingfolk, der ville bruge dem til at identificere visse tendenser baseret på forskellige elementer identificeret i et billede," sagde han.
"At kunne trække information fra billeder, som folk poster, tilføjer f.eks. endnu en dimension til associative systemer, der generelt bruger adfærd til at profilere og målrette individer. Det kan komme til at lære, at alle med f.eks. frøer i 3- 7 % af deres billeder vil med stor sandsynlighed købe hjemmefitnessudstyr."
