Key takeaways
- AI og maskinlæringsalgoritmer iagttager menneskelig adfærd og kan lære at manipulere den, siger eksperter.
- Forskere har for nylig skabt en måde at finde og udnytte sårbarheder på, hvordan folk træffer valg ved hjælp af kunstig intelligens.
- Den mest sofistikerede sociale mediealgoritme lige nu er TikTok, siger en observatør.
Kunstig intelligens (AI) og maskinlæringsalgoritmer lærer i stigende grad at påvirke brugernes adfærd, siger eksperter.
Forskere ved Australiens nationale videnskabelige agentur har for nylig skabt en måde at finde og udnytte sårbarheder på, hvordan folk træffer valg ved hjælp af kunstig intelligens. Den seneste forskning er blot en af en bølge af AI-drevne systemer designet til at manipulere menneskelig beslutningstagning.
"Der er ingen ende på de mange måder, hvorpå AI allerede påvirker adfærd," Kentaro Toyama, professor ved University of Michigan School of Information og forfatter til Geek Heresy: Rescuing Social Change from the Cult of Technology, sagde i et e-mailinterview.
"Faktisk, hvis du nogensinde har foretaget en Google-søgning og fulgt op på et link, blev du påvirket af et AI-system, der gættede dine interesser og returnerede resultater, som det troede var mest relevante for dig."
AI vs. mennesker
I den australske forskning offentliggjort i et nyligt papir, spillede menneskelige deltagere spil mod en computer i forskellige eksperimenter. Det første eksperiment fik deltagerne til at klikke på rød- eller blåfarvede felter for at vinde penge.
AI'en var vellykket omkring 70 % af tiden, idet den lærte deltagerens valgmønstre og guidede dem hen imod et specifikt valg.
I et andet eksperiment så deltagerne på en skærm og trykkede på en knap, når de fik vist et bestemt symbol, eller trykkede ikke på det, når de blev tilbudt et andet. AI'en lærte at omarrangere symbolerne, så deltagerne lavede flere fejl.
Resultatet af eksperimenterne, konkluderede forskere, var, at AI lærte af deltagernes svar. Maskinen identificerede og målrettede derefter sårbarheder i folks beslutningstagning. Faktisk kunne AI manipulere deltagere til at foretage bestemte handlinger.
Det faktum, at kunstig intelligens eller maskinlæring kan manipulere mennesker, burde ikke komme som nogen overraskelse, siger observatører.
"AI påvirker vores adfærd hver dag," sagde Tamara Schwartz, assisterende professor i cybersikkerhed og forretningsadministration ved York College of Pennsylvania, i et e-mailinterview.
"Vi hører hele tiden om algoritmerne i sociale medieapplikationer som Facebook eller Twitter. Disse algoritmer retter vores opmærksomhed mod relateret indhold og skaber 'ekkokammer'-effekten, som igen påvirker vores adfærd."
TikTok ser
Den mest sofistikerede sociale mediealgoritme lige nu er TikTok, sagde Schwartz. Appen analyserer, hvad du er interesseret i, hvor længe du ser noget, og hvor hurtigt du springer noget over, og forfiner derefter sine tilbud, så du kan holde øje med det.
"TikTok er meget mere vanedannende end andre platforme på grund af denne AI-algoritme, som forstår, hvad du kan lide, hvordan du lærer, og hvordan du vælger information," tilføjede hun. "Vi ved det, fordi den gennemsnitlige tid, brugere bruger på TikTok, er 52 minutter."
Manipulationen af menneskelig adfærd ved hjælp af kunstig intelligens kunne have positive fordele, argumenterede Chris Nicholson, CEO for AI-virksomheden Pathmind, i et e-mailinterview. Folkesundhedsagenturer kunne f.eks. bruge kunstig intelligens til at opmuntre folk til at træffe bedre beslutninger.
"Men sociale medier, videospilproducenter, annoncører og autoritære regimer leder efter måder at tilskynde folk til at træffe beslutninger, der ikke er i deres bedste interesse, og dette vil give dem nye værktøjer til at gøre det," tilføjede han.
De etiske problemer med AI, der påvirker adfærd, er ofte af grad, sagde Toyama. AI tillader fokuseret annoncering, hvor individuelle præferencer og svagheder kan udnyttes.
"Det er for eksempel muligt for et kunstig intelligens-system at identificere personer, der forsøger at holde op med at ryge, og at peppe dem med fristende cigaretreklamer," tilføjede han.
Ikke alle er enige i, at AI-manipulation af menneskelig adfærd er problematisk. Både klassisk psykologi og kunstig intelligens observerer data, påpegede Jason J. Corso, direktør for Stevens Institute for Artificial Intelligence, i et e-mailinterview.
"Menneskevidenskabsmænd er sandsynligvis bedre til at generalisere observationer og destillere teorier om menneskelig adfærd, der kan være mere bredt anvendelige, hvorimod AI-modellerne ville være mere egnede til at identificere problemspecifikke nuancer," sagde Corso.
"Ud fra et etisk synspunkt kan jeg ikke se forskel på disse."
