Key takeaways
- AI-systemet kaldet DALL-E2 ser ud til at have skabt sit eget system til skriftlig kommunikation.
- Nogle eksperter siger, at det tilsyneladende sprog måske bare er volapyk.
- Det er et eksempel på, hvor svært det er at fortolke resultaterne af avancerede AI-systemer.
Det ser ud til, at kunstig intelligens (AI) har udviklet sit eget sprog, men nogle eksperter er skeptiske over for påstanden.
OpenAIs tekst-til-billede AI-system kaldet DALL-E2 ser ud til at have skabt sit eget system til skriftlig kommunikation. Det er et eksempel på, hvor svært det er at fortolke resultaterne af avancerede AI-systemer.
"På grund af størrelsen og dybden af store modeller er det meget vanskeligt at forklare modeladfærd," fort alte Teresa O'Neill, direktør for løsningsarkitektur for naturlig sprogforståelse hos iMerit, til Lifewire i et e-mailinterview. "Dette er en af kerneudfordringerne, og i nogle tilfælde etiske problemstillinger med stadig stærkere modeller. Hvis vi ikke kan forklare, hvorfor de opfører sig, som de gør, kan vi så forudsige deres adfærd eller holde den i overensstemmelse med vores normer og forventninger?"
AI Chats
Computer-studerende Giannis Daras bemærkede for nylig, at DALLE-2-systemet, som skaber billeder baseret på tekstinput, ville returnere nonsensord som tekst under visse omstændigheder.
"En kendt begrænsning ved DALLE-2 er, at den kæmper med tekst," skrev han i et papir udgivet på preprint-serveren Arxiv. "F.eks. fører tekstmeddelelser som: 'Et billede af ordet flyvemaskine' ofte til genererede billeder, der skildrer vrøvl tekst."
Men, skrev Daras, der kan være en metode bag det tilsyneladende volapyk. "Vi opdager, at denne producerede tekst ikke er tilfældig, men snarere afslører et skjult ordforråd, som modellen ser ud til at have udviklet internt," fortsatte han. "Når den f.eks. bliver fodret med denne sluddertekst, producerer modellen ofte fly."
I sit tweet påpegede Daras, at da DALLE-2 blev bedt om at undertekste en samtale mellem to landmænd, viste den dem tale, men taleboblerne var fyldt med noget, der lignede useriøse ord. Men Daras opdagede, at ordene så ud til at have deres egen betydning for AI: Bønderne t alte om grøntsager og fugle.
Nicola Davolio, administrerende direktør for teknologivirksomheden Hupry, der arbejder med kunstig intelligens, forklarede Lifewire i et e-mailinterview, at sproget er baseret på symboler, som DALL-E2-systemet har lært at forbinde med bestemte begreber. For eksempel kan symbolet for "hund" være relateret til en hunds billede, mens symbolet for "kat" kan være forbundet med et billede af en kat. DALL-E2 har skabt sit sprog, fordi det gør det i stand til at kommunikere mere effektivt med andre AI-systemer.
Puslespil som det tilsyneladende skjulte ordforråd i DALL-E2 er sjove at kæmpe med, men de fremhæver også tungere spørgsmål…
"Sproget er sammensat af symboler, der ligner egyptiske hieroglyffer og ser ikke ud til at have nogen specifik betydning," tilføjede han. "Symbolerne er sandsynligvis meningsløse for mennesker, men de giver perfekt mening for AI-systemet, da det er blevet trænet på millioner af billeder."
Forskere mener, at AI-systemet skabte sproget for at hjælpe det bedre med at forstå forholdet mellem billeder og ord, sagde Davolio.
"De er ikke sikre på, hvorfor AI-systemet udviklede sit sprog, men de formoder, at det kan have noget at gøre med, hvordan det lærte at skabe billeder," tilføjede Davolio. "Det er muligt, at AI-systemet har udviklet sit sprog for at gøre kommunikationen mellem forskellige netværksdele mere effektiv."
AI Mysteries
DALL-E2 er ikke det eneste AI-system, der har udviklet sit interne sprog, påpegede Davolio. I 2017 skabte Googles AutoML-system en ny form for neural arkitektur kaldet et 'barnnetværk' efter at have været overladt til at beslutte, hvordan man bedst kunne udføre en given opgave. Dette børnenetværk var ude af stand til at blive fortolket af dets menneskelige skabere.
"Disse eksempler er blot nogle få tilfælde, hvor AI-systemer har udviklet måder at gøre ting på, som vi ikke kan forklare," sagde Davolio. "Det er et fremvoksende fænomen, der er fascinerende og alarmerende i lige så høj grad. Efterhånden som AI-systemer bliver mere komplekse og autonome, kan vi i stigende grad finde os selv i den position, at vi ikke forstår, hvordan de fungerer."
O'Neill sagde, at hun ikke tror, DALL-E2 skaber sit eget sprog. I stedet sagde hun, at årsagen til den tilsyneladende sproglige opfindelse nok er en smule mere prosaisk.
"En plausibel forklaring er en tilfældig chance - i en så stor model kan en smule Murphys lov gælde: hvis der kan ske noget mærkeligt, vil det sandsynligvis ske," tilføjede O'Neill. En anden mulighed foreslået af forskningsanalytiker Benjamin Hilton i en Twitter-tråd, der diskuterer Daras' resultater, er, at formen af udtrykket "apoploe vesrreaitais" efterligner formen af et latinsk navn for et dyr. Så systemet har affødt en ny rækkefølge af Aves, tilføjede O'Neill.
"Puslespil som det tilsyneladende skjulte ordforråd i DALL-E2 er sjove at kæmpe med, men de fremhæver også tungere spørgsmål omkring risiko, skævhed og etik i store modellers ofte uransagelige adfærd," sagde O'Neill.
