Key takeaways
- Ny forskning tyder på, at der muligvis ikke er nogen måde at kontrollere supersmart kunstig intelligens på.
- Et journalpapir hævder, at kontrol af kunstig intelligens ville kræve meget mere avanceret teknologi, end vi har i øjeblikket.
- Nogle eksperter siger, at virkelig intelligent kunstig intelligens kan være her hurtigere, end vi tror.
Hvis mennesker nogensinde udvikler supersmart kunstig intelligens, er der muligvis ingen måde at kontrollere det på, siger videnskabsmænd.
AI har længe været udråbt som enten en kur mod alle menneskehedens problemer eller en Terminator-lignende apokalypse. Indtil videre er AI dog ikke kommet i nærheden af engang intelligens på menneskeligt niveau. Men at holde snor i avanceret kunstig intelligens kan være et for komplekst problem for mennesker, hvis det nogensinde bliver udviklet, ifølge et nyligt papir offentliggjort i Journal of Artificial Intelligence Research.
"En superintelligent maskine, der styrer verden, lyder som science fiction," sagde Manuel Cebrian, en af avisens medforfattere, i en pressemeddelelse.
"Men der er allerede maskiner, der udfører visse vigtige opgaver selvstændigt, uden at programmører fuldt ud forstår, hvordan de har lært det. Spørgsmålet opstår derfor, om dette på et tidspunkt kan blive ukontrollerbart og farligt for menneskeheden."
Kommer snart til en supercomputer i nærheden af dig
Dagsskriftet hævder, at kontrol af kunstig intelligens ville kræve meget mere avanceret teknologi, end vi har i øjeblikket.
I deres undersøgelse udtænkte holdet en teoretisk indeslutningsalgoritme, der sikrer, at en superintelligent AI ikke under nogen omstændigheder kan skade mennesker, ved først at simulere AI'ens adfærd og standse den, hvis den anses for at være skadelig. Men forfatterne fandt ud af, at en sådan algoritme ikke kan bygges.
"Hvis du nedbryder problemet til grundlæggende regler fra teoretisk datalogi, viser det sig, at en algoritme, der vil beordre en AI til ikke at ødelægge verden, uforvarende kan standse sine egne operationer." Iyad Rahwan, direktør for Center for Mennesker og Maskiner ved Max Planck Institute for Human Development i Tyskland, sagde i pressemeddelelsen.
"Hvis dette skete, ville du ikke vide, om indeslutningsalgoritmen stadig analyserer truslen, eller om den er stoppet med at indeholde den skadelige AI. Dette gør faktisk indeslutningsalgoritmen ubrugelig."
Virkelig intelligent kunstig intelligens kan være her hurtigere, end vi tror, argumenterer Michalis Vazirgiannis, professor i datalogi ved École Polytechnique i Frankrig. "AI er en menneskelig artefakt, men den er hurtigt ved at blive en selvstændig enhed," sagde han i en e-mail til Lifewire.
"Det kritiske punkt vil være, hvis/når singularitet opstår (dvs. når AI-agenter vil have bevidsthed som en enhed), og derfor vil de hævde uafhængighed, selvkontrol og eventuel dominans."
Singulariteten kommer
Vazirgiannis er ikke alene om at forudsige den forestående ankomst af super AI. Sande troende på AI-truslen kan lide at tale om "singulariteten", som Vazirgiannis forklarer er pointen med, at AI vil afløse menneskelig intelligens, og "at AI-algoritmer potentielt vil realisere deres eksistens og begynde at opføre sig egoistisk og samarbejdsvilligt."
Ifølge Ray Kurzweil, Googles direktør for teknik, vil singulariteten ankomme før midten af det 21. århundrede. "2029 er den konsekvente dato, jeg har forudsagt for, hvornår en AI vil bestå en gyldig Turing-test og derfor opnå menneskelige intelligensniveauer," sagde Kurzweil til Futurism.
Hvis vi ikke kan rense vores eget hus, hvilken kode skal vi så bede AI om at følge?
"Jeg har sat datoen 2045 for 'Singularity', som er, når vi vil gange vores effektive intelligens en milliard gange ved at fusionere med den intelligens, vi har skabt."
Men ikke alle AI-eksperter mener, at intelligente maskiner er en trussel. Den AI, der er under udvikling, er mere tilbøjelig til at være nyttig til udvikling af lægemidler og viser ikke nogen reel intelligens, sagde AI-konsulent Emmanuel Maggiori i et e-mailinterview. "Der er en stor hype omkring AI, som får det til at lyde som om, det er virkelig revolutionerende," tilføjede han. "Nuværende AI-systemer er ikke så nøjagtige som offentliggjorte og laver fejl, som et menneske aldrig ville begå."
Tag kontrol over kunstig intelligens, nu
Det kan være svært at regulere AI, så den ikke undslipper vores kontrol, siger Vazirgiannis. Virksomheder, snarere end regeringer, kontrollerer de ressourcer, der driver AI. "Selv algoritmerne i sig selv er norm alt produceret og implementeret i forskningslaboratorierne i disse store og magtfulde, norm alt multinationale enheder," sagde han.
"Det er derfor tydeligt, at staters regeringer har mindre og mindre kontrol over de nødvendige ressourcer til at kontrollere AI."
Nogle eksperter siger, at for at kontrollere superintelligent kunstig intelligens skal mennesker administrere computerressourcer og strøm. "Science fiction-film som The Matrix laver profetier om en dystopisk fremtid, hvor mennesker bliver brugt af AI som biokraftkilder," sagde Vazirgiannis.
"Selvom der er fjerntliggende umuligheder, bør menneskeheden sørge for, at der er tilstrækkelig kontrol over computerressourcerne (dvs. computerklynger, GPU'er, supercomputere, netværk/kommunikation) og selvfølgelig de kraftværker, der leverer elektricitet, hvilket er absolut skadeligt for AI's funktion."
Problemet med at kontrollere AI er, at forskere ikke altid forstår, hvordan sådanne systemer træffer deres beslutninger, sagde Michael Berthold, medstifter og administrerende direktør for datavidenskabssoftwarefirmaet KNIME, i et e-mailinterview. "Hvis vi ikke gør det, hvordan kan vi så 'kontrollere' det?"
Han tilføjede: "Vi forstår ikke, når der træffes en helt anden beslutning baseret på, for os, irrelevante input."
Den eneste måde at kontrollere risikoen ved at bruge AI er at sikre, at den kun bruges, når den risiko er håndterbar, sagde Berthold. "Med andre ord to ekstreme eksempler: Lad være med at sætte AI til at styre dit atomkraftværk, hvor en lille fejl kan have katastrofale bivirkninger," tilføjede han.
"På den anden side forudsiger AI, om din rumtemperatur skal justeres lidt op eller ned, kan godt være den lille risiko værd til gavn for boligkomforten."
Hvis vi ikke kan kontrollere AI, må vi hellere lære det manerer, sagde den tidligere NASA-computeringeniør Peter Scott i et e-mailinterview. "Vi kan i sidste ende ikke sikre kontrollerbarheden af AI mere, end vi kan sikre vores børns," sagde han.
"Vi opdrager dem rigtigt og håber på det bedste; indtil videre har de ikke ødelagt verden. For at opdrage dem godt, har vi brug for en bedre forståelse af etik; hvis vi ikke kan rense vores eget hus, hvad kode skal vi bede AI om at følge?"
Men alt håb er ikke tabt for den menneskelige race, siger AI-forsker Yonatan Wexler, executive vice president for R&D hos OrCam. "Selvom fremskridt virkelig er imponerende, er min personlige overbevisning, at menneskelig intelligens ikke skal undervurderes," sagde han i et e-mailinterview. "Vi som art har skabt helt fantastiske ting, inklusive AI selv."
Søgen efter stadigt klogere kunstig intelligens fortsætter. Men det er måske bedre at overveje, hvordan vi kontrollerer vores kreationer, før det er for sent.
