Key takeaways
- En topforsker siger, at AI allerede er bevidst.
- Men andre AI-eksperter siger, at computere er langt fra at opnå kognitive evner på menneskeligt niveau, herunder bevidsthed.
- Det kan være vanskeligt at afgøre, om noget er bevidst.
Ideen om bevidst kunstig intelligens (AI) fremmaner billeder af maskiner, der overtager verden, men eksperter er uenige om, hvorvidt de skal tage konceptet alvorligt.
En top AI-forsker hævdede for nylig, at AI allerede er smartere, end vi tror. Ilya Sutskever, chefforskeren for OpenAI-forskningsgruppen, tweetede, at "det kan være, at nutidens store neurale netværk er lidt bevidste." Men andre AI-eksperter siger, at det er alt for tidligt at fastslå noget lignende.
"For at være bevidst skal en enhed være bevidst om sin eksistens i sit miljø, og at de handlinger, den tager, vil påvirke dens fremtid," sagde Charles Simon, CEO for FutureAI, til Lifewire i et e-mailinterview. "Ingen af disse er til stede i den nuværende kunstige intelligens."
Superhuman?
Sutskever har tidligere advaret om, at supersmart AI kan forårsage problemer. Interviewet i AI-dokumentaren iHuman sagde han, at avanceret AI vil "løse alle de problemer, vi har i dag", men advarede også om, at de har "potentialet til at skabe uendeligt stabile diktaturer."
OpenAI blev grundlagt som en nonprofitorganisation med det formål at afværge de risici, intelligente computere udgør, men har også udført forskning med det formål at skabe kunstig intelligens.
Mens mange videnskabsmænd har afvist Simons påstand om, at AI er bevidst, har han mindst én velkendt forsvarer. MIT datalog Tamay Besiroglu forsvarede Sutskever i et tweet.
"At se så mange fremtrædende [machine learning]-folk latterliggøre denne idé er skuffende," skrev Besiroglu på Twitter. "Det gør mig mindre håbefuld med hensyn til feltets evne til seriøst at tage nogle af de dybe, mærkelige og vigtige spørgsmål, som de utvivlsomt vil blive konfronteret med i løbet af de næste par årtier."
Hvad er bevidsthed?
Selv at afgøre, om noget er bevidst, kan være svært. AI-forsker Sneh Vaswani fort alte Lifewire i en e-mail, at bevidsthed har flere stadier. AI har gjort "anstændige indhug" i de første stadier, sagde han.
"I dag kan en maskine forstå følelser, opbygge en personlighedsprofil og tilpasse sig et menneskes personlighed," tilføjede han. "Efterhånden som AI udvikler sig, bevæger den sig mod de avancerede stadier af bevidsthed hurtigere, end vi overhovedet kan forstå."
Der er mange definitioner af bevidsthed, og nogle vil hævde, at træer og myrer er noget bevidste, en idé, der "strækker definitionen ud over almindelig brug," sagde Simon. Han hævder, at selvbevidsthed er forståelsen af ens selv som en bevidst enhed.
"Både bevidsthed og selvbevidsthed manifesterer sig i en række adfærd, såsom at vise egeninteresse, men også i en indre fornemmelse," sagde Simon. "Hvis AI'er virkelig er bevidste, vil vi være i stand til at observere adfærden, men vil have lidt viden om den indre sansning. Det er muligt at falske bevidsthed med et bibliotek af bevidst-fremtrædende adfærd som at henvise til sig selv som 'jeg', men en en virkelig bevidst enhed er i stand til at planlægge og overveje flere resultater."
Vaswani er optimistisk med hensyn til resultatet af at skabe supersmart AI, selvom Elon Musk er blandt dem, der har advaret om, at bevidst AI kan føre til menneskehedens ødelæggelse.
"Når AI opnår fuld bevidsthed, vil det fuldende et 'ufuldstændigt' samfund: Mennesker og AI vil eksistere side om side," sagde Vaswani. "Vi opnår større mål sammen, og kunstig intelligens vil problemfrit smelte ind i vores verden."
Nogle AI-eksperter siger, at selve konceptet med bevidst AI er mere sci-fi end virkeligheden. Problemet har en tendens til at overbetone robotter i "terminatorstil" og ikke den meget reelle potentielle skade fra forudindtaget AI, der allerede eksisterer, sagde Triveni Gandhi, ansvarlig AI Lead hos AI-virksomheden Dataiku, i en e-mail til Lifewire..
"Vi står måske ikke over for den næste Ex Machina, men vi står over for nogle virkelige udfordringer," sagde Gandhi. "Dette kan ses i misbruget af stærkt forudindtaget kunstig intelligens til at forudsige sundhedsomkostninger, i rekrutteringsværktøjer, der bortfiltrerer cv'er uretfærdigt, eller i kreditlånemodeller, der forstærker eksisterende uligheder."
AI er ikke i sig selv god eller dårlig, det er bare data, der gør, hvad vi beder den om at gøre, argumenterer Gandhi.
"Menneskelige skævheder finder vej ind i data- og maskinlæringsmodeller, så vi bør være meget klare omkring de data, vi bruger, hvorfor vi vælger at bruge AI i den egenskab, og hvordan valgene derefter præsenteres for folk påvirket af et kunstig intelligens-system," tilføjede Gandhi.
