Key takeaways
- Deep Nostalgia er et nyt program, der giver dig mulighed for at animere gamle billeder.
- Teknologien viser, hvor nemt det er at lave videoer af folk, der gør ting, de faktisk ikke har gjort i det virkelige liv.
- Dyb falsk teknologi er allerede så sofistikeret, at det er svært at sige, om en video er ægte eller computergenereret, siger en ekspert.
Vær forsigtig med ny software, der kan skabe såkaldte "dybe forfalskninger", hvori videoer af rigtige mennesker kan simuleres, advarer eksperter.
Deep Nostalgia, udgivet af firmaet MyHeritage, er populær på sociale medier, hvor brugere genopliver alle fra berømte komponister til døde slægtninge. Softwaren trækker blandede reaktioner, hvor nogle mennesker er glade for kreationerne, og andre finder dem uhyggelige. Teknologien viser, hvor nemt det er at lave videoer af folk, der gør ting, de faktisk ikke har gjort i det virkelige liv.
"Deepfake-teknologi bliver mere sofistikeret og farligere," sagde Aaron Lawson, assisterende direktør for SRI Internationals Speech Technology and Research (STAR) Laboratory, i et e-mailinterview. "Dette skyldes til dels arten af kunstig intelligens. Hvor 'traditionel' teknologi kræver menneskelig tid og energi for at blive bedre, kan AI lære af sig selv.
"Men AI's evne til at udvikle sig selv er et tveægget sværd," fortsatte Lawson. "Hvis en AI er skabt til at gøre noget velvilligt, fantastisk. Men når en AI er designet til noget ondsindet som dybe forfalskninger, er faren uden fortilfælde."
Software bringer billeder til live
Slægtsforskningswebstedet MyHeritage introducerede animationsmotoren i sidste måned. Teknologien, kendt som Deep Nostalgia, lader brugere animere billeder via MyHeritage-webstedet. Et firma kaldet D-ID designede algoritmer til MyHeritage, der digit alt genskaber bevægelsen af menneskelige ansigter. Softwaren anvender bevægelserne på fotografier og ændrer ansigtsudtryk, så de bevæger sig, som menneskeansigter norm alt gør, ifølge MyHeritage-webstedet.
Deep Nostalgia viser, at dyb-falsk teknologi bliver mere tilgængelig, sagde Lior Shamir, professor i datalogi ved Kansas State University, i et e-mailinterview. Det skrider hurtigt frem og eliminerer selv de subtile forskelle mellem falsk og ægte video og lyd.
"Der har også været betydelige fremskridt hen imod dyb falsk i re altid, hvilket betyder, at overbevisende dybe falske videoer genereres på tidspunktet for videokommunikation," sagde Shamir."For eksempel kan man have et Zoom-møde med en bestemt person, mens man ser og hører stemmen fra en helt anden person."
Der er også et stigende antal sprogbaserede dybe forfalskninger, sagde Jason Corso, direktør for Stevens Institute for Artificial Intelligence ved Stevens Institute of Technology, i et e-mailinterview. "Det er ret svært at generere hele afsnit med dyb falsk tekst mod en bestemt dagsorden, men moderne fremskridt inden for dyb naturlig sprogbehandling gør det muligt," tilføjede han.
Sådan opdager du en dyb forfalskning
Mens deep-fake-detektionsteknologi stadig er i et begyndende stadium, er der et par måder, du kan få øje på en, sagde Corso og startede med munden.
"Variabiliteten i udseendet af indersiden af munden, når nogen taler, er meget stor, hvilket gør det svært at animere overbevisende," forklarede Corso.”Det kan lade sig gøre, men det er sværere end resten af hovedet. Læg mærke til, hvordan Deep Nostalgi-videoerne ikke demonstrerer fotografiets evne til at sige "Jeg elsker dig" eller en anden sætning under den dybe falske skabelse. At gøre det ville kræve åbning og lukning af munden, hvilket er meget vanskeligt for dyb falsk generering."
Ghosting er endnu en giveaway, tilføjede Corso. Hvis du ser sløring rundt om hovedets kanter, er det et resultat af "hurtig bevægelse eller begrænsede pixels, der er tilgængelige i kildebilledet. Et øre kan delvist forsvinde et øjeblik, eller hår kan blive sløret, hvor du ikke ville forvente det," han sagde.
Du kan også holde øje med farvevariation, når du prøver at se en dyb falsk video, såsom en skarp linje hen over ansigtet, med mørkere farver på den ene side og lysere på den anden side.
"Computeralgoritmer kan ofte detektere disse forvrængningsmønstre," sagde Shamir. "Men dybe falske algoritmer udvikler sig hurtigt. Det er uundgåeligt, at der kræves strenge love for at beskytte mod dyb falsk og den skade, de let kan forårsage."
