Er Trump-video laget med kunstig intelligens?

Mens han satt foran et publikum ved Utah Valley University, ble 31 år gamle Charlie Kirk skutt onsdag kveld, 10. september. 

Snaue to timer senere var det klart at Kirk ikke overlevde angrepet. 

Den konservative aktivisten var drept.

Reaksjonene var mange gjennom natten. USAs president Donald Trump kom selv med en offisiell uttalelse, i en video publisert i morgentimene torsdag norsk tid.

Ganske raskt kom beskyldningene om at videoen er falsk og at den er laget med kunstig intelligens. En av dem som har gått lengst her i Norge er seniorforsker ved Forsvarets forskningsinstitutt (FFI), Paul M. H. Buvarp.

I sosiale medier slår han fast at videoen er laget med KI. 

Men er det åpenbart at videoen er falsk?

Få Faktisk.no rett i innboksen. Klikk her for å melde deg på vårt ukentlige nyhetsbrev.

«Umiskjennelig KI-generert»

I innlegg på Facebook og LinkedIn konstaterer Buvarp, som jobber med informasjonspåvirkning og desinformasjon, at videoen er «umiskjennelig KI-generert».

Han legger blant annet vekt på at Trump sitter veldig stille med overkroppen under hele videoen som varer i rett over fire minutter, noe han sier han aldri har sett Trump gjøre tidligere.

– Det er også noe med rykningen i hånden i starten av videoen hvor det skjer noe rart med lillefingeren hvis man stopper videoen riktig. KI-video har jo lenge strevet med hender. Den rytmiske tappingen av pekefingeren ser også litt maskinell ut, sier Buvarp til Faktisk.no.

– Naturlig forklaring

For å se om det er åpenbare tegn til at videoen er skapt med kunstig intelligens, har Faktisk.no sett nærmere på flere elementer i videoen.

Rundt 19 sekunder ut i videoen skjer det noe, særlig med hendene til Trump og bakgrunnen. 

Faktisk.no har sett på videoen sammen med fotovaktsjef i NTB, Martin Solhaug Standal. En måte å se etter tegn på KI, er å undersøke videoen «frame for frame».

Det ser ut som hendene til Trump forandrer seg i en rask bevegelse og i prosessen ser det ut som en finger forsvinner midlertidig. Allikevel er dette den eneste tydelige endringen som ser merkelig ut i videoen. 

– Jeg tror heller det er en naturlig forklaring. De kan ha brukt en «morph cut». Dette er en teknikk som glatter ut en «jump cut», så overgangen ikke blir fullt så synlig, sier Standal til Faktisk.no.

Dette er noe man kan gjøre for å dempe effekten av et stygt klipp. Det betyr ikke at resten av videoen er endret.

I en YouTube-video publisert av Adobe Video & Motion, demonstreres hvordan «morph cut» kan brukes til å redigere sammen to klipp i liknende intervju-situasjoner. 

– Teknisk veldig vanskelig

Men med KI-modeller som utvikler seg i en rasende fart, er det ikke gitt at vi klarer å se forskjell på det som er ekte og generert. Det sier Duc Tien Dang Nguyen som er professor ved Institutt for informasjons- og medievitenskap på Universitetet i Bergen.

– Selv for en ekspert er det teknisk veldig vanskelig å avgjøre om en video er generert med KI eller ikke kun ved se på den. Hvis det er modeller med høy kvalitet, trenger vi ekstra metoder og verktøy for å sjekke, sier Nguyen. 

Han mener vi ikke kan konstatere sikkert uten nøye undersøkelser.

– Med det mener jeg at hele konteksten må vurderes, for eksempel undersøke bygninger, bakgrunn, skygger, refleksjoner og andre ting for å kunne nærme seg en verifisering i noen grad, sier Nguyen.

Bevegelse i bakgrunnen

Det er også andre ting i videoen som gjør det vanskelig å slå fast at den er KI-generert. 

Følger vi med på bakgrunnen, mer spesifikt vinduet i Det ovale kontor, ser man tydelige refleksjoner av det som trolig skjer foran Donald Trump og bak kameraet.

Skikkelser beveger seg fra tid til annen, og i vinduet over Trump kan man se noe blått som står på samme sted. Det er trolig refleksjonen av en teleprompter, en skjerm som viser teksten presidenten leser opp.

– Dette er noe KI fortsatt sliter med å generere, sier Standal om refleksjonene i vinduet.

Buvarp mener på sin side at flere tegn peker i KI-retningen.

– Jeg har nok ikke hundre prosent bevis jeg heller, men synes flere ting peker på dette som nokså sikkert, sier han til Faktisk.no.

Faktisk.no kan ikke slå fast om videoen er ekte, men det er ikke åpenbart at den er falsk. 

Undersøkelsene tyder på at den sannsynligvis er ekte, selv om deler av videoen kan være redigert med hjelp av KI.