«Gråtende ukrainske soldater» er egentlig russiske dataspillere

En video av en gråtende ung mann i uniform spres i sosiale medier. Den skal angivelig vise en 23 år gammel ukrainer som er tvunget til fronten.

Videoen er spredt på ulike språk, som kinesisk, fransk, spansk, russisk og ungarsk.

Men videoen er ikke ekte. Den er laget med kunstig intelligens. 

Et søk i PimEyes viser at ansiktet tilhører den russiske streameren «kussia». 

Han driver tre YouTube-kanaler og kaller seg «kussia88» på strømmeplattformen Twitch, der han har 1,3 millioner følgere.

Selve videoen har typiske KI-feil. Blant annet skiller hjelmen seg fra ekte utstyr. Den har en ekstra skrue som ikke finnes på originale hjelmer: 

Ukrainas senter for motvirkning av desinformasjon opplyser i en video på X at klippet er falskt. De påpeker at videoen oppgir feil vernepliktsalder: Den er 25 år, ikke 22–23. 

Senteret har konkludert med at målet med videoen er å sverte Ukrainas rykte internasjonalt.

TikTok-konto med flere videoer slettet

Videoene ble opprinnelig publisert på en TikTok-profil som het «fantomoko». Kontoen er nå slettet, men det finnes en arkivert versjon her. 

Arkivet viser at kontoen publiserte minst 149 videoer. De samme ansiktene går igjen, vekselvis i ukrainske og russiske uniformer:

Flere av videoene har Sora-logo, og er merket med «Sora 2» og emneknaggen «#fakeall». 

Selv om andre brukere har spredt videoene uten denne merkingen, har Fantomokos konto tilsynelatende forsøkt å merke videoene som falske:

Profilbildet er i anime-stil, og brukeren kan virke japansk.

Ifølge søkemotoren Osint Industries dukker dukker brukernavnet Fantomoko opp på flere plattformer, som Instagram, X og Chess.com. Kontoene på X og Instagram virker også å være japanske.

Søk med PimEyes på de andre videoene gir flere treff. 

Andre russiske ansikter er også brukt, deriblant Anton Tatyrzha (T2x2 Stream) og Maxim Shabanov (Stint). Vi har prøvd å få kontakt med disse, uten å få svar. 

Den russiske streameren Aleksei Gubanov, kjent som JesusAVGN, er brukt i en lignende video. France 24 har snakket med russeren, som nå er bosatt i USA. Han sier til avisen at han aldri har samtykket til dette, og har advart publikumet sitt.

Flere mediehus, deriblant SVT, Deutsche Welle, Maldita.es, Myth detector og France 24 har omtalt saken. 

Forventet positive videoer 

Faktisk.no har kontaktet streameren med navnet «kussia88», fra videoen som er mest spredt, via hans Telegram-kanal. 

Han vil ikke stille til intervju, men svarer på spørsmål og skriver at det var overraskende å se seg selv som ukrainer på vei til krigen. Han heter Vladimir, men ønsker ikke at etternavnet hans omtales av hensyn til familien.

– Jeg ønsker ikke at slike videoer publiseres med ansiktet mitt, siden jeg er russisk statsborger. Men jeg kan ikke hindre at slike videoer blir laget, skriver Vladimir.

Han forteller at han lastet opp bilde av seg selv på Sora 2, som er OpenAIs videoverktøy. Der kan man lage realistiske videosnutter basert på tekstbeskrivelser. 

Sora 2 er offisielt ikke tilgjengelig i Norge. Det er kun rullet ut i utvalgte markeder, men det finnes måter å omgå restriksjonene fra Norge.

Russeren skriver at han hadde andre forventninger da han lastet opp ansiktet sitt i programmet, og dermed godkjente bruken av det. 

– Jeg angrer ikke på at jeg ble med i Sora, men jeg hadde forventet flere positive videoer, skriver han.

Høyreekstrem symbolbruk 

Tallet 88 knyttes ofte til høyreekstremisme som kode for 'Heil Hitler' (H er alfabetets åttende bokstav Faktisk.no har tidligere omtalt denne typen symbolbruk (se her og her). 

Kussia er også registrert på den russiske nettplattformen Boosty. Der finner vi også tallene «1488», i tillegg til Israels flagg og karikaturtegninger av jøder: 

Når vi spør ham om symbolene på profilen, svarer han at bruken er tilfeldig.

– Jeg tilhører ikke ytre høyre og tar avstand fra dette. 88 er bare et tall og har ingen skjult mening. 

Faktisk.no har også spurt om han selv står bak videoene. 

– Det er ikke jeg som har laget denne videoen, men andre som bruker Sora, skriver han. 

Trolig trent på data fra YouTube og TikTok

Det er ikke overraskende at det var enkelt å lage så realistiske videoer, sier Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder. Han forklarer at Sora er trent på enorme mengder data.

– Vi vet ikke hvor OpenAI har høstet dataen sin fra. Men mye tyder på at det er fra åpne kilder som YouTube og TikTok. Det finnes jo mye videoer av de russiske streamerne der ute. Uavhengig av om de bruker Sora eller ikke, lå de nok i databasen til Sora fra før, sier han.

Professoren mener han fint kunne laget en video av statsminister Jonas Gahr Støre med MAGA-caps.

– Jeg er ganske sikker på at Jonas Gahr Støre aldri har lastet opp et bilde av seg selv i Sora. Men det finnes mye video av han på nettet, og han er en offentlig person, sier han.

Faktisk.no testet om det var mulig å lage et slikt bilde i ChatGPT. Det var uproblematisk. 

Sannsynlig at noen har bedt om akkurat disse russerne

Goodwin forklarer at det kan være tilfeldig at akkurat disse russerne er brukt i videoen.

– Hvis du spør Grok, en generativ modell som ligner Sora og har friere tøyler rundt opphavsrett, men med friere tøyler rundt opphavsrett, om å lage et bilde av Donald Duck, havner ofte Mikke eller nevøene til Donald der også. Altså, den genererer karakterer som hører sammen. Jeg vil tro at disse russiske influenserne «hører sammen» for modellen.

Professoren poengterer derimot at det virker mer sannsynlig at den som har instruert videoen, har bedt om akkurat disse.

– Eller at den som har instruert videoen faktisk har lastet opp bilder av disse streamerne og bedt modellen lage en video av dem, skriver han.