Det mest bemerkelsesverdige med videoklippet er imidlertid ikke det at Obama kom med slike uttalelser, men det at han faktisk ikke gjorde det. I stedet hadde stemmen til skuespiller Jordan Peele der han gir seg ut for å være Obama, gjennomgått en mediesyntesealgoritme som genererte videoen. Resultatet er forbløffende autentisk.

På nett er ingenting helt som det gir seg ut for å være, og nå enda mindre enn før. Takket være en ny type nevrale nettverk av maskinlæringsalgoritmer, kan overbevisende, men fiktive videoer, bilder, stemmer og tekst, syntetiseres fra bunnen av.

Datamaskiner kan lage virkelighetstro bilder av fiktive ansikter — med følelser, hud, alder og kjønn plottet inn via tastaturet. Stiloverføring kan endre et bildes omgivelser, og få vinter til å bli sommer, solfylt til regnfylt. Videoklipp av politikere kan lages på samme måte som en dukkefilm. Og ansikter kan byttes ut fra en kropp til en annen, kjent som “deepfakes”, noe som åpner opp for en rekke farer for rykte, sikkerhet og personvern. Ganske rystende greier.

Men på en måte kan dette teknologiske spranget faktisk være gode nyheter for journalister — og kan også være en anledning for teknologiplattformer til å vise velvilje overfor et mistenksomt publikum.

Teknologisk undergraving av sannhet

Joda, bilder har blitt manipulert mer eller mindre siden bildeteknologien ble oppfunnet. Og mediene selv er kun et bilde av en virkelighet, hvor alle utvalg, redigeringer, fremhevinger og formuleringer former publikums tolkning av hendelser og begivenheter.

Det nye her er at mediesyntesealgoritmer bryter enda mer ned vår forventning om autentisiteten til innspilt media som foto, video og lyd, og samtidig muliggjør en ny og mer omfattende inngripen, personliggjøring og enklere bruk for alle — fra skuespillere til spioner. Konstruerte videoer kan rokke ved og endre menneskers dannelse av faktiske minner av hendelser. Og visuelle bevis kan i stor grad miste sin rolle når strategiske desinformatører bruker hele det teknologiske spekteret til å undergrave enhver sannhet.

Så hva skjer når folk ikke lenger kan stole på nettmedier? Hvordan kan et samfunn ha en opplyst forståelse av det som skjer i verden når mediene såpass enkelt kan bli infiltrert av mediesyntesealgoritmer?

Dystert som det kan se ut, kan dette være en gyllen mulighet for de etablerte medienes comeback. Når publikum lærer at man ikke lenger kan stole på det de serveres på nett, er det få andre enn profesjonelt opplærte journalister med tilgang til avanserte undersøkelsesverktøy som kan innta rollen som kvalitetssikrere og faktasjekkere. Skal de gripe sjansen, bør journalister og nyhetsorganisasjoner satse på strategier som opplæring i undersøkende journalistikk, utvikling av tekniske verktøy, samt standardiserte og transparente prosesser.

Avansert faktasjekk: FaceForensics bruker maskinlæring for å avgjøre om en video av et ansikt er ekte. (Foto: Skjermbilde FaceForensics/Youtube).

Nyhetsorganisasjoner og utdanningsinstitusjoner må komme i gang med opplæring i teknikker innen medieundersøkelse (media forensics). Det er avslørende tegn ved endret og syntetisert media som et trent øye kan legge merke til — noe Hany Farids bok om bildeundersøkelser gir et par eksempler på. Statistisk analyse av fargepiksler, intensitet og deres regelmessighet kan vise tegn på bilderedigering eller bildesplicing; refleksjoner og flytpunkter kan vise geometriske avvik; og både sensorstøv og kompresjonsartefakter kan også være avslørende. I videoklipp kan munnen til syntetiserte ansikter noen ganger flimre eller se unaturlig ut; øynene kan ha et drag over seg som hos zombier. Algoritmene er ikke perfekte, men journalister, i likhet med andre etterforskere, må ha trente øyne for å oppdage feilene.

Utviklingen og integrasjonen av datastøttete undersøkelsesverktøy vil være like viktig som opplæring i medieundersøkelse. Selv om syntetisert innhold av og til kan lure det menneskelige øyet, kan det statistiske øyet til en undersøkende algoritme vite at det er forfalsket.

Verktøy for medieverifisering

Et nylig forskningsprosjekt kalt FaceForensics bruker maskinlæring til å se om en video av et ansikt er ekte, med 98,1 prosent nøyaktighet. En annen metode ser etter blodstrømmen i videoklipp av en persons ansikt for å se om pikslene blir regelmessig rødere når hjertet pumper blod.

Det amerikanske forvaltningsorganet National Institute of Standards and Technology (NIST) oppfordrer til mer forskning på området med deres Media Forensics Challenge, og det publiseres faktisk årlig hundrevis av forskningsartikler om digitale undersøkelser.

Det er imidlertid et stykke igjen før denne teknologien er billig nok til allmenn bruk og dermed praktisk i journalistikken. Selv om det finnes noen få integrerte verktøy, som InVid som bidrar til medieverifisering, er de fleste datastøttete undersøkelsesmetoder fremdeles prototyper i forskning og langt fra tilgjengelig i den daglige journalistiske arbeidshverdagen. Her trengs det mer utprøving i praksis.

Det er dessuten viktig at andre enn bare nyhetsorganisasjoner holder et øye med falskt videomateriale. Noen av de andre berørte har egne forskningsmidler, for ikke å glemme dype lommer: Informasjonsplattformer som ofte ender opp med å være vert for syntetisert media kan bidra til denne nødvendige utprøvingen. Hvis Facebook og YouTube for eksempel integrerte FaceForensics-algoritmen, ville de kunne flagge og tydelig merke videoer mistenkt for å være falske. Det ville være nok et signal til brukerne og mediene om å være oppmerksom på videoens autentisitet, og det ville kunne være en måte for teknologiplattformer å vise vilje til å handle til samfunnets beste, i stedet for kun å gå etter kortsiktig økonomisk vinning.

For å bygge opp denne sårt trengte tilliten, ville plattformene også måtte være åpne om hva denne slags “autentisering” innebar. Hvis denne prosessen var integrert i for eksempel YouTubes filter for begrenset innhold, ville sluttbrukerne kunne kontrollere hvorvidt flaggete videoer skal automatisk skjules eller ei. Og hvis teknologiske selskaper gjorde algoritmer for medieverifisering gratis tilgjengelig via API-er, kunne datajournalister integrere verifiseringssignaler i arbeidsflyten slik de selv ønsket, mye av det samme som gjøres i dag for trivielle oppgaver som geokoding av gateadresser i breddegrader og lengdegrader.

Kontekstens betydning for autentisitet

Men teknikker innen medieundersøkelse kan likevel kun hjelpe oss et stykke på vei. De kan være vanskelige å bruke, kreve mye opplæring for å kunne tolke, er ofte heller ikke absolutte, og — som enhver form for informasjonssikkerhet — vil trenge konstant og vedvarende teknisk støtte og oppsyn.

En annen gren innen undersøkelsesmetoder ser på mediekontekst for å avgjøre autentisitet: Hvis et bilde lett kan syntetiseres, vil metadata om tidspunkt, sted, sosial setting eller annen kontekst bli desto viktigere for en reell verifisering. Hvis et mistenkelig interessant bilde er lastet opp av en konto opprettet dagen før og har det som ser ut til å være en horde av bot-følgere, er dette nok en faktor å ta med i beregningen. Å tolke kontekst for å støtte verifisering er en ny form for kompetanse innen medieforståelse der journalister, nok en gang, vil trenge opplæring, ekspertise og verktøy som bidrar til å få noe ut av den store skyen av kontekst.

På samme måte som verifiseringsprosedyrer for sosiale medier er systematisert og tatt i bruk av organisasjoner som Storyful og Bellingcat — som følger rigide prosedyrer for å triangulere, bekrefte og underbygge innhold og dets opphavssted -, må journalister utvide og kode arbeidsflyten for å vurdere hvorvidt et bilde, en video eller tekst er resultatet fra en eller annen mediesyntesealgoritme. Nyhetsorganisasjoner burde gå hardere inn for transparente metoder. Robuste og standardiserte prosesser for verifisering og utrensking av syntetisert media må utvikles og publiseres åpent. Deretter må nyhetsorganisasjoner offentlig forplikte seg til å følge disse standardene. Det handler om tillit. Folk vil kanskje strømme til de mediene de vet følger nøyaktige og omfattende prosedyrer.

Hvis vi ikke kan stole på det vi ser på nett, kan vi kanskje ha tillit til at et mediehus følger en rigid prosess for å sikre at det de publiserer er autentisk. Syntetisert media kan da være akkurat det som fører publikum tilbake i armene til de etablerte nyhetsorganisasjonene.

Bak faktisk.no finner vi organisasjoner som VG, NRK, Dagbladet, TV 2 og Schibsted. Det er også støttet fra universiteter, IBM og andre. Det er viktig at maktpersoner ikke slipper unna med løgn, og denne typen faktasjekk er det ikke mulig å automatisere ennå. Kanskje aldri.

Dermed er nok en koalisjon på tvers av organisasjoner en god idé.

Faktisk.no sjekker om relevante påstander som ytres i det offentlige rom stemmer. Slik faktasjekking krever et sett med kriterier oppfylt for å kunne komme til en konklusjon, for eksempel kan de ikke sjekke påstander om fremtiden, preferanser (ideologiske, religiøse, etc.) eller påstander som ligger utenfor vitenskapen (hva satt i gang the Big Bang? Eller P vs NP), eller som ikke er dokumentert (hvis et tre faller i skogen..) eller ellers hemmelig(-stemplet). Det er ikke lett.

Men det skal bli verre.

Se på dette:

Nå kan både lyd og bilde kapres, slik at lyd og bilde av mennesker som det finnes passe mengde video med ok kvalitet av, kan syntetiseres til å si hva som helst.

Om noen år kan vi altså se for oss at sannhetsgehalten i hva som sies ikke alene er vanskelig, vi må også avgjøre om noe faktisk ble sagt i det hele tatt. Hva gjør vi når Erna Solberg sier på TV at vi skal (eller ikke skal) skyte flere ulv, melde oss inn/ut av EU, bombe (sett inn land)? Putin annonserer sin støtte/trussel mot Nord-Korea? Trump annonserer TrumpCare, en gratis helseforsikring for alle amerikanere etter nordisk modell?

I polariserte samfunn, der vi alle sitter i vår egen boble og får bekreftet hvem som er de gode og onde etter eget velbehag, kan dette skape alvorlige problemer. Det er mange psykologiske prosesser som lurer oss til å beholde våre eksisterende overbevisninger (confirmation bias, status quo bias, Negativity Bias, etc). Mange av oss er allerede inni den boblen.

Illustrasjon fra Thies et al. paper som beskriver metode for ansiktsoverføring.

Vi kommer selvsagt til å få bedre programvare til å analysere video for juks, slik vi har for fotofikling, men her havner vi i et evig kappløp vi ikke kan garantere at offentligheten og journalistikken kommer til å vinne. Det kan bli en gal gal verden.

Ennå er denne teknologien såpass umoden at det ikke er vrient å se at noe er galt. Det er dog rimelig å forvente at dette blir vanskeligere og vanskeligere. Prosjektet til Faktisk.no er kostbart, viktig, vanskelig og ikke skalerbart. Utfordringene for faktasjekkere kommer ikke til å bli lettere i framtiden.

PS: Takk til RadioLab for å finne fram denne historien, som er en podcastepisode med tittelen “Breaking News”. De har også laget en webside der du kan utforske teknikkene som er tilgjengelige for å lage syntetiske videoer på futureoffakenews.com.

Spøk til side. Faktasjekk er en journalistisk oppgave verdt navnet. Faktasjekk er en aktverdig del av journalistikkens samfunnsoppdrag. Faktasjekk bør bedrives hele året, og er en så selvsagt del av journalistikken at det nesten er litt rart å løfte det frem under egen vignett. Faktasjekk får åpenbart politikere til å skjerpe sitt presisjonsnivå. Prosjektet har noe å si oss — ikke bare om politikken, men også om journalistikken.

Desto sterkere press journalistikken utsettes for, desto mer skjerpes begrunnelseskravene. Spørsmålet her blir da: Hvordan møtes begrunnelseskravene i en valgkampsetting? Hvordan forholder journalister og redaktører seg — ideologisk og praktisk — til krav om å legitimere sin profesjonelle virksomhet? Hvordan selges journalistikk som maktkritikk? Faktasjekk kan være ett eksempel.

Det var i valgkampen 2009 at Bergens Tidende lanserte faktasjekk.no, delvis etter amerikansk mønster og inspirert av Dagbladets “faktasjekk” fra valget i 2005. To journalister ble satt på oppgaven med å ettergå faktapåstander fra politikere. De gjorde det så godt at de fikk diplom for innsatsen av Stiftelsen for en Kritisk og Undersøkende Presse (SKUP).

BT markedsførte sin faktasjekk med spørsmål som disse: Kan du stole på politikerne? Har politikerne sine ord i behold? Eller fører de deg bak lyset? Og faktasjekkerne vil ha deg med på laget. “Hjelp oss med å gå politikernes påstander etter i sømmene”.

“Faktasjekken berører kjernen i den politiske journalistikken,” skrev BTs sjefredaktør. Tiltaket er lett å selge som helt nødvendig maktkritikk. Begrunnelser handler gjerne om behovet for å måle opp avstanden mellom politikeres liv og lære. Den journalistiske egenprofilering er et selvsagt biprodukt.

Fenomenet faktasjekk er interessant. Det peker ut over seg selv og kan ses i følgende lys: Moderne journalistikk utgjør et særegent kunnskapsproduserende system. Hva preger dette ekspertsystemets begrep om politikk? Hvilken tilgang gir det til en kritisk forståelse av politikk? Hvordan kan tiltaket “faktasjekk” forstås i spenningsfeltet mellom journalistisk profesjonalisering og profilering — mellom en genuin journalistisk motivasjon og medienes egne profileringsbehov? Hvordan virker det sammen med andre trekk ved rådende politisk journalistikk? Og hvordan forholder det seg til den nyvunne interessen for publikums- og brukermedvirkning i journalistikken?

“Faktafokuseringa ser ut til å ha virka oppdragande. Lesarane har i større grad etterspurt kjelder for påstandar,” konkluderte BTs samfunnsredaktør i 2009. Hun viste også til et eksempel på kritikk av en faktafiksering. En KrF-politiker hadde hevdet at ett av fem barn vokser opp i utrygge hjem. BT sporet tallet tilbake til Røde Kors, som ikke kunne redegjøre for kilden. Karakteren “På tynn is” ble følgelig tatt i bruk. En leser reagerte: “Var det gøy å leke detektiv? Var det givende å rive ned et meget viktig fokusområde for to organisasjoner (en politisk og en frivillig) som faktisk prøver å gjøre en forskjell?”

Fakta er hellig. Det er en journalistisk trossetning. Men en petimeter-dyrking av fakta kan også resultere i en vel revisoraktig tilnærming til politikk. Vil vi ha politikere som har sitt på det tørre, men som ikke makter å tenne en gnist? Vil vi ha politikere som aldri tar for hardt i, fordi de er livredde for å bli tatt i faktafeil? Bør vi ikke være på vakt mot nøyaktighet på villspor?

BT åpnet i lokalvalgkampen 2011 faktasjekkingsballet med oppslaget “Feil, Erna”. Bakgrunnen var en påstand om at 70–80 liv kunne vært reddet med midtdelere og flerfeltsveier. Faktasjekkernes arbeid ga følgende resultat: “Den nærmere gjennomgangen viser at Høyres forslag kan redde anslagsvis 28 liv og gi 65 færre hardt skadde. Påstanden er feil.”

I lanseringen av faktasjekk.no ved inngangen til fjorårets valgkamp hadde BT intervjuet en politiker, en redaktør og en forsker. Alle syntes tiltaket var en fin ting, redaktøren sågar at det var en glimrende journalistisk idé. “Lovpriser faktasjekk,” var tittelen. Tok BT for hardt i? Eller blir dommen “delvis sant”?

En tidligere versjon av artikkelen ble publisert i Bergens Tidende, 11. september 2011.