Innsats mot desinformasjon skapt med kunstig intelligens

KUNNSKAP FRA KRISTIANIA: Morten Langfeldt Dahlback og Nils Arne Bakke om faktasjekking i møte med kunstig intelligens 

Like før valget i Slovakia dukket det opp lydklipp av den NATO-vennlige statsministerkandidaten Michal Šimečka. Der kunne man høre ham foreslå å doble ølprisen og diskutere med en journalist hvordan valget kunne «fikses» ved å kjøpe stemmer fra romani-minoriteten i landet. Problemet? Lydklippene var genererte av kunstig intelligens. 

Šimečka tapte valget, og den russiskvennlige kandidaten Robert Fico vant.

Vi vet ikke om klippene bidro til Ficos valgseier. Men bilder og lyd laget med kunstig intelligens kan ha ekte konsekvenser.

I mai spredte et bilde generert av kunstig intelligens av en eksplosjon ved Pentagon seg i sosiale medier. Etterpå falt S&P500, en av de viktigste amerikanske aksjeindeksene, brått, for så å hente seg inn igjen. En flyktig konsekvens, men med et målbart avtrykk.

En flodbølge av desinformasjon

Utviklingen innen kunstig intelligens skaper en situasjon der uante mengder troverdig desinformasjon kan produseres med en marginalkostnad nær null.

Å avkrefte den samme desinformasjonen kan ta dager eller måneder for journalister eller faktasjekkere. Når de institusjonene som bidrar til motstand mot løgn og propaganda i tillegg svekkes i en rekke land, har vi et problem som ikke bare angår mediebransjen, men samfunnet som helhet.

Forsvarsverk under press

Samfunnets motstandsdyktighet mot feilinformasjon bygger på institusjoner med røtter i opplysningstiden. Som blant andre Jonathan Rauch ved Brookings-instituttet har påpekt, muliggjør institusjoner som vitenskapen, det uavhengige rettsvesenet og de frie mediene at samfunnet har et felles faktagrunnlag og en opplyst offentlighet.

Flere av disse institusjonene er i dag under press. Gjentatte avsløringer av forskningsfusk, senest ved at de verdenskjente atferdsforskerne Dan Ariely og Francesca Gino ble tatt i å fabrikkere data (for en artikkel om ærlighet!), bidrar, med god grunn, til å undergrave vitenskapens autoritet.

I flere land har myndighetene grepet inn i den akademiske friheten. I Florida fikk flere professorer beskjed om å ikke vitne i et søksmål mot delstaten, og i Ungarn ble universitet EUI (som fikk støtte fra George Soros) presset ut av landet av Orban-regjeringen.

Samtidig har noen forskere, blant annet innenfor evolusjonsbiologi, hevdet at fagfeltene deres blir forsøkt styrt på ideologiske premisser, særlig innenfor tema som kjønn og evolusjonspsykologi. Vi skal ikke ta stilling til disse påstandene, men det er liten tvil om at indre og ytre press setter tilliten til de vitenskapelige institusjonene på prøve.

Tilliten til tradisjonelle medier har falt

De siste årene har tilliten til de tradisjonelle mediene falt i de fleste liberale demokratier, og internett har utfordret deres informasjons- og distribusjonsmonopol. At tilliten har falt, er ikke tilfeldig. Det kan være betydelige penger å tjene på å spre halvsannheter – og rene løgner.

Fox News, som har tjent gode penger på å spre udokumenterte påstander om omfattende valgfusk i 2020, inngikk nylig et forlik der de betalte 787 millioner dollar til teknologiselskapet Dominion, som ble rammet av valgfusk-påstandene.

Feilinformasjon er heller ikke et hinder for å motta gjeve journalistpriser, som når New York Times’ «1619 Project», som handlet om slaveriets historie i USA, fikk Pulitzerprisen til tross for at noen av de fremste fagfolkene innen amerikansk historie påviste en rekke alvorlige faktafeil i prosjektet.

I tillegg blir institusjoner som tidligere ble oppfattet som upartiske kritisert for å være det motsatte, for eksempel ved at universiteter blir sett på som aktivister på den politiske venstresiden, eller mediene som lydige forsvarere av status quo.

Uavhengig av om kritikken er riktig, gir den institusjonene som skal skape motstandskraft mot feilinformasjon et troverdighetsproblem.

Løsning: idealene upartiskhet, sannhetssøken og åpenhet

I medienes tilfelle mener vi denne mistilliten kan motvirkes ved å bygge videre på de verdiene som er styrende for arbeidet i faktasjekkorganisasjoner.

Ifølge den amerikanske forskeren Lucas Greaves, kan disse verdiene sees som et forsøk på å revitalisere journalistiske idealer som upartiskhet, sannhetssøken og åpenhet. Dette er klassiske opplysningsidealer som preger (idealiserte versjoner av) vitenskapen og rettsvesenet i samme grad som de preger (en idealisert versjon av) journalistikken.

En undersøkelse vi gjennomførte blant ledere i europeiske faktasjekkorganisasjoner tyder på at disse verdiene er sentrale for dem:

● Nesten alle avviste et relativistisk syn på fakta og sannhet, og mente at det finnes sannheter som er uavhengige av hva ulike grupper og individer mener at er sant.

● De avviste at de vil endre i faktuelt riktig publisert materiale på grunn av påstander fra ulike grupper – fra politikere til sårbare minoriteter – om at det som er publisert, kan være skadelig.

● De fleste faktasjekkere avviser at ulike identiteter, f.eks kjønn eller etnisk tilhørighet, gir en privilegert tilgang til fakta.

● Faktasjekkere har lav tillit til politiske aktivister som kilder, men svært høy tillit til forskere og forskningsinstitusjoner.

Vi tror holdninger som disse kan bidra til å styrke tilliten til mediene.

Unntaket er at faktasjekkerne kanskje stoler litt for mye på forskere og forskning, i hvert fall i lys av utfordringene i den vitenskapelige prosessen. Her bør nok faktasjekkere vise litt mer sunn skepsis enn i dag.

Å drive journalistikk og faktasjekk i tråd med de rette verdiene er ikke nok for å møte informasjonstrusselen fra AI. Mengden av feilinformasjon som kan produseres er for stor til at den kan møtes med eksisterende verktøy og metoder. Journalister og faktasjekkere må skalere opp arbeidet sitt for å ha en sjanse til å henge med. Spørsmålet er hvordan.

Tekst: 

Morten Langfeldt Dahlback, leder for innovasjon og teknologi, Faktisk.no

Nils Arne Bakke, professor, School of Economics, Innovation and Technology, Kristiania

En nedkortet versjon av denne teksten ble publisert i Aftenposten den 29. oktober under tittelen "Innsats mot desinformasjon".

Vi vil gjerne høre fra deg!     

Send spørsmål og kommentarer til artikkelen på e-post til kunnskap@kristiania.no.