I forprosjektet Deepfakes and Crime samarbeider Politihøgskolen med UIO, Sintef og Norsk regnesentral, og undersøker hvordan deepfakes kan påvirke vurderinger og beslutninger i etterforskning og rettsbehandling av straffesaker. Dette forprosjektet inngår i TRUST - Norsk senter for pålitelig KI, og skal danne grunnlag for en søknad om å etablere et fullverdig forskningsprosjekt i TRUST i juni 2027.
Deepfakes forstås her som KI-genererte eller KI-manipulerte fremstillinger i form av bilder, video, lyd eller tekst (eller kombinasjoner av disse mediene), som gir inntrykk av at personer har sagt eller gjort noe de i virkeligheten ikke har sagt eller gjort.
Forprosjektet består av tre delprosjekter: (1) en kartleggende litteraturgjennomgang av hvordan av hvordan deepfakes påvirker vurderinger og beslutninger knyttet til deteksjon av deepfakes og autentisering av medieinnhold under etterforskning og rettsbehandling; (2) en kartlegging av eksisterende teknologier og metoder for å avdekke deepfakes og autentisere medieinnhold, inkludert deres muligheter og begrensninger; og (3) intervjuer med politietterforskere, dataetterforskere, dommere og relevante aktører i offentlig og privat sektor for å utforske erfaringer, praktiske utfordringer, behov og perspektiver knyttet til deepfakes i strafferettspleien og tilgrensende områder.
Ved å kombinere samfunnsvitenskapelige, juridiske og teknologiske perspektiver skal forprosjektet utarbeide en oversikt over eksisterende forskning og kunnskapshull, en teknologikartlegging av relevante metoder for deteksjon og autentisering, samt en forskningsagenda basert på innsikt fra relevante aktører, som grunnlag for et større oppfølgingsprosjekt.
Arbeidet bygger en bruker-case utviklet av politipartnere i prosjektet og innspill fra partnere tilknyttet TRUST Action Cluster 6, Bekjempelse av kriminalitet med AI.
