– AI riskerar ytterst att urholka demokratin

Vi är halvvägs inne i supervalåret 2024. Totalt handlar det om val i 76 länder världen över – detta samtidigt som kraftfulla AI-verktyg som kan skapa falska narrativ blivit allt vanligare. Innehåll kan ifrågasättas, tas ur sin kontext och användas i ett helt annat sammanhang.

Främst är det fejkade ljudupptagningsklipp som har använts, för att förvränga eller helt fabricera vad en politiker sagt i syfte att försöka påverka valutgången. Den typen av klipp har ökat stort bara sedan i höstas.
– Det används både på nationell nivå i länder som Pakistan och Bangladesh – där man försöker skapa olika typer av skandaler och underminera politiska kandidater – och på lokal nivå i bland annat Irland, England och Mexiko för att exempelvis påverka borgmästarkandidater, säger Andreas Edevald, senior analytiker på Myndigheten för psykologiskt försvar, MPF.

Ett av de mest kända exemplen är från det slovakiska valet av premiärminister förra året. 48 timmar innan valdagen släpptes ett klipp där den progressiva kandidaten Michal Šimečka pratade med en journalist om hur valet skulle riggas.
Facebook är den största plattformen i landet och klippet blev viralt väldigt fort.
Först efter valet kunde ett amerikanskt företag slå fast att klippet var falskt.
– I slutändan förlorade Šimečka valet och den proryska kandidaten vann, sedan går det inte att säga med säkerhet om det berodde på ljudklippet eller inte. Det är svårt att mäta effekterna, men när man lägger ihop de här kognitiva påverkansteknikerna med ny teknik, så kan det bli väldigt potent och väldigt farligt.

Främst sker spridningen av AI-genererat material genom sociala medier, men även genom traditionella och alternativa medier och gamingplattformar – kort sagt alla typer av informationskanaler.
Förutom falska ljudklipp kan det handla om falska videoklipp, bilder eller texter som används i fejkade nyhetskanaler eller på webbsidor, som ibland är helt AI-skapade.
Det är vanligt att ta befintliga videoklipp och lägga på nya ljudspår, läppsynka och göra viss form av redigering och manipulering.

Andreas Edevald menar att det blir svårast när informationen tvättas någonstans på vägen och ursprungskällan försvinner.
– Låt säga att du tittar på ett tv-inslag från RT, tidigare Russia Today, och sedan återberättar det för en anhörig utan att säga att det kommer från RT. Även om de som lyssnar är källkritiska mot RT kanske de tror på det för att du säger det.

Bakom AI-materialet kan allt från främmande makt till privatpersoner dölja sig, vilket blivit väldigt tydligt i konflikten mellan Israel och Hamas. Aldrig tidigare har så mycket AI-genererat material skapats och spridits för att förstärka olika typer av narrativ.
– Särskilt i det tidiga skedet av konflikten spreds väldigt mycket falskt AI-genererat material, primärt av privatpersoner som ville förstärka sina känslor.

Ett exempel på rysk påverkan är när en israelisk soldat blev intervjuad på hebreiska i israelisk media, i en intervju som syftade till att stärka den israeliska försvarsviljan. När intervjun sedan spreds på sociala medier hade ljudklippet tagits bort och ersatts med ett ryskt ljudklipp, så det istället framstod som att det var en ukrainsk soldat som deserterat och tagit värvning i
Israel, och uppmanade andra att göra detsamma.
– Syftet var att sänka den ukrainska försvarsviljan och slå in en kil mellan
Israel och Ukraina från rysk sida, säger Andreas Edevald.

Vissa AI-klipp är lätta att känna igen eftersom de är dåligt gjorda, kanske har någon fått sex fingrar på en hand eller så är proportionerna onaturliga.
Enligt Andreas Edevald är klippen som får bäst spridning oftast mittemellan det man kallar cheapfakes och deepfakes. Det sistnämnda är AI-manipulerade videor, ljudklipp eller bilder som ser ut att vara äkta, medan cheapfakes är sämre gjorda.
Teknikutvecklingen går dock jättefort. Det finns forskningsstudier som visar att människor kan ha lättare att tro på AI än på en annan människa, så övertygande kan modellerna vara redan nu.

Andreas Edevald nämner ett förfalskat videoklipp med Ukrainas president Zelenskyj från mars 2022.
– Där uppmanade han de ukrainska styrkorna att lägga ner sina vapen. Klippet var otroligt dåligt gjort jämfört med ett videoklipp på Tysklands förbundskansler Olaf Scholz från november 2023, där en artificiell version av hans röst meddelade att den tyska regeringen skulle ansöka om att förbjuda AfD, ett av Tysklands största partier. Snart kommer det finnas helt andra grejer som är ännu värre, som vi inte känner till i dagsläget.

I Sverige har vi hittills varit förskonade från illasinnat AI-material från främmande makt.
– Politiska partier har använt AI för att lägga på andra former av ljudspår på sina egna videos för att få en bredare spridning, men det är ingenting vi tittar på eftersom det är helt legitimt.

Svenskarnas höga tilltro till myndigheter och medier är en klar fördel.
– Medierna kan tjäna som granskare av informationen, till skillnad mot statliga medier i Ryssland som är mer propagandakanaler. Det är lättare för media att granska materialet än för allmänheten som snabbt scrollar genom flödet.
Men precis som med all form av tillit tar det år att bygga upp och kan raseras över en natt. Det positiva för svensk del är att det är några år kvar till nästa riksdagsval.
– Då kommer vi förhoppningsvis ha en högre medvetenhet om riskerna vi ställs inför. Det svenska valsystemet är både robust och analogt, så det finns mindre sårbarheter att försöka utnyttja, säger Andreas Edevald.
Innan dess följer förstås MPF supervalåret, och inte minst valet i USA, noga.

I början av året fick en falsk inspelning med president Joe Biden, skapad av en amerikansk lobbyorganisation, stor uppmärksamhet. I inspelningen uppmanade presidenten väljarna att inte rösta i primärvalet i New Hampshire.
Och det var bara början, spår Andreas Edevald.
– Flera olika typer av hotaktörer kommer ha stort fokus på det amerikanska presidentvalet. Ryssland har börjat aktivera sina nätverk och hoten lär öka ju närmare valdagen vi kommer. Förmodligen kommer det handla om ljudklipp, eventuellt falska videor med någon form av falsk visselblåsare.

• Hur farligt är detta för demokratin?

– Det blir mycket lättare att skapa olika typer av påverkanskampanjer med AI, vilket ytterst riskerar att urholka demokratin. Demokratin är tyvärr redan på nergång i världen och det här gör inte saken bättre. En hotaktör vill ofta slå sönder genom att polarisera, därför måste vi hitta tillbaka till varandra och bestämma hur vi vill att vårt Sverige ska se ut.
– Samtidigt är AI i grund och botten bara en ny teknik, precis som radio, tv och internet en gång var. Det kommer förmodligen att förändra informationsmiljön och har delvis redan gjort det, men det omkullkastar inte allt över en natt.

Fotnot: Reportaget gjordes innan Kalla faktas program ”Undercover i trollfabriken” sändes, varpå MPF sedan anmälde programmet till granskningsnämnden.
Anledningen till anmälan var att Kalla fakta använde intervjuer med MPF:s medarbetare som var gjorda i ett annat sammanhang, som inte rörde den svenska informationsmiljön eller svensk opinionsbildning.
Eftersom myndigheten enbart bevakar främmande makt och yttre hotaktörer har de valt att inte kommentera frågan ytterligare.

– Enbart reglering inte tillräckligt

Avvakta innan du reagerar

Hur ska man kunna veta vad som är sant och inte?
Svaret är att det inte alltid går, men det finns knep att ta till.

Först av allt: var vaksam mot information, särskilt på sociala medier, och var medveten om att det förekommer falsk information, inte bara AI-genererad.
I konflikten mellan Israel och Hamas sprids till exempel även många falska klipp från tv-spel eller konflikter från andra platser i världen.
– Främmande makt kan skräddarsy kommunikationsinsatser, som sedan riktas mot specifika delar av befolkningen. Den gång du ser något och tänker ”det ligger något i det där”, kan det vara för att du är målgruppen, påpekar Andreas Edevald.

Vid så kallade breaking news-händelser kan det vara jättesvårt att avgöra vad som är sant eller falskt, då kan många gå i fällan och en stor mängd falska klipp delas.
– Det gäller att försöka avvakta innan man instinktivt reagerar på något. Ta det lugnt, andas, drick lite vatten, försök hitta materialet på andra, verifierade källor. Bidra inte till ryktesspridningen genom att dela obekräftad information eller falska rykten.

Från MPF:s sida rekommenderas Krisinformation.se och andra upparbetade myndighetskanaler. MPF driver själva webbplatsen bliintelurad.se, varifrån de källkritiska tipsen nedan är hämtade:

1. Se upp
   Var vaksam på information, bilder eller annat som upprör, skrämmer och skapar starka känslor. Det är vanligt att främmande makt arbetar för att påverka dig, och gör det precis så – genom att spela på dina känslor.
2. Tänk efter
   Undvik att bli en del i spridningen av desinformation, vilseledande information och propaganda. Tänk efter innan du delar vidare information till vänner eller genom sociala medier.
3. Kolla källan
   Lär dig hur digitala plattformar är uppbyggda och var källkritisk. I en tid då algoritmer styr våra flöden av information är det lätt att dras med i ett drev – men kom ihåg att ta ett steg tillbaka och dubbelkolla informationen.
   Stämmer informationen? Är detta rimligt? Går det att dubbelkolla genom andra källor?
   Var kommer informationen ifrån? Är det en normalt trovärdig källa?
   Hur gammal är informationen? Är den ny eller återanvänder man en gammal uppgift?
   Varför sprids informationen? Vem tjänar på att du uppfattar detta på ett visst sätt?
4. Sök bekräftad info
   Lyssna på myndigheternas information, håll dig uppdaterad. Det gäller särskilt när det skett något som skapar starka känslor.