– Enbart reglering inte tillräckligt
Publicerad: 26 jun 2024 klockan 10:53
Av: Maria Norell
Flera saker görs för att förhindra informationspåverkan från AI.
Bland annat har EU antagit en ny lag som förbjuder vissa användningsområden.
– Men jag tror inte att det enbart går att reglera bort problemen, säger Andreas Edevald på MPF.
Han kallar frågan om reglering för 10 000-kronorsfrågan.
– Vi kan förmodligen inte stänga Pandoras ask nu när den är öppnad. Det regleringen kan lösa blir i mångt och mycket hur de större kommersiella bolagen regleras.
Ett exempel på reglering är AI Act, en ny lagstiftning som tagits fram inom EU och syftar till att reglera risker kopplade till AI-system. Bland annat får inte vissa typer av AI-modeller användas för ett negativt ändamål, och fabricerat eller manipulerat bild-, ljud- eller videoinnehåll måste tydligt märkas som sådant.
Många techbolag skrev under ett avtal inför supervalåret, där de går samman för att motarbeta desinformation och särskilt då AI-genererad desinformation.
Techbolagen diskuterar också alternativa sätt att bädda in olika typer av vattenmärkningar och liknande i bilder.
Vissa sociala mediebolag har gjort förändringar på sina plattformar, exempelvis förbjudit politiska röster.
Youtube skärpte nyligen sina regler kring klipp som är skapade med hjälp av AI. På videor där det är oklart vad som är verkligt eller inte måste det tydligt informeras om att det förekommit redigering med hjälp av AI.
– En utopi vore att det alltid, när det publiceras ett inlägg på sociala medier som är AI-genererat, dyker upp en notis om det. Det skulle kunna vara ett sätt framåt, säger Andreas Edevald.
Problemet med reglering är att det finns gott om programvara baserad på öppen källkod, där det helt saknas begränsningar.
- Antidemokratiska krafter har ju en förmåga att inte bry sig om lagar och regler…
– Precis, därför blir det viktigt att fortsätta med olika typer av sanktioner, vilket innebär att Ryssland och Kina inte får tillgång till de mest avancerade halvledarna och olika typer av chip som behövs för att kunna utveckla ny teknik. Utan de bästa datorchipen kan de inte ligga i framkant vad gäller teknikutveckling inom AI. Det är ett sätt att försöka begränsa deras utveckling. Och de ligger redan efter, Ryssland ligger till och med långt efter.
Det finns detektionsmodeller som försöker upptäcka om något är AI-genererat. Andreas Edevald beskriver dessa som halvbra.
– De kan ge en fingervisning, särskilt om du har mycket material som du kan mata in. Har du bara en bild eller text är det svårt eftersom de har fel hyfsat ofta. Men förhoppningsvis blir ju också de tekniska detektionsmodellerna bättre i takt med att allt det andra blir bättre.
Vem som har det tyngsta ansvaret i frågan är inte enkelt att svara på. Andreas Edevald anser att det krävs en holistisk syn.
– Det kan lätt bli att man vid sin egen bit av kakan pekar på den andra biten och säger ”det är ni som måste göra det här”. AI-bolagen pekar vidare på sociala mediebolagen, som pekar på allmänheten, som pekar på regleringen. Alla behöver jobba tillsammans, men visst är det viktigt att allmänheten har en hög medvetenhet om de här frågorna och en motståndskraft så de inte blir lurade av vilseledande och falsk information.
Andreas Edevald.