Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
AI användes i påverkansoperation för att manipulera väljare i Malaysia
AI-företaget Anthropic har avslöjat hur dess språkmodell, Claude, användes i en omfattande politisk påverkansoperation i Malaysia. Operationen innefattade skapandet av en plattform för valmanipulation som styrde ett nätverk av cirka 1 000 konton på plattformen X samt en falsk nyhetssajt vid namn ”Malaysia Pulse”. Genom att använda folkräknings- och valdata försökte aktörerna utnyttja känsliga sociala och politiska spänningar rörande ras, religion och monarki i landets samtliga 222 valkretsar.
Enligt Anthropic omfattade operationen även fabricerade dokument och omformuleringar av legitima nyhetsartiklar, vilka publicerades under falska namn. Man har även återpublicerat innehåll från ryska och kinesiska statliga medier, såsom Sputnik och Xinhua, där ursprungskällorna raderats. Företaget uppger att de lyckades avbryta aktiviteterna och har sedan dess stärkt sina säkerhetsåtgärder.
Experter varnar nu för att AI kan fungera som en katalysator för desinformation i Sydostasien, en region som redan är sårbar för falska nyheter. Katie Harbath, tidigare på Meta och nu chef för konsultföretaget Anchor Change, menar att AI gör det möjligt att skapa personligt anpassat innehåll snabbare och billigare. Det finns en oro för att tekniken kommer att användas för att ytterligare polarisera samhällen inför kommande val i regionen, där AI redan har använts för att både mjuka upp politiska ledares image och för att hetsa mot flyktinggrupper.
