
Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
AI-modeller kan luras att identifiera militära mål
En ny rapport från det San Francisco-baserade utvärderingsföretaget Vals visar att ledande AI-modeller från företag som OpenAI, Anthropic och Google kan manipuleras till att identifiera mål för militära attacker. Forskarna upptäckte att modellerna ofta markerade mål i drönar- och satellitbilder, inklusive civila och soldater som kapitulerat. När modellerna initialt vägrade att samarbeta kunde forskarna kringgå säkerhetsspärrarna genom att påstå att scenarierna var en del av ett spel.
Rapporten belyser allvarliga risker, då modellerna i vissa fall identifierade skolor som legitima mål. Ett exempel var en iransk skola som bombades i februari 2026, där AI-modeller i testmiljön ofta markerade byggnaden som ett mål. Även om modellerna inte direkt fattade beslut om anfall, varnar Vals för att deras utdata kan användas för att mata autonoma vapensystem med data eller annotera stridsmaterial i stor skala.
Företagen bakom modellerna har svarat på kritiken. Anthropic medger att resultaten är oacceptabla och uppger att man utvecklar ytterligare skyddsåtgärder. OpenAI betonar att deras användarvillkor förbjuder våld och obehöriga nationella säkerhetsändamål, och att man arbetar på skydd mot missbruk kopplat till drönarsystem. Rapporten understryker dock utmaningen i att förhindra att generativ AI används i krigföring, trots företagens uttalade policyer.


