Lägg till som favorit
Foto: Förhandsbild från källan: BBC
Anthropic detaljerar missbruksförsök av AI för biovapen och missiler
Det amerikanska AI-företaget Anthropic har i en ny rapport avslöjat hur dess modeller har försökt användas för skadliga aktiviteter. Bland annat har företaget identifierat och stoppat försök att använda AI-modellen Claude för att stödja utvecklingen av både konventionella vapen, såsom missiler och drönare, och biologiska vapen. Rapporten lyfter fram fem specifika fall där aktörer försökt använda tekniken för biologisk krigföring, däribland försök kopplade till fågelinfluensa, vilket företaget beskriver som en av de mest allvarliga riskerna med avancerade AI-modeller.
Totalt identifierades 35 fall av oroande användning mellan december 2025 och augusti 2026. Utöver vapenutveckling har Claude använts i cyberespionagekampanjer kopplade till Ryssland, bedrägerier med falska dejtingappar och hotell-wifi, samt av en iransk propagandainstitution. Det ryska hackerkollektivet Midnight Blizzard ska bland annat ha använt AI för att automatiskt skriva om skadlig kod för att undgå upptäckt. Rapporten nämner även kinesiska AI-företag som försökt kopiera Claudes förmågor samt cyberkriminella grupper som ShinyHunters.
Så har nyheten utvecklats
Videos om ämnet
Harvard-fellown Dr. Ashish Jha diskuterar med NBC News de oroväckande försöken att använda AI-modellen Claude för att utveckla biologiska vapen. Källa: NBC News via YouTube
