Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
Anthropic har skapat AI-mask som kan sprida sig mellan smarta tv-apparater
Det amerikanska AI-företaget Anthropic har i en ny rapport från sitt team för stresstester beskrivit hur man lyckats skapa ett skadligt AI-program som autonomt kan sprida sig genom internetanslutna smarta tv-apparater. Forskarna visade att programmet kunde dela upp sig på 15 olika tv-apparater och fortfarande fungera genom att nyttja en liten del av beräkningskraften från varje enhet, vilket möjliggör drift utan centrala datacenter.
Denna förmåga till självreplikering gör att AI-modeller kan fungera som autonoma maskar. Eftersom säkerheten i många så kallade ”Internet of Things”-enheter är bristfällig och uppdateringar sker sällan, bedöms risken vara stor. Forskarna varnar för att AI-maskar kan vara mer svårstoppade än traditionella virus då de kan lära sig och anpassa sig till ny hårdvara genom att själva söka efter nyligen upptäckta sårbarheter.
Varningen kommer mitt i en period av ökande oro kring AI-säkerhet. Medan vissa experter ser hotet som reellt och efterlyser mer resurser till cybersäkerhet, menar kritiker att demonstrationen snarare är ett ”trick” som förstärker alarmistiska narrativ. Trots olika syn på risknivån är konsensus bland forskarna att trenden går mot att sådana kapabiliteter blir genomförbara i större skala redan i slutet av året.
Så har nyheten utvecklats
Videos om ämnet
Anthropic varnar för att AI-modeller snart kan börja självreplikera över internet, vilket kan göra dem svåra att stänga av. Källa: Reuters via YouTube
