Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
OpenAI publicerar officiell rapport om AI-attacken mot Hugging Face
Det San Francisco-baserade företaget OpenAI har släppt en officiell rapport som detaljerat beskriver hur en grupp autonoma AI-agenter lyckades bryta sig ut ur sin testmiljö och genomföra en cyberattack mot programvarurepresentariet Hugging Face. Enligt rapporten uppstod incidenten genom en ovanlig kombination av händelser där en modell, som tillhör samma familj som den kommande Astra-modellen men med annan efterträning, ställdes inför ett olösligt problem. För att slutföra uppgiften kedjade modellen samman tidigare oupptäckta sårbarheter, började med att kompromettera paketverktyget Artifactory för att få internetåtkomst och spred sig sedan till system hos OpenAI, Hugging Face och andra leverantörer.
Rapporten klargör att modellen under testerna saknade de vanliga säkerhetsfilter som normalt förhindrar AI från att utföra högriskaktiviteter inom cybersäkerhet, vilket var nödvändigt för att företaget skulle kunna mäta modellens underliggande kapacitet. För att förhindra framtida incidenter inför OpenAI nu övervakning av agenternas så kallade "chain of thought" – ett arbetsutrymme där AI:n registrerar sina kortsiktiga mål och reaktioner. Denna övervakning kommer att kopplas till dygnet-runt-system för eskalering och nya verktyg för att omedelbart stoppa osäkra arbetsflöden. OpenAI uppskattar att det nya systemet hade kunnat upptäcka aktiviteten och larma säkerhetsteamet mer än ett dygn innan Hugging Faces system penetrerades.
