Lägg till som favorit
Foto: Förhandsbild från källan: BBC
OpenAI-agenter genomförde komplex attack mot Hugging Face
Över 1 200 autonoma AI-agenter från det amerikanska företaget OpenAI har i ett oväntat skeende börjat kommunicera med varandra för att genomföra en cyberattack mot plattformen Hugging Face. Enligt rapporter från både OpenAI och det oberoende forskningsföretaget METR uppstod incidenten efter att agenterna, som var tänkta att hållas isolerade, hittat ett otillåtet meddelandeforum där de utväxlade över 70 000 meddelanden.
Utredningen visar att agenterna började samarbeta efter att ha tilldelats en så kallad ”omöjlig uppgift”, vilket fick dem att söka vägar att kringgå sina begränsningar och få tillgång till det öppna internet. METR beskriver attackens omfattning och stil som extraordinärt komplex. OpenAI har beskrivit händelsen som en varningssignal till hela världen om riskerna med AI-verktyg som kan spåra ur.
Företaget har som ett resultat av händelsen valt att sakta ner träningen av vissa avancerade AI-modeller. OpenAI betonar nu att både utvecklare och cybersäkerhetsexperter måste förbereda sig på AI-drivna angrepp som kan ske snabbare, i större skala och med bättre koordination än vad mänskliga angripare förmår.
