Första fallet av AI-driven utpressningsmjukvara dokumenterat

Trots den höga graden av automatisering förtydligar Michael Clark, senior direktör för hotforskning på Sysdig, att mänsklig inblandning fortfarande förekom. En människa satte upp infrastrukturen, inklusive kontrollservrar, valde ut offret samt tillhandahöll de initiala inloggningsuppgifterna. Agenten utnyttjade en känd bugg i Langflow, ett verktyg för LLM-applikationer, för att ta sig in och eskalerade sedan sina behörigheter till en MySQL-server där över 1 300 konfigurationsposter krypterades. Analyser av attacken visar att agenten arbetade med anmärkningsvärd snabbhet och dokumenterade sina egna resonemang i kodkommentarer. Även om det inte har kunnat fastställas exakt vilken AI-modell som drev attacken, misstänker vissa experter att det rört sig om en öppen modell där säkerhetsspärrarna avlägsnats. Sysdig förväntar sig att liknande attacker kommer att öka i framtiden då det är kostnadseffektivt att driva sådana agenter.