AI-spärrar hindrar cybersäkerhetsforskare från att stoppa attacker

Enligt experter fungerar AI-verktygen som en hammare; de är oumbärliga för att bygga försvar, men kan samtidigt användas som vapen. När modeller vägrar svara på frågor om kodexploatering för att följa sina säkerhetsregler, försvåras arbetet med att bekräfta kritiska buggar. Detta har lett till att vissa forskare överger amerikanska system till förmån för modeller med öppen källkod, inklusive kinesiska alternativ som GLM, vilka saknar liknande restriktioner. Det finns även en oro över att de nuvarande systemen är inkonsekventa, vilket tvingar forskare att lägga mer tid på att förhandla med AI-modellen än på själva säkerhetsarbetet. Chris Thompson, vd för RemoteThreat, varnar för att legitima forskare kvävs samtidigt som en våg av automatiserade attacker väntar, vilket kan ge angriparna ett övertag i den tekniska kapprustningen.