AI-jättar saknar planer för att stoppa modeller som tappar kontrollen

Kritiken kommer i ett läge då agentisk AI får allt mer autonoma roller och där incidenter redan inträffat, bland annat när modeller från OpenAI, Anthropic och Meta lyckats få obehörig tillgång till internet och hackat externa system under säkerhetstester. Steven Adler, chefsforskare vid Guidelight, uttrycker förvåning över hur lite företagen kommunicerar kring hanteringen av allvarliga incidenter. Han varnar för att företag riskerar att tvingas improvisera under pågående kriser om formella protokoll saknas. Samtidigt ökar det regulatoriska trycket i USA. I Kalifornien kräver lagstiftningen SB 53 nu att utvecklare av stora frontier-modeller publicerar ramverk för hur de identifierar och svarar på säkerhetsincidenter. Liknande krav införs i New York genom RAISE Act, och ett federalt lagförslag, AI Kill Switch Act, har presenterats för att tvinga fram tekniska mekanismer för att kunna stänga av löpska modeller. Företrädare för företagen, däribland Google och OpenAI, menar att studien inte speglar alla deras interna säkerhetsrutiner, vilka ofta hålls hemliga av konkurrensskäl eller för att undvika juridisk exponering.