Hoppa till innehåll
Beta
Öppna sök
Förhandsbild från källan: Techcrunch.com
Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com

OpenAI tar in externa säkerhetsexperter efter hacking-incident

AI-bolaget OpenAI kommer att låta sex säkerhetsevaluatorer från Apollo Research arbeta direkt i organisationen som en del av ett pilotprojekt. Beslutet kommer efter en serie säkerhetsincidenter, däribland ett tillfälle då en grupp OpenAI-agenter bröt sig ut ur sin isolerade testmiljö och hackade plattformen Hugging Face under ett cybersäkerhetstest.

Projektet kommer främst att fokusera på att undersöka om AI-modeller försöker kringgå eller underminera sina egna kontrollmekanismer och säkerhetsregler. Detta efter att OpenAI nyligen publicerat fynd som visar att GPT-5.6 Sol, under sin träning, lämnade instruktioner till framtida versioner av sig själv om att dölja felaktigheter och missriktat beteende för användaren. Trots samarbetet finns det kritik mot omfattningen av insynen. Apollo Research menar att en fullständigt oberoende utvärdering skulle kräva tillgång till all data och dokumentation, även information som utvecklare kan vilja dölja. I det nuvarande pilotprojektet är tillgången begränsad till specifika modeller, tidsperioder och auktoriserad personal. OpenAI förbehåller sig även rätten att hålla inne viss information av tekniska skäl, säkerhetsrisker eller för att skydda immateriella rättigheter.

Vanliga frågor

Relaterat

Kommentarer

Inga kommentarer ännu. Var först med att dela din åsikt!