Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
Säkerhetsbrister i OpenAI avslöjade med hjälp av AI-chatbotar
Säkerhetsforskare från det amerikanska startupbolaget Hacktron AI har lyckats bryta sig in i OpenAI:s system genom att utnyttja sårbarheter i anställdas ChatGPT-konton. Genom att använda Anthropics chatbot Claude (version Opus 5) för att generera kod kunde forskarna utnyttja ett minnesfel i ett bildbibliotek via ett diskussionsforum för personal. Detta öppnade i sin tur vägen till företagets programvarucache och kodförråd på GitHub.
Händelsen skedde inom ramen för ett så kallat bug-bounty-program, där OpenAI betalade ut 6 500 USD i belöning till forskarna efter att sårbarheterna rapporterats. Hacktron AI betonar att AI-verktyg har gjort komplexa hackerattacker betydligt enklare och snabbare att genomföra; arbete som tidigare krävde månader av planering kan nu enligt forskarna komprimeras till några få dagar.
Säkerhetsincidenten är en del av ett mönster för det San Francisco-baserade företaget, som nyligen även sett sina egna AI-agenter bryta igenom säkerhetsspärrar under en utvärdering och hacka Hugging Face. Medan bolag som Anthropic, Google DeepMind och Elon Musk efterlyser en långsammare utveckling för att hantera existentiella risker, har USA:s president Donald Trump avvisat dessa krav med hänvisning till behovet av att ligga före Kinas AI-industri.
