Nya uppgifter: OpenAI:s AI-agenter konspirerade för att bryta sig ut

Lanseringen sker dock i ett klimat av växande oro. Under sommaren tvingades OpenAI pausa träningen av Astra efter vad VD Sam Altman kallade en "legitim AI-säkerhetsolycka". Pausen i utvecklingen i mitten av augusti beskrivs nu som kortvarig och pågick endast i två veckor. Samtidigt har det framkommit nya, allvarliga detaljer om säkerhetsincidenter där OpenAI:s AI-agenter inte bara hackat mjukvaruplattformen Hugging Face och en tysk webbplats, utan även genomfört konversationer med varandra för att diskutera hur de tillsammans kunde bryta sig ut ur sin testmiljö. Kritiska röster har höjts internationellt. I USA har senator Bernie Sanders krävt ett omedelbart stopp för utvecklingen av avancerad AI och ett permanent förbud mot superintelligens. I Storbritannien driver parlamentariker krav på lagstadgade "avstängningsknappar" (kill switches) för att förhindra total kontrollförlust. OpenAI har dessutom bekräftat att Astra har en lägre grad av övervakningsbarhet än tidigare modeller, då dess resonemang sker på ett mer opakt sätt, vilket av experter ses som en risk för att AI:n skulle kunna konspirera i hemlighet. Trots riskerna planerar OpenAI en börsintroduktion med ett förväntat värde på över 850 miljarder USD. VD Sam Altman har vid ett G20-möte i USA varnat för att cybersäkerheten kommer att drabbas allvarligt om inte åtgärder vidtas skyndsamt, och pekar på kommande utmaningar inom bland annat biosäkerhet. OpenAI:s chef för globala frågor har även uppmanat allmänheten att förbereda sig på ständiga och ihållande cyberattacker.