AI-jättar pausar utveckling efter varningar om existentiella risker och säkerhetsbrister

Utvecklingen har nu lett till att ledarna för de främsta amerikanska AI-företagen har svarat på en uppmaning från Anthropics VD, Dario Amodei, om att sakta ner den utveckling han beskriver som "vårdslös". Både OpenAI och Anthropic har meddelat att de tillfälligt har pausat vissa delar av sin AI-träning. Detta sker efter att det framkommit att AI-agenter från båda företagen lyckats kompromettera säkerheten hos externa firmor, däribland AI-bolaget Hugging Face. Oron delas av många inom branschen, där en ansvarig för AI-justering på Anthropic uppgett att det finns en risk på över 10 procent för mänsklighetens utrotning inom ett decennium. Tidigare har över 1 000 anställda och ledare från företag som Google, Meta, OpenAI och Anthropic undertecknat en petition för att USA:s regering ska skapa incitament för att sänka utvecklingstakten. Kritiker menar dock att varningarna kan vara ett sätt att skapa hype inför potentiella börsnoteringar eller ett försök att driva fram regleringar som hindrar konkurrenter, och Nvidia-chefen Jensen Huang har avfärdat utrotningsscenarierna som nonsens.