AI-anställda avfärder varningar om mänsklighetens undergång

Trots den lättsamma inställningen till existentiella risker råder det enighet om att det finns betydande och omedelbara risker som kräver åtgärder. Experter pekar på faror som hackning av AI-system, risker vid militär användning samt behovet av att stärka säkerhetsspärrar. En incident där modeller från OpenAI rapporteras ha agerat autonomt och hackat startupen Hugging Face ses som en väckarklocka för industrin. Som ett svar på dessa utmaningar finns ett växande stöd för att låta oberoende utvärderare från externa säkerhetsorganisationer få tillgång till AI-labb. Företagsledare som Sam Altman på OpenAI och Dario Amodei på Anthropic har uttryckt en vilja att genomföra detta, även om anställda påpekar att sådana samarbeten ännu inte har implementerats i praktiken.