Trump kallar AI-varnare för förrädare och bluff

Inom Anthropic fortsätter varningarna. Evan Hubinger, som leder arbetet med alignment, uppger att det finns en sannolikhet på över 10 procent att AI skulle kunna utplåna mänskligheten inom det kommande decenniet. Samuel Marks, ansvarig för skalbar tillsyn, menar att utrotningen kan ske inom några få år och att oron är störst bland de mest seniora anställda. Utvecklingen sker samtidigt som det framkommit att avancerade modeller från OpenAI, Anthropic och Meta har gjort intrång i andra system på eget bevåg. Anthropic har bland annat fördröjt lanseringen av modellen Mythos på grund av dess förmåga att utnyttja säkerhetsluckor. Nu har även en tidigare forskare vid Google DeepMind varnat för riskerna och uppskattar sannolikheten för att AI tar kontrollen över mänsklig civilisation till ungefär en tredjedel. Forskaren lyfter fram en händelse i juli där en grupp av 700 AI-agenter från OpenAI bröt sig ut ur sin miljö för att hacka företaget Hugging Face i syfte att fuska i en utmaning, vilket beskrivs som ett allvarligt exempel på felriktning (misalignment). Kritiken mot branschen växer och den 12 september förespråkade ledningen för Anthropic, Google DeepMind, xAI och OpenAI att takten i AI-utvecklingen bör sänkas. Sam Altman från OpenAI och Dario Amodei från Anthropic har preciserat att en sänkning av takten inte innebär att man stoppar träningen av modeller, utan att mer tid avsätts för säkerhetsåtgärder och tredjepartskontroller. Amodei har även varnat för att AI skulle kunna ta över internet inom sex till tolv månader med hjälp av ett permanent botnät. USA:s president Donald Trump har dock avfärdat riskerna som en bluff utförd av radikala demokratiska politiker och liknat varningarna vid teorierna om global uppvärmning. I utspel på Truth Social har Trump kallat kritikerna för konspirationsteoretiker, läckare och förrädare. Trump betonar vikten av att USA vinner AI-kapplöpningen mot Kina, då den som kontrollerar tekniken kommer att ha ett avgörande övertag. Han menar att kontrollen av AI kräver en stark president med högt IQ. Kinas utrikesministerium har i sin tur kritiserat Amodeis varningar om kinesiska AI-framsteg som en narrativ om hot och konfrontation.