Microsofts ledning kräver säkerhetsregler och ”nödbromsar” för AI

Bland Smiths förslag finns krav på juridiska skyldigheter att rapportera incidenter och informera offer om systemen brister. Han förespråkar även införandet av så kallade ”nödbromsar” (kill switches) för att kunna stoppa AI som kommer ur kontroll, samt att oberoende utvärderare ska godkänna produkter innan de släpps på marknaden. Även Microsofts vd Satya Nadella har efterlyst nödbromsar för AI-modeller. Nadella menar att superintelligens inte kan behandlas som en serie slutna svarta lådor där man bara accepterar eller förkastar rekommendationer, utan att det måste byggas system där beteenden kan observeras och begränsningar testas. Dessa åsikter står i kontrast till USA:s president Donald Trump, som kallat AI-varningarna för en ”bluff” och förespråkar självreglering för att amerikanska företag inte ska förlora marknadsandelar till kinesiska konkurrenter. Smith menar att frivilliga löften och självreglering inte är tillräckligt, då det främst är de mindre ansvarsfulla företagen som utgör en risk. Säkerhetsdebatten har även nått Vita huset, där ledare för företag som OpenAI, Anthropic, Nvidia, SpaceX, Meta och Google nyligen undertecknat ett moraliskt bindande dokument under Trumps ledning. Enligt uppgifter utbröt gräl under mötet om teknikens farlighet, där särskilt Anthropic-chefen Dario Amodei varnat för riskerna med allt kraftfullare AI. Vidare lyfter Smith fram Storbritannien som den främsta nationen för att driva fram globala standarder, med hänvisning till landets AI Security Institute (AISI). Han menar att USA:s regering sannolikt skulle vara mer positiv till brittiskt ledda regler än till EU:s regelverk. Trots att president Trump rapporterats ha bett företag som Anthropic och OpenAI att undanhålla nya modeller från brittiska testare, bekräftade AISI nyligen att man fortfarande har tillgång till och testar de senaste modellerna.