USA:s president och AI-ledare enas om frivilliga säkerhetsregler trots interna konflikter

Enligt avtalet ska företag som tränar och distribuerar avancerade modeller säkerställa att tekniken fungerar som avsett och att problem identifieras och åtgärdas skyndsamt. Detta ska ske genom bland annat interna kontroller och tillsyn från en oberoende styrelse. Eftersom åtagandet är frivilligt medför det inga rättsliga eller regulatoriska konsekvenser om det skulle brytas. Bakom kulisserna på mötet i Vita huset uppstod dock starka motsättningar. Enligt rapporter från The Wall Street Journal utspelade sig ett gräl mellan Anthropic-chefen Dario Amodei, som varnat för stora risker med kraftfull AI, och ledare som Jensen Huang och Mark Zuckerberg. Kritiker till Amodei menar att hans fokus på säkerhet riskerar att bromsa innovationen i den globala teknikkapplöpningen. President Trump avfärdade kraven på tvingande lagstiftning och betonade istället att den moraliskt bindande överenskommelsen ska hantera riskerna utan att skada USA:s konkurrenskraft. Samtidigt har presidenten genom en exekutiv order beordrat att alla amerikanska myndigheter ska byta terminologi från ”artificiell intelligens” till ”superintelligens” eller ”SI”. Dokumentet har även uppmärksammats för ett stavfel där USA benämns som ”Unites States”.