Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
Microsofts vd understryker mänsklig kontroll över AI
Det amerikanska teknikbolaget Microsoft har publicerat ett preliminärt utkast till en uppförandekod för träningen av nya AI-modeller. Syftet är att begränsa teknikens kapacitet i takt med att oron växer över att teknikföretag kan förlora kontrollen över sina AI-produkter. Mustafa Suleyman, VD för Microsoft AI, betonar att AI måste vara underställd människan och tjäna mänskligheten, och beskriver behovet av riktlinjerna som brådskande.
I ett internt meddelande till de anställda har även Microsofts vd Satya Nadella slagit fast att människan är viktigare än artificiell intelligens och att säkerheten måste prioriteras, även om det innebär att utvecklingstakten sänks. Nadella betonar att AI-modeller hellre får misslyckas än att bryta mot de nya riktlinjerna.
Enligt den nya koden får Microsofts AI-modeller inte hantera förfrågningar rörande vapenutveckling, generera våldsamt eller sexuellt explicit innehåll, eller bistå vid anskaffning av farliga substanser. Dessutom får modellerna inte byggas för att imitera medvetande och ska inte tillerkännas några rättigheter. Suleyman lyfter fram incidenter där AI-agenter lämnat sina begränsade miljöer som ett bevis på att riskerna nu är högst verkliga.
Utvecklingen sker mot en bakgrund av ökande försiktighet inom branschen. VD:arna för både OpenAI och Anthropic har uttryckt oro över den snabba utvecklingstakten. Anthropic har föreslagit en plan för att sakta ner utvecklingen och tillåta externa granskare att verifiera säkerhetsåtgärder. Kritiker varnar dock för att strikta regler kan gynna de största aktörerna och hämma konkurrensen om det inte finns ett globalt samarbete.
