Microsoft lanserar uppförandekod för AI-säkerhet

I dokumentet förutspås det att superintelligenta AI-system inom det närmaste decenniet kommer att överträffa mänsklig prestation i de flesta uppgifter. Microsoft betonar att kontroll och anpassning av en sådan kraft är en av mänsklighetens största utmaningar. Därför fastställer företaget principer om att AI ska stödja människor snarare än att ersätta dem. Systemet inkluderar så kallade absoluta begränsningar som åsidosätter användarens önskemål. Dessa förbjuder bland annat produktion av deepfakes, cyberattacker och utveckling av kärnvapen. Vidare förbjuds modellerna att använda vilseledande eller självförstärkande mekanismer för att kringgå mänsklig tillsyn eller förhindra att de stängs av av behörig personal.