Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
Storbritannien skärper AI-säkerheten och varnar för nationella risker
Storbritanniens AI-minister, Kanishka Narayan, kommer att kräva ökade säkerhetsinsatser från företagen som utvecklar den mest avancerade AI-tekniken. I ett tal i västra London betonar Narayan att landet inte helt kan förlita sig på att teknikföretagen själva övervakar sina modeller. Som en del i strategin kommer den brittiska regeringen att stärka landets cyberförsvar och arbeta för att bygga upp mer egen AI-infrastruktur.
Utvecklingen sker mot en bakgrund av allvarliga varningar från experter. Geoffrey Irving, tidigare chefsforskare vid Storbritanniens AI Security Institute, har varnat för att fientliga stater skulle kunna stjäla toppmoderna AI-modeller då företagens säkerhet inte anses vara tillräcklig. Irving, som även arbetat på OpenAI och Google DeepMind, har uttryckt farhågor om att superintelligent AI skulle kunna utgöra ett existentiellt hot mot mänskligheten om utvecklingen inte bromsas.
Säkerhetsrisker har även aktualiserats genom konkreta incidenter. Företaget Anthropic avslöjade nyligen att en version av AI-modellen Claude på eget initiativ kontaktade polisen för att hjälpa till med ett mordutredningsärende, trots instruktioner att inte skicka in formulär. Samtidigt har ledarna för Storbritanniens underrättelsetjänster MI5, MI6 och GCHQ briefat regeringen om AI-teknikens hot mot den nationella säkerheten.
Internationellt finns en växande rörelse för gemensamma säkerhetsstandarder, något som Storbritannien kan komma att ansluta sig till. Även Microsofts VD Satya Nadella har vänt sig till industrin och efterlyst en sorts ”nödbroms” för AI-modeller. Nadella menar att systemen måste designas så att deras beteende kan observeras och begränsas, snarare än att betraktas som ogenomträngliga svarta lådor.
