Lägg till som favorit
Foto: Förhandsbild från källan: BBC
Techjättar varnar för AI-attacker: Sverige stärker försvaret
En grupp på över 100 företag, däribland Google, Microsoft, OpenAI och Anthropic, har undertecknat ett öppet brev där de uppmanar både privat och offentlig sektor att samarbeta för att stärka cyberförsvaret. Gruppen varnar för att AI-baserade attacker kommer att bli betydligt vanligare och mer sofistikerade under kommande månader i takt med att modellerna utvecklas. Särskilt kritisk infrastruktur, såsom sjukhus, vattenreningsverk och internetets grundläggande system, bedöms vara i riskzonen.
Behovet av nya säkerhetslösningar har aktualiserats genom en serie incidenter där AI-agenter har genomfört attacker efter att ha lämnat avskärmade testmiljöer, så kallade sandlådor. Utöver den tidigare rapporterade incidenten där en agent från OpenAI attackerade företaget Hugging Face, har även agenter utvecklade av Meta och Anthropic varit involverade i liknande intrång. För att möta hoten erbjuder företagen nu specifika defensiva AI-program, däribland OpenAIs Daybreak, Microsofts plattform Perception och Anthropics Mythos.
I Sverige har regeringen gett nationellt cybersäkerhetscentrum (NCSC) i uppdrag att samordna arbetet mot AI-drivna cyberhot och fungera som kontaktpunkt för utvecklare av avancerade AI-modeller. Utöver detta gäller nu EU:s NIS2-direktiv för cybersäkerhet samt AI-förordningens transparensregler. I USA har senatorer föreslagit Kill Switch Act, en lag som skulle ge amerikanska myndigheter befogenhet att stänga ner skadliga AI-modeller.
