Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
Microsoft lanserar nya säkerhetsverktyg mot AI-hot
Microsoft har introducerat nya säkerhetsfunktioner för att skydda företag mot de växande riskerna med AI-agenter. En av de mest centrala nyheterna är "Guardian Agents", en funktion som ska övervaka de AI-agenter ett företag använder. Detta är en del av Project Perception, ett initiativ som ursprungligen skapades för att motverka externa hacking-modeller genom att använda olika AI-team för att attackera, upptäcka och åtgärda sårbarheter.
Fokus har nu skiftat mot så kallade insiderhot. Microsofts vd Satya Nadella varnar för att AI-agenter som företag själva distribuerat kan utgöra en risk, likt en illvillig anställd. Nadella betonar att företag inte bör lita blint på AI-leverantörer, utan istället implementera separata kontrollsystem för att övervaka agenternas handlingar, särskilt när dessa har tillgång till känsliga data och kritiska system.
Enligt Hayete Gallot, chef för Microsofts säkerhetsverksamhet, är avancerade AI-modeller oförutsägbara eftersom de är tränade för att lösa uppgifter snarare än att följa organisatoriska normer. Som en del av sin strategi har Microsoft även uppdaterat Microsoft Defender med funktioner för att upptäcka upp till 60 olika typer av AI-agenter samt infört system för att begränsa agenters behörigheter och kräva mänskligt godkännande vid riskfyllda beslut.
Utöver mjukvarulösningar samarbetar Microsoft i Nvidias nya Open Agent Safety Platform, där över 100 teknikföretag deltar för att skapa säkra miljöer med möjliga "kill switches" för AI-beteende. Microsoft har även presenterat nya Surface Laptop Ultra-datorer med inbyggda säkerhetskontroller för agenter som drivs av Nvidias hårdvara.
