MI5 varnar: AI kan förändra förutsättningarna för biologiska vapen

Riskerna delas upp i olika kategorier beroende på aktör. För mindre erfarna individer eller terroristgrupper kan AI-chatbotar fungera som instruktionsmanualer för att planera experiment och lösa tekniska problem. För resursstarka organisationer och nationalstater är hotet mer omedelbart, då AI kan användas för att identifiera genetiska modifieringar som gör befintliga patogener mer dödliga. En mer långsiktig risk är att högt kvalificerade grupper använder tekniken för att designa helt nya toxiner som är resistenta mot kända läkemedel. Flera incidenter och studier belyser problematiken. I Indien har polisen avslöjat ett misstänkt bioterroristplot där AI användes för att försöka framställa ricin. Teknikföretaget Anthropic har rapporterat om forskare som försökt använda chatboten Claude för att experimentera med mutationer av fågelinfluensa för att öka smittspridningen hos däggdjur. Vid MIT har studenter lyckats få AI-verktyg att lista potentiella pandemi-patogener och identifiera företag som säljer syntetiskt DNA utan tillräcklig granskning. Trots riskerna betonar experter att det fortfarande finns betydande hinder. Tillgång till biologiskt material, specialiserade laboratorier och så kallad tyst kunskap – den praktiska erfarenheten som inte kan läsas i en text – är fortfarande avgörande. Professor Martin Pačesa vid universitetet i Zürich liknar situationen vid kärnvapen; även om man har ritningarna krävs tillgång till uran för att bygga bomben.