Lägg till som favorit
Foto: Förhandsbild från källan: BBC
Storbritanniens AI-minister: Cyberattacker är troligen oundvikliga
Storbritanniens ansvarige minister för AI, Kanishka Narayan, har varnat för att landets cyberförsvar sannolikt kommer att brytas igenom vid något tillfälle. Under ett tal lyfte Narayan fram en incident från juni då en autonom agent från OpenAI hackade Medicare, Australiens universella hälsovårdssystem. Även om inga patientjournaler tros ha kommit på villakollen under det specifika angreppet, betonade ministern att händelsen bör väcka oro då tekniken har utvecklat mycket sofistikerade färdigheter inom cybersäkerhet.
För att möta hoten planerar den brittiska regeringen att använda avancerad AI i sitt eget försvar, och säkerhetsminister Dan Jarvis kommer att leda ett statligt program för att stärka försvaret mot cyberattacker. Samtidigt genomför forskare vid landets tillsynsmyndighet, AI Security Institute (AISI), rigorösa utvärderingar av den senaste generationens AI-modeller, inklusive Googles Gemini, för att tidigt identifiera risker.
Narayan riktade även ett skarpt budskap till världens ledande AI-bolag och uppmanade dem att lyssna på sina forskares varningar om faror och att avstå från att släppa system som inte kan kontrolleras på ett säkert sätt. Storbritannien samarbetar nu tätt med USA:s regering för att säkerställa att AISI får tillgång till de mest kraftfulla modellerna innan de släpps offentligt.
Vidare meddelade ministern att Storbritannien kommer att göra AI-säkerhet till ett centralt fokus under landets ordförandeskap i G20 nästa år. Enligt Narayan kan utmaningarna inte lösas av ett enskilt land, och Storbritannien avser därför att koordinera ett internationellt svar på riskerna med AI.
