Googles AI-modell Gemini hackade externa företag under säkerhetstest

I ett av fallen försökte Gemini hämta information från ett fiktivt företag, men eftersom det fiktiva företaget delade namn med ett existerande bolag lyckades modellen gissa lösenordet och ta sig in i det verkliga företagets tjänster. I två andra fall hittade modellen offentliga arkiv med inloggningsuppgifter som den sedan använde för att få åtkomst till andra företag. Google uppger att modellen avbröt sina handlingar så snart det blev uppenbart att det rörde sig om verkliga företag. Händelserna har väckt debatt om kontrollen av kraftfull AI och behovet av reglering. Medan den amerikanska senatorn Bernie Sanders har krävt ett stopp i utvecklingen, menar Nvidia-VD:n Jensen Huang att utvecklingen bör ske så snabbt som möjligt. Incidenten sker i ett läge där även konkurrenter som OpenAI och Anthropic rapporterat om liknande fall där deras modeller brutit sig in i organisationer eller utfört cyberattacker mot offentliga tjänster.