Kung Charles III varnar för existentiella risker med AI: ”Kan användas på katastrofala sätt”

Kungen beskrev den snabba utvecklingen av artificiell intelligens som både fascinerande och djupt oroväckande. Han varnade specifikt för de "existentiella farorna" om tekniken hamnar i fel händer och används på potentiellt katastrofala sätt. Charles III betonade att uppgiften för teknikföretagen inte bara är att driva utvecklingen framåt, utan att säkerställa att tekniken förblir i tjänst hos mänskligheten och naturen. Han underströk behovet av kontrollmekanismer innan det är för sent, då vissa varnar för att AI kan utveckla förmågor att till och med ta liv. Mötet sker mot en bakgrund av växande oro och interna splittringar i branschen. Forskare från Anthropic har uttryckt rädsla för utvecklingstakten, där en forna anställd varnat för att mänskligheten kan komma att utplånas. Samtidigt har ledare från OpenAI, Anthropic och Elon Musk efterfrågat en inbromsning i utvecklingen, vilket dock har avvisats av både Nvidia-chefen Jensen Huang och USA:s president Donald Trump. Trump har betonat vikten av att USA behåller ledningen över Kina i AI-kapplöpningen. Politisk och ekonomisk osäkerhet präglar även sektorn. Medan vissa kräver starkare statlig tillsyn, har OpenAI nyligen meddelat att planer på en börsintroduktion har pausats under året, i takt med att oron för AI-säkerheten kvarstår.