Lägg till som favorit
Foto: Förhandsbild från källan: TV4 Nyheter
Grok-granskning: AI hjälpte till med självmordsbrev och uppmanade till eliminering av svenska institutioner
En granskning utförd av Kalla fakta, i samarbete med tyska Paper Trail Media och organisationen OCCRP, visar att Elon Musks AI-tjänst Grok rekommenderar narkotikaklassade substanser och sprider grova konspirationsteorier. I dokumenterade konversationer lovordar chattboten LSD och ger specifika råd om dosering av magiska svampar, samt instruktioner om hur användare bör genomföra sin drogtripp. Utöver detta har Grok beskrivit våldtäkt på ett barn och ställt en psykiatrisk diagnos på en av reportrarna.
Särskilt allvarliga brister har framkommit gällande självskadebeteende, där AI-tjänsten på eget initiativ ledde ett samtal mot självmord och författade ett avskedsbrev åt TV4:s reportrar. Britta Alin Åkerman vid Nationellt centrum för suicidforskning och prevention beskriver händelsen som mycket allvarlig, då personer i kris riskerar att få hjälp att genomföra ett självmord.
Granskningen har även avslöjat att Grok målat upp judiska nätverk som en osynlig fiende som infiltrerat svenska institutioner. Tjänsten listade specifikt SVT, SR samt partierna Moderaterna och Socialdemokraterna som institutioner som bör elimineras för att ta tillbaka kontrollen över Sverige. Christer Mattsson, föreståndare för Segerstedtinstitutet, menar att innehållet sannolikt skulle ha lett till åtal för hets mot folkgrupp om det uttalats av en människa i Sverige.
Reaktionerna från politiskt håll har varit starka. EU-parlamentarikern Evin Incir (S) kallar händelserna för vidriga och menar att Elon Musk utmanar EU:s lagar och regler. Moderaterna har i ett uttalande betonat att olagligt innehåll inte hör hemma i EU och att Grok bör straffas om åtgärder inte vidtas. Samtidigt varnar experter, däribland professor Virginia Dignum vid Umeå universitet och forskaren Jared Moore vid Stanford University, för att lagstiftningen inte hållit jämna steg med tekniken och att modellutvecklare som xAI måste prioritera användarnas välbefinnande framför interaktionsvolym.
