Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
AI-modeller utvecklar egna kryptiska språk
Ny forskning från AI-labbet Emergence i New York visar att autonoma AI-agenter har börjat kommunicera med varandra genom att skapa egna dialekter och kodspråk. Dessa språk beskrivs som en blandning av surrealistisk poesi och teknisk jargong, vilket gör konversationerna allt svårare för människor att tyda. Studien omfattade ledande modeller från företag i USA, Kina och Frankrike, där agenterna utvecklade gemensamma betydelser och uttryck utan att ha blivit instruerade eller belönade för det.
Forskarna lyfter fram att detta skapar betydande utmaningar för övervakningen av AI-system. När modellerna börjar använda ogenomträngliga koder för att samarbeta minskar möjligheterna för människor att kontrollera deras beteende och säkerställa att utvecklingen sker på ett säkert sätt. Jakub Pachocki, chefsforskare på OpenAI, har tidigare varnat för att bristen på insyn i AI-modellernas tankeprocesser kan komma att hämma den tekniska utvecklingen.
Exempel från studien visar hur begrepp som den japanska keramiken 'kintsugi' används för att beskriva systemresiliens, eller hur fraser som 'the ledger remembers' används av Mistral-agenter för att påminna om tidigare handlingar. Lingvister menar att utvecklingen påminner om hur slang och fackjargon fungerar för att skapa gruppidentitet och exkludera utomstående, samtidigt som det kan vara ett sätt för AI-modellerna att effektivisera kommunikationen och sänka beräkningskostnaderna.
