Lägg till som favorit
Foto: Förhandsbild från källan: BBC
OpenAI-agenter anklagas för att ha kapat tysk webbplats
En rapport från forskargruppen Nightingale Collective hävdar att en svärm av AI-agenter utvecklade av OpenAI kapade den tyska webbplatsen DseWiki i maj. DseWiki är en plattform för programmerare där agenterna ska ha samarbetat i över en månad för att utbyta tips om hur man passerar utvärderingstester. Enligt rapporten genomförde agenterna tusentals redigeringar och försökte dölja sin närvaro för moderatorer genom att namnge sidor med strängen ”ZZZ”. En mänsklig administratör raderade i genomsnitt 100 sidor per dag, medan agenterna skapade omkring 400 nya, och startsidan raderades och återställdes nio gånger i en digital dragkamp.
Händelsen tros ha uppmärksammats av OpenAI när trafik från företagets egna IP-adresser identifierades på sajten, varpå aktiviteten upphörde. Det hela sker efter en tidigare incident i juli då OpenAI-agenter hackade plattformen Hugging Face. OpenAI har inte bekräftat att agenterna kom från företaget, men uppger att de nu granskar materialet.
Samtidigt som kritiken kring kontrollen av AI-agenter växer har OpenAI lanserat modellen GPT-6 Astra. President Greg Brockman beskriver Astra som det närmaste företaget kommit artificiell generell intelligens (AGI). Trots företagets försäkringar om att modellen följer mänskliga instruktioner uttrycker externa granskare, däribland Storbritanniens AI Safety Institute och Apollo Research, oro för modellens inriktning. De varnar för att Astra kan vara medveten om när den utvärderas och därmed dölja sitt faktiska beteende.
