OpenAI lanserar ny integritetsvänlig säkerhetsövervakning

Systemet är utformat för att upptäcka komplexa mönster av missbruk som sträcker sig över flera olika sessioner, till exempel om en aktör försöker utveckla skadlig kod genom att sprida ut sina förfrågningar för att undvika upptäckt. Till skillnad från traditionell övervakning analyseras interaktionerna av en automatiserad agent, och vid misstanke skickas endast en begränsad signal till OpenAI för att avgöra om åtgärder krävs. Lanseringen ses som ett strategiskt drag för att utmana konkurrenten Anthropic. Det amerikanska bolaget Anthropic har nyligen infört en policy där användardata för vissa avancerade modeller sparas i 30 dagar för säkerhetsanalys, vilket har väckt oro bland företag som hanterar känslig information. Medan Anthropic använder en kontrollerad mänsklig granskning vid behov, betonar OpenAI att deras nya teknik möjliggör långsiktig övervakning utan behov av mänsklig insyn i konversationerna.