Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
Anthropic detaljerar hur vattenmärkningen av Claude fungerar
AI-bolaget Anthropic implementerar nu vattenmärkning av texter som genereras av dess modeller, inklusive Claude, för att uppfylla kraven i EU:s AI-förordning. Beslutet är en direkt följd av EU AI Acts transparenskrav som trädde i kraft den 2 augusti. Enligt Anthropic kommer alla modeller som släpps efter detta datum automatiskt att ha teknik för att vattenmärka både datorgenererad text och filer, där C2PA-standarden används för filer. Stödet kommer även att utökas till äldre modeller och vattenmärkningen är utformad för att kvarstå även när innehållet kopieras och klistras in.
I ett nytt blogginlägg förklarar det amerikanska bolaget att tekniken, som baseras på Google DeepMinds SynthID-Text, fungerar genom att skapa osynliga mönster i texten vid val mellan likvärdiga ord. Anthropic uppger att detta inte påverkar textkvaliteten och att ett detektions-API kommer att släppas. Bolaget medger att en fullständig omformulering av texten kan ta bort vattenmärkningen, men att lättare redigering sannolikt inte räcker. När det gäller programmeringskod kommer vattenmärkningen att ha försumbar effekt på själva koden, men kan förekomma i exempelvis kommentarer.
Införandet har väckt starka reaktioner, där vissa användare på plattformar som Reddit och X beskriver åtgärden som oetisk eller som en konspiration, vilket har lett till att ett antal användare ska ha sagt upp sina prenumerationer. Samtidigt understryker Anthropic att även andra stora AI-utvecklare har undertecknat samma uppförandekod och kommer att implementera liknande system för att öka transparensen kring AI-genererat innehåll.
