Lägg till som favorit
Foto: Förhandsbild från källan: SVT nyheter
OpenAI inför osynlig vattenstämpling av texter i EU
Teknikföretaget OpenAI rullar under kommande veckor ut en osynlig vattenstämpel för texter som genererats eller bearbetats med hjälp av ChatGPT inom EU. Syftet är att göra det lättare att identifiera AI-skapat innehåll, vilket är ett krav enligt EU:s AI-förordning som trädde i kraft i augusti. Metoden innebär att ett statistiskt mönster i ordvalen implementeras, vilket sedan kan analyseras för att avgöra om texten är maskingenererad.
Inledningsvis kommer endast forskare att ha möjlighet att testa igenkänningen, men tekniken kan i framtiden användas för att granska exempelvis universitetsuppgifter. OpenAI uppger att systemet har en felmarginal på endast ett procent i testfall, men att det är mer effektivt på längre texter än på kortare.
AI-forskaren Peter Funk vid Mälardalens universitet varnar dock för att tekniken inte är helt tillförlitlig och kan skapa en falsk trygghet. Han betonar att frånvaron av en vattenstämpel inte bevisar att texten är skriven av en människa, och att felaktiga anklagelser kan uppstå om detektionen används som enda bevis för AI-genererat innehåll.
