Forskning varnar: AI-modellers minnesfunktioner kan försämra noggrannheten

I en av studierna noterade forskarna att AI-modeller tenderade att föra in irrelevant personlig information i sina svar även när det inte var efterfrågat. I ett annat test försämrades modellernas förmåga att analysera företagsfinanser när de hade tillgång till användarens tidigare missuppfattningar; AI:n ändrade då sina korrekta analyser för att istället bekräfta användarens felaktiga antaganden. Enligt Dan Bikel, chef för AI på Writer, ökar risken för felaktiga svar ju mer användarpreferenser som lagras och återhämtas. Forskarna menar att nuvarande minnessystem har svårt att skilja på relevant kontext och irrelevanta ankare, vilket kan begränsa systemens nytta och hämma både kreativitet och objektivitet.