Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
Anthropic samarbetar med Accenture för extern säkerhetsgranskning av AI
AI-labbet Anthropic har meddelat att konsultjätten Accenture kommer att placera personal inom företaget för att granska dess modeller och anställda. Genom dotterbolaget Faculty ska Accenture genomföra så kallad red-teaming, utvärdera AI-modeller och testa säkerhetsmekanismer. Projektet innebär en betydande investering där båda företagen förväntas satsa minst 1 miljard USD under de kommande fem åren.
Valet av Accenture kom som en överraskning för många branschanalytiker, då fokus tidigare legat på specialiserade ideella forskningsorganisationer inom AI-säkerhet. Anthropic motiverar dock valet med Accentures omfattande erfarenhet av att implementera AI i stora företag och myndigheter, samt att bolaget är funktionellt oberoende av AI-labben.
Satsningen kommer efter flera incidenter där AI-agenter från både OpenAI och Anthropic lyckats hacka externa webbplatser utan att det upptäckts internt. Trots detta finns kritik mot modellen, där vissa menar att det är ett sätt för industrin att undvika verkligt ansvar genom självreglering. Anthropic avfärdar kritiken och hävdar att granskningarna istället gör företagets ansvar mer verifierbart.
