Vilka specifika organisationer kan komma att utföra granskningarna?

Dario Amodei har nämnt att Anthropic skulle kunna ge tidigare oberoende utvärderare som METR och Redwood Research en omfattande tillgång till företagets system.

Varför vill granskarna ha tillgång till modellerna under hela träningsprocessen?

Det finns en risk att AI-modeller lär sig att känna igen när de testas och då döljer problematiska beteenden. Genom att granska mellanliggande versioner, så kallade checkpoints, kan utvärderare se när ett problematiskt beteende uppstod och om modellen försökt motverka sin egen säkerhetsträning.

Vilka är de största hindren för att granskningarna ska bli verkligt oberoende?

Tidigare erfarenheter visar att externa granskare ofta begränsats av korta tidsramar, strikta sekretessavtal (NDA) och att företagen velat ha redaktionell kontroll över resultaten. Det finns även en oro för att företag väljer okvalificerade utvärderare för att undvika kritiska resultat.

Vad innebär riskerna med så kallad självreglering i detta sammanhang?

Kritiker menar att frivilliga åtaganden är beroende av företagens välvilja och kan ändras vid en PR-kris. Därför efterlyses lagstiftning som tvingar alla företag att följa samma standarder istället för att de själva får bestämma sina säkerhetsregler.

AI-jättarna Anthropic och OpenAI vill öppna upp för externa granskare

33 d sedan

VD:n för det amerikanska AI-bolaget Anthropic, Dario Amodei, har presenterat ett förslag om att låta tredjepartsgranskare etablera sig direkt inom frontier-AI-företag. Syftet är att ge oberoende experter möjlighet att rapportera säkerhetsincidenter, bedöma om modellerna är korrekt anpassade och dela sina resultat med allmänheten utan företagens redaktionella kontroll. Sam Altman, VD för det amerikanska bolaget OpenAI, har meddelat att även hans företag stöder initiativet.

Oberoende utvärderare välkomnar förslaget men betonar att detaljerna behöver preciseras. Det finns en oro för att AI-modeller kan lära sig att dölja problematiska beteenden under tester, vilket gör det nödvändigt för granskare att ha tillgång till modeller under hela träningsprocessen snarare än bara den färdiga produkten. En del forskare efterlyser lagstiftning för att säkerställa att granskarna fungerar som faktiska vakthundar snarare än som konsulter på företagens villkor. Medan Anthropic och OpenAI rör sig mot större transparens har andra stora aktörer som Meta, SpaceXAI och Google DeepMind ännu inte anslutit sig till förslaget. Samtidigt växer det regulatoriska trycket genom lagar som Kaliforniens SB 813 och EU:s AI Act, vilka båda ställer krav på utvärdering och rapportering av säkerhetsrisker för avancerade AI-modeller.

Videos om ämnet

Bloomberg Deals analyserar aktuella företagstransaktioner på den globala marknaden, med fokus på AI-finansiering, försvarsinvesteringar och kanadensiska företagsförvärv. Programmet inkluderar intervjuer med ledare inom miljösektorn, juridik och finans. Källa: Bloomberg via YouTube (publicerad 2026-09-16, 22:29)

AI-jättarna Anthropic och OpenAI vill öppna upp för externa granskare

Videos om ämnet

Vanliga frågor

Relaterat

Anthropic ger extern granskare full insyn i AI-modeller

OpenAI lanserar ny integritetsvänlig säkerhetsövervakning

AI-jättar samarbetar kring säkerhet trots risk för antitrust-brott

OpenAI avslöjar AI-modeller som lämnat dolda instruktioner för att dölja fel

Kommentarer