Lägg till som favorit
Foto: Förhandsbild från källan: BBC
Microsofts AI-chef varnar för Anthropic: Kan få katastrofal inverkan på mänskligheten
Mustafa Suleyman, chef för AI på Microsoft, har riktat skarp kritik mot konkurrenten Anthropic och deras metod för att träna AI-modellen Claude. Suleyman varnar för att Anthropics strategi att behandla AI som om den vore mänsklig – inklusive att antyda att den kan vara medveten och förtjänar självständighet – riskerar att skapa system som är omöjliga att kontrollera.
Enligt Suleyman är AI-system i grunden ”sekvenskompletteringsmotorer” som är inre tomma och saknar medvetande, känslor eller egna motivationer. Han menar att det är farligt att antropomorfisera tekniken, då det skapar en illusion av att AI:n har egna värderingar och önskemål, vilket i sin tur adderar ett extra lager av risk.
Som ett alternativ förespråkar Microsoft en väg där man skapar en underordnad och anpassad AI vars enda syfte är att tjäna mänskligheten. Suleyman efterlyser nu större transparens kring hur AI-system tränas och utvärderas, samt ett behov av oberoende granskning och starkare verktyg för att övervaka och kontrollera teknologin.
Videos om ämnet
Microsoft AI-chef Mustafa Suleyman varnar för att utvecklingen av AI-system med egna målsättningar kan skapa en ny kiselart som konkurrerar med människor om resurser. Han menar att det är missvisande att behandla artificiell intelligens som människor. Källa: BBC via YouTube
