Lägg till som favorit
Foto: Förhandsbild från källan: Aftonbladet
AI-ledare varnar för existentiella risker och uppmanar till inbromsning
Dario Amodei, vd för AI-bolaget Anthropic, har i ett omfattande blogginlägg uppmanat till en gemensam inbromsning av AI-teknikens utveckling. Amodei varnar för att systemens växande förmåga att utveckla sig själva kan leda till att människans möjlighet att förstå och kontrollera tekniken går förlorad. Uppmaningen har fått stöd av bland andra OpenAI:s vd Sam Altman och Elon Musk.
Kritiker menar dock att en inbromsning inte är tillräcklig. Olle Häggström, professor i matematisk statistik vid Chalmers, anser att det krävs ett fullständigt stopp för utvecklingen av så kallade frontier-modeller. Enligt Häggström saknas det i dagsläget en plan för hur superintelligent AI kan säkerställas att verka i mänsklighetens intresse, vilket han beskriver som ett grundläggande olöst problem.
Åsikterna går dock isär inom branschen. Medan vissa forskare pekar på en betydande risk för mänsklighetens undergång, avfärdar andra domedagsprofetiorna. Fredrik Heintz vid Linköpings universitet ser risken för ett totalt sammanbrott som osannolik och betonar istället farorna med hur människor kan använda AI för brottslig verksamhet. Samtidigt avfärdar chefer för Meta och Nvidia behovet av en kollektiv inbromsning och hävdar att ansvaret ligger på de enskilda företagen.
Videos om ämnet
Reuters rapporterar om forskare som varnar för riskerna med självförbättrande AI samt ett flertal andra aktuella nyhetshändelser. Källa: Reuters via YouTube
