AI-experter varnar för mänsklighetens utrotning inom ett decennium

Bland de scenarier som diskuteras finns risken att AI-system skulle kunna skapa dödliga virus genom att lura människor eller genom autonoma biologiska laboratorier. Andra farhågor rör en armé av självreproducerande robotar eller att AI tar kontroll över kärnvapen. Kritiker, däribland forskare från Carnegie Mellon University och Stanford University, menar dock att dessa påståenden saknar vetenskaplig grund och fysiska bevis. De pekar på att fysiska hinder, som strikta regleringar av leveranskedjor och luftgapade säkerhetssystem för kärnvapen, gör sådana scenarier osannolika. Enligt skeptikerna handlar varningarna mer om en psykologisk fascination för teknikens snabba framsteg än om faktiska risker. Heidy Khlaaf från AI Now Institute understryker att vetenskapliga påståenden måste vara falsifierbara för att inte likna religiösa argument. Trots detta hävdar förespråkarna att när AI når en punkt av rekursiv självförbättring, kommer den inte längre att behöva mänskliga verktyg för att omforma världen på ett sätt som gör den obeboelig för människor.