Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
AI-pionjärer varnar för "intelligensexplosion": Uppmanar regeringar till snabba åtgärder
Nobelpristagaren Geoffrey Hinton och den kanadensiske datavetaren Yoshua Bengio, båda betraktade som fäder till den moderna AI-tekniken, har tillsammans med över 20 experter publicerat en rapport som varnar för en förestående ”intelligensexplosion”. Författarna uttrycker djup oro för en acceleration av AI-utvecklingen där framsteg som normalt skulle ta år istället sker på månader, vilket kan leda till att människan förlorar kontrollen över systemen.
Rapporten fokuserar särskilt på risken med så kallad rekursiv självförbättring, där AI-system kan förbättra sin egen kod utan mänsklig inblandning. Enligt rapporten kan en enda utvecklare i framtiden styra en arbetsstyrka motsvarande miljontals toppforskare om AI når expertnivå inom forskning och utveckling. Det varnas för att detta kan undergräva maktbalansen mellan stater och företag samt möjliggöra biologiska och cybernetiska hot som utvecklas snabbare än försvarsmekanismerna.
För att motverka riskerna uppmanar experterna regeringar att prioritera transparens genom oberoende granskare i AI-bolag samt att införa begränsningar för hur snabbt en AI får förbättras. De föreslår även att datacenter ska kunna pausa projekt och att nödlösningar ska skapas för olika scenarier. Trots att nuvarande system fortfarande uppvisar brister, bedömer författarna att full automation av vissa forskningsprojekt kan vara möjlig redan till 2028.
Videos om ämnet
Donald Trump har mött teknikledare i Vita huset för att diskutera artificiell intelligens, där han anser att företagen själva bör sköta tillsynen. Diskussionen belyser Trump-administrationens motstånd mot krav på utökad reglering och säkerhetsåtgärder. Källa: NBC News via YouTube
