Framstående AI-forskare debatterar öppen källkod och risker

Andrew Ng uttryckte stor oro över att det skulle skapas ”grindvakter” inom industrin, vilket skulle kunna hämma innovationen. Han betonade särskilt den geopolitiska aspekten och varnade för att USA riskerar att tappa mark mot Kina om amerikanska företag och utvecklare begränsas av rädsla och lobbying. Ng menar att AI utgör en betydande form av mjuk makt, och att kostnadseffektiva, öppna modeller från Kina annars kan komma att dominera i utvecklingsländer och därmed påverka globala uppfattningar om demokrati och mänskliga rättigheter. Geoffrey Hinton var mer skeptisk till så kallade ”open-weight”-modeller, där parametrar från färdigtränade modeller släpps fritt. Han menade att detta gör det betydligt enklare och billigare för illasinnade aktörer att anpassa kraftfulla modeller för exempelvis cyberattacker. Samtidigt konstaterade Hinton att kampen om att stoppa dessa modeller redan är förlorad och att de nu är en permanent del av landskapet. Fei-Fei Li efterlyste mer nyans i debatten och menade att valet mellan total öppenhet och fullständig slutenhet är en falsk dikotomi. Genom att dra paralleller till kärnfysik och Human Genome Project argumenterade hon för en hybridmodell där vissa delar av ekosystemet är öppna för vetenskaplig upptäckt och utbildning, medan andra delar kan förbli slutna för att möjliggöra affärsmodeller. Trots sina olika perspektiv enades forskarna om att regleringar är nödvändiga för att styra AI-utvecklingen i en positiv riktning och att ansvaret inte kan lämnas enbart till individer som Elon Musk eller Mark Zuckerberg.