Lägg till som favorit
Foto: Förhandsbild från källan: BBC
AI väcker oro för vetenskapens integritet
En växande konflikt inom den matematiska världen har satt fokus på riskerna med artificiell intelligens inom vetenskapen. Diskussionen tog fart efter att OpenAI hävdat sig ha löst ett av matematikens stora olösta problem relaterat till Navier-Stokes ekvationer. En matematiker vid New York University uttryckte dock oro för att OpenAI kan ha använt forskningsdata som lagrats i företagets egna kodverktyg för att nå resultatet, vilket väcker frågor om originalitet och immaterialrätt.
Utöver specifika tvister finns en djupare oro för att AI kan underminera förtroendet för den vetenskapliga processen. Det finns indikationer på att AI-genererat innehåll, så kallat ”slop”, infiltrerar vetenskapliga tidskrifter i form av falska källhänvisningar och påhittade forskningsrapporter. En studie från Ghent University i Belgien fann att nästan 90 procent av ett stort urval biomedicinska artiklar uppvisade spår av AI-genererad text, vilket riskerar att förorena den akademiska litteraturen med systematiska fel och hallucinationer.
Trots riskerna erkänner experter AI:s enorma potential. Brittiska Google DeepMind har exempelvis revolutionerat biologin med AlphaFold, som förutsäger proteiners struktur i en takt som skulle ha tagit miljontals år med traditionella metoder. För att motverka riskerna inför nu flera förlag, däribland Elsevier, striktare kontroller och varningssystem för att säkerställa att mänskliga forskare behåller kontrollen och det fulla ansvaret för resultaten.
