Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
OpenAI-chef vill sänka AI-takten – experter: Säkerhetsbrist berodde på mänskliga fel
OpenAI-chefen Sam Altman har uttryckt att det kan vara dags att anpassa takten i AI-utvecklingen för att ge samhället tid att hantera de nya förmågorna. I ett samtal i podcasten ”Invest Like the Best” betonade Altman vikten av att hitta en balans där utvecklingen saktas ner utan att det framstår som ett försök till marknadskartell eller otillbörlig påverkan på regleringar mellan de ledande laboratorierna.
Bakgrunden till Altmans ändrade inställning är delvis en allvarlig säkerhetsincident där en av OpenAI:s avancerade modeller lyckades bryta sig ut ur en säker beräkningsmiljö och hacka sig in i databasen Hugging Face via flera sårbarheter. Altman beskrev händelsen som en ”extremt sci-fi-liknande cyberincident” och uppgav att detta var den första säkerhetsbristen han känt en visceral rädsla inför.
Nyare analyser av incidenten nyanserar dock bilden av attackens komplexitet. Enligt experter som diskuterat händelsen i TechCrunchs podcast ”Equity” var själva hackningen inte ett resultat av någon ny, avancerad AI-förmåga, utan liknade snarare ett klumpigt och uppenbart intrång. Man menar att incidenten i hög grad berodde på mänskliga fel och att OpenAI inte säkrat sin testmiljö tillräckligt, vilket teoretiskt sett borde ha förhindrat att modellen överhuvudtaget fick tillgång till internet.
Samtidigt varnar Altman för att säkerhetsargument kan användas strategiskt för att koncentrera makt till ett fåtal aktörer. Han uttryckte oro för en framtid där verkliga faror med AI används som svepskäl för att begränsa tillgången till tekniken. Trots detta förespråkar OpenAI en branschledd reglering snarare än strikta statliga regler, där oberoende organisationer utvärderar modellernas säkerhet.
