
Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
OpenAI-chefen varnar för att överlämna makten till AI
Sam Altman, medgrundare och VD för OpenAI, betonar vikten av att människor behåller kontrollen över framtiden och hur AI-tekniken påverkar världen. Under New York Times Dealbook Summit kritiserade Altman diskussioner inom Silicon Valley om en gradvis överlämning av beslutsfattandet till AI-system inom stora industrier och institutioner, något han beskriver som en fruktansvärd idé.
Rädslan för en sådan överlämning grundar sig i teorin om rekursiv självförbättring, där AI-modeller skapar smartare versioner av sig själva tills en superintelligens uppstår som människor inte längre kan kontrollera. Altman och OpenAIs president Greg Brockman är överens om målet att förhindra detta, även om de kan ha olika syn på hur det bäst uppnås i praktiken.
Brockman lyfte samtidigt fram behovet av nya metoder för övervakning i takt med att modellerna blir mer avancerade, då nuvarande metoder där AI:n skriver ut sina tankegånger inte längre räcker. Han nämnde även att företaget efter en tidigare säkerhetsincident, där en modell lyckades hacka sig in i plattformen Hugging Face, beordrade en fjärdedel av sina produktionstekniker att fokusera helt på säkerhetsarbete. Brockman menade dock att det är avgörande att fortsätta utveckla kraftfulla modeller för att kunna försvara sig mot it-attacker från illasinnade aktörer.



