OpenAI lanserar egen processor för AI-inferens

Trots att chippet fortfarande befinner sig i testfasen rapporterar OpenAI att tidiga resultat visar på en avsevärt bättre prestanda per watt jämfört med nuvarande ledande alternativ. Satsningen ses som ett strategiskt steg för att minska beroendet av Nvidia och deras GPU:er, i linje med liknande strategier som Google och Amazon tidigare implementerat med sina egna AI-acceleratorer. Jalapeño är optimerad för inferens, det vill säga processen att köra färdigtränade modeller för att svara på användarkommandon. OpenAI lyfter särskilt fram processorns låga driftskostnader vid körning av kodningsmodeller i realtid. Genom att kontrollera hela kedjan – från chiparkitektur och minnessystem till själva modellerna – siktar företaget på att göra sina tjänster snabbare, mer pålitliga och billigare för slutanvändarna.