Vilka specifika GPU:er har Kog använt i sina demonstrationer?

Kog har i sina demonstrationer använt datacenter-GPU:er från både AMD och NVIDIA, specifikt modellerna AMD MI300X och NVIDIA H200.

Hur har Kog lyckats uppnå sina tidigare hastighetsresultat?

I en tidigare demonstration uppnådde bolaget 3 000 tokens per sekund genom att använda en specialbyggd liten modell med cirka 2 miljarder parametrar, kallad Laneformer 2B.

Vilka är utmaningarna med Kogs metod för mjukvaruoptimering?

Metodiken är mycket tidskrävande och kräver ett omfattande arbete med varje ny GPU-modell, vilket kan ta flera veckor eller månader av forskning och analys av hårdvaran.

Hur planerar Kog att skala upp sitt stöd för fler chip i framtiden?

På lång sikt hoppas bolaget kunna integrera sin metodik i agentbaserade pipelines för att effektivisera och utöka stödet för fler modeller och chip.

Franska Kog utmanar AI-hårdvara med mjukvaruoptimering

21 d sedan

Det franska startupbolaget Kog satsar på att maximera prestandan i konventionella GPU:er för att accelerera AI-inferens. Medan många i branschen fokuserar på specialbyggda chip, hävdar Kog att det finns betydande outnyttjad kraft i befintlig hårdvara från leverantörer som NVIDIA och AMD. Genom mjukvaruoptimering siktar bolaget på att leverera upp till 30 gånger snabbare inferens för stora språkmodeller (LLM).

VD:n Gaël Delalleau, som har bakgrund inom fasta tillståndets fysik och cybersäkerhet, använder en metodik inspirerad av reverse engineering för att låsa upp hårdvarans fulla potential. Bolaget har redan sett ett stort intresse från företag som behöver snabbare AI-arbetsflöden, särskilt inom mjukvaruutveckling och applikationsgenerering. Kog stöds av flera franska institutioner, däribland Bpifrance och programmet French Tech 2030, vilket kan bidra till ökad europeisk teknisk suveränitet. Bolaget planerar nu att demonstrera en tiofaldig hastighetsökning för en större modell i september, vilket förväntas ligga till grund för deras kommande Series A-finansieringsrunda.

Så har nyheten utvecklats

2026-08-14

2026-08-15

Franska Kog utmanar AI-hårdvara med mjukvaruoptimering

Så har nyheten utvecklats

Vanliga frågor

Relaterat

Franskt AI-bolag utmanar marknadsdominans med ny mjukvara för chip-optimering

OpenAI lanserar egen processor för AI-inferens

Google utvecklar ny AI-hårdvara för att säkra teknologiskt försprång

OpenAI presenterar Jalapeño: Ny hårdvara med banbrytande prestanda

Kommentarer