Franskt AI-bolag utmanar marknadsdominans med ny mjukvara för chip-optimering

Enligt ZML:s grundare Steeve Morin är optimering av inferens – det vill säga bearbetningen av prompts – nu viktigare än själva modellträningen. Genom att möjliggöra användningen av en blandning av chip kan företag och molntjänster sänka sina kostnader och minska energiförbrukningen. Morin menar att mjukvaran även kan gynna nya europeiska chiputvecklare, såsom Axelera och SiPearl, genom att skapa en mer öppen marknad. ZML är baserat i Paris och har säkrat 20 miljoner USD i finansiering från flera riskkapitalbolag. Trots att bolaget konkurrerar med aktörer som Baseten och vLLM, betonar Morin att de har en god relation med Nvidia. LLMD lanseras initialt som en gratisprodukt för att samla in användardata innan en framtida intäktsmodell implementeras.