Trenden med 'tokenmaxxing' vänder: Företag ser stigande kostnader utan produktivitetsökning

Kritiken har växt i takt med att räkningarna har hopats. Palantirs vd Alex Karp har beskrivit situationen som att amerikanska företag är rasande över att betala stora summor för tokens som inte skapar värde, samtidigt som deras immateriella rättigheter riskerar att exponeras. Även Microsofts vd Satya Nadella har varnat för att kunder i praktiken betalar dubbelt: dels genom token-avgifter och dels genom att mata AI-modellerna med proprietära data. För att hantera kostnaderna söker sig nu många företag mot så kallad ”modellrouting”, där enkla uppgifter styrs till billigare system medan endast komplexa analyser hanteras av de dyraste modellerna. Samtidigt ökar intresset för open source-modeller, bland annat från kinesiska startups, som erbjuder likvärdig kapacitet till en bråkdel av priset. Experter drar paralleller till tidigare tider när programmerares produktivitet mättes i antal rader kod, en metod som senare övergavs då den visade sig vara missvisande.