Apple utforskar teknik för att flytta AI från molnet till iPhone

PrismML, som har sina rötter vid Caltech-universitetet i Kalifornien, har utvecklat en metod för att komprimera modeller så att exempelvis en modell med 27 miljarder parametrar kan reduceras från 54 gigabyte till under 4 gigabyte. Enligt företagets vd, Babak Hassibi, kan tekniken minska minnesanvändningen med 10–15 gånger och öka svarshastigheten med 6–8 gånger, om än med en viss förlust i precision gällande faktakunskaper. Analytiker från bland annat IDC och Counterpoint Research manar dock till försiktighet gällande batteritiden och den praktiska implementeringen för miljontals användare. Apple har ännu inte kommenterat uppgifterna, och det är oklart om samarbetet kommer att ske via licensiering eller ett direkt uppköp av PrismML.