PrismML, ein Spinoff des California Institute of Technology (Caltech), hat nach eigenen Angaben ein mathematisches Kompressionsverfahren entwickelt, das große Sprachmodelle drastisch verkleinern kann, ohne die Leistung zu mindern. CEO Babak Hassibi ist Professor für Elektrotechnik an der Caltech und hat die zugrundeliegende mathematische Forschung gemeinsam mit seinen Mitgründern dort durchgeführt. Die Patente gehören der Caltech, werden aber exklusiv an PrismML lizenziert. Investor Vinod Khosla vom bekannten Risikokapitalgeber Khosla Ventures unterstützt das Startup. Ein zentraler Unterschied zum neuen On-Device-Modell von Apple besteht in der Architektur: Apples Modell mit 20 Milliarden Parametern nutzt eine sogenannte Sparse-Architektur, bei der jeweils nur 1 bis 4 Milliarden Parameter gleichzeitig aktiv sind – bei PrismMLs komprimiertem Qwen-3.6-Modell sind alle 27 Milliarden Parameter gleichzeitig aktiv. Hassibi skizziert eine mittelfristige Zukunft, in der rund 95 Prozent des KI-Bedarfs lokal auf Endgeräten verarbeitet wird und nur noch etwa 5 Prozent High-End-Aufgaben die Cloud erfordern. PrismML plant außerdem, das Verfahren auf noch größere Modelle im Billionen-Parameter-Bereich auszuweiten – und damit in die Liga von Modellen wie GPT oder Claude vorzustoßen.