Liquid AI LFM2.5-2.6B: 128K-Kontext und Tool Calling mit 30 tok/s auf dem Smartphone
LFM2.5-2.6B ist das neueste Modell von Liquid AI und wurde speziell für mehrstufige Agenten-Workflows post-trainiert – eine Ausrichtung, die es von den meisten anderen Kleinmodellen dieser Größenklasse unterscheidet. Mit 2,69 Milliarden Parametern und einem Speicherbedarf von unter 2,5 GB passt das Modell selbst auf ressourcenbeschränkte Hardware; das offizielle Q4_K_M-GGUF-Format bringt es auf nur 1,67 GB. Liquid AI gibt CPU-Geschwindigkeiten von 113 tok/s auf einem Ryzen AI Max+ 395 und 220 tok/s auf einem M5 Max an – beides Hersteller-Zahlen, die noch unabhängiger Überprüfung bedürfen. Bei den Benchmarks ToolSandbox (77,83 vs. 76,44) und IFBench (59,17 vs. 56,47) übertrifft das Modell das deutlich größere Qwen3.5-9B, bleibt aber bei BFCLv4 (56,88 vs. 60,13) und LiveCodeBench (59,41 vs. 69,86) dahinter. Liquid AI selbst empfiehlt das Modell ausdrücklich nicht für Agentic Coding, was auf Grenzen bei komplexen Codieraufgaben hinweist. Die Community auf r/LocalLLaMA diskutiert vor allem, ob der 128K-Kontext unter realen Bedingungen auf mobiler Hardware tatsächlich nutzbar ist – KV-Cache-Wachstum und lange Agenten-Historien können die Speicheranforderungen schnell in die Höhe treiben. Reddit-Nutzer /u/BTA_Labs schlägt als praktischen Einsatzszenario eine hybride Architektur vor, bei der das Kleinmodell repetitive Tool-Calls übernimmt und ein größeres Modell nur für die Planung hinzugezogen wird.
- Ryzen AI Max+ 395: 113 tok/s, Apple M5 Max: 220 tok/s – beides Hersteller-Angaben ohne unabhängige Verifikation.
- BFCLv4-Score von 56,88 liegt noch hinter Qwen3.5-9B (60,13); LiveCodeBench-Rückstand beträgt über 10 Punkte (59,41 vs. 69,86).
- Liquid AIs eigene Model Card rät explizit vom Einsatz für Agentic Coding ab.
- Kompatibilität mit llama.cpp ist ab Release gegeben; Android- und Mini-PC-Ergebnisse aus der Community stehen laut Post noch aus.
- Speicherbedarf blieb in Liquid-AIs eigenen Tests unter 2,5 GB – wie dieser Wert bei langen Kontexten skaliert, ist ungeklärt.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Liquid AI LFM2.5-2.6B: 128K-Kontext und Tool Calling mit 30 tok/s auf dem Smartphone
LFM2.5-2.6B ist das neueste Modell von Liquid AI und wurde speziell für mehrstufige Agenten-Workflows post-trainiert – eine Ausrichtung, die es von den meisten anderen Kleinmodellen dieser Größenklasse unterscheidet. Mit 2,69 Milliarden Parametern und einem Speicherbedarf von unter 2,5 GB passt das Modell selbst auf ressourcenbeschränkte Hardware; das offizielle Q4_K_M-GGUF-Format bringt es auf nur 1,67 GB. Liquid AI gibt CPU-Geschwindigkeiten von 113 tok/s auf einem Ryzen AI Max+ 395 und 220 tok/s auf einem M5 Max an – beides Hersteller-Zahlen, die noch unabhängiger Überprüfung bedürfen. Bei den Benchmarks ToolSandbox (77,83 vs. 76,44) und IFBench (59,17 vs. 56,47) übertrifft das Modell das deutlich größere Qwen3.5-9B, bleibt aber bei BFCLv4 (56,88 vs. 60,13) und LiveCodeBench (59,41 vs. 69,86) dahinter. Liquid AI selbst empfiehlt das Modell ausdrücklich nicht für Agentic Coding, was auf Grenzen bei komplexen Codieraufgaben hinweist. Die Community auf r/LocalLLaMA diskutiert vor allem, ob der 128K-Kontext unter realen Bedingungen auf mobiler Hardware tatsächlich nutzbar ist – KV-Cache-Wachstum und lange Agenten-Historien können die Speicheranforderungen schnell in die Höhe treiben. Reddit-Nutzer /u/BTA_Labs schlägt als praktischen Einsatzszenario eine hybride Architektur vor, bei der das Kleinmodell repetitive Tool-Calls übernimmt und ein größeres Modell nur für die Planung hinzugezogen wird.
- Ryzen AI Max+ 395: 113 tok/s, Apple M5 Max: 220 tok/s – beides Hersteller-Angaben ohne unabhängige Verifikation.
- BFCLv4-Score von 56,88 liegt noch hinter Qwen3.5-9B (60,13); LiveCodeBench-Rückstand beträgt über 10 Punkte (59,41 vs. 69,86).
- Liquid AIs eigene Model Card rät explizit vom Einsatz für Agentic Coding ab.
- Kompatibilität mit llama.cpp ist ab Release gegeben; Android- und Mini-PC-Ergebnisse aus der Community stehen laut Post noch aus.
- Speicherbedarf blieb in Liquid-AIs eigenen Tests unter 2,5 GB – wie dieser Wert bei langen Kontexten skaliert, ist ungeklärt.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.