ICM: Neues Memory-Tool steigert Faktenabruf lokaler LLMs um bis zu 93 Prozentpunkte
ICM (Intelligent Context Memory) ist ein auf GitHub veröffentlichtes Open-Source-Tool, das lokalen LLMs persistentes, sitzungsübergreifendes Gedächtnis gibt. Der Benchmark testet sogenannte „Knowledge Retention": In Session 1 liest und memoriert der Agent ein dichtes technisches Dokument; in nachfolgenden Sessions beantwortet er 10 Faktenfragen ohne Zugriff auf den Quelltext. Ohne ICM lagen alle getesteten Modelle zwischen 0 % und 6 % korrekter Antworten – ein erwartbares Ergebnis, da lokale Modelle ohne externen Speicher keine sitzungsübergreifende Erinnerung haben. Mit ICM erreichte qwen2.5:14b 97 % (+93 Prozentpunkte), mistral:7b und llama3.1:8b jeweils 93 %. Selbst das kleinste Modell im Test, llama3.2:3b mit 3 Milliarden Parametern, kam auf 76 %. Das Tool unterstützt laut Beschreibung nicht nur Code-Suche, sondern auch allgemeine Dokumentationsdatenbanken, was es für Agenten-Workflows mit technischer Dokumentation relevant macht. Der Reddit-Post stammt nicht vom Tool-Entwickler; das GitHub-Repository liegt unter rtk-ai/icm.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHmarktechpost.com4d
Tencent open-sourct TencentDB Agent Memory: 4-stufiges lokales Gedächtnissystem für KI-Agenten
- FORSCHUNGarxiv.org1w
RecMem reduziert Token-Kosten für LLM-Agenten-Memory um bis zu 87%
- FORSCHUNGarxiv.org13h
MemCog: Memory-as-Cognition ersetzt passives Retrieval in Conversational Agents
ICM: Neues Memory-Tool steigert Faktenabruf lokaler LLMs um bis zu 93 Prozentpunkte
ICM (Intelligent Context Memory) ist ein auf GitHub veröffentlichtes Open-Source-Tool, das lokalen LLMs persistentes, sitzungsübergreifendes Gedächtnis gibt. Der Benchmark testet sogenannte „Knowledge Retention": In Session 1 liest und memoriert der Agent ein dichtes technisches Dokument; in nachfolgenden Sessions beantwortet er 10 Faktenfragen ohne Zugriff auf den Quelltext. Ohne ICM lagen alle getesteten Modelle zwischen 0 % und 6 % korrekter Antworten – ein erwartbares Ergebnis, da lokale Modelle ohne externen Speicher keine sitzungsübergreifende Erinnerung haben. Mit ICM erreichte qwen2.5:14b 97 % (+93 Prozentpunkte), mistral:7b und llama3.1:8b jeweils 93 %. Selbst das kleinste Modell im Test, llama3.2:3b mit 3 Milliarden Parametern, kam auf 76 %. Das Tool unterstützt laut Beschreibung nicht nur Code-Suche, sondern auch allgemeine Dokumentationsdatenbanken, was es für Agenten-Workflows mit technischer Dokumentation relevant macht. Der Reddit-Post stammt nicht vom Tool-Entwickler; das GitHub-Repository liegt unter rtk-ai/icm.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHmarktechpost.com4d
Tencent open-sourct TencentDB Agent Memory: 4-stufiges lokales Gedächtnissystem für KI-Agenten
- FORSCHUNGarxiv.org1w
RecMem reduziert Token-Kosten für LLM-Agenten-Memory um bis zu 87%
- FORSCHUNGarxiv.org13h
MemCog: Memory-as-Cognition ersetzt passives Retrieval in Conversational Agents