Cache Augmented Generation (CAG)
Cache Augmented Generation (CAG) je nový přístup ke zlepšení velkých jazykových modelů (LLM) přednahráním znalostí jako předpočítaných key-value cache, což umož...
7 min čtení
Cache Augmented Generation
LLM
+4
Low Latency