
帖子
Tether AI 发布开源 TurboQuant,并将其集成至 QVAC SDK 0.12.0

深潮 TechFlow 消息,6 月 01 日,Tether AI 宣布发布开源 TurboQuant,并将其纳入 QVAC SDK 0.12.0。该技术基于 Google Research 的内存压缩算法,可将大语言模型运行中的 KV 缓存压缩最高约 5 倍,在尽量保持输出质量的同时,降低本地与边缘设备的内存占用。
Tether 表示,TurboQuant 可支持笔记本、手机、消费级 GPU、边缘设备及去中心化推理网络处理更长对话、更大文档和更复杂工作负载,并已通过 Fabric 向开发者开放。
相關快訊
億萬富翁拋售1.53億美元谷歌股票(GOOGL)
美股雲計算服務板塊走強,CoreWeave漲近9%
XBIT DEX:美股開盤下跌,加密概念股普遍走低
研究機構披露AI企業應用排名:英偉達、Meta、亞馬遜並列第一
XBIT DEX:Anthropic預測6月底最佳AI模型概率83.2%
「新股神」Serenity復盤ARM大勝:從134美元到354美元,150億美元營收目標已完全合理
Loeb駁泡沫論:投資AI絕非拿錢沖廁所,我們剛剛觸及熱潮表面
美股前十大公司已全部由科技與AI相關企業佔據
XBIT DEX:預計5月底第二大公司為Alphabet概率83.4%
美股半導體、存儲晶元、伺服器、應用軟體全線爆發,多股再創歷史新高