作者丨高允毅
编辑丨岑 峰
01
CED架构:把百万上下文“读薄”,
预填充算力砍半
02
CED 解决 “读得慢”,
CSA2 解决 “存不下”
Full模式擅长总结,它通读全部上下文,生成完整KV和索引,筛选出Top-K重点条目; Reindex模式,不再自己去存储庞大的缓存记忆,会直接拿Full完整模式生成的完整 KV 缓存记忆,按照自己的理解,重新筛选重点; Reuse模式,拿到上面的编辑,直接开始干活,完全跳过复杂的索引计算。
03
创新架构,
重新定义大模型的竞争维度
上车,带你看遍全球 AI 顶会精华
可独家畅览:
专家演讲PPT
大会报告全文
热门论文解读
学术新星访谈
扫描上方二维码
或点击「阅读原文」关注专区。
未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!
公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。
未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!
公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。