AgenticHub公众号文章

RAG 不是终点:OKF 如何让 AI Agent 真正记住关键知识

RAG 负责检索,OKF 负责记忆。下面介绍这两种架构如何协同工作。每隔几个月,AI 社区就会发现一种新的

AgenticHub

公众号 · 63 篇文章

RAG 负责检索,OKF 负责记忆。下面介绍这两种架构如何协同工作。

每隔几个月,AI 社区就会发现一种新的 RAG 杀手。

更长的上下文窗口。微调。GraphRAG。Agentic RAG。

但在 2026 年 6 月,Google Cloud 发布了一项真正改变了讨论方向的内容:Open Knowledge Format (OKF),这是一种开放、厂商中立的规范,用于将经过整理的知识存储为纯 Markdown 文件,任何 AI Agent 都可以直接读取。

OKF 并不会消灭 RAG。它恰恰揭示了 RAG 从来就不该独自承担哪些工作。

本文将拆解这两种方法:它们是什么、如何工作、各自擅长什么,以及为什么 2026 年最强大的 AI 系统会将两者结合使用。

如何阅读本文

RAG 和 OKF 并不是在争夺同一个位置。它们解决的是不同的知识问题:

  • RAG 回答:“信息就在这个大型语料库的某处,去把它找出来。”

  • OKF 回答:“我们已经知道这些内容,并且已经清楚地写在这里,直接读就行。”

记住这个框架,整场争论就会烟消云散。



1. RAG:检索主力

它究竟是什么

检索增强生成(Retrieval-Augmented Generation,RAG)会在 LLM 生成响应之前增加一个检索步骤。模型不再只依赖训练数据,而是搜索外部知识库,检索相关片段,并将其作为上下文来支撑回答。

Query → Embedding → Vector Search → Top-K Chunks → LLM → Response

自 2023 年以来,RAG 一直是企业 AI 的首选架构。它解决了三个关键问题:幻觉(通过让回答基于真实文档)、知识过时(通过检索最新信息),以及私有数据访问(通过索引内部语料库)。

无人提及的真实成本

RAG 功能强大,但宣传时往往略过了代价:

大多数 RAG 系统会在分块环节悄然失效。 分得太小,片段就缺少上下文;分得太大,又会因噪声而稀释相关性。固定大小分块会破坏语义单元。语义分块则会增加工程开销,而这笔开销一开始通常没人纳入预算。

检索质量决定了系统的上限。 如果检索器取回了错误的片段,或完全漏掉了正确片段,再多的提示工程也无法挽救输出。朴素的 RAG pipeline 在检索环节的失败率约为 40%。

关系只能靠推断,从不明确表达。 RAG 会寻找与查询语义上_相似_的片段。但相似不等于理解。它并不知道概念 A _依赖于_概念 B,也不知道策略 X _优先于_策略 Y。文档被拆成 512-token 的片段后,这些关系就丢失了。

每次查询都从头开始。 知识不会累积。LLM 每次遇到问题都要重新发现已有知识。没有复利效应,也不会逐步积累。


2. OKF:RAG 从未具备的知识整理层

它究竟是什么

Open Knowledge Format (OKF) 由 Google Cloud 于 2026 年 6 月 12 日发布(版本 0.1),是一种规范,用于将组织知识表示为包含 YAML frontmatter 的 Markdown 文件目录。每个文件代表一个概念:指标定义、表结构、策略或 runbook。文件之间通过 Markdown 链接构成知识图谱,Agent 可以在其中导航。

knowledge-bundle/
  index.md                    # 目录列表(入口)
  log.md                      # 变更历史
  metrics/
    index.md
    revenue.md                # 每个文件对应一个概念
    churn-rate.md
  policies/
    escalation-matrix.md
    data-retention.md

每个概念文件看起来像这样:

---
type: metric
title: Monthly Recurring Revenue
owner: finance-team
tags: [revenue, saas, reporting]
--

# Monthly Recurring Revenue (MRR)
MRR 是所有活跃订阅收入按月标准化后的总和。

## Calculation
MRR = Σ (active subscriptions × monthly rate)

## Related
- 偏移指标请参阅 [churn-rate](./churn-rate.md)。
- 年化视图请参阅 [ARR](./arr.md)。

该规范只要求一个 frontmatter 字段:type。其他字段均为可选。无需 SDK。无需专有 runtime。无需向量数据库。无需 embeddings。只要能读取 Markdown,就能读取 OKF。

起源:Karpathy 的 LLM Wiki

OKF 并非凭空出现。它将 Andrej Karpathy 于 2026 年 4 月在 X 上描述的一种模式,即 LLM Wiki,正式规范化了。他的洞见简单却颇具突破性:与其在查询时从原始文档中检索,不如让 LLM 将知识_编译_成一个持久、互联的 wiki,并持续更新。

Karpathy 的表述精准指出了 RAG 的根本局限:

LLM 每次遇到问题,都要从头重新发现知识。知识不会累积。

他的帖子迅速走红,浏览量超过 2100 万。两个月后,Google Cloud 将这一模式提炼并标准化为 OKF。

AI Agent 如何使用 OKF

与 RAG pipeline 不同,Agent 不会从搜索 embedding 索引开始。它从一个经过整理的入口开始,然后逐步探索与当前任务相关的概念:

1. Agent 读取 index.md → 查看有哪些知识
2. Agent 沿链接跳转到相关概念文件
3. Agent 读取概念:完整编写、准确无误的答案
4. 如有需要,Agent 沿交叉链接查看相关概念
5. 完成。无需 embeddings。无需排序。也没有“最接近的匹配项”。

这就是确定性检索:要么在该路径找到文件,要么得到明确的错误。不会返回一组包含五篇_可能_相关的文档的排序列表。没有概率性,也不会悄无声息地给出错误答案。


3. RAG 与 OKF:正面对比


4. RAG 仍然胜出的领域(而且始终如此)

OKF 并不取代 RAG,也从来不是为此而设计的。以下场景中,RAG 仍然是正确选择:

规模。 你的组织有 50,000 个 Confluence 页面、十年的支持工单、数千条 Slack 线程,以及不断增加的 PDF。将所有这些内容整理成精心编写的 OKF 概念文件,需要投入大量人工。RAG 可以轻松处理:将内容嵌入、建立索引、进行搜索。

快速变化的数据。 股价、事件报告、实时日志和客户交互都在持续变化,因此相比经过整理的 Markdown 文件,它们更适合通过语义搜索来处理。

未知的未知。 当你不知道要找什么时,就需要搜索。RAG 可以让你在庞大的语料库中说“帮我找出所有与 X 相关的内容”。而 OKF 需要有人事先把答案写下来。

探索发现。 RAG 擅长发现你不知道存在的关联。Embedding 搜索可能会返回一份三年前的相关文档,甚至没人记得当时是谁写的。


5. OKF 的优势所在(以及 RAG 力有不逮之处)

当答案_必须完全准确_比搜索大型语料库更重要时,OKF 就是正确选择:

策略和 runbook。 你的升级矩阵只有一个正确版本。Agent 按照 [[ops/policies/escalation_matrix]] 查找时,要么找到该文件,要么报错。RAG 可能会检索到一段相似但已过时的内容,来自已弃用的版本。

指标定义。 “MRR 是什么?”在你的组织中只有一个答案。这不应该是相似度搜索,而应该是直接读取。

API 文档和 schema。 表结构、endpoint 规范和数据字典都要求精确、结构化且权威。它们应该放在经过整理的概念文件中,而不是被拆分到向量索引里。

入职培训。 新工程师入职、合规培训材料和 SOP 都属于稳定的知识,变更不频繁,而且必须准确无误。

合规与审计。 受监管行业(银行、保险、医疗保健)需要回答:“这项策略在某个日期具体是怎么写的?”OKF bundle 存储在 git 中。每次变更都有记录。每个概念都有负责人。每种关系都明确表示。试试看如何审计向量数据库。


6. 真正胜出的架构:OKF + RAG

“谁更胜一筹”的争论忽略了关键一点:生产系统会同时使用两者。

2026 年各团队逐渐采用的架构,是在两个系统前面放置一个路由器:

80/20 的划分

企业中逐渐形成的实用模式:

  • 组织知识中20% 的关键、稳定且经常被引用的内容,以 OKF bundle 的形式保存:策略、指标、schema、runbook 和 SOP。

  • 其余 80%,也就是规模庞大、非结构化且快速变化的信息,继续留在传统的 RAG pipeline 中。

路由器的工作很简单:已知的确定信息交给 OKF,其他所有内容则交给 RAG。

OKF 让 RAG 更出色

大多数文章都忽略了这一点:OKF bundle 是干净、结构良好的 Markdown,非常接近 RAG 分块 pipeline 的理想输入。让检索器直接处理 OKF bundle,就能得到比原始源文档质量高得多的分块。

OKF 改善知识本身。RAG 仍负责在大规模场景中找到这些知识。


7. 快速上手:5 分钟创建你的第一个 OKF Bundle

你不需要新工具,只需要一个文件夹和文本编辑器。

步骤 1:创建 bundle 目录结构

mkdir -p knowledge-bundle/metrics knowledge-bundle/policies
touch knowledge-bundle/index.md knowledge-bundle/log.md

步骤 2:编写你的第一个概念

创建 knowledge-bundle/metrics/mrr.md:

---
type: metric
title: Monthly Recurring Revenue
owner: finance-team
tags: [revenue, saas]
---

# Monthly Recurring Revenue (MRR)
MRR 是所有活跃订阅收入的总和……

步骤 3:创建索引

在 knowledge-bundle/index.md 中:

# Knowledge Bundle

## Metrics
- [Monthly Recurring Revenue](./metrics/mrr.md): SaaS 核心收入指标

## Policies
- [Escalation Matrix](./policies/escalation-matrix.md): 事件响应路由

步骤 4:让你的 Agent 读取它

Agent 首先读取 index.md,然后沿链接访问相关概念,便能确定性地获取经过整理、权威可靠的知识,无需 embeddings。

步骤 5:进行版本管理

cd knowledge-bundle && git init && git add . && git commit -m "Initial bundle"

现在,你的知识已经可以进行版本管理、差异比较和审计,也具备了可移植性。


8. OKF 生态系统(2026 年 10 月)

OKF 发布才四个月,工具链已经逐渐丰富:

  • okflib (Python):解析、验证、可视化并自动生成 OKF bundle

  • okf (Rust):零依赖的 parser、validator 和链接图谱

  • okf-toolkit (Python CLI):提供 init、validate、search 和 graph 命令

  • okf (Go):完整的 v0.2 bundle 模型,支持一致性检查

  • Hermes OKF:基于 OKF 构建的 AI Agent 通用记忆系统

  • OKF Wiki:基于 Obsidian、由 LLM 维护并遵循 OKF 的知识库

  • MCP servers:面向 Claude、Codex 和其他 Agent 的原生 OKF 工具

该规范采用 Apache 2.0 许可证。没有厂商锁定,也没有专有 runtime。


9. 快速决策框架


10. 常见误区

“OKF 取代 RAG。” 并非如此。对于可以直接定位的、经过整理的事实,OKF 才会取代向量检索。长尾内容仍然留在原处。

“RAG 足以处理所有情况。” 并非如此。当 Agent 必须_确定无误_地掌握某项策略、指标或 schema 时,概率式检索就不是合适的工具。

“所有内容都用 OKF。” 将数千份快速变化的文档整理成 OKF 概念并不现实。核心关键内容用 OKF,其余部分用 RAG。

“我得拆掉现有的 RAG pipeline。” 不需要。实际的第一步,是挑出 Agent 最常答错的五到十个问题,也就是答案只有一个的那些问题,然后先把它们写成 OKF 概念。

“OKF 需要专用工具。” 它只需要文本编辑器和文件夹。这正是它的设计初衷。


2026 年面试官真正期待你掌握什么

应聘 AI/ML 和数据工程职位时,请做好准备:

  • 解释为什么“RAG vs. OKF”是错误的讨论框架。 它们解决的是不同的知识问题:已知的确定信息与未知的未知。

  • 描述 RAG 在结构上的局限。 分块脆弱、检索具有概率性、关系靠推断、知识不会累积。

  • 解释 OKF 是什么。 Markdown 文件 + YAML frontmatter + 显式链接 = 面向 Agent 的确定性、经过整理的知识。

  • 了解 Karpathy 与 OKF 的联系。 OKF 将 LLM Wiki 模式(2026 年 4 月)正式规范化为可移植、厂商中立的标准。

  • 画出混合架构。 Router → 核心整理知识交给 OKF,长尾内容交给 RAG。

  • 清楚说明权衡。 OKF 提供结构和精确性,RAG 提供规模和灵活性。生产系统会同时使用两者。

掌握这六点,你就能像架构师而非追随者那样思考 AI 知识系统。


核心结论

RAG 和 OKF 从来就不是在争夺同一个王座。

RAG 是检索主力:它搜索大型、混乱且快速变化的语料库,并在查询时找出相关信息。

OKF 是经过整理的知识层:它存放稳定、权威且确定的知识,Agent 可以直接读取;知识之间的关系明确,并且完全可审计。

错误在于把它们当成对手。它们是服务于不同知识范围的层:

  • 规模较小、至关重要且稳定的 20% 存放在 OKF 中:策略、指标、schema 和 runbook。

  • 规模庞大、非结构化且动态变化的 80% 留在 RAG 中:工单、讨论串、会议记录和历史文档。

2026 年最强大的 AI 系统,并不是那些争论哪种方法更好的系统,而是那些通过路由器让各自发挥所长的系统:必须完全准确的内容交给 OKF,庞大到无法手工整理的内容交给 RAG。

别再问哪种方法更好。问问你的 Agent 哪些内容必须_确定无误_,然后从那里开始。


如果这篇文章对你有帮助,可以关注我,获取更多关于 AI、ML 和数据系统的深度分析。


前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →