你的 LLM 在疯狂烧 token，Karpathy 找到了省 90% 的方法

你的 LLM 正在疯狂烧 Token——Karpathy 找到了一个省下 90% 的方法 May 26, 2026 · 4 min read · View source ↗ AI Obsidian Claude Advertising 更具体地说，我们要讨论的是如何构建一个受 Andrej Karpathy 启发的知识库系统。 大型语言模型最大的问题之一，就是你必须一遍又一遍地重复上传和重新处理相同的原始文件。 LLM 在反复阅读文档上浪费了海量的 token，在不同文件之间丢失上下文，有时会错过重要的关联，并且往往因此产出准确度更低的答案。 Karpathy 的解决方案就是 Wiki 层（LLM Wiki）。 别忘了收藏这篇文章，这样你以后可以再回来读，或者随时查阅。 这个想法很简单，但威力惊人： LLM 把你的所有数据清理、结构化并建立链接一次，然后彻底停止处理原始文件，转而在一个干净、有组织的知识库上进行操作。 由此，你会得到： 巨大的 token 节省（在重复查询上最高可省 70-90%） 显著更好的答案质量和相关性 文档之间的自动链接 一个可视化的知识图谱 一个会随时间不断增长、自我更新的系统 Wiki 层的结构 整个系统围绕三个核心文件夹构建： raw/ —— 不可变的源文件 所有原始材料都存放在这里：HTML 页面、PDF、文字笔记、截图、电子表格，以及任何其他原始数据。 这个文件夹永远不会被手动编辑，它始终是唯一的事实来源。 wiki/ —— 主知识库 由 LLM 自己生成和维护的干净、结构良好的 Markdown 文件。 这将成为模型今后交互的主要工作区。 指令与模板 独立的文件定义了所有规则： 数据应该如何清理、使用哪些模板、链接如何创建、应该添加哪些元数据，以及知识库应该如何随时间更新。 构建 Wiki 层的分步指南 第一步：搭建项目 创建一个根项目文件夹，并把你现有的所有材料放进一个 raw/ 子文件夹里。 第二步：启动结构化 Agent 在 Claude（或任何支持文件和代码的强大 LLM）中，提供一个专门的系统提示词。 这个 Agent 会自动： 从技术垃圾、广告和不必要的格式中清理文件 把一切转换成干净、易读的 Markdown 应用预定义的模板 创建内部 wiki 链接（[[Page_Name]]） 添加元数据并在文档之间建立关联 第三步：在 Obsidian 中打开知识库 只需在 Obsidian 中打开这个项目文件夹。 你会立刻得到： 一个带有自动链接的可视化知识图谱 强大的全文搜索 在几秒钟内在相互关联的笔记之间跳转的能力 第四步：使用这个已经完成的知识库 现在，你不必每次上传几十个文件，只需告诉模型： “在我的 wiki/ 文件夹里的 Wiki 数据库上工作” 然后 LLM 就能即时从一个干净、结构化、相互关联的知识系统中检索信息。 为什么 Wiki 层比传统方法更好 token 效率——每当你问一个问题，模型不再需要反复重读原始文件 更高的准确度——所有信息都已经过清理、结构化并相互关联 可扩展性——知识库可以轻松增长到数百甚至数千份文档 更好的工作流——Obsidian 把整个系统变成了一个可视化的“第二大脑” 隐私——一切都留在你的本地机器上，无需上传到云端 你应该什么时候开始使用 Wiki 层 你在同一主题上已经有超过 10-20 份文档 你的数据在不断更新或扩充 你经常生成内容、报告、研究或想法 你处理的是个人、商业或机密信息 根据你自己的需求调整这个系统 Agent 的提示词是完全可以自定义的。 在指令文件里，你可以定义： 不同类型文档应该使用哪些模板 需要哪些元数据字段（日期、作者、标签、摘要等） 在笔记之间创建链接的规则 Agent 应该如何处理更新和冲突 这让 Wiki 层几乎适用于任何领域： 营销、软件开发、学习、健康、商业分析，还有更多。 最后的话 Karpathy 的 Wiki 层把一个混乱的文件集合变成真正的 AI 知识库。 一旦你花时间把它搭建起来，你就会得到一个强大、不断进化的系统，它能极大地提升你与任何 LLM 协作的质量和速度。 如果你喜欢这篇文章，或者觉得它有用： 我非常感谢你的转发 也别忘了关注 @bonsaixbt 我每天分享与 AI 相关的内容和发现，别让我在你的信息流里走丢了 👀 Tags: # X # AI # Obsidian # Claude # Advertising # Guide Related articles from $0 to $38K in 30 days with a product I could not code a few people asked me to write the whole story. not the tweet version. the real one, with the boring parts. Advertising Marketing AI Claude