硅谷顶尖 AI 大佬如何搭建个人 AI 知识库?从零开始用 Claude Code + Obsidian 搭建 Karpathy 的 LLM Wiki 知识库
这份 YouTube 洞见笔记由 LilysAI 生成。免费注册,从视频中以 10× 速度更深入地获取洞见。
Q: 如何用Claude Code + Obsidian搭建Karpathy的LLM Wiki知识库?
如何用 Claude Code 和 Obsidian 建立個人 AI 知識庫?透過 LLM Wiki 系統,AI 能將原始資料轉化為 Wiki 筆記,並透過攝取、查詢和巡檢,實現知識的持續累積與維護。
1. Karpathy 的 LLM Wiki 知識庫理念
1.1. LLM Wiki 系統的核心理念
- LLM Wiki 系統是前 OpenAI 聯合創始人 Karpathy 提出的個人 AI 知識庫理念,它放棄了傳統的 RAG(檢索增強生成) 方法 。
- 該系統透過 AI 智能體(例如 Claude Code)將學習資料和文章轉換成 Wiki 形式的 Markdown 筆記庫 。
- 最佳的實現工具是 Obsidian,它能利用 AI 在編譯後的筆記庫中進行持續學習和探索 。
- 每次學習和總結的重點內容都會再次累積到知識庫中,實現知識的複利,同時定期維護和檢查筆記庫以保持系統健康 。
- 與傳統 RAG 系統每次問答都重新搜索知識庫、沒有記憶和累積不同,LLM Wiki 持久化地維護知識庫,這也是智能體時代個人 AI 知識庫的必然形式 。
1.2. LLM Wiki 的三層架構與三核心操作
- 三層架構
- 原始資料層:這是收集或策劃的文檔集合,包括剪藏的網路文章、論文文獻、轉錄的 YouTube 影片等 。
- Karpathy 列舉的主要工具是 Obsidian 。
- Wiki 層:這是 AI 智能體深入分析原始資料後生成的 Markdown 檔案目錄,包含摘要、實體概念、對比分析,以及索引與日誌檔案 。
- Schema 架構規範層:這是智能體工具的配置文件,例如使用 Claude Code 時是 CLAUDE.md,使用 OpenCode 時是 AGENTS.md 。
- 它的作用是告知智能體工具具體的工作流程和規範 。
- 整個架構的實現是透過智能體工具(例如 Claude Code)加上 Obsidian 來完成的 。
- 原始資料層:這是收集或策劃的文檔集合,包括剪藏的網路文章、論文文獻、轉錄的 YouTube 影片等 。
- 三核心操作
- Ingest(攝取):讓智能體充分消化原始資料,並編譯成 Markdown 格式的 Wiki 筆記庫 。
- Query(查詢):使用者向 AI 提問,深入學習知識庫,並將學習整理的內容累積到知識庫中 。
- Lint(巡檢):對知識庫架構進行維護,包括雙向連結的關聯、資料空白的填補、孤立頁面的發現等 。
- 這三個操作將被製作成三個智能體技能 。
2. 實作 LLM Wiki 知識庫
本節介紹如何從零開始建立 LLM Wiki 知識庫的檔案結構,並配置 CLAUDE.md 檔案來規範 AI 智能體的行為。
2.1. 建立知識庫的檔案結構
- 在電腦端建立一個空白的專案資料夾,並在其中建立三個子資料夾:raw、Wiki 和 assets 。
- raw 資料夾用於收集原始資料,類似於 Obsidian 中的 inbox 。
- 在 raw 資料夾內,建立子資料夾用於分類存放網頁剪藏文章、專業論文、文獻、研報、影片和播客的轉錄文章等 。
- 此外,還需建立一個 archive 資料夾,用於存放分析完成後的資料 。
- Wiki 資料夾用於存放 AI 智能體生成的 Markdown 檔案 。
- 在 Wiki 資料夾內,建立 index.md(索引檔案)和 log.md(日誌檔案) 。
- 建立子資料夾:concepts(存放方法論)、entities(存放實體概念)、sources(存放原始檔案的一對一提煉摘要)、synthesis(存放 AI 深入學習與探索後累積的知識) 。
- assets 資料夾用於存放媒體資源,例如圖片和附件 。
- 在 Obsidian 設定中,將附件資料夾路徑設定為此 assets 資料夾 。
- raw 資料夾用於收集原始資料,類似於 Obsidian 中的 inbox 。
- 完成資料夾結構建立後,使用 Obsidian 或 Claude Code 開啟該資料夾 。
- 輸入
/init命令,Claude Code 會建立 Claude 專案配置文件和 Claude 資料夾 。 - 如果使用 OpenCode,則會建立 AGENTS.md 檔案 。
- 輸入
2.2. 配置 CLAUDE.md 檔案
- 開啟自動生成的 CLAUDE.md 檔案,刪除其英文內容,並根據需求寫入中文約束 。
- CLAUDE.md 是一個普通的 Markdown 檔案,包含整個專案的核心規範 。
- 可以直接列出要求,讓 AI 協助撰寫 。
- 在 CLAUDE.md 中主要約束以下內容 :
- 目錄結構的權限邊界:告知智能體三個資料夾的用途,並規定智能體的編輯權限 。
- Wiki 資料夾內容生成規範:詳細告知智能體在 Wiki 資料夾中生成內容時應遵守的規範 。
- 索引檔案和日誌檔案的寫入格式:規定智能體在寫入 index.md 和 log.md 時應遵循的格式 。
- Markdown 筆記的生成規則:規定智能體在生成 Markdown 筆記時應遵守的規則 。
- 這個 CLAUDE.md 檔案對應著 Karpathy 理念中的 Schema 架構規範層 。
3. LLM Wiki 的核心操作:攝取、查詢與巡檢
本節詳細介紹如何透過建立技能(skill)來實現 LLM Wiki 的三個核心操作:攝取(Ingest)、查詢(Query) 和 巡檢(Lint),以實現知識的自動化管理和維護。
3.1. 知識的攝取(Ingest)
- 收集學習資料
- 在瀏覽器安裝 Obsidian Web Clipper 插件,並將其保存路徑設定為 Obsidian 知識庫的 raw/articles 子資料夾,即可剪藏網頁文章 。
- 也可以手動將下載的學習資料放置到 raw 資料夾中 。
- 範例:收集了關於 AI 提示詞工程的網頁文章和論文,如 Gemini 的提示詞策略、Google 的提示詞工程白皮書和 5C 架構的提示詞框架論文 。
- 建立 Ingest 技能
- 在 .cloude/skills 資料夾中建立一個名為 Ingest 的資料夾,並在其中新建 skill.md 檔案 。
- 在 skill.md 的 YAML 元資料部分添加
name和description字段,然後撰寫技能正文 。 - 該技能主要指示 AI 如何分析 RAW 資料夾下的原始資料,並編譯生成 Wiki 內容,包含技能的觸發邏輯、執行步驟、約束和注意事項 。
- 技能的編寫可透過 Skills Creator 技能輔助完成,該技能由 Anthropic 發布在其官方 GitHub 倉庫中,專門用於協助撰寫技能 。
- 整個流程是讓智能體深入分析原始檔案,整理並撰寫相應的 Markdown 檔案,建立雙向連結,同時更新 index 索引檔案和 log 日誌檔案 。
- 最後,在所有檔案處理完畢後,將原始檔案移動到 archive 資料夾中 。
- 執行 Ingest 技能
- 在智能體窗口中輸入
/ingest即可觸發技能流程 。 - 影片中 Claude Code 轉接的是 Kimi K2.5 模型,但 Karpathy 提到使用 Codex 或 OpenAI GPT 等智能體原理相同 。
- 智能體處理檔案需要時間,且大規模檔案讀寫會消耗大量 token,需注意 token 使用量 。
- 執行結果:智能體分析原始檔案後,撰寫了對應的 Markdown 檔案,更新了 index 索引檔案和 log 日誌檔案,並將原始檔案歸檔到 archive 資料夾 。
- 智能體會列出執行完成的任務列表,包括建立的檔案、核心知識發現和重要標註 。
- 知識圖譜顯示,提示詞工程相關概念已建立在知識庫中,並建立了良好的雙向連結,點擊筆記可查看具體內容 。
- 索引檔案按分類列出知識庫的詳細索引結構,日誌檔案清晰記錄了本次操作處理的內容和建立的檔案清單,這兩個檔案在後續具有重要作用 。
- 在智能體窗口中輸入
3.2. 知識的查詢(Query)
- 建立 Query 技能
- 建立第二個技能 query,該技能相對簡單 。
- 主要要求 AI 在回答問題前,永遠先讀取 index.md 索引檔案,定位到問題相關內容,然後深度閱讀目標檔案並回答問題 。
- 如果生成了有價值內容,AI 會詢問使用者是否保存到知識庫,這是 LLM Wiki 的核心理念,讓知識不斷累積和進化,實現知識複利 。
- 技能中規定了智能體將高品質內容保存回知識庫時應遵循的規範和內容模板 。
- 執行 Query 技能
- 向智能體提問:「結合 5C 這個提示詞框架,為我設計一個提示詞,主要功能是用於撰寫 Markdown 格式的知識筆記」 。
- 智能體會詳盡回覆,根據 5C 框架生成提示詞和使用案例,並詢問是否保存回知識庫 。
- 確認保存後,智能體會將內容保存到 Wiki/Syntheses 資料夾內,同時建立雙向連結,並更新 Index 索引和 Log 日誌檔案 。
- 智能體還能處理知識庫中相關知識點的矛盾、挖掘或探索特定知識盲區,並結合實際工作進行戰略規劃 。
- 可以利用 Obsidian 的功能生成多種產出結果,例如 AI 生成 Markdown 格式的幻燈片、Canvas 結構圖或 Excalidraw 圖表 。
3.3. 知識的巡檢(Lint)
- 巡檢的意義
- 隨著知識庫日益龐大,需要定期維護和檢查,這就是 Karpathy 理念中的第三個步驟:巡檢(Lint) 。
- Lint 對於程式設計師而言非常熟悉,意指對程式碼進行健康檢查,確保符合程式碼規範 。
- 對於個人知識庫而言,巡檢包括檢查頁面之間的矛盾、已被新資料取代的舊資訊、沒有加入雙向連結的孤島筆記、筆記中的死鏈,以及缺乏獨立頁面的重要概念 。
- 定期生成知識庫的體檢報告 。
- 建立 Lint 技能
- 在 skills 資料夾內建立一個新的技能,取名為 lint,並在 skill.md 中寫入相關要求 。
- 告知智能體如何分析知識庫:優先讀取 index 索引檔案和 log 日誌檔案,然後掃描整個知識庫,生成一份檢查報告,並給出下一步的修復計畫 。
- 加入約束,讓智能體只生成報告,待使用者確認後才進行修復和修改,而非自行修改筆記 。
- 執行 Lint 技能
- 在智能體窗口中輸入
/lint,智能體會開始掃描整個知識庫並進行健康檢查 。 - 最後生成完整的報告,報告中會顯示未同步的索引、多個死鏈和知識衝突 。
- 智能體還會列出下一步的行動計畫,說明如何修復這些問題 。
- 透過這種方式,可以讓知識庫保持長期的健康 。
- 在智能體窗口中輸入
4. 擴充功能與注意事項
本節探討 LLM Wiki 系統的擴充潛力,並提醒使用者在使用智能體時需注意 Token 消耗和 AI 幻覺問題。
4.1. 擴充功能與應用
- 上述實現方法是最簡單的入門級實現,但仍有許多功能可以擴充 。
- 例如,可以整合 Obsidian CLI 工具,Karpathy 建議使用 CLI 工具輔助 AI 更高效地操作 Wiki 。
- 可以在三個技能中加入技能鏈,約束智能體在檢索知識庫時使用 Obsidian skill,這能大大降低 token 消耗並提升任務準確性 。
- Karpathy 表示,這套理念在他約四十萬字的知識庫中運行良好,持續的進化和累積特別適合中小團隊和個人進行深度學習和研究 。
- 除非是企業級的龐大知識庫,否則 RAG 永遠只是現用現搜的冷冰冰機器 。
- Karpathy 的核心理念描繪了智能體時代個人知識管理的必然形態:人類只負責高價值資訊篩選與戰略提問,AI 則接管所有繁瑣的節點編織 。
4.2. 使用智能體的注意事項
- 注意 Token 的消耗:智能體對 Token 的消耗非常高,使用者需特別注意 。
- 注意 AI 幻覺問題:如果大型模型在某次處理過程中產生幻覺,這個錯誤會被保存到知識庫中,未來的學習和推理將以此為基礎,導致錯誤被無限放大 。
像天才一样理解海量资料——与 LilysAI 一起
超过 1,000,000 名知识探索者正在使用 Lilys AI。
