- 天下Web only
每一位AI工程師都打造過類似的檢索流水線。你對文件做嵌入、切片、儲存向量,提問時回傳相關切片、由Claude或ChatGPT模型合成答案。
這套流程確實行得通,但如果3個月後有人問了一模一樣的的問題,系統只會機械式重複相同動作,沒有從前一次互動學習到任何東西。
這正是傳統RAG(檢索增強生成)的缺點,也就是從不保留知識。系統永遠處於健忘狀態,每一次查詢都必須從零開始,空有能力卻無法成長。
有AI大神之稱的卡帕西(Andrej Karpathy)是特斯拉Autopilot神經網路架構推手、OpenAI共同創辦人,透過課程教會一整個世代工程師深度學習。卡帕西發現這個問題,提出了一種架構上截然不同的處理方案──「LLM Wiki模式」。
「LLM Wiki」是什麼?為什麼重要?
卡帕西的真知灼見
卡帕西使用軟體工程學的「編譯」(Compilation)來做類比。
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱