Yeonghyeon ·

AI 記憶到底指什麼?

AI 記憶同時指著兩件不同的事:助理在一段對話裡能看到的內容,以及它在自己服務內跨對話 保留的內容。這裡說明兩者各自涵蓋什麼,以及都不涵蓋什麼。

簡短的答案

AI 記憶指的是助理在您剛送出的這則訊息之外還能取用的一切。實際上它是兩件分開的 事:一是上下文視窗(context window),也就是它在您正在進行的這段對話裡能看到的 內容;二是內建記憶(built-in memory),也就是它在自己服務內跨對話保留下來的內容。

兩者停在不同的地方,所以「AI 到底記不記得」這個問題會有兩種答案。一個受限於一段對話的大小,另一個 受限於一個服務的邊界。

AI 記憶的兩種

AI 記憶分成上下文視窗(一段對話裡裝得下的量)和內建記憶(在同一個 服務內跨對話延續下來的內容)。

上下文視窗是助理在寫單次回覆時能一次看到的量。這次回答用到的一切都得裝進去: 您說的話、它自己說的話、您貼上去的內容。對話一旦超過這個量,最早的部分會先從視野裡掉出去。長對話 的開頭變模糊、最近幾輪卻依然清楚,原因就在這裡——這在日常裡是 什麼感受另有一篇。

內建記憶是助理在自己服務內跨對話保留下來的內容。ChatGPT 的記憶就是這種方式—— 它自己從您的對話裡挑出一些帶到後面。Claude 的 Projects 走的是另一條路:資料放在專案裡,在那裡開始的 對話可以用到它。兩者都是做得不錯的功能,涵蓋範圍也一直在擴大。

所以「它忘了」通常是兩種情況之一。要麼對話超出了視窗,要麼您想到的那件事從一開始就沒被留下來。

AI 記憶涵蓋不到的部分

兩種都不會跨到另一個服務。ChatGPT 留下的內容 Claude 看不到,反過來也一樣。各自都 是為自己的使用者做的,沒有理由去讀競爭對手的儲存空間。 在兩個助理之間搬運上下文最先撞上的就是這一點。

還有第二條邊界,更容易被忽略。留下什麼並不全由您決定。內建記憶會自己挑看起來值得 保留的內容。這很方便。但這和您親手標記下來、並且知道六個月後它還在,是兩回事。

這兩點都不是故障,而是各個服務的邊界畫在哪裡帶來的結果。這也表示哪一方推出新功能都補不 上這個缺口——橫跨兩個服務的儲存空間,沒辦法待在其中任何一個裡面。

您自己留著的那一份

必須放在助理之外的那一份,通常被稱作 knowledge layer(知識層)。

knowledge layer 是一個放在任何單一助理之外的儲存空間,裝著您決定保存下來的內容,讓您連接 的任何助理以後都能把它取回來。助理來來去去,這一層留下。而且裡面除了您放進去的,什麼都沒有。

有兩件事讓這樣的儲存空間不至於變成整理工作。

語意檢索按意思找東西,而不是按準確的字詞。您問起去年春天定下的價格決定,就算它當初 是用一個您絕對猜不到的標題存下的,最接近的那筆也會回來。要讓這一點成立,關鍵在於 您存的是什麼、以什麼形式存

MCP(Model Context Protocol)是把助理連到外部工具和儲存空間的公開標準。只要儲存 空間支援 MCP,任何支援這個標準的助理都構得到它——knowledge layer 不會變成某一個助理的東西,靠的就是 這個標準。

它不是的三件事:

內建記憶夠用的時候

如果您只用一個助理,也不打算換,內建記憶就夠了。它比以前涵蓋得更廣,不額外花錢, 也沒有什麼需要連接。

把內容放到外面的理由出現在這裡:

如果這說的是您,各種選擇之間真正不同的那兩點值得先看 一下。

FAQ

什麼是上下文視窗?

助理在寫單次回覆時能一次看到的量。這次回答用到的一切都得裝進去,對話一旦超過這個量,最早的部分會先被擠出去。

上下文視窗和內建記憶有什麼區別?

上下文視窗受限於一段對話的大小;內建記憶能跨對話延續,但只在同一個服務內。前者是因為對話變長而到頭,後者是因為您換了助理而到頭。

什麼是語意檢索(semantic retrieval)?

按意思而不是按準確字詞去找資訊。您問起去年春天定下的價格決定,就算它當初是用一個您絕對猜不到的標題存下的,最接近的那筆也會回來。

什麼是 MCP?

Model Context Protocol 的縮寫,是把助理連到外部工具和儲存空間的公開標準。只要儲存空間支援 MCP,任何支援這個標準的助理都構得到它。

Contextick 就是這樣一個儲存空間。把它連到您已經在用的助理上,說一句「記住這個」,以後相關 的時候那個助理就會把它取回來——連接方法在這裡

← 全部文章