AI 의 기억이란 무엇인가요?

AI 의 기억은 서로 다른 두 가지를 한꺼번에 가리킵니다 — 어시스턴트가 한 대화 안에서 볼 수 있는 것, 그리고 자기 서비스 안에서 대화를 넘어 유지하는 것. 각각이 무엇을 덮고, 어느 쪽도 덮지 못하는 것은 무엇인지 정리했습니다.

짧은 답

AI 의 기억은 어시스턴트가 방금 보낸 메시지 바깥에서 끌어다 쓰는 정보를 통칭합니다. 실제로는 서로 다른 두 가지를 가리킵니다. 하나는 컨텍스트 윈도(context window) — 지금 하고 있는 대화 안에서 볼 수 있는 것. 다른 하나는 내장 메모리(built-in memory) — 그 서비스 안에서 대화를 넘어 유지하는 것.

둘은 서로 다른 지점에서 멈춥니다. "AI 가 기억하나요?" 라는 질문에 양쪽 답이 다 나오는 이유입니다. 하나는 대화 하나의 크기에 걸리고, 다른 하나는 서비스 하나의 경계에 걸립니다.

AI 의 기억 두 가지

AI 의 기억은 컨텍스트 윈도(한 대화 안에 들어가는 분량)와 내장 메모리(그 서비스 안에서 대화를 넘어 이어지는 것)으로 갈립니다.

컨텍스트 윈도는 어시스턴트가 답변 하나를 쓰는 동안 한꺼번에 볼 수 있는 분량입니다. 그 답에 쓰는 모든 것이 이 안에 들어가야 합니다. 사용자가 쓴 말, 어시스턴트가 쓴 말, 붙여넣은 내용까지. 대화가 그 분량을 넘어서면 오래된 부분부터 시야에서 밀려납니다. 긴 대화의 앞부분이 흐려지고 최근 몇 마디만 선명한 것이 그래서입니다 — 실제로 어떤 느낌인지는 따로 정리한 글이 있습니다.

내장 메모리는 어시스턴트가 자기 서비스 안에서 대화를 넘어 유지하는 정보입니다. ChatGPT 의 메모리가 이 방식입니다 — 대화에서 알아서 골라 담아 다음 대화로 가져갑니다. Claude 의 Projects 는 방식이 다릅니다. 자료가 프로젝트 안에 있고, 그 안에서 시작한 대화가 그 자료를 씁니다. 둘 다 잘 만든 기능이고, 둘 다 범위가 계속 넓어져 왔습니다.

그래서 "AI 가 잊어버렸다" 는 보통 둘 중 하나입니다. 대화가 윈도를 넘어섰거나, 떠올린 그것이 애초에 저장된 적이 없거나.

AI 의 기억이 덮지 못하는 것

어느 쪽도 서비스 경계를 넘지 않습니다. ChatGPT 가 담아둔 것을 Claude 는 볼 수 없고, 반대도 마찬가지입니다. 각자 자기 사용자를 위해 만들어졌고, 경쟁사 저장소를 읽어야 할 이유가 없습니다. 두 어시스턴트 사이에서 맥락을 옮기는 일이 가장 먼저 부딪히는 지점입니다.

놓치기 쉬운 두 번째 경계가 있습니다. 무엇을 남길지 전부 사용자가 정하지는 않습니다. 내장 메모리는 남길 만해 보이는 것을 스스로 골라 담습니다. 편리한 성질입니다. 다만 직접 표시해두고 여섯 달 뒤에도 거기 있으리라고 아는 것과는 다른 일입니다.

둘 다 고장이 아닙니다. 각 서비스의 경계가 어디까지인지에서 따라 나오는 결과입니다. 그래서 어느 쪽이 기능을 내놓아도 이 자리는 메워지지 않습니다 — 두 서비스에 걸치는 저장소는 어느 한쪽 안에 있을 수 없습니다.

직접 갖고 있는 몫

어시스턴트 바깥에 있어야 하는 몫을 흔히 knowledge layer 라고 부릅니다.

knowledge layer 는 특정 어시스턴트 바깥에 두는 저장소로, 저장하기로 고른 것을 담아 두었다가 연결한 어떤 어시스턴트든 나중에 다시 꺼내 쓸 수 있게 합니다. 어시스턴트는 오고 가지만 이 겹은 남습니다. 그리고 넣은 것 말고는 아무것도 들어 있지 않습니다.

이런 저장소가 정리 노동이 되지 않게 하는 것은 두 가지입니다.

의미 기반 회수(semantic retrieval)는 정확한 단어가 아니라 뜻이 가까운 것을 찾아옵니다. 지난봄에 내린 가격 결정을 물으면, 짐작도 못 했을 제목으로 저장돼 있어도 가장 가까운 것이 올라옵니다. 그게 되려면 무엇을 어떤 형태로 저장하느냐가 관건입니다.

MCP(Model Context Protocol)는 어시스턴트를 외부 도구·저장소에 연결하는 공개 표준입니다. 저장소가 MCP 로 열려 있으면 그 표준을 지원하는 어시스턴트는 어느 것이든 닿습니다. knowledge layer 가 특정 어시스턴트의 것이 되지 않는 이유입니다.

아닌 것 세 가지:

• 노트 앱이 아닙니다. 사람이 들어가서 읽지 않습니다 — 읽는 쪽이 어시스턴트이고, 그래서 어질러져 있어도 상관이 없습니다.
• 자동 수집이 아닙니다. 저장은 사용자가 하는 판단입니다. 대화를 뒤에서 읽어 모으지 않습니다.
• 분류 체계가 아닙니다. 폴더도 태그도 없습니다. 대신 정리해 주는 것이 아니라, 정리할 것이 없게 만드는 쪽입니다.

내장 메모리로 충분한 경우

어시스턴트를 하나만 쓰고 옮길 생각이 없다면 내장 메모리로 충분합니다. 예전보다 범위가 넓어졌고, 추가 비용이 없고, 연결할 것도 없습니다.

바깥에 따로 두는 이유는 여기서 생깁니다.

• 어시스턴트를 둘 이상 씁니다. 한쪽에 이미 한 이야기를 다른 쪽에 또 하고 있는 자신을 발견합니다.
• 같은 배경을 반복해서 설명합니다. 프로젝트가 늘 갖는 제약, 글을 어떻게 쓰기를 원하는지, 이미 배제한 선택지.
• 언젠가 옮길 수 있습니다. 그 이유는 실제로 옮길 일이 눈앞에 오기 전까지는 급하게 느껴지지 않습니다.

해당된다면 선택지들 사이에서 실제로 갈리는 두 가지를 먼저 확인하시면 됩니다.

FAQ

Contextick 이 그런 저장소 중 하나입니다. 이미 쓰고 계신 어시스턴트에 연결해두고 "이거 기억해" 라고 말하면 저장되고, 나중에 관련될 때 그 어시스턴트가 다시 꺼내 옵니다 — 연결 방법은 여기.