같은 문서를 왜 AI 마다 다시 올려야 하나요?

올린 파일은 올린 그 어시스턴트 안에 있고, 다음 어시스턴트는 그것을 보지 못합니다. 긴 문서에 실제로 무슨 일이 일어나는지, “personal RAG” 가 무슨 뜻인지, 그리고 그냥 대화에 올리는 편이 나은 때는 언제인지 정리합니다.

짧은 답

올린 파일은 올린 자리에 머뭅니다. 어시스턴트마다 자기 서비스 안에 업로드를 보관하고, 서로의 것을 읽지 않습니다. 한쪽에 보고서를 넣어도 다음 어시스턴트에게는 애초에 넣은 적 없는 것과 같습니다.

그래서 문서가 일이 아니라 도구를 따라다닙니다. 어시스턴트를 바꾸거나 코딩 도구를 하나 더 붙이면, 같은 파일을 원하는 자리가 하나 더 생깁니다.

긴 문서를 올리면 실제로 일어나는 일

어시스턴트는 둘 중 하나를 합니다. 문서를 통째로 대화에 읽어 넣거나, 그러기에 너무 크면 필요한 대목만 찾아 씁니다.

통째로 읽어 넣으면, 그 분량이 새 대화마다 다시 들어옵니다. 지난번에 물어본 것은 넘어오지 않습니다. 사흘에 걸쳐 다시 찾아보면 세 번 읽힙니다. 그 분량은 곧 지불하는 값이기도 한데, 하루가 긴 대화 하나가 아니라 새 세션의 연속인 코딩 도구에서 가장 먼저 드러납니다.

어시스턴트가 찾아 쓰는 쪽으로 넘어가면, 문서를 하나의 전체로 보지 않게 됩니다. 질문에 맞는 대목을 가져와 거기서 작업합니다. 그 전환은 어시스턴트 나름의 기준으로 일어나고, 지금 어느 쪽인지는 알려주지 않습니다.

둘 다 잘못된 동작이 아닙니다. 들어가지 않는 문서에 대한 두 가지 합당한 답입니다. 중요한 것은 둘째에서 따라오는 사실입니다. 어느 크기를 넘으면 찾아 쓰는 방식은 이미 벌어지고 있습니다. 남는 질문은 그 방식을 쓸지가 아니었습니다. 그것이 누구의 것이고, 당신을 따라다니느냐입니다.

“personal RAG” 가 답인가

이미 돌아가고 있는 것에 붙은 이름이지, 새로 시작해야 할 과제가 아닙니다.

RAG — retrieval-augmented generation — 는 답을 쓰기 전에 관련된 글을 먼저 찾아와, 모델이 이미 들고 있는 것이 아니라 그 글을 근거로 답을 쓰게 하는 방식입니다. 찾아오는 대상이 당신 자신의 문서일 때 사람들은 그것을 personal RAG 라고 부릅니다.

직접 만들 수도 있고, 전부를 손수 돌리고 싶다면 잘 닦인 길이 있습니다. 다만 그것은 이 이야기를 시작한 질문과 다른 질문에 답합니다. 질문은 검색이 어떻게 동작하는가가 아니었습니다. 그 문서가 어디에 있는가 였습니다. 다음 어시스턴트가 그것을 쓸 수 있는지를 정하는 것이 그것이기 때문입니다.

어시스턴트 바깥에 있어야 하는 부분

문서 하나를 어느 어시스턴트에서든 쓰려면, 그 문서는 어느 쪽에도 속하지 않은 자리에 있어야 합니다. 그런 저장소를 지식 계층이라고 부릅니다. 메모와 결정에 적용되던 것과 같은 생각을 파일에 적용한 것입니다.

문서에서 달라지는 것은 사본의 수입니다. 한 번 넣습니다. 그다음부터는 연결한 모든 어시스턴트가 같은 자리에서 찾고, 도구를 바꿔도 파일을 다시 넣지 않습니다.

그냥 대화에 올리는 편이 나을 때

그 문서를 한 번 쓰고 말 것이라면, 대화에 올리고 넘어가세요. 어딘가에 영구히 두는 것은 돌려받지 못할 수고입니다.

• 일회성 분석. “이 계약서에서 위험한 조항을 뽑아줘.” 오늘 이 파일에 대한 답이 필요하고, 그다음엔 볼 일이 없습니다.
• 계산이 들어가는 일. 표 전체의 합계, 차트, 서식 변환 — 그건 파일 위에서 코드를 돌리는 도구의 일이지 저장소의 일이 아닙니다.
• 한 뭉치를 깊게 파는 일. 논문 여러 편을 서로 엮어 읽는 것은 그 용도로 만들어진 도구가 있습니다. 다른 일이고, 다른 모양입니다.

문서를 바깥에 두어야 할 이유는 나중에 드러납니다. 같은 파일이 두 번째, 세 번째로 올라가는 것을 알아차릴 때입니다.

실제로는 이런 모양이 됩니다

문서를 한 번 넣고, 그다음부터는 그냥 물어봅니다. 파일은 도구 사이로 들고 다니는 것이 아니라 도구가 들여다보는 것이 됩니다.

이런 저장소 중 하나가 Contextick 입니다. 대시보드에서 파일을 올리면 텍스트로 바꿔 저장하고, 연결해 둔 어떤 어시스턴트든 나중에 그것을 찾아 씁니다. 업로드가 어떻게 되는지는 여기에 있습니다.

FAQ