AI 에이전트가 잠을 자는 이유: 스스로 갱신하는 기억 만들기

삼월에 에이전트에게 스테이징 서버 주소를 알려줍니다. 유월에 서버가 이전해서 새 주소를 알려줍니다. 정보를 쌓기만 하는 기억에는 이제 두 주소가 모두 남습니다. 처음 주소가 꼭 틀린 것은 아닙니다. 당시에는 맞았으니까요. 하지만 에이전트는 가끔 몇 년 전에 문을 닫은 식당으로 가는 길을 확신에 차서 알려주는 사람처럼 예전 주소를 고릅니다.

대부분의 AI 에이전트용 기억이 안고 있는 문제가 이것입니다. 기억하게 만드는 일은 쉽습니다. 기억한 내용이 낡으면 문제가 시작됩니다.

결국 우리는 Sno Station에 자체 기억을 만들었습니다. 사실 특별히 그러고 싶지는 않았습니다. 이미 좋은 기억 도구가 있고, GitHub에서 별을 수만 개 받은 도구도 있습니다. 세상에 열 번째 기억 업체가 필요한 것도 아닙니다. 우리도 그런 업체가 되려는 게 아닙니다. 다만 필요한 것이 세 가지 있었고, 이 모두를 한꺼번에 갖춘 도구를 찾지 못했습니다.

모든 에이전트가 함께 쓰는 하나의 기억

첫 번째는 말로는 간단합니다. 우리는 에이전트를 여럿 사용합니다. Claude Code, Codex, 때로는 OpenClaw와 Hermes도 씁니다. 저마다 기억에 대한 방식이 다르고, 각자의 기억은 자기 안에서만 통합니다.

그래서 Claude Code에 팀이 목요일마다 배포한다고 알려줘도 금요일에 Codex는 그 사실을 모릅니다. 그 사이에서 정보를 옮기는 사람은 당신입니다. 당신이 케이블인 셈입니다.

Sno Station에서는 사람마다 자신의 컴퓨터에 암호화된 기억 저장소를 하나씩 둡니다. 모든 에이전트가 가벼운 플러그인을 통해 그 저장소를 읽고 씁니다. 플러그인은 작업하는 동안 보관할 만한 내용을 조용히 기록하고, 작업 세션이 시작될 때 관련된 내용을 불러옵니다. 내부에서 실제로 쓰기를 맡는 것은 하나뿐이라, 두 에이전트가 서로의 기록을 덮어쓸 수 없습니다.

이 구조 덕분에 일을 넘겨줄 수도 있습니다. 한 에이전트가 작업 도중 사용 한도에 도달해 다른 에이전트가 이어받는다고 합시다. 다음 에이전트는 아무것도 모르는 상태에서 시작하지 않습니다. 앞선 에이전트가 알던 것을 알고 있습니다. 공유 기억이 없다면 일을 넘겨준다는 것은 새 에이전트에게 모든 것을 다시 설명해 달라는 말을 듣는 것에 불과합니다.

또 기억은 에이전트 실행 도구가 아니라 당신의 것입니다. 내년에 다른 에이전트로 바꾸더라도 당신과 당신의 일에 관해 배운 것은 그대로 남습니다.

쌓아두지 않고 교체하기

두 번째는 앞서 말한 스테이징 서버 문제입니다.

많은 기억 시스템은 내용을 추가하기만 합니다. 새로운 사실은 모두 더미 위에 쌓이고, 아무것도 빠지지 않습니다. 시연은 잘 됩니다. 몇 달 뒤 당신은 이직하고 API는 바뀌었는데 에이전트는 여전히 예전 상사를 기억합니다. 추가만 하는 기억은 모든 버전을 보관하고, 가장 곤란한 순간에 모델에게 알아서 정리하라고 맡깁니다.

우리 방식은 다르고 규칙도 엄격합니다. 새로운 사실이 예전 사실과 충돌하면 모델이 둘을 보고 '교체', '유지', '확신할 수 없음' 중 하나를 답합니다. 답할 수 있는 것은 이 셋뿐입니다. 모델은 판단하고 나머지는 일반 코드가 처리합니다. 예전 기억에는 사용 종료 표시가 붙고 새 기억이 그 자리를 차지하며, 에이전트에게는 현재 유효한 기억만 보여줍니다.

모델에는 삭제 버튼이 없습니다. 이 점은 강조하고 싶습니다. 모델이 마음대로 무엇을 지울 수 없고, 사용이 종료된 기억도 예전에 무엇이 사실이었는지 확인하고 싶을 때 찾아볼 수 있습니다. 장부의 한 줄에 취소선을 긋는 것과 그 장을 찢어 버리는 것의 차이와 비슷합니다.

판단은 얼마나 정확한가

위험한 부분은 판단입니다. 남겨야 할 사실을 모델이 교체하면 참인 정보를 잃습니다. 기록이 어수선해지는 것보다 더 나쁩니다.

그래서 우리는 이 판단만을 위한 작은 모델을 직접 훈련하고, 대형 연구소의 최첨단 모델과 비교했습니다. 두 모델이 같은 시험을 치렀습니다. 오래된 사실과 새로운 사실로 이루어진 223쌍을 사용했고, 각 쌍에는 알려진 정답이 있습니다.

우리 모델이 올바른 조치를 고른 비율은 97.5퍼센트였습니다. 최첨단 모델은 96.8퍼센트였습니다.

제가 더 중요하게 보는 숫자는 잘못된 교체, 즉 참인 사실을 버렸을 경우입니다. 우리 모델은 3.2퍼센트, 최첨단 모델은 4.1퍼센트였습니다.

이 결과를 과장하고 싶지는 않습니다. 유월에 치른 223문항짜리 작은 시험이고, 두 모델 모두 이 시험에서 거의 최고점에 가깝습니다. 그 후 더 어려운 시험을 만들었습니다. 다른 기억 도구와 비교한 결과도 아닙니다. 아직 그런 비교는 하지 않았고, 남의 수치를 우리가 직접 측정한 것처럼 인용하지도 않겠습니다.

이 결과가 알려주는 것은 그래픽 카드 한 장에서 돌아가는 작은 모델도 이 판단 하나만큼은 가장 큰 모델만큼 잘할 수 있다는 점입니다. 이 판단은 계속 일어나고, 남에게 보내고 싶지 않은 정보에 관해서도 이루어지므로 중요합니다.

왜 잠을 자는가

세 번째는 이 일을 언제 하느냐입니다.

에이전트가 일하는 동안 이 모든 처리를 할 수는 없습니다. 새로운 사실이 들어올 때마다 에이전트가 이미 기억하는 모든 것을 다시 살펴봐야 합니다. 느린 작업이고, 에이전트에게는 끝내야 할 일이 있습니다. 그래서 부담이 큰 부분은 에이전트가 쉬는 동안 처리합니다.

회사 안에서는 사람이 하루 동안 겪은 일을 정리하는 듯한 수면 단계에서 이름을 따와 이 과정을 REM이라고 부릅니다. 처음에는 그 이름에 반대했습니다. 조금 귀엽게 꾸민 이름처럼 느껴졌거든요. 하지만 정확한 이름입니다. 이 과정은 그날의 작업 세션을 검토합니다. 오래된 사실은 사용을 마치고 모순은 정리됩니다. 이후 기억해야 할 내용은 줄어들고, 남은 내용은 당신이 지금 일하는 방식에 더 가까워집니다. 밤사이 기억은 작아져야 합니다. 쌓아두는 더미와는 반대죠.

이 정보 중 얼마를 자신의 컴퓨터 밖으로 보낼지는 당신이 선택합니다. 개인정보 보호를 가장 중시하는 설정에서는 아무것도 밖으로 나가지 않습니다. 당신 에이전트의 모델이 기억을 정리하고 모든 것이 로컬에 남습니다. 기본 설정에서는 당신 에이전트의 기존 구독이 판단을 맡습니다. 동의하면 위에서 설명한 교체 여부 판단처럼 가장 어려운 결정은 우리 모델이 맡습니다.

현재 상황도 말씀드려야겠습니다. 공유 저장소와 교체 규칙은 여기서 매일 사용하고 있습니다. 수면 과정은 가장 최근에 만든 부분이라 우리 컴퓨터에서도 아직 매일 밤 실행되지는 않습니다. 설정 오류로 이 과정이 실행되지 않고 있었고, 지금 수정 중입니다. 나중에 당신이 알아내기 전에 제가 먼저 말하는 편이 낫겠습니다.

왜 모든 것의 밑바탕인가

시작할 때 제가 이해하지 못했던 점이 있습니다. 기억을 하나의 기능이라고 생각했습니다. 실제로는 바닥에 더 가깝습니다.

에이전트가 자기 작업 세션을 읽고 교훈을 적는 밤마다의 검토에는 그 교훈을 둘 곳이 필요합니다. 에이전트 사이에서 일을 넘겨줄 때도 필요합니다. 에이전트가 무엇을 했고 첫 시도에 얼마나 자주 제대로 했는지 기록할 때도 필요합니다. 나중에 클라우드에서 무엇을 만들든, 여기 저장된 내용에서 추려낸 것을 바탕으로 하게 됩니다.

이 모든 것을 끝없이 커지기만 하는 더미 위에 만들 가치는 없습니다. 월요일에 틀렸어도 사람이 직접 고치지 않아도 화요일이면 바로잡힐 수 있는 기억이 필요합니다.

기억이 틀리면 다음 에이전트가 실수를 물려받고 당신은 다시 설명해야 합니다.

서버가 또 이전하기 전까지는요.

Sno Station은 오픈 소스입니다. sno.ai에서 볼 수 있습니다.