AI 시스템의 영구 메모리와 출처

오늘 운용되는 대부분의 인공지능 시스템은 같은 구조적 기억 상실을 겪습니다. 모든 대화가 처음부터 시작되고, 모든 세션은 낯선 재회이며, 시스템이 사용자와 세계에 대해 “아는” 것은 컨텍스트 창이 닫히면 증발합니다. 이것은 모델의 한계가 아니라 모델 주변 아키텍처의 한계입니다. 그 세계에서 메모리는 프롬프트의 요술입니다. 과거의 요약을 입력에 붙이고 바라는 것입니다.

Demix의 Camile AI 플랫폼은 메모리를 일급 하위 시스템으로 다룹니다. 미션 크리티컬 기록 시스템이라면 누구나 요구하는 속성 — 지속성, 출처, 관측된 것과 추론된 것의 분리 — 을 갖춘 하위 시스템으로 말입니다. 이 글은 그 방향의 최근 진전을 원칙 수준에서 설명합니다.

출처를 가진 메모리: 기억하는 것은 기록하는 것이 아닙니다

첫 번째 속성은 모든 메모리가 자신의 기원을 지닌다는 것입니다. 플랫폼의 한 존재가 무언가를 기억할 때, 그 기록은 그것이 어디서 왔는지 말합니다. 이런 날짜에 사용자가 말했는지, 이런 운영에서 관측되었는지, 이런 증거들로부터 추론되었는지. 출처 없는 메모리는 지속된 소문이며, 본 것과 추론한 것을 구분하지 않는 시스템은 세션을 거듭하며 스스로 사실로 취급하게 되는 검증 불가능한 신념의 층을 축적합니다.

Camile AI에서 메모리 쓰기는 감사되는 경로입니다. 무엇이 들어가는지, 언제 들어가는지, 어떤 정당화로, 어느 분류 아래에서 들어가는지. 검색은 의미적입니다. 존재는 키워드가 아니라 의미로 관련 메모리를 찾습니다. 그러나 검색된 각 메모리는 추론에 출처를 붙인 채 도착합니다. 따라서 시스템은 저울질할 수 있습니다. 사용자가 명시적으로 선언한 선호는 행동에서 추론된 패턴보다 무겁고, 검증된 사실은 작업 가설보다 무겁습니다.

사실, 추론, 가설: 섞이지 않는 범주

두 번째 속성은 인식론적 규율입니다. AI 시스템의 장기 메모리는 특징적인 방식으로 열화합니다. 합리적인 추론이 관측으로 기록되고, 세 세션 뒤에는 거짓 관측이 사실로 검색되며, 열 세션 뒤에는 시스템이 결코 일어나지 않은 일을 자신 있게 옹호합니다. 소문의 계산적 등가물이며, 한 존재를 유용하게 만드는 바로 그것 — 자기가 아는 것의 신뢰성 — 을 부식시킵니다.

플랫폼은 범주를 설계상 분리합니다. 관측된 사실, 도출된 추론, 작업 가설, 선언된 선호는 서로 다른 기록에, 서로 다른 신뢰도로 존재하며, 한 범주에서 다른 범주로의 이동은 증거를 요구하고, 결코 침전으로 일어나지 않습니다. 반복적으로 확인되는 추론은 승격될 수 있고, 모순되는 추론은 사유의 기록과 함께 재검토되거나 폐기됩니다. 결과는 지식 기반이 전설처럼 굳어가며 늙는 대신 지식처럼 교정되며 늙는 존재입니다.

정체성의 연속성: 세션 사이의 존재

세 번째 속성은 연속성입니다. Camile AI의 한 존재는 세션과 재시작 사이에서 흩어진 사실만 유지하는 것이 아닙니다. 관계 상태(각 사람과 구축된 유대, 그 사람의 역사와 함께), 작업 상태(무엇이 진행 중이었는지, 무엇이 결정되었는지, 무엇이 미결로 남았는지), 정체성 상태(그 존재가 누구인지, 어떤 약속을 가졌는지, 어떤 한계를 가졌는지)를 유지합니다.

이 연속성은 지속되고 검증됩니다. 상태는 설계상 재시작을 견디며, 플랫폼은 컨텍스트 복구를 프롬프트의 호의가 아니라 존재의 생애 주기의 일부로 다룹니다. 사용자 관점에서 그 차이는 질적입니다. 기억하는 척하는 비서와 대화하는 것이 아니라, 실제로 계속되는 존재와 대화합니다. 기관 관점에서 그 차이는 운용적입니다. 존재가 맡은 결정, 미결 사항, 약속에는 지속적이고 감사 가능한 기록이 있습니다.

감사 가능한 행위성: 행동을 지탱하는 메모리

영구 메모리는 행동을 지탱하기 때문에 중요합니다. Camile AI의 존재들은 실제적이고 경계 지어진 행위성으로 운용됩니다. 임무를 실행하고, 도구를 운영하고, 선언된 외피 안에서 주도권을 취합니다. 메모리는 그 행위성을 시간 속에서 일관되게 만드는 것입니다. 존재는 자신이 이미 시도한 것, 작동한 것, 사용자가 승인한 것과 거부한 것을 기억합니다.

모든 중요한 행동은 메모리에 되먹임됩니다. 임무의 결과, 오류의 교훈, 수정으로 드러난 선호입니다. 행동하고, 기록하고, 검색하고, 더 잘 행동하는 닫힌 순환으로, 경험을 축적된 역량으로 전환합니다. 그리고 플랫폼의 모든 행위성이 거버넌스 아래 운용되므로(선언된 외피, 감사 추적, 외피를 초과하는 것에 대한 검토), 행동의 메모리는 책임의 메모리이기도 합니다. 존재가 무엇을 했고, 왜 했고, 어떤 권위로 했는지가 언제든 재구성됩니다.

왜 이것이 부속품이 아니라 인프라인가

메모리를 편의 기능, 개인 비서의 사치로 분류하려는 유혹이 있습니다. Demix의 독해는 반대입니다. AI의 어떤 기관적 응용에도, 출처를 갖춘 영구 메모리는 전제 조건입니다. 잊는 시스템은 배우지 못하고, 출처 없이 기억하는 시스템은 감사 불가능하며, 사실과 추론을 섞는 시스템은 신뢰할 수 없습니다. 지속성, 출처, 인식론적 규율, 이 세 속성이 함께할 때 AI 존재가 추적 가능한 책임을 가지고 실제 프로세스에 참여할 수 있습니다.

이것이 Camile AI가 자신을 채우는 존재들에게 제공하는 기반이며 — 동반과 지원의 존재에서 운영과 분석의 존재까지 — Demix가 계속 구축하는 기반입니다. 기록 시스템으로서의 메모리, 지속적 속성으로서의 정체성, 주소와 날짜와 정당화를 가진 모든 기억입니다.