AI 컴패니언은 무엇을 기억해야 할까? 보존할 항목을 선택하기 위한 실용 가이드

기억이 개선해야 할 작업부터 시작하기

세부 정보를 저장하기 전에 다음 문장을 완성해 보세요. “이것을 기억하면 ___에 도움이 될 것이다.” 답이 모호하다면 그 세부 정보는 영구 기억에 적합하지 않을 가능성이 큽니다. “주말 활동 계획을 세워줄 때는 간결한 글머리 기호를 사용해 줘”라는 요청은 명확한 목적이 있습니다. 반면 “어제 대화에서 내가 조급해 보였다”는 지속적인 선호도나 유용한 사실을 확립해 주지 못합니다.

이는 데이터 최소화(data minimization)의 실용적인 적용 사례입니다. NIST는 최소화를 개인정보의 생성, 사용 및 보존을 목적에 직접적으로 관련되고 필요한 범위로 제한하며 해당 목적에 필요한 기간 동안만 유지하는 것으로 정의합니다. 기억 기능의 경우, 이에 상응하는 설계 질문은 시스템이 사용자가 선택한 작업을 나중에 수행하기 위해 이 세부 정보가 필요한지 여부입니다. NIST의 최소화 정의

좋은 후보: 명시적인 선호도와 유용한 프로젝트 사실

가장 적합한 후보는 사용자가 명확하게 밝혔고 반복되는 응답 형성에 영향을 미칠 가능성이 높은 일상적인 세부 정보입니다. 예를 들어 선호하는 답변 형식, 정해진 프로젝트 이름, 공예 프로젝트를 위해 이미 선택한 재료, 또는 발코니 정원을 계획할 때 관리가 쉬운 식물을 원한다는 사용자의 명시적인 선호도 등이 있습니다. 여전히 도움이 되는 수준에서 가장 간략한 버전으로 저장하세요. “짧고 단계별로 이루어진 설명을 선호함”은 사용자가 간결함을 요청했던 모든 상황을 장황하게 서술하여 저장하는 것보다 훨씬 유용하며 덜 침해적입니다.

어떤 개인적 사실은 정의된 프로젝트 내부에서만 관련성이 있습니다. 사용자가 방 배치를 계획하면서 방 크기가 3x4미터라고 말한다면, 이 치수는 방 디자인 프로젝트 내에서는 유용할 수 있지만 관련 없는 대화를 위한 일반적인 배경 정보가 될 필요는 없습니다. 프로젝트 범위로 한정된 기억은 간단한 질문에 답을 제시합니다. 즉, 향후 어떤 대화에서 이 세부 정보를 참조할 수 있는가 하는 점입니다.

제품 문서를 살펴보면 영구 기억과 프로젝트 맥락을 별개의 선택지로 다루는 것이 왜 도움이 되는지 알 수 있습니다. OpenAI는 저장된 기억을 대화 기록과 분리된 것으로 설명하며, 어떤 프로젝트 대화가 서로를 참조할 수 있는지 제한하는 ‘프로젝트 전용 기억(Project-only memory)’ 옵션을 명시하고 있습니다. 이는 제품별 제어 기능일 뿐, 모든 AI 시스템이 동일한 범위를 제공한다는 보장은 아닙니다. OpenAI의 기억 관련 문서

임시 상황 세부 정보는 임시로 유지하기

어떤 세부 정보는 지금은 유용하지만 나중에는 유용하지 않을 수 있습니다. 현재 앉아 있는 카페, 오늘의 날씨, 임시 쇼핑 목록, 결정되지 않은 선택지 등은 현재의 요청에 답하는 데는 도움이 될 수 있지만 금방 쓸모가 없어집니다. 앞으로 계속 이어가겠다고 명시적으로 요청하지 않는 한, 이러한 정보는 현재 대화나 프로젝트 내에만 유지하세요. 만약 저장해야 한다면 “이번 여행 계획을 위해” 또는 “노트북을 선택할 때까지”와 같이 범위와 검토 시점을 지정하세요.

이렇게 하면 한순간의 상황이 일종의 특성으로 오인되는 것을 방지할 수 있습니다. 조용한 카페를 한 번 찾았다고 해서 조용한 장소를 영구적으로 선호한다는 의미는 아니며, 밝은 색상을 한 번 골랐다고 해서 지속적인 미적 취향이 확립되는 것도 아닙니다. 안전한 설계 추론은 필요할 때 사용자의 말을 범위가 한정된 사실로 보존하는 것이지, 이를 성격에 대한 설명으로 은근슬쩍 일반화하지 않는 것입니다.

Google의 Gemini 개인정보 보호 문서는 저장된 지침과 이전 대화 기반 맞춤 설정을 구분하며, 저장된 정보는 사용자가 관리하거나 삭제할 수 있다고 명시합니다. 또한 이전 대화 기반 맞춤 설정은 대화의 정보를 사용할 수 있다고 언급합니다. 이러한 구분은 실용적인 제품 설계 규칙을 뒷받침합니다. 즉, 의도적이고 수정 가능한 선호도는 대화 기록에서 가져온 맥락과 분리하여 식별할 수 있어야 합니다. Gemini 앱 개인정보 보호 허브

민감한 특성을 유추하거나 제3자 세부 정보를 기본으로 저장하지 않기

기억 시스템은 대화의 단서를 민감한 결론으로 전환해서는 안 됩니다. 사용자의 말투, 일정, 구매 내역 또는 일회성 선택이 개인적 특성, 상황 또는 동기를 추측하는 근거가 될 수는 없습니다. 그럴듯하게 들리는 추론일지라도 틀릴 수 있으며, 그것이 확인된 사실로 취급된다면 향후의 답변이 어색해지거나 오해를 불러일으킬 수 있습니다. 사용자가 제공한 사실은 명확한 작업 관련 용도가 있을 때만 저장해야 하며, 사용자가 어떤 사람인지에 대한 더 광범위한 주장으로 변질시켜서는 안 됩니다.

타인에 대한 정보에도 이와 유사한 절제를 적용해야 합니다. 프로젝트를 위해 사용자가 명시적으로 제공한 이름이나 역할이 필요할 수 있지만, 일상적인 대화가 친구, 친척 또는 동료에 대한 영구적인 신상 기록 파일이 되어서는 안 됩니다. 특정 작업에 제3자의 세부 정보가 필요한 경우, 해당 작업의 범위 내로 유지하고 불필요한 개인적 세부 사항은 피하세요. 이는 최소화 원칙에서 도출된 제품 설계 권장 사항일 뿐, 모든 서비스가 이러한 데이터를 동일한 방식으로 처리한다는 주장은 아닙니다.

모든 기억에 범위, 출처 및 검토 경로 지정하기

인터페이스를 통해 기억의 내용, 출처, 사용 가능한 범위를 명확히 알 수 있을 때 그 기억을 신뢰하기가 더 쉽습니다. 실용적인 기억 기록에는 사용자가 제공한 정확한 문구, 목적, 광범위하게 적용되는지 아니면 특정 프로젝트에만 적용되는지 여부, 선택적 검토 날짜 또는 삭제 조건 등이 포함될 수 있습니다. 예를 들어: “발코니 정원 프로젝트용, 물을 적게 주어도 되는 식물을 선호함; 식물 목록이 정해지면 검토할 것.” 이는 예시 형식일 뿐이며, 특정 제품의 문서화된 기능은 아닙니다.

사용자는 기억된 정보를 확인, 수정 및 삭제할 수 있어야 합니다. 또한 기억을 삭제하는 것과 대화를 삭제하거나 더 넓은 맞춤설정 설정을 변경하는 것을 구분할 수 있어야 합니다. OpenAI의 도움말 문서에 따르면 저장된 기억은 대화 기록과 별개일 수 있으므로, 원본 대화만 삭제한다고 해서 별도의 기억까지 삭제되지 않을 수 있습니다. Gemini의 개인정보 보호 허브 역시 활동 제어와 저장된 정보 제어를 별도로 설명합니다. 이러한 제품 사례는 명확한 삭제 경로가 해당 제어 기능이 어느 계층에 영향을 미치는지 설명해야 하는 이유를 잘 보여줍니다. OpenAI 기억 제어, Gemini 앱 데이터 제어

기억 선택은 공개 내용 및 설정 범위와 별개입니다

기억에 저장할 항목을 선택하는 것은 한 가지 질문에 답하는 것입니다. 즉, 향후 맞춤설정을 위해 어떤 세부 정보를 유지해야 하는가입니다. 이것만으로는 서비스가 어떤 정보를 수집하는지, 대화를 어떻게 처리하는지, 누가 데이터를 검토할 수 있는지, 또는 어떤 계정 및 설정 제어가 적용되는지 설명할 수 없습니다. 이는 별개의 공개 내용 및 설정 범위 문제입니다. 제품은 기억 목록이 짧다는 이유로 다른 데이터가 일절 처리되지 않는 것처럼 암시하기보다는 이러한 사항들을 별도로 정확하게 설명해야 합니다.

이러한 구분은 실제로 매우 중요합니다. Google의 개인정보처리방침은 저장된 지침, 활동 제어, 연결된 앱, 서비스 제공 및 개선을 위한 데이터 사용을 포함하여 정보 및 설정의 여러 범주를 설명합니다. 구체적인 동작은 제품과 구성에 따라 다릅니다. 따라서 기억 선택 인터페이스는 자신이 관할하는 범위를 명시하고, 사용자에게 해당 개인정보 보호 및 설정 정보를 안내해야 하며, 그러한 설명을 대체한다고 암시해서는 안 됩니다. Gemini 앱 개인정보 보호 허브

각 기억 후보를 위한 간단한 결정 테스트

세부 정보를 저장하기 전에 다음 네 가지 질문을 던져보세요:

명시적으로 제공되었거나 승인되었는가? 단순한 해석에 불과하다면 사실로 저장하지 마세요.

향후 발생할 가능성이 높은 특정 작업을 개선할 것인가? 그 작업을 구체적으로 지칭할 수 없다면 제외하세요.

적절한 범위는 어디까지인가? 일반적인 개인화에 속하지 않는 세부 정보는 프로젝트 경계를 사용하세요.

사용자가 검토하고 삭제할 수 있는가? 그렇지 않다면 인터페이스가 이를 단순하고 사용자가 제어할 수 있는 기억으로 표시해서는 안 됩니다.

예를 들어 방 배치 프로젝트에서 “사용자가 서재용으로 작은 책상을 선택했다”는 배치가 완료될 때까지 유용할 수 있습니다. 계획 세션 중에 방문한 카페는 일시적인 정보일 가능성이 큽니다. 사용자가 “항상 미니멀리즘을 선호한다”는 추측은 사용자가 그 선호도를 명시적으로 밝히고 이를 더 넓게 적용하기를 원하지 않는 한 저장되어서는 안 됩니다. 이 예시들은 결정 테스트를 적용한 것일 뿐이며, 연구 결과나 특정 제품에 대한 주장이 아닙니다.

절제된 기억 시스템은 완전한 프로필을 구축할 필요가 없습니다. 선택된 활동에 도움이 되는 몇 가지 명시적인 선호도와 실용적인 사실만을 계승하고, 국소적인 세부 정보는 그 자리에만 머물게 하며, 수정과 삭제를 알기 쉽게 만들어야 합니다. 그 목적은 AI가 대화 뒤에 있는 사람을 잘 알고 있다는 과시가 아니라, 사용자가 실제로 말한 것에 기반한 연속성입니다.

이 주제 더 살펴보기