AI 컴패니언은 가족 구성원의 이름을 기억하기 전에 어떻게 확인해야 할까?

이름이 기억으로 저장되기 전에 확인이 필요한 이유

사용자가 다음과 같이 말한다고 가정해 보겠습니다. “이번 주말에 제 여동생 Maya가 놀러 와요. 사촌이 보낸 메모에는 Maja라고 적혀 있는데, 오타인 것 같아요.” 이 대화에는 두 가지 철자와 하나의 관계가 포함되어 있습니다. 어시스턴트는 Maya가 여동생이고 Maja는 오타라고 지레 짐작하고 싶을 수 있습니다. 하지만 사촌의 메모는 다른 사람을 가리키는 것일 수도 있고, “~인 것 같아요”라는 표현은 불확실성을 나타냅니다. 어느 쪽 철자든 확정된 사실로 저장하면 미해결된 세부 정보가 영구적인 맥락으로 굳어지게 됩니다.

유용한 디자인적 구분은 사용자가 '직접 진술한 것'과 시스템이 '단순히 마주치거나 결론지은 것'을 나누는 것입니다. “제 여동생은 Maya Chen입니다”는 직접적인 진술입니다. 붙여넣은 메모 속의 이름은 인용되었거나 외부에서 가져온 맥락입니다. “Maja는 틀림없이 Maya일 것이다”는 추론입니다. 명확한 출처 없이 제공된 이름은 추측입니다. 이러한 분류는 어시스턴트가 확인 질문을 던져야 할지 판단하는 데 도움을 주며, 사용자가 질문의 이유를 이해할 수 있게 합니다. 이는 컴패니언 디자인을 위해 제안하는 워크플로일 뿐, 모든 AI 제품이 이미 이러한 방식으로 이름을 처리하고 있다는 주장은 아닙니다.

실용적인 확인 워크플로

제3자의 이름을 저장하기 전에 어시스턴트는 저장하려는 정확한 메모리 내용을 쉬운 언어로 명시하고 사용자에게 확인을 요청해야 합니다. 예를 들어: “회원님의 여동생 이름이 Maya Chen이라는 사실을 기억해 둘까요?”와 같습니다. 이 질문은 저장될 철자와 관계를 모두 명확히 밝혀야 합니다. 막연하게 “그 내용을 기억할까요?”라고 묻는 것은 오해의 여지를 너무 많이 남깁니다.

사용자가 확인하면 확인된 세부 정보만 저장하고 메모리가 저장되었음을 명확히 표시합니다. 사용자가 거절하거나 답변을 피하거나 주제를 바꾸면 해당 이름을 메모리로 승격하지 마세요. 불확실한 세부 정보는 응답에 필요한 경우에만 현재 대화 내에서 유지하고, 확정된 사실인 것처럼 반복하지 않도록 합니다. 사용자가 “이름은 Maja이고, 제 사촌이에요”라며 내용을 바로잡는다면, 저장하기 전에 그 수정된 버전을 기억해야 하는지 다시 물어보세요.

유용한 단계적 순서는 다음과 같습니다:

**출처 파악하기.** 이름이 사용자에 의해 직접 진술되었는지, 메시지에서 인용되었는지, 파일이나 연결된 소스에서 가져왔는지, 맥락에서 추론되었는지, 아니면 추측되었는지 확인합니다.

**충돌 여부 점검하기.** 철자와 관계를 사용자가 현재 나눈 대화 내용 및 기존에 저장된 관련 메모리와 비교합니다. 불일치가 발생하면 가장 그럴듯해 보이는 버전을 임의로 선택하지 말고, 미해결 상태로 취급합니다.

**정확한 메모리 내용 질문하기.** 제안할 이름과 관계를 명시한 후 수정 사항을 묻거나 명확한 예/아니오 답변을 유도합니다.

**명시적 확인 후에만 저장하기.** 저장되는 문구의 범위를 좁게 유지하세요. 확인되지 않은 전체 이름, 별명 또는 기타 관계 세부 정보를 덧붙이지 마세요.

**결과 및 제어 기능 표시하기.** 사용자에게 저장 여부를 알리고, 이를 확인하고 변경하거나 삭제할 수 있는 방법을 제공합니다.

철자나 관계가 충돌할 때 대처하는 방법

Maya/Maja 예시에서 어시스턴트는 묵묵히 철자를 표준화해서는 안 됩니다. 대신 다음과 같이 말할 수 있습니다: “보내주신 메시지에는 Maya로, 메모에는 Maja로 되어 있네요. 어떤 철자를 사용해야 하며, 그분과는 어떤 관계이신가요? 확인해 주시기 전까지는 이름을 저장하지 않겠습니다.” 사용자가 단순히 “Maya”라고만 답한다면 철자는 명확해졌지만, “여동생 Maya”와 같은 복합적인 메모리를 저장하기 전에는 여전히 관계에 대한 명확한 확인이 필요할 수 있습니다.

수정 사항은 해당 내용이 해결하는 특정 세부 정보에만 국한하여 적용하세요. 사용자가 “Maja”를 확인했다고 해서 Maja가 여동생이라는 사실까지 반드시 확인한 것은 아니며, 관계를 확인했다고 해서 본명을 쓸지 별명을 쓸지가 결정되는 것은 아닙니다. 사용자가 확신하지 못한다면 메모리를 저장하지 않은 상태로 두고 나중에 다시 확인할 수 있도록 하세요. 이는 하나의 디자인 권장 사항입니다. 확신에 찬 어조의 답변 뒤로 불확실성을 숨기지 말고 그대로 드러내 두어야 합니다.

유용한 반대 사례: 묻거나 저장하지 말아야 할 때

사용자가 “Maya”가 언급된 가족 단체 대화방 발췌본을 붙여넣은 뒤 요약을 요청한다고 가정해 보겠습니다. 어시스턴트는 이름을 저장하겠다고 묻지 않고도 내용을 요약할 수 있습니다. 대화 중에 제3자를 언급하거나, 다른 사람의 말을 인용하거나, 일회성 작업에 대한 도움을 요청하는 것 자체가 영구적인 기억을 원한다는 뜻은 아닙니다. 이름이 나올 때마다 매번 확인을 요구한다면 일상적인 작업 흐름을 방해하게 됩니다. 확인 메시지는 시스템이 해당 세부 정보를 메모리로 승격시키고자 제안하는 시점에 나타나야 합니다. 저장할 이유가 없다면 그냥 저장하지 않으면 됩니다.

사용자가 메모리를 검토, 수정 및 삭제할 수 있도록 지원

확인은 유용한 메모리 제어 기능의 한 부분일 뿐입니다. 사용자는 메모리 화면에서 저장된 항목을 볼 수 있어야 하고, 저장된 철자와 관계를 식별할 수 있어야 하며, 각 필드를 수정하거나 항목을 삭제할 수 있어야 합니다. 수정을 통해 시스템이 사용해야 할 내용이 변경되면, 인터페이스는 최종적으로 저장된 버전을 명확히 보여주어야 합니다. 삭제를 요청받았을 때 시스템은 메모리가 실제로 삭제되었는지를 표시해야 합니다. 대화 중 “기억하지 않겠습니다”라고 답하는 것 자체가 영구 기록이 변경되었다는 증거가 되지는 않습니다.

OpenAI의 ChatGPT 도움말 문서는 이러한 제어 기능이 중요한 이유를 보여주는 제품별 사례를 제공합니다. 해당 문서에 따르면 메모리는 사용 가능한 여러 출처를 활용할 수 있고 모든 세부 정보를 기억하지 못할 수 있으며, 수정 및 삭제 컨트롤을 제공하지만 정보가 저장된 위치에 따라 삭제 단계가 달라진다고 설명합니다. 이러한 세부 사항은 ChatGPT에 해당하는 내용이며, AI 컴패니언의 보편적 기준은 아닙니다. [ChatGPT의 메모리 기능](https://help.openai.com/en/articles/8590148-memory-in-chatgpt)을 참조하세요.

마찬가지로 “알겠습니다, Maya를 기억할게요”와 같은 대화형 답변이 실제로 영구 메모리에 저장되었음을 입증하지는 못합니다. 시스템은 시각적인 메모리 상태나 기타 신뢰할 수 있는 제품 신호를 사용하여 단순한 인지와 확정된 저장을 구분해야 합니다. 그래야 사용자가 친절한 말투에서 일어난 일을 추측할 필요 없이 메모리 컨트롤을 직접 확인할 수 있습니다.

디자이너와 사용자를 위한 간결한 결정 규칙

제안된 제3자의 각 이름에 대해 다음을 질문하세요. **출처가 무엇인가? 철자가 명확한가? 관계가 명확한가? 사용자가 메모리 저장을 위해 이 정확한 세부 정보를 명시적으로 승인했는가?** 어느 하나라도 답이 불확실하다면 저장을 잠시 멈추세요. 사용자가 승인하면 저장된 항목을 확인하고 편집할 수 있게 만들고, 그렇지 않다면 영구 메모리에 넣지 마세요. 이 간단한 결정 규칙은 불확실한 맥락이 누군가에 대한 영구적인 주장으로 굳어지는 바로 그 순간에 검증을 집중시킵니다.

가족 구성원의 이름을 기억하는 것은 인용, 외부 가져오기, 추론 또는 추측을 사실로 바꾸는 것이 아니라 사용자가 의도한 표현을 그대로 보존하는 것이어야 합니다. 구체적인 이름과 관계를 묻고, 명시적인 확인 후에만 저장하며, 결과를 검토, 수정 및 삭제할 수 있도록 하세요. 시스템도 사용자도 대화상의 약속을 메모리가 변경되었다는 증거로 오인하지 않도록 확인과 저장 자체를 명확히 분리해 두세요.

이 주제 더 살펴보기