무해한 세부 정보로 AI 채팅 도구의 메모리 테스트하기
AI 채팅 도구가 세션 간에 무해한 선호 사항을 기억하도록 하고 싶다면, 가상 프로젝트의 사소한 세부 정보 하나를 테스트한 다음 이를 확인하고 삭제할 수 있는지 점검해 보세요. 유용한 테스트는 도구가 현재 대화에서 이어받는 내용과 나중에 사용하기 위해 저장하거나 도출하는 내용을 구분해 줍니다. 결과는 해당 시점에 귀하의 계정에서 해당 도구가 어떻게 작동했는지를 보여줄 뿐이며, 모든 채팅에서 정확하게 기억한다는 것을 증명하지는 않습니다.
AI 채팅 도구에서 "메모리"란 무엇을 의미하나요?
채팅 도구는 현재 나누고 있는 대화의 메시지를 문맥으로 활용할 수 있습니다. 이는 동일한 대화목록(스레드) 내에서 앞서 언급된 세부 사항에 응답하는 데 도움이 됩니다. 일부 도구는 이전 대화, 저장된 메모리 항목, 사용자 지정 지침(custom instructions), 파일 또는 연결된 서비스의 정보를 사용할 수도 있습니다. 어떤 출처를 사용할 수 있는지는 제품 및 계정 설정에 따라 달라집니다.
OpenAI의 메모리 FAQ에서는 저장된 메모리와 채팅 기록에서 참조된 정보를 구분합니다. 저장된 메모리는 원본 채팅과 별도로 저장되므로 채팅만 삭제한다고 해서 관련된 저장 메모리가 반드시 삭제되는 것은 아닙니다. 채팅 기록 참조 기능은 사용 가능하고 활성화되어 있을 때 과거 대화에서 관련 정보를 가져올 수 있습니다. 또한 OpenAI는 요금제, 지역, 플랫폼 및 워크스페이스 설정에 따라 메모리 기능과 제어 권한이 달라질 수 있다고 명시합니다.
이러한 구분은 연속성 테스트 중에 매우 중요합니다. 원래 대화가 여전히 열려 있거나, 이전 채팅을 참조할 수 있거나, 메모리를 저장했기 때문에 도구가 기억하는 것처럼 보일 수 있습니다. 이러한 동작들은 서로 다르며, 한 번의 성공적인 답변만으로는 어떤 출처에서 해당 세부 정보가 제공되었는지 알 수 없습니다.
무해한 선호 사항 테스트 실행하기
가상의 프로젝트와 부담 없는 선호 사항을 사용해 보세요. 예를 들면 다음과 같습니다. "내 가상 프로젝트인 'Paper Kite'에서는 초안 섹션 이름이 짧은 것을 선호해." 개인정보, 민감한 정보 또는 기밀 정보는 사용하지 마세요. 목표는 사소한 선호 사항을 테스트하는 것이지, 도구가 복잡한 히스토리를 재구성할 수 있는지 확인하는 것이 아닙니다.
확대 해석 없이 결과 읽기
간단한 기록을 남기면 테스트의 유용성이 유지됩니다.
도구가 선호 사항을 놓친다고 해서 그것만으로 메모리가 고장 났음을 의미하지는 않습니다. 메모리가 꺼져 있거나, 사용할 수 없거나, 특정 영역으로 제한되어 있거나, 새 채팅에서 해당 출처를 사용할 수 없는 상태일 수 있습니다. 반대로 선호 사항을 올바르게 반영했다고 해서 다른 세부 정보까지 일관되게 기억할 것임을 보장하지는 않습니다. 결론은 제한적으로 내리세요. "이 설정에서 해당 도구는 이 선호 사항을 새 채팅으로 이어받았다(또는 이어받지 못했다)."
더 명확한 테스트를 위해 다른 가상 프로젝트에서 두 번째 무해한 선호 사항으로 반복하되, 한 번에 한 가지 조건만 변경해 보세요. 예를 들어, 제품 설명상 일반 새 채팅과 프로젝트 전용 채팅이 다르게 동작한다고 안내된 경우에만 둘을 비교하세요. 매번 설정을 기록해 두세요. 그렇지 않으면 설정 차이로 인해 결과가 모순된 것처럼 보일 수 있습니다.
조회, 편집, 삭제할 수 있는 항목 살펴보기
메모리에 의존하기 전에 도구의 실제 제어 기능을 찾아보고 다음 세 가지 개별 작업을 확인해 보세요.
문구를 주의 깊게 읽어보세요. 예를 들어, OpenAI FAQ에서는 ChatGPT에 무언가를 언급하지 말라고 요청하면 개인화 설정은 변경되지만 원본 출처가 삭제되지는 않는다고 명시합니다. 또한 기억된 정보를 제거하려면 저장된 메모리와 처음 공유된 채팅을 둘 다 삭제해야 할 수도 있으며, 파일이나 연결된 앱과 같은 기타 출처는 별도의 조치가 필요할 수 있다고 설명합니다. 메모리 기능을 끄는 것이 이전 채팅이나 저장된 세부 정보를 삭제하는 것과 항상 같지는 않습니다. 사용 가능한 제어 기능은 계정에 따라 다를 수 있으므로 해당 제품의 메모리 FAQ에 나와 있는 최신 지침을 따르세요.
제어 권한은 채팅 도구마다 다릅니다. Tolan의 공식 FAQ에 따르면 앱 내 대화는 기록되어 메모리를 생성하는 데 사용되며, 앱의 프로필 설정을 통한 계정 삭제 방법을 설명합니다. 이는 해당 제품에 국한된 설명이며, 모든 AI 채팅 도구에 적용되는 일반적인 규칙은 아닙니다. 다른 제품의 메모리 및 삭제 제어 방식이 동일하게 적용될 것이라 가정하지 말고, 실제로 사용하는 서비스를 확인하세요.
연속성과 제어를 위한 실질적인 기준
메모리 기능은 작은 테스트를 실행해보고, 어떤 정보가 사용될 수 있는지 확인하고, 잘못된 정보를 수정하며, 이를 삭제할 수 있는 명확한 경로를 찾을 수 있을 때 평가하기가 더 수월합니다. 결과를 신뢰할 수 있는 기억력에 대한 보증이 아니라, 하나의 설정에서 테스트한 단 하나의 선호 사항에 대한 근거로 취급하세요. 제어 기능을 통해 무엇이 저장되는지 또는 어떻게 삭제하는지 명확히 알 수 없다면, 제품의 최신 지침을 이해할 때까지 메모리에 정보를 넣지 마세요.
유용한 질문은 단순히 "이 채팅 도구가 기억을 하는가?"가 아닙니다. 바로 "이 도구가 부담 없는 선호 사항을 새로운 대화로 이어받을 수 있는가, 사용된 정보를 내가 볼 수 있는가, 그리고 내가 사용할 수 있는 제어 기능을 통해 그 정보를 변경하거나 삭제할 수 있는가?"입니다.
출처 및 적용 범위
인용된 출처는 정의와 제한적인 지침을 뒷받침합니다. 예시는 작성자가 창작한 설명용 사례이며, 수시로 변경되는 제품 세부 정보는 최신 공식 페이지에서 확인해야 합니다. 어떠한 특정한 결과도 보장되지 않습니다.