AI 컴패니언의 개인정보 보호, 기억력, 제어 기능 및 창작 능력 평가 방법
AI 컴패니언 사용을 고민하고 있다면 네 가지 요소를 각각 확인해 보세요. 서비스가 수집한다고 명시한 항목, 사용자가 확인하거나 수정할 수 있는 기억, 대화 기록 삭제 가능 여부, 관심 있는 간단한 작업에서의 수행 능력입니다. 제품 정책은 명시된 방침을 기록할 뿐이며, 모든 단계가 실제로 어떻게 작동하는지 독립적으로 검증하지는 않습니다. 특정 세부 사항을 기억하거나 대화가 흥미진진했다고 해서 그것이 신뢰할 만한 기억력이나 전반적인 역량의 증거가 되지는 않으며, 단지 개인적인 경험의 증거일 뿐입니다.
데이터 수집에 대해 무엇을 확인할 수 있나요?
사용하려는 특정 앱과 플랫폼의 최신 개인정보 처리방침을 살펴보는 것부터 시작하세요. 정보의 범주, 처리 목적, 서비스 제공업체와의 공유 여부, 보유 기간 및 제어 옵션을 확인해야 합니다. "귀하의 대화는 비공개입니다"라는 식의 문구는 실질적인 질문에 답하기에는 너무 광범위합니다. 서비스가 답변 생성을 위해 대화 내용을 처리하면서 광고 목적의 활용이나 제공업체의 보유 기간에 대해서는 별도의 제한을 둘 수도 있기 때문입니다.
구체적인 예로, 2026년 5월 27일에 마지막으로 업데이트된 Replika의 정책에는 계정 및 프로필 정보, 메시지와 업로드된 콘텐츠, 관심사와 선호도, 기기 및 네트워크 데이터, 사용 데이터가 나열되어 있습니다. 메시지와 선호도는 맞춤형 기능을 지원하는 데 사용되며, 답변을 생성하기 위해 대화 데이터가 타사 언어 모델 제공업체에 전송될 수 있다고 명시되어 있습니다. 또한 이 정책은 내부 안전 및 성능 개선 작업을 위해 익명화된 메시지 일부를 사용하는 내용도 기술합니다. 이러한 설명은 Replika가 공개한 방침일 뿐이며, 이를 다른 컴패니언 서비스에 일반화하거나 독립적인 기술 감사 결과로 여겨서는 안 됩니다. Replika Privacy Policy
개인정보 처리방침을 바탕으로 간단한 체크리스트를 만들어 보세요. 서비스가 텍스트, 음성, 이미지를 수집하는가, 아니면 셋 다 수집하는가? 개인화에는 어떤 데이터가 사용되는가? 외부 제공업체가 관여하는가? 데이터 범주별로 얼마나 오래 보관되는가? 사본을 요청하거나 삭제를 요청할 수 있는가, 그리고 대화나 계정을 삭제한 후 계정에 무엇이 남는가? 정책에서 이러한 질문 중 하나라도 답을 제시하지 않는다면, 앱의 친근한 어조나 마케팅 문구로 답을 짐작하지 말고 '알 수 없음'으로 표시하세요.
'기억'은 '안정적인 회상'과 같은 의미일까요?
기억 기능이 사용자가 직접 확인할 수 있는 형태라 하더라도 여전히 오류를 범할 수 있습니다. 벤더사의 설명은 해당 기능을 어떻게 제공하는지 알려줄 뿐, 일반적인 사용 환경에서의 성공률을 의미하지는 않습니다. Replika의 도움말 페이지에 따르면 기억 시스템은 개인화를 지원하며 사용자가 '메모리(Memory)' 탭에서 세부 사항을 직접 추가할 수 있다고 안내합니다. 또한 고객센터에서는 사용자가 기억된 세부 사항을 확인, 수정, 추가, 삭제할 수 있다고 명시하고 있습니다. 이는 앱 내에서 확인해 볼 수 있는 유용한 제어 기능이지만, 이후의 대화에서 모든 세부 사항이 정확하게 기억될 것임을 보장하지는 않습니다. How does Replika’s memory work?
개인화된 AI 메모리에 관한 연구는 사용자가 이를 직접 테스트해 보아야 하는 이유를 잘 설명해 줍니다. 2025년 CHI Extended Abstract는 개인화된 AI 도구를 정기적으로 사용하는 6명의 인터뷰와 54개의 공개 토론 스레드를 분석한 결과를 발표했습니다. 이 연구는 시스템이 기억해야 할 사항에 대한 사용자의 다양한 기대치와 사람들이 기억을 정리하거나 관리하기 위해 사용하는 방식을 다룹니다. 인터뷰 표본이 작고 공개 게시물을 활용한 연구이므로 사용자의 기대와 보고된 경험을 파악할 수는 있지만, 특정 컴패니언이 세부 정보를 얼마나 자주 잊어버리거나 잘못 기억하는지까지는 알려줄 수 없습니다. Users’ Expectations and Practices with Agent Memory
여러 세션에 걸쳐 부담 없이 간단한 테스트를 시도해 보세요. 선호하는 어조, 가상의 캐릭터 이름, 계획된 변경 사항 등 작업과 관련된 두세 가지 고유한 선호도를 시스템에 알려줍니다. 나중에 이러한 세부 사항 중 하나를 사용하는 자연스러운 질문을 던진 다음, 오류를 지적하고 시스템이 수정 사항을 반영하는지 확인해 보세요. 사실을 제대로 기억했는지, 다른 것과 혼동했는지, 구버전 정보를 사용했는지, 아니면 다시 말해 달라고 요청했는지 기록해 둡니다. 이는 벤치마크 테스트는 아니며 개인적인 부분 점검에 불과하지만, 막연한 인상을 관찰 가능한 실제 행동으로 확인하게 해 줍니다.
실제로는 어떤 제어 기능이 중요할까요?
저장된 기억, 대화 기록, 계정 삭제, 그리고 마이크나 사진 접근과 같은 권한에 대해 별도의 제어 기능이 있는지 확인하세요. 이 기능들은 각각 다른 역할을 할 수 있습니다. 저장된 기억을 삭제하더라도 해당 내용을 언급했던 대화 자체가 삭제되지 않을 수 있으며, 화면에 보이는 기록을 지우는 것이 계정을 해지하는 것과 같지 않을 수 있습니다. 제어 기능을 사용하기 전에 서비스의 지침을 읽어보고, 실행 후 인터페이스에서 결과를 확인하세요.
Replika의 고객센터는 이러한 차이를 구체적으로 보여줍니다. 현재 문서에 따르면 계정을 삭제하지 않고는 전체 메시지 기록을 삭제하는 방법을 제공하지 않는 반면, 메모리 섹션은 기억된 세부 사항을 선택적으로 확인, 업데이트 또는 삭제하는 데 사용할 수 있습니다. 이는 특정 제품에 한정된 설명이며 변경될 수 있으므로, 사용 중인 앱의 최신 지침을 직접 확인하세요. Can I delete my conversations?
유용한 제어 테스트 방법은 무해한 선호 사항을 하나 추가한 후 메모리 화면에 나타나는지 확인하고, 이를 수정하거나 삭제한 다음 해당 정보를 활용해야 하는 질문을 나중에 던져보는 것입니다. 이와 별도로 되돌릴 수 없는 삭제를 직접 실행하지는 말고 대화 기록 및 계정 삭제 안내를 찾아보세요. 각 제어 기능이 어떤 영향을 미친다고 명시되어 있는지 확인합니다. 이렇게 하면 더 많은 정보를 공유하기 전에 제공되는 제어 기능이 본인의 기대치와 일치하는지 확인할 수 있습니다.
일상적인 창작 작업에 대해 연구 결과는 무엇을 말해줄까요?
일반적인 AI 글쓰기 보조에 관한 연구 결과는 발표되어 있지만, 이를 모든 컴패니언 앱에 대한 직접적인 평가로 착각해서는 안 됩니다. 2025년의 한 실험에서는 영국의 대학생 225명이 ChatGPT를 사용하거나 사용하지 않은 상태로 짧은 창작 글쓰기 과제를 완료했습니다. ChatGPT를 사용한 참가자들은 연구의 창의성 및 작문 지표에서 더 우수한 결과를 냈지만, 과제에 대한 즐거움과 스스로 느끼는 가치는 더 낮았다고 응답했습니다. 연구진은 10분이라는 제한 시간 내에 가상의 프린터 용도를 고안해 내는 매우 좁게 정의된 활동을 측정했습니다. 이 발견은 해당 도구, 표본 및 작업에 국한된 주장을 뒷받침할 뿐이며, AI 컴패니언이 사용자의 소설, 재생목록 설명, 초대장 또는 기타 개인 프로젝트에 어떻게 도움이 될지는 입증하지 못합니다. “If ChatGPT can do it, where is my creativity?”
유용한 테스트를 위해 직접 판단할 수 있는 기준이 있는 간단한 작업을 선택해 보세요. 가상의 카페 이름 5개 짓기, 지정된 어조로 짧은 장면 작성하기, 또는 스토리 아이디어에 대한 세 가지 대체 결말 제안하기 등을 요청해 봅니다. 제약 조건을 준수하는지, 진정으로 차별화된 선택지를 제공하는지, 세부 사항의 일관성을 유지하는지, 그리고 한 번의 수정을 거친 후 개선되는지 확인하세요. 다른 세션이나 제품과 비교하고 싶다면 프롬프트와 결과물을 저장해 둡니다. 이렇게 하면 막연히 "창의적이다"라는 평가를 내리는 대신, 해당 버전과 특정 작업에 대한 실질적인 증거를 얻을 수 있습니다.
증거, 보고된 경험, 미해결 질문을 구분하는 방법
제품 문서는 회사가 현재 대외적으로 밝히고 있는 증거로 취급하세요. 통제된 연구는 해당 연구가 테스트한 특정 참가자, 설정, 제품 및 척도에 대한 증거로 보아야 합니다. 사용자가 올린 게시물은 확인할 가치가 있는 문제를 드러낼 수 있는 보고된 경험일 뿐이며, 그러한 문제가 얼마나 자주 발생하는지를 나타내는 추정치로는 보지 마세요. Replika 관련 개인정보 보호 논의를 다룬 한 연구에서 연구진은 111개의 Reddit 게시물을 분석했습니다. 이러한 연구 설계는 사용자가 공유했다고 밝힌 정보의 종류를 기록할 수는 있지만, 포럼의 표본이 모든 사용자를 대표하거나 백엔드의 데이터 처리 방식을 독립적으로 입증할 수는 없습니다. “I tell him everything that I do”: An investigation of privacy and safety implications of AI companion usage
결정을 내릴 때 간단한 '증거 기록장'을 활용해 보세요. 정책에 명시된 내용, 직접 확인한 제어 기능, 기억력 점검 결과, 창작 작업 결과물을 적어둡니다. 각 항목에 "문서화됨", "직접 테스트로 관찰됨", "답변되지 않음"과 같은 라벨을 붙이세요. 이렇게 하면 매력적인 대화 경험을 개인정보 보호에 대한 확실한 답변으로 착각하거나, 일반적인 글쓰기 도구에 대해 발표된 연구 결과를 실제로 사용할 컴패니언의 검증 결과로 오인하는 것을 방지할 수 있습니다.