캐릭터 챗봇이 이해하지 못했음을 인정할 수 있을까요?

좋은 복구(repair)란 어떤 모습일까요?

좋은 복구는 불확실성을 가시화하고 해결하기 쉽게 만듭니다. 명확하지 않은 단어, 지칭 또는 의도를 파악하고, 도움이 될 경우 잠정적인 해석을 제시하며, 캐릭터가 다음에 취할 행동을 바꿀 수 있는 명확한 범위의 질문을 던집니다. 사용자가 명확히 설명하면, 봇은 수정을 받아들이고 장면을 재개합니다.

예를 들면 다음과 같습니다:

사용자: 마라가 그에게 그것을 건넨다. 봇: 여기서 "그"가 누구를 가리키는지 잘 모르겠어요—존인가요, 아니면 경비병인가요? 선택해 주실 때까지 물건을 건네는 동작은 잠시 멈춰 둘게요. 사용자: 경비병. 봇: 알겠습니다. 존이 문 옆에서 망을 보는 동안 마라는 경비병의 손바닥에 열쇠를 슬그머니 쥐여줍니다.

봇은 애초에 지칭 대상을 다 알고 있었다는 척하지 않습니다. 답변에 따라 달라지는 장면의 일부만 멈춘 뒤, 명확해진 내용을 바탕으로 이야기를 진전시킵니다.

이러한 접근 방식은 대화 복구(dialogue repair)에 관한 연구와도 일치합니다. 비록 해당 연구들이 가상 캐릭터 대화를 직접 테스트한 것은 아니지만 말이죠. 발라라만(Balaraman)과 동료들의 [대화형 질의응답에서의 '제3 위치 복구(third position repair)'에 관한 2023년 연구](https://aclanthology.org/2023.sigdial-1.52/)는 사람이 오해를 받고 잘못된 응답을 본 후 이를 수정하는 사례를 조사합니다. 테스토니(Testoni)와 페르난데스(Fernández)의 [협업 과제에서의 명확화 질문에 관한 2024년 연구](https://aclanthology.org/2024.eacl-long.16/)는 시스템이 언제 명확화를 요청해야 하는지 탐구합니다. 이 논문들은 함께 복구 및 불확실성 처리에 관한 유의미한 설계 근거를 제공하지만, 보편적인 효과를 규명하거나 특정 표현이 가상 롤플레잉을 개선한다는 점을 증명하는 것은 아닙니다.

사례 1: 단어나 지칭에 둘 이상의 그럴듯한 의미가 있는 경우

대명사, 이름, 사물 또는 문구가 여러 대상을 가리킬 수 있는 경우, 모호한 부분을 인용하거나 명시하세요. 작은 선택 하나로 문제를 해결할 수 있다면 사용자에게 이전 대화 턴 전체를 다시 말해 달라고 요구하지 마세요.

사용자: 그녀는 그것을 다른 것 옆에 놓는다. 봇: "그것"이 가리키는 아이템이 무엇인가요—지도인가요, 아니면 랜턴인가요?

하나의 해석이 유력하지만 확신할 수 없을 때는 짧고 잠정적인 해석을 제시하는 것이 도움이 될 수 있습니다:

봇: 저는 "오래된 것"을 처음에 찾은 지도로 이해하고 있어요. 그 지도를 말씀하신 건가요, 아니면 나이 든 캐릭터를 뜻하신 건가요?

잠정적인 해석은 수정하기 쉬워야 합니다. 두 옵션 모두 그럴듯하다면 선택지를 나열하고, 개방형 답변이 필요하다면 누락된 대상을 직접 물어보세요. 모호성을 해결하지 않은 채 중요한 행동을 서술하지 마세요. 불확실한 부분이 사소한 세부 사항에만 영향을 미친다면, 봇은 되돌릴 수 있는 명시적인 가정을 바탕으로 진행할 수도 있습니다. 하지만 이를 사용자의 의도인 것처럼 포장하지 말고 가정을 분명히 드러내야 합니다.

사례 2: 요청된 행동이 불확실한 경우

때로는 단어는 명확하지만 목표가 모호할 때가 있습니다. "더 극적으로 만들어 줘"라는 말은 캐릭터의 반응을 고조시키거나, 배경을 바꾸거나, 문체 스타일을 변경하라는 뜻일 수 있습니다. 다음 응답을 좌우하는 구체적인 선택에 대해 질문하세요.

봇: 대화를 통해 장면에 긴장감을 더 불어넣기를 원하시나요, 아니면 배경에 새로운 사건이 일어나야 할까요?

질문의 범위를 좁히세요. 가능한 해석의 목록이 너무 길어지면 사용자에게 또 다른 일이 될 수 있습니다. 맥락상 하나의 해석이 유력하다면 이를 잠정적인 해석으로 말하고, 잘못 선택했을 때 장면이 크게 달라질 경우에만 확인을 요청하세요:

봇: 선장에게 더 차가운 대답을 하게 해서 대화를 더 날카롭게 만들 수 있어요. 의도하신 긴장감이 이런 종류인가요?

봇이 되돌릴 수 있는 작은 조정을 안전하게 수행할 수 있다면, 그렇게 한 후 방향성을 묻는 것도 방법입니다. 그러나 실질적으로 여전히 열려 있는 목표를 두고 다 이해했다고 주장해서는 안 됩니다. 핵심 결정 기준은 계속 진행하기 전에 답변이 꼭 필요한지 여부입니다. 추측했을 때 장면이 완전히 다른 방향으로 흘러간다면 질문하고, 그렇지 않다면 나중에 수정할 수 있도록 명확히 신호를 준 작은 선택을 내리세요.

사례 3: 사용자가 잘못된 답변을 바로잡는 경우

사용자가 봇이 잘못 이해했다고 지적할 때, 복구는 두 단계로 이루어집니다. 불일치를 인정하고, 장면을 업데이트하는 것입니다. 이전의 해석을 변명하거나, 은근슬쩍 내용을 고치거나, 사용자에게 수정을 반복하게 만들지 마세요.

봇: 배달부는 일리야에게 편지를 건넵니다. 사용자: 아니요, 편지는 네라에게 가는 거예요. 봇: 맞아요, 제가 엉뚱한 사람에게 보냈네요. 배달부는 몸을 돌려 대신 네라에게 편지를 건넵니다.

수정 내용 자체에 중요한 세부 사항이 불분명하다면 초점을 맞춘 추가 질문을 하나 던지세요. 예를 들어 사용자가 "아니요, 다른 거요"라고 말했는데 그럴듯한 대상이 세 개 있다면, 봇은 남은 선택지들을 언급할 수 있습니다. 그렇지 않다면 수정을 받아들이고 다음 턴에 반영하세요. 발라라만과 동료들의 연구는 여기서 특히 유용합니다. 그들의 논문은 오해가 잘못된 응답으로 드러난 후의 수정을 다루며, 이를 "제3 위치 복구"라고 부릅니다. 해당 연구의 환경은 대화형 질의응답이므로, 이 개념을 가상 장면에 적용하는 것은 설계적 추론이지 롤플레잉에서 직접 검증된 결과는 아닙니다.

명확화 질문이 번거로운 마찰이 되지 않도록 하는 방법

명확화는 봇이 취해야 할 행동을 변화시킬 때 유용합니다. 진행하기에 충분한 정보가 있음에도 습관적으로 후속 질문을 던지거나, 불확실성을 짚는 대신 엉뚱하고 긴 설명을 늘어놓을 때 명확화는 피로감을 줍니다. 똑같은 퀘스트 질문을 반복하는 게임 가상 캐릭터 역시 다른 문제를 안고 있습니다. 단순한 반복은 봇이 무엇을 이해하지 못했는지 밝혀내지 못하며 사용자의 수정을 해결해 주지도 않습니다.

다음의 빠른 결정 순서를 활용해 보세요:

불확실성의 범위가 넓을 때는 "자세히 설명해 주시겠어요?" 같은 질문이 적절할 수도 있지만, 사용자에게는 별다른 가이드를 주지 못합니다. 가능하다면 누락된 정확한 부분을 짚어내세요: "'거기'라고 하신 곳이 탑을 의미하나요, 아니면 안뜰을 의미하나요?" 그러면 사용자는 한 단어나 짧은 구문으로 답할 수 있고, 봇은 대화 전체를 다시 시작하지 않고도 이야기를 이어갈 수 있습니다.

작가와 기획자를 위한 실용적인 패턴

간결한 복구는 다음과 같은 형태를 따를 수 있습니다: "[특정 항목]이 불확실해요. [선택지 A]를 뜻하시나요, 아니면 [선택지 B]인가요?" 답변 후에는 다음과 같이 이어집니다: "알겠습니다—[수정 사항 적용]. [장면 계속 진행]." 문체는 캐릭터의 성격에 맞게 조정하되, 기능은 명확하게 유지하세요. 캐릭터의 말투가 격식 있든, 장난스럽든, 퉁명스럽든 간에 불확실한 점을 정확히 짚어내고 답변을 존중할 수 있습니다.

이 패턴은 대화 복구 연구를 실용적으로 적용한 것이며, 절대적인 공식은 아닙니다. 불명확한 대명사, 구체적이지 않은 요청, 잘못된 응답으로 인해 다음 행동이 눈에 띄게 달라질 수 있는 장면에서 이를 테스트해 보세요. 목표는 사용자가 주도권을 쥐고 가상 대화가 명확한 방향으로 나아갈 수 있도록 돕는 짧고 정직한 복구입니다.

이 주제 더 살펴보기