사람처럼 들리는 것 그 이상: AI 챗 디자인을 위한 4가지 더 나은 목표
AI 챗 인터랙션을 설계하는 디자이너에게 “진짜처럼 느껴지게 하라”는 말은 유용한 결정을 내리기에 너무 모호합니다. 그보다 더 나은 과제는 사용자가 명확한 답변을 얻고, 아이디어를 탐색하며, 시스템이 수행한 작업을 이해하고, 다음 단계를 선택할 수 있도록 돕는 것입니다. 의인화된 단서에 관한 연구에 따르면, 사람과 유사한 신호는 사용자가 AI의 정보를 얼마나 정확하다고 믿는지에 영향을 미칠 수 있습니다. 따라서 사람의 정체성을 모방하는 것보다 명확성, 창의적인 유희, 신뢰할 수 있는 작업 상태, 그리고 사용자 제어권이 훨씬 더 유용한 디자인 목표가 됩니다.
왜 AI 챗은 인간과의 유사성 그 이상을 목표로 해야 할까요?
대화가 유창하게 들린다고 해서 사용자에게 시스템에 대한 신뢰할 수 있는 상을 제공하는 것은 아닙니다. 2,165명의 참가자를 대상으로 한 실험에서 연구진은 유사 언어 모델이 텍스트만 사용하는지 아니면 음성과 텍스트를 함께 사용하는지, 그리고 자신을 "나"로 지칭하는지 "시스템"으로 지칭하는지를 달리하여 테스트했습니다. 음성과 텍스트가 함께 제공되었을 때 참가자들의 의인화 및 정보 정확도에 대한 평점이 높아졌으며, 1인칭 표현은 특정 상황에서 정확도 평점을 높이고 인지된 위험을 낮췄습니다. 이러한 결과는 특정 연구 환경에 국한된 것이지만, 시스템을 더 인간처럼 보이게 만드는 단서가 해당 정보에 대한 판단에도 영향을 미칠 수 있음을 보여줍니다. Google Research, “Believing Anthropomorphism: Examining the Role of Anthropomorphic Cues on User Trust in Large Language Models”
이것이 바로 의인화 단서와 인터랙션 품질에 대해 별도의 감사가 필요한 이유입니다. 의인화 단서 감사는 인터페이스가 AI의 정체성이나 인간적 자질에 대해 무엇을 암시하는지 묻습니다. 판단 위험 감사는 어떤 단서가 사용자로 하여금 AI 출력의 정확성이나 신뢰성을 과대평가하게 만들 수 있는지를 묻습니다. 아래의 디자인 목표들은 다른 질문을 다룹니다. 즉, 사용자가 대화 중에 무엇을 이해하고, 수행하고, 결정할 수 있어야 하는가입니다. 따뜻한 어조는 시스템의 기능이나 작업 상태를 가리지 않는 한 이러한 목표와 얼마든지 공존할 수 있습니다.
Microsoft의 Human-AI eXperience Toolkit은 AI 시스템이 처음 사용될 때, 인터랙션 중에, 오류가 발생했을 때, 그리고 시간이 지남에 따라 어떻게 행동하는지를 중심으로 가이드를 구성합니다. 이러한 구조는 관심의 초점을 캐릭터의 페르소나에서 시스템을 사용하는 사람의 변화하는 요구로 옮겨주기 때문에 챗 디자인에 유용합니다. Microsoft, “Guidelines for Human-AI Interaction”
명확성을 대화의 눈에 띄는 기능으로 만들기
명확성은 완벽하게 대화다운 목소리가 아니라 사용자의 작업에서 시작됩니다. 주말 활동 아이디어 세 가지를 요청하는 사람에게는 비교할 수 있는 선택지가 필요하며, 글 수정을 요청하는 사람에게는 검토할 수 있는 초안이 필요합니다. 인터페이스는 요청된 작업과 반환된 결과를 쉽게 구분할 수 있도록 해야 합니다. AI가 자료를 제안하거나, 요약하거나, 변형하는 경우 해당 기여도를 명확히 라벨링하고 사용자가 판단할 수 있도록 충분한 맥락을 보존해야 합니다.
유용한 인터랙션은 정보가 중요한 바로 그 시점에 AI가 할 수 있는 일과 할 수 없는 일을 보여줄 수도 있습니다. 예를 들어, 챗 어시스턴트가 계획을 제안할 수는 있지만 예약을 진행할 수는 없다면 답변에서 해당 조치를 모호하게 남겨두어서는 안 됩니다. 무엇이 준비되었는지, 무엇에 여전히 사용자의 개입이 필요한지, 어떤 세부 정보가 아직 불확실한지 명시하세요. 이는 모든 제품에 단 하나의 문구 패턴이 적용된다는 주장이 아니라, 인터랙션 전반에 걸쳐 적절한 행동을 강조하는 HAX에서 도출된 디자인 권장 사항입니다.
간단한 명확성 점검 방법은 짧은 대화 후 사용자에게 다음을 물어보는 것입니다. 시스템에 무엇을 요청했나요? 시스템이 실제로 무엇을 했나요? 결과를 사용하기 전에 무엇을 확인하거나 결정해야 하나요? 답변이 인터페이스의 의도된 의미와 다르다면, 페르소나를 더 추가하기 전에 문구, 구조 또는 다음 단계 안내를 수정하세요.
탐색을 지원하기 위한 유희 활용
유희성(Playfulness)은 사람들에게 도구와 그 가능성을 탐색할 수 있는 방법을 제공합니다. ChatGPT에 관한 사용자 게시물 372개를 분석한 연구에서, 연구진은 농담하기, 시스템에 도전하기, 한계 시험하기 등을 포함하는 유희적 인터랙션을 확인했습니다. 저자들은 이러한 인터랙션을 사람들이 AI의 능력과 주체성을 탐색하는 방식으로 설명하면서, 표본이 ChatGPT 사용 초기 기간의 게시물을 반영하고 있음을 언급했습니다. Nikghalb and Cheng, “Interrogating AI: Characterizing Emergent Playful Interactions with ChatGPT”
디자이너에게 있어 실질적인 시사점은 모든 어시스턴트를 코미디언으로 만들라는 것이 아닙니다. 부담 없는 실험을 쉽게 만들라는 것입니다. 즉, 다른 각도에서 시도하거나, 대안을 비교하거나, 이전 버전을 잃지 않고 초안을 수정할 수 있는 방법을 제공하는 것입니다. “예상치 못한 테마 세 가지를 제안해 줘”와 같은 짧은 창의적 프롬프트는 사용자의 목표를 시야에 두면서도 탐색을 유도할 수 있습니다. 유희는 사용자가 견뎌야 하는 공연이 아니라, 언제든 이용할 수 있는 모드여야 합니다.
유희적인 인간-AI 저작 도구에 관한 연구는 유희성을 창의성과 구별하면서도 유희를 창의적 반응의 잠재적 촉진제로 설명합니다. 이 연구는 인터페이스, AI 행동 및 대화를 디자인 기회로 논의하는 한편, 유희성을 보장할 수 있는 결과가 아니라 지원해야 할 경험으로 다룹니다. Liapis et al., “Designing for Playfulness in Human-AI Authoring Tools”
대화 턴 전반에서 작업 상태를 명확하게 유지하기
채팅 인터페이스는 자연스럽게 느껴지면서도 작업의 맥락을 놓칠 수 있습니다. 작업 상태에는 사용자의 현재 목표, 이미 내린 결정, 여전히 열려 있는 옵션, 그리고 다음 단계가 포함됩니다. 대화가 여러 단계로 진행될 때 간결한 요약은 시스템의 현재 이해 상태를 보여줄 수 있습니다. “두 가지 옵션이 남았습니다. 짧은 산책을 선호하셨으며, 위치는 아직 정하지 않았습니다.” 이는 대화가 계속되기 전에 사용자가 내용을 바로잡을 기회를 제공합니다.
인터랙션 패턴은 작업의 복잡성에 맞아야 합니다. 인간-AI 텍스트 공동 창작에 관한 Ding과 Chan의 논문은 고정 범위 큐레이션, 독립적인 창작 작업, 그리고 복잡하고 상호의존적인 창작 작업을 구분합니다. 이 논문은 이러한 작업들을 제한된 개입부터 반복적인 협업에 이르기까지 서로 다른 인터랙션 패턴에 매핑합니다. 여기서 얻을 수 있는 유용한 디자인적 통찰은, 일회성 답변은 범위가 정해진 요약에 적합할 수 있지만, 발전적인 창작 작업은 선택지를 드러내고 사용자가 결과를 구체화할 수 있도록 돕는 턴을 통해 이점을 얻는다는 점입니다. Ding and Chan, “Mapping the Design Space of Interactions in Human-AI Text Co-creation Tasks”
실질적인 상태 점검을 위해 대화를 통해 대표적인 작업을 추적해 보세요. 각 턴에서 사용자가 무엇이 완료되었고, 무엇이 해결되지 않았으며, 잘못된 가정을 어떻게 수정할 수 있는지 알 수 있는지 자문해 보세요. 만약 그 답이 이전의 여러 턴을 기억하는 것에 의존하고 있다면, 간결한 요약이나 눈에 보이는 결정 사항 목록을 추가하세요. 시스템이 세부 사항을 안정적으로 유지할 수 없다면, 실제로는 없는 연속성을 암시하기보다 그러한 한계를 명확히 드러내세요.
사용자에게 유의미한 제어권 부여하기
제어권이란 사용자에게 인터랙션을 유도하거나 수정할 수 있는 실용적인 방법을 제공하는 것을 의미합니다. 채팅에서는 옵션 중에서 선택하기, 생성된 초안 편집하기, 제약 조건 변경하기, 시스템에 중지하고 요약하도록 요청하기 등 직관적인 방식이 될 수 있습니다. 이러한 제어 장치는 사용자가 중요하게 생각하는 결정에 영향을 미칠 때 가장 가치가 있습니다. 의미 있는 변화를 주지 못하는 조정 메뉴는 주체성은 주지 못하고 복잡성만 가중시킬 뿐입니다.
그룹 토론에 참여하는 대화형 에이전트와 관련된 한 실험에서는 참여도가 낮은 참가자를 식별하는 에이전트의 능력에 대한 기대치를 설정하는 여러 방법을 비교했습니다. 이 실험은 정확도에 대한 정보, 감지 방식 및 데이터에 대한 설명, 그리고 조정 제어 기능을 테스트했습니다. 해당 연구에서는 설명이 사용자의 알고리즘 이해를 도왔으며 전반적으로 가장 효과적이었습니다. 단순히 조정 제어 기능만 제공했을 때는 인식된 토론 경험이 오히려 더 부정적이었습니다. 이 결과는 제어 기능이 존재한다는 이유만으로 유용하다고 여겨서는 안 된다는 점을 경고합니다. 제어 기능이 무엇을 바꾸는지 설명하고 그 결과를 이해할 수 있도록 만드세요. Do et al., “Inform, Explain, or Control: Techniques to Adjust End-User Performance Expectations for a Conversational Agent Facilitating Group Chat Discussions”
실용적인 디자인 순서는 다음과 같습니다. 현재의 해석을 보여주고, 유의미한 다음 행동을 소수 제안하며, 수정을 쉽게 만드는 것입니다. 예를 들어, 나들이 계획을 생성한 후 시스템은 경로를 단축할지, 활동을 변경할지, 초안을 유지할지 물어볼 수 있습니다. 각 옵션은 구체적인 변경 사항을 지정합니다. 이 예시는 설명을 돕기 위한 것이며, 특정 제품의 기능이 아닌 일반적인 인터랙션 패턴을 설명합니다.
목표를 검토 체크리스트로 전환하기
챗 디자인을 평가할 때는 일반적인 작업 하나를 처음부터 끝까지 검토하세요. 첫 번째 대화에서 시스템의 역할이 명확한지, 사용자가 제안과 완료된 작업을 구분할 수 있는지, 탐색적 턴이 억지스러운 유희적 페르소나 없이 실험을 유도하는지, 대화가 결정 사항과 미해결 단계를 정확하게 보여주는지 확인하세요. 그런 다음 사용자가 시스템을 수정할 수 있는지, 사용 가능한 각 제어 기능의 효과를 이해할 수 있는지 점검하세요.
마지막으로, 언어와 표현 방식에서 인간의 정체성이나 특별한 신뢰성을 암시할 수 있는 단서가 있는지 검토하세요. 1인칭 주장, 음성, 감정적 언어 또는 인간과 유사한 아바타가 답변에 대한 사용자의 판단에 영향을 미칠 수 있는지 고려하세요. 이러한 검토는 인터랙션이 이해하기 쉽고 유용한지 테스트하는 것을 대체하는 것이 아니라 보완합니다. 챗 디자인의 더 강력한 척도는 대화가 사람과의 대화처럼 느껴지는가가 아니라, 사용자가 AI의 기여도와 다음 선택지를 명확히 파악하면서 자신의 과업을 수행할 수 있는가입니다.