일기 요약에서 AI가 잘못 읽을 수 있는 것은 무엇일까? 실용적인 원문 확인 가이드
AI에게 일기 내용 요약을 요청할 때는, 각 진술이 원문의 세부 내용과 확실성의 정도를 유지하고 있는지 확인하세요. 누가 무엇을 했는지, 언제 일어났는지, 계획이 완료되었는지, 그리고 요약본이 스쳐 지나가는 생각을 확정된 결정으로 바꾸어 놓지는 않았는지에 특히 주의를 기울여야 합니다. 유용한 확인 방법은 간단합니다. 각 주장을 뒷받침하는 원문의 단어를 직접 짚어낼 수 있나요?
유려한 요약본이 여전히 기록을 왜곡할 수 있는 이유
요약본은 원문에서 벗어나면서도 명확하고 그럴듯하게 들릴 수 있습니다. 요약에 관한 연구에서는 사실적 일관성을 텍스트가 잘 읽히는지의 여부와는 별개의 문제로 다룹니다. 한 연구의 방법론에서는 요약 문장을 원문의 뒷받침 구절과 대조하여 확인하며, 이러한 구절이 사람들이 주장을 검증하는 데 도움이 되었다고 보고합니다. Kryscinski et al., “Evaluating the Factual Consistency of Abstractive Text Summarization”
일기에서는 원문이 짧고 격식이 없으며 암묵적인 맥락으로 가득 차 있을 수 있기 때문에 이러한 구분이 중요합니다. 시스템은 간단한 메모를 세련된 산문으로 매끄럽게 다듬을 수 있지만, 다듬는 과정에서 원문에는 전혀 언급되지 않은 관계, 원인 또는 결론을 덧붙일 수도 있습니다. NIST는 작화증(confabulation)을 입력과 달라질 수 있는 생성된 콘텐츠로 설명하며, 확신에 찬 어조가 거짓된 내용을 설득력 있게 만들 수 있다고 지적합니다. NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”
인물, 행동 및 주체 확인하기
먼저 기본적인 사건을 검증하세요. 누가 행동했는지, 무엇을 했는지, 그리고 계획이나 선호의 주체가 누구인지 확인합니다. 메모가 압축될 때 대명사, 집단 지칭 표현, 생략된 주어는 잘못 읽히기 쉽습니다. “샘이 금요일에 만날 수 있다고 했다. 내 일정을 확인해 봐야겠다”라는 문장은 작성자가 만나기로 동의했음을 입증하지 않습니다. “나는 금요일에 샘을 만나기로 계획했다”라고 쓰인 요약본은 제안을 결정으로 바꿔버린 것입니다.
역할이 뒤바뀌지 않았는지도 살펴보세요. 일기에 “조가 물어본 후에 그녀에게 레시피를 보내주었다”라고 적혀 있다면, 요약본이 조가 레시피를 보냈다는 식의 뉘앙스를 풍겨서는 안 됩니다. 요약본에 나오는 모든 이름과 “나”, “우리”, “그들” 또는 “누군가”를 원문과 대조하여 다시 읽어보세요. 일기에서 행동의 주체가 불분명할 경우, 충실한 요약본이라면 그 불확실성을 그대로 유지하거나 해당 세부 내용을 제외해야 합니다.
시간, 순서, 그리고 계획의 실행 여부 유지하기
과거의 사건과 현재의 의도, 가능성, 그리고 완료된 행동을 구분하세요. “버스를 탈지도 모른다”, “버스를 타기로 결정했다”, “버스를 탔다”는 서로 다른 기록입니다. 마찬가지로 “토요일에 식당을 예약했다”는 “토요일에 저녁을 먹으러 갔다”와 다릅니다. 시제와 *고려했다*, *계획했다*, *취소했다*, *끝마쳤다*와 같은 동사를 확인하세요.
모든 사건이 요약본에 나타나더라도 순서가 중요할 수 있습니다. 일기에 가게가 문을 닫아서 작성자가 집에서 차를 끓여 마셨다고 적혀 있다면, 이 사건들의 순서를 뒤바꾸는 것은 기록의 의미를 바꿉니다. 분량이 긴 일기의 경우, 전반적인 주제를 포착한 것처럼 보이는 요약본에 의존하기보다 시작, 중간, 끝을 확인하세요. 긴 문서 요약에 관한 연구에 따르면, 모델이 원문의 시작과 끝 부분 근처의 정보를 선호할 수 있다고 보고되었습니다. 해당 연구에서 제안된 방법은 이 문제를 해결하기 위해 중복되는 구간을 활용합니다. 이 연구 결과는 평가 대상이 된 요약 시스템에 관한 것이며, 특정 저널링 도구에 대한 보장을 의미하지는 않습니다. Li et al., “Improving Faithfulness of Large Language Models in Summarization via Sliding Generation and Self-Consistency”
확실성, 어조, 그리고 지어낸 설명 주의하기
일기에는 추측, 질문, 끝나지 않은 생각이 기록될 수 있습니다. 요약본은 “가게가 영업시간을 바꿨을지도 모른다”를 “가게가 영업시간을 바꿨다”로 부지불식간에 격상시킬 수 있습니다. 또한 작성자가 언급하지 않은 이유를 덧붙일 수도 있습니다. 원문에 단순히 비가 온 것과 시장에 가지 않은 것만 언급되어 있는데 “비가 와서 시장에 가지 않았다”라고 한다면 인과관계를 자의적으로 추가한 셈입니다.
명사뿐만 아니라 확실성을 나타내는 단어도 비교해 보세요. “내 생각에는”, “아마도”, “깜빡했다”, “확실하지 않다”는 각각 일기가 입증하는 범위를 한정합니다. 짧은 요약본이 모든 유보적 표현을 유지할 필요는 없지만, 불확실한 해석을 확정된 사실처럼 제시해서는 안 됩니다. 매끄러운 설명과 확신에 찬 결론은 원문의 직접적인 뒷받침이 필요한 주장으로 취급하세요.
문장별 빠른 검증 방법
요약본을 보관하거나 다시 활용하기 전에 다음 3단계 확인 절차를 거치세요.
각 사실적 주장을 표시하세요. 이름, 날짜, 행동, 수량, 장소, 결정 및 이유에 밑줄을 긋습니다. 한 문장에 여러 세부 사항이 포함되어 있다면 별도의 주장으로 분리하세요.
원문의 표현을 찾으세요. 각 주장에 대해 이를 뒷받침하는 어구 나 문장을 찾습니다. 이를 뒷받침하는 표현이 없다면, 그럴듯해 보인다고 해서 빈틈을 채우지 말고 “명시되지 않음”으로 분류하세요.
강도와 순서를 비교하세요. 요약본이 가능성을 확실성으로 바꾸지 않았는지, 사건을 다른 날로 옮기지 않았는지, 순서를 뒤바꾸지 않았는지, 의도를 완료된 행동으로 바꾸지 않았는지 확인하세요.
좁은 범위에서 수정하세요. 뒷받침되지 않는 세부 내용을 바로잡거나, 모호함을 유지하거나, 확인할 수 없는 주장은 삭제하세요. 그런 다음 수정된 요약본을 일기 원문과 나란히 놓고 한 번 더 읽어보세요.
예를 들어 일기에 다음과 같이 적혀 있다고 가정해 보겠습니다. “식물 가게에 바질이 있는지 리(Lee)에게 물어봤다. 다 떨어졌다고 했다. 시간 나면 주말 시장에 가봐야겠다.” “주말 시장에서 바질을 샀다”는 뒷받침되지 않는 주장입니다. 일기에는 방문도 구매도 기록되어 있지 않습니다. “이번 주말에 시장에서 바질을 찾아볼 수도 있다”는 계획을 잠정적인 상태로 유지합니다. 이는 이해를 돕기 위한 예시일 뿐 연구 결과가 아닙니다.
더 짧거나 더 직관적인 요약을 요청해야 할 때
생성된 버전이 동기나 결론을 계속해서 덧붙인다면, 작업에 더 좁은 경계를 지정하세요. 일어난 사건과 명시적인 계획만 요청하고, 불확실성을 유지하며, 원문에 명시되어 있지 않은 한 이유는 제외하도록 합니다. 또한 각 주장 옆에 이를 뒷받침하는 원문 구절을 함께 배치한 짧은 주장 목록을 요청할 수도 있습니다. 그런 다음 인용된 구절이 실제로 해당 주장을 뒷받침하는지 확인하세요. 문장과 함께 표시된 원문 텍스트는 검증을 더 쉽게 만들어 주지만, 원문과의 일치는 여전히 사실이어야 합니다.
짧은 메모의 경우 요약본을 원문과 직접 비교하는 것이 다른 버전을 생성하는 것보다 빠를 수 있습니다. 긴 글의 경우 섹션별로 확인하고 중간 부분의 세부 사항에 특별히 신경을 쓰세요. 요약본의 주장이 작성된 내용을 충실히 따를 때만 보관하세요. 세부 사항을 확인할 수 없다면 유창한 문장을 증거로 취급하지 말고 해당 세부 사항을 수정하거나 삭제하세요.