사람 간 상호작용 플랫폼과 AI 동반자 앱은 안전 위험이 어떻게 다를까? 신원, 개인정보, 콘텐츠 책임 비교

인터페이스보다 상대가 성립하는 방식을 본다

먼저 사람 계정, AI 캐릭터, 둘이 섞인 서비스 가운데 무엇인지 적습니다. 사람의 신원 확인은 이메일, 전화, 서류 같은 특정 절차를 뜻할 수 있지만 자기소개 전체와 이후 계정 조작자까지 증명하지는 않습니다. AI 표시도 상대가 기계라는 사실을 알려 줄 뿐 모델 버전, 대화 열람자, 기억 기간을 설명하지 않습니다. EU AI Act 안내가 기계와의 상호작용 고지를 별도 투명성 항목으로 다루는 이유도 여기에 있습니다. 표시는 첫 칸이고 데이터와 책임은 다음 칸입니다.

의도적 이용자 행동과 생성 결과를 구분한다

사람 플랫폼의 사칭, 오해를 부르는 주장, 반복 연락, 메시지 재공유는 다른 이용자의 행동일 수 있으며 운영자가 신고와 계정 조치를 관리합니다. AI 동반자의 예상 밖 응답은 모델, 입력, 문맥, 제품 규칙이 합쳐져 나온 것으로 조사할 독립된 발신자가 없을 수 있습니다. NIST 생성형AI 프로필처럼 설계부터 평가까지 전체 단계를 봐야 합니다. 문제가 된 답변의 대화 식별자와 시점, 사용 모델, 피드백이 품질 개선인지 정책 신고인지 확인하고 원인을 추측으로 단정하지 않습니다.

두 서비스의 데이터 경로를 따로 그린다

사람 간 대화에는 상대가 보고 외부에 저장할 수 있는 내용과 플랫폼이 기록하는 내용을 표시합니다. AI 대화에는 모델 처리, 장기 기억, 사람의 품질 검토, 공급업체, 개선 사용을 추가합니다. 화면에 두 캐릭터만 보인다고 데이터가 두 곳에만 머무는 것은 아닙니다. 현재 정책에서 수집 목적, 보관 기간, 삭제, 내보내기, 학습·개선 선택, 기억 기능을 끈 뒤 기존 기록이 어떻게 되는지 찾습니다. ICO의 My AI 조사 설명처럼 위험 평가는 구체적인 제품 기능을 기준으로 해야 하며, 누락된 항목은 ‘불명확’으로 남깁니다.

문제가 생긴 순간의 처리 대상을 비교한다

사람 플랫폼은 계정, 메시지, 이미지, 공개 글을 신고해 정책 집행을 요청할 수 있습니다. AI 동반자는 특정 생성 답변 평가, 대화 삭제, 지원 문의, 계정 제한 이의 신청이 각각 다른 경로일 수 있습니다. 같은 ‘신고’라는 이름이라도 검토 대상이 다릅니다. 앱에서 실제 입구를 찾아 첨부 가능한 정보, 접수 번호, 결정 이유, 재검토 가능 여부를 기록합니다. 법 적용은 지역과 서비스에 따라 달라지므로 여기서는 법적 결론을 내리지 않고 설명 가능성과 추적 가능성을 제품 품질로 비교합니다.

홍보 문구 대신 네 단계 증거표를 쓴다

기계 신원 고지, 사람 신원 확인 범위, 데이터 수신자, 보관, 기억 통제, 신고 접수, 결정 이유, 이의 제기, 정책 날짜를 행으로 둡니다. 각 칸은 ‘문서 확인’, ‘제품 확인’, ‘모호함’, ‘제공 안 됨’만 사용합니다. ‘신뢰’, ‘비공개’, ‘안전’ 같은 말로 빈칸을 채우지 않습니다. Google의 생성형AI 정책도 개인정보 권리와 출처 표시를 별도 제한으로 둡니다. 큰 기능이나 약관이 바뀌면 같은 표를 다시 작성해 과거 화면을 현재 사실로 사용하지 않습니다.

가장 약한 통제에 맞춰 공유 범위를 정한다

사람 프로필의 주장을 확인할 수 없다면 집, 직장, 일정, 다른 계정으로 연결되는 정보를 줄입니다. AI의 기억, 보관, 개선 사용이 분명하지 않다면 현재 화면 밖에서 처리되길 원치 않는 내용을 넣지 않습니다. 표시 이름, 검색 가능성, 권한, 로그인 기기, 삭제와 지원 경로를 시험한 뒤 사용 범위를 넓힙니다. 이런 조치는 노출을 낮출 수 있지만 결과를 보장하지 않습니다. 선택 대상은 추상적인 사람 또는 AI가 아니라, 자신의 용도에 필요한 통제를 설명하고 실행할 수 있는 특정 서비스입니다.

이 주제 더 살펴보기