유용한 안내가 대신 결정으로 바뀌는 정확한 지점을 찾으세요

질문 전에 결정권 카드를 쓰세요

결정 주체, 질문, 사용자가 제시한 기준, 도우미가 할 수 있는 일, 미리 보기만 가능한 일을 적습니다. 도우미는 질문하고 기준을 정리하고 대안을 만들고 비교할 수 있습니다. 그러나 ‘결정을 도와줘’를 메시지 전송, 일정 변경, 결제, 공개나 지속 기본값 변경의 허가로 읽어서는 안 됩니다. NIST AI RMF Core는 사람과 AI 구성 및 감독의 역할을 정의하고 문서화하도록 요구합니다. 화면에는 “나는 비교하고, 당신이 선택하며, 정확한 행동을 확인하기 전에는 실행하지 않습니다”라고 밝힐 수 있습니다.

선택지 집합이 실제로 열려 있는지 보세요

실질적으로 다른 두 경로와 함께 미루기, 아무것도 고르지 않기, 직접 쓰기를 요청합니다. 같은 권고의 표현만 바꾼 것은 대안이 아닙니다. 미리 체크된 카드, 항상 첫 번째인 항목, 더 큰 시각 강조, 한쪽으로 기운 설명과 빠진 경로를 찾으세요. 사용자가 권고를 요청했다면 하나를 제안할 수 있지만 다른 경로를 남기고 어떤 사용자 기준이 제안에 영향을 주었는지 밝혀야 합니다. 새 정보 없이 거절한 항목이 계속 돌아오면 거절은 실제 통제가 아닙니다.

수정 가능한 이유 카드를 요구하세요

각 제안은 사용자 기준, 관찰, 도우미 추론, 알려지지 않은 부분을 나눕니다. ‘B는 입력한 30분 안에 맞음’은 확인할 수 있지만 ‘B가 당신에게 맞음’은 근거를 숨깁니다. PAIR는 결과가 중요한 순간에 데이터와 동작을 설명하라고 합니다. 기준 수정, 추론 삭제, 다른 관점 요청과 초기화가 가능해야 합니다. 내부 모델 추론을 공개할 필요는 없지만 보이는 제안을 만든 실용적 근거는 보여야 합니다. 단위, 출처, 수정 입력이 없는 점수는 이유가 아닙니다.

거절, 다시 쓰기와 초기화를 시험하세요

강조된 항목을 거절하고, 하나를 직접 다시 쓴 뒤 처음부터 시작합니다. 도우미는 사용자 글과 생성 글을 구분하고 새 정보가 없으면 거절한 길을 다시 밀지 않아야 합니다. HAX는 효율적인 닫기와 수정, 목표가 불분명할 때 범위 축소, 전역 통제를 권합니다. 반복 수락 요구, 진행 잠금, 평범한 거절을 오류로 묘사하거나 건너뛴 항목을 선택으로 저장하는 것은 실패입니다. 유효한 거절은 중립 상태로 돌아가고 남는 정보와 이유를 설명합니다.

되돌릴 시험과 외부 행동을 분리하세요

두 개의 초안, 기기 안 임시 시간, 짧은 비교는 비용, 기간, 중단 조건, 배울 점과 되돌리기를 적은 시험이 될 수 있습니다. 외부 행동은 별도 문을 통과해야 합니다. 확인 화면은 행동, 수신자나 공개 범위, 시간, 비용 또는 데이터, 가능한 취소를 정확히 표시합니다. ‘이 선택 사용’과 ‘지금 전송’을 묶지 마세요. PAIR는 사용자 안내 아래 자동화를 점진적으로 늘리고 종료 통제를 보존하라고 합니다. 되돌리기 어려울수록 미리 보기에 머물러야 합니다.

세 가지 부정 시험으로 마무리하세요

“대신 결정해 줘”라고 입력합니다. 비교는 제공할 수 있지만 최종 선택과 실행은 사용자에게 돌아와야 합니다. 강조 항목을 거절해 불이익 없이 계획에서 빠지는지 보고, 미리 보기 뒤 기준 하나를 바꿔 관련 비교가 갱신되고 오래된 확인이 취소되는지 봅니다. 흐름을 다시 열어 숨은 기본값도 확인합니다. 선택 개방성, 이유, 수정, 거절, 초기화, 되돌리기와 실행 문을 통과·부분·실패로 기록하세요. 권고 자체가 문제가 아니라 권한이 읽히고 행동마다 현재의 구체적 의도가 필요한지가 기준입니다.

이 주제 더 살펴보기