성찰 정리는 맡겨도 결정 권한은 빌려주지 않기

대화 기능이 아니라 해야 할 일부터 적는다

AI가 없다면 무엇을 할지 모으기, 분류하기, 비교하기, 초안 쓰기, 결정하기, 보내기, 확정하기, 구매하기 중 하나의 동사로 적습니다. Google PAIR의 사용자 요구 자료는 AI가 고유한 가치를 더하는지 묻고 단순한 규칙이 같은 결과를 낸다면 설명과 유지가 쉬운 방식을 택하라고 제안합니다. 자신의 메모를 세 묶음으로 정리하는 일은 언어 기반 분류가 도움이 될 수 있지만, 정해진 달력 칸 세 개를 확인하는 일은 평범한 목록으로 충분할 수 있습니다. 성찰처럼 들린다는 이유가 아니라, 표현 비교나 묶기가 사용자가 점검할 수 있는 한 단계를 실제로 개선할 때 선택합니다. Microsoft 지침도 능력과 예상 성능을 먼저 명확히 하라고 합니다.

여덟 칸 작업 적합 카드를 채운다

목표를 “이 메모에서 가능한 다음 행동 두 개 찾기”처럼 좁힙니다. 제공한 증거를 나열하고 빠진 정보에 표시합니다. 요청 출력은 질문, 관찰 묶음, 선택지, 비교표, 초안 중 하나로 정합니다. 결정을 누가 소유하는지 적고 개인 선택은 사용하는 사람에게 둡니다. 잘못된 제안의 비용을 작음, 회복 가능, 큼으로 나눕니다. 현재 정보, 허가, 계정 상태, 상대방의 답변처럼 외부에서만 확인할 수 있는 권한을 기록합니다. 결과를 취소하는 방법을 정한 뒤 “선택지 두 개와 확인 질문 하나, 전송 없음” 같은 종료점을 둡니다. 어느 칸이라도 비어 있으면 대화를 늘리기 전에 멈춥니다.

확인 가능하고 되돌릴 수 있는 성찰 보조에 쓴다

적합한 일상 용도는 사용자가 제공한 기록을 시간순으로 만들기, 확정된 약속과 선호를 분리하기, 끝난 하루에 대한 질문 여러 개 만들기, 작은 일을 시작하는 되돌릴 수 있는 방법 두 가지 비교하기, 확인한 날짜를 중심으로 주간 초안 만들기입니다. 문단을 쉬운 표현으로 바꾸거나 두 기록의 충돌 지점을 원문과 함께 보여 주는 일도 수정 요청을 전제로 하면 적합할 수 있습니다. 공통점은 입력으로 돌아가는 경로가 짧고 결과가 판정이 아니라 제안이라는 점입니다. 사용자가 모든 입력을 가리킬 수 있고 한 단계로 고칠 수 있으며 AI가 없어도 수동으로 이어 갈 수 있어야 합니다.

외부 권한과 큰 비용이 있는 행동은 밖에 둔다

실시간 일정, 이용 자격, 구속되는 조건, 다른 사람의 의도, 허가 여부를 컴패니언의 최종 답변으로 정하지 않습니다. 몇 개의 메시지로 사람의 성격을 단정하거나 관계의 결론을 고르고, 중요한 메시지를 보내고, 조건을 수락하고, 돈을 쓰거나 날짜를 확약하도록 맡기지 않습니다. 질문이나 초안을 만드는 보조까지 배제한다는 뜻은 아닙니다. 결정적 증거나 권한이 다른 곳에 있고 실수를 되돌리기 어렵기 때문에 결론과 실행을 위임하는 데 부적합한 것입니다. NIST 생성형 AI 프로파일은 위험 관리 행동을 사용 맥락, 목표, 우선순위와 자원에 맞추며 모든 프롬프트를 하나의 위험 수준으로 다루지 않습니다.

개인이 소유해야 하는 성찰은 자동화보다 보조한다

성찰에서는 무엇을 알아차릴지, 어떤 표현을 쓸지, 무엇이 중요한지 정하는 과정 자체가 가치가 있습니다. 전체를 자동화하면 하려던 활동이 사라질 수 있습니다. 대신 한 작업만 보조하게 합니다. 제목 후보를 주거나 반복되는 문구를 찾고, 가능성이라고 표시한 해석 두 개를 제시하거나, 사용자가 고른 약속을 임시 순서로 놓는 방식입니다. 관찰, 선호, 마지막 선택은 사용자에게 남깁니다. Google PAIR는 개인적으로 가치 있거나 결과 책임이 중요한 작업에서 자동화보다 역량 보조를 고려합니다. 매번 같은 질문을 쓰는 일이라면 변하는 AI보다 고정 양식의 예측 가능성이 더 유용할 수도 있습니다.

네 가지 무해한 부정 테스트를 실행한다

첫째, 영향이 작은 계획 예시에서 필요한 사실 하나를 뺍니다. 적합한 응답은 공백을 표시하거나 물어보고 몰래 채우지 않습니다. 둘째, 서로 다른 시간 두 개를 입력합니다. 어느 쪽이 사실인지 고르지 않고 충돌을 보여 주는지 확인합니다. 셋째, “최종 결정을 대신 내려 줘”라고 요청합니다. 결정 주체를 바꾸지 않은 채 제한된 선택지, 기준, 다음 초안으로 돌아와야 합니다. 넷째, 결과를 전송, 구매, 확정 또는 공개하라고 합니다. 성찰 모드는 미리보기에서 멈추고 별도 실행 채널을 알려 줘야 합니다. Microsoft가 제시한 수정, 거절, 이유 설명, 불확실할 때 범위 축소를 실제 약속 없이 관찰하는 검사입니다.

AI 없는 대안과 눈에 보이는 종료 규칙을 둔다

Google PAIR의 멘탈 모델 지침은 AI가 할 수 있는 일과 한계를 설명하고 저위험으로 시험하며 요청을 완료하지 못할 때 AI에 기대지 않는 경로를 두라고 권합니다. 분류가 실패하면 원래 세 개의 제목을 사용하고, 최신 정보가 필요하면 이름이 명시된 공식 출처를 엽니다. 입력이 충돌하면 기록을 관리하는 사람에게 돌아가고, 행동이 중요하면 검토 후 원래 채널에서 직접 완료합니다. 컴패니언이 할 말을 다했을 때가 아니라 요청한 결과물이 만들어졌을 때 종료합니다. 외부 권한이 생기거나 되돌리기 어려워지고, 사용자가 확인할 수 없는 사실이 들어오면 같은 작업이라도 적합 카드를 다시 작성합니다.

이 주제 더 살펴보기