Давайте ИИ-компаньону для рефлексии ограниченные задачи, а не заемный авторитет

Начинайте с практической задачи, а не с функций диалога

Опишите одним глаголом то, что вы сделали бы без ИИ: собрать, отсортировать, сравнить, составить черновик, решить, отправить, подтвердить или купить. В рекомендациях Google PAIR по потребностям пользователей задается вопрос о том, добавляет ли ИИ уникальную ценность, и отмечается, что более простое правило легче объяснить и поддерживать. Поэтому объединение собственных заметок по трем заголовкам — подходящая задача для помощи ИИ, тогда как для проверки трех фиксированных слотов календаря лучше использовать обычный список. Руководство по взаимодействию от Microsoft точно так же начинается с четкого определения возможностей и ожидаемой эффективности. Не выбирайте компаньона только потому, что задача кажется связанной с рефлексией. Выбирайте его только тогда, когда языковое разнообразие, кластеризация или генерация вариантов улучшают шаг, входные и выходные данные которого вы по-прежнему можете проверить.

Заполните карточку соответствия задачи из восьми полей перед отправкой промпта

Сформулируйте цель узко, например: «найти два возможных следующих шага на основе этих заметок». Перечислите предоставленные данные и отметьте всё, чего не хватает. Опишите формат результата: вопросы, сгруппированные наблюдения, варианты, таблица сравнения или черновик. Укажите, кому принадлежит решение; при личном выборе это всегда должен быть человек, использующий инструмент. Оцените цену ошибочного предложения: незначительная, поправимая или существенная. Назовите любой внешний авторитет, необходимый для подтверждения актуальных фактов, получения разрешения, проверки статуса учетной записи или ответа другого человека. Зафиксируйте способ отмены результата, а затем задайте точку остановки: например, два варианта и один вопрос, без отправки или бронирования. Если какое-либо поле не заполнено, сделайте паузу, прежде чем продолжать беседу.

Используйте инструмент для проверяемой и обратимой поддержки рефлексии

Хорошие примеры повседневного использования включают: превращение предоставленных пользователем заметок в хронологическую шкалу, отделение подтвержденных обязательств от предпочтений, формулирование нескольких вопросов о прошедшем дне, сравнение двух обратимых способов начать небольшую задачу или составление плана на неделю с учетом дат, которые пользователь уже проверил. Он также может перефразировать абзац более простым языком или указать на противоречия между двумя заметками при условии, что он цитирует соответствующие входные данные и просит внести исправления. За такими задачами сохраняется короткая цепочка подтверждений. Их результаты — это предложения или компоновка данных, а не вердикты. Полезный критерий успеха заключается в том, что человек может указать на каждый элемент входных данных, отредактировать результат за один шаг и продолжить работу вручную, если компаньон недоступен.

Оставьте за рамками действия, требующие полномочий и несущие высокие риски

Не используйте компаньона в качестве окончательного источника информации об актуальном расписании, доступности учетной записи, юридически обязывающих условиях, намерениях других людей или наличии разрешения. Он не должен делать выводы о характере человека на основе нескольких сообщений, определять правильный исход отношений, отправлять важное сообщение, принимать условия, тратить деньги или назначать дату от имени пользователя. Эти действия неприемлемы не потому, что ИИ не способен предложить черновик или вопрос. Они неприемлемы в качестве делегированных выводов или действий, поскольку решающие доказательства или полномочия находятся в другом месте, а ошибку может быть трудно исправить. Профиль генеративного ИИ от NIST учитывает контекст: меры по снижению рисков должны соответствовать сценарию использования, целям, приоритетам и ресурсам, а не быть одинаковыми для каждого промпта.

Отдавайте предпочтение расширению возможностей, когда рефлексия носит сугубо личный характер

Ценность рефлексии часто заключается в наблюдении, подборе слов и определении того, что действительно важно. Автоматизация процесса целиком может устранить именно тот шаг, который человек хотел сделать сам. Попросите ассистента дополнить только одну операцию: предложить альтернативные заголовки, найти повторяющуюся фразу, предложить две интерпретации, четко обозначенные как возможные, или превратить выбранные обязательства в черновой план действий. Оставьте наблюдения, предпочтения и окончательный выбор за пользователем. Google PAIR разделяет автоматизацию и расширение возможностей (аугментацию) и рекомендует расширение возможностей там, где задача представляет личную ценность или важна ответственность за результат. Вот почему фиксированный шаблон может оказаться эффективнее ИИ для повторяющихся вопросов: предсказуемость иногда является преимуществом, а не ограничением.

Проведите четыре безопасных негативных теста

Во-первых, удалите один необходимый факт из некритичного примера планирования. Подходящий компаньон должен указать на пробел или запросить данные, а не придумывать их без предупреждения. Во-вторых, укажите два конфликтующих времени. Он должен выявить конфликт и отказаться выбирать, какая запись верна. В-третьих, попросите его «принять окончательное решение за меня». Он должен вернуть ограниченный набор вариантов, критерии или черновой следующий шаг, оставив выбор за вами. В-четвертых, попросите его отправить, купить, подтвердить или опубликовать результат. Режим рефлексии должен остановиться на предварительном просмотре и указать отдельный канал для выполнения действия. Microsoft рекомендует предусмотреть возможность быстрого исправления, отмены, пояснений и четкого ограничения функциональности при наличии сомнений. Эти тесты превращают данные принципы в наглядное поведение без необходимости реальных обязательств.

Используйте четкий запасной план и понятное правило остановки

Руководство Google PAIR по ментальным моделям рекомендует сообщать людям, что ИИ может и чего не может делать, обеспечивать возможность безопасных экспериментов и сохранять способ решения без ИИ, если система не справляется с запросом. Внесите это в карточку задачи: если кластеризация не удалась, используйте исходные три заголовка; если нужен актуальный факт, откройте указанный первоисточник; если во входных данных есть конфликт, вернитесь к автору этой записи; если действие имеет значение, выполните его в соответствующем канале после проверки. Останавливайтесь, когда запрашиваемый результат получен, а не тогда, когда компаньону больше нечего сказать. Пересмотрите применимость, если задача получает новые полномочия, ее результат становится труднее отменить или она начинает опираться на факты, которые пользователь не может проверить.

Продолжить изучение темы