Что должен помнить ИИ-компаньон? Практическое руководство по выбору сохраняемой информации

Начните с задачи, которую должно облегчить воспоминание

Прежде чем сохранить деталь, закончите предложение: «Запоминание этого поможет с ___.» Если ответ расплывчатый, детали, вероятно, не место в постоянной памяти. Указание «Используй краткие списки с маркерами при планировании моих выходных» имеет четкую цель. Фраза «В чате вчера я казался нетерпеливым» не формирует ни устойчивого предпочтения, ни полезного факта.

Это практическое применение минимизации данных: NIST определяет минимизацию как ограничение создания, использования и хранения персональной информации тем, что непосредственно актуально и необходимо для конкретной цели, а также ее хранение только до тех пор, пока это требуется для этой цели. Для функции памяти соответствующий вопрос проектирования звучит так: нужна ли системе эта деталь для выполнения выбранной пользователем задачи в будущем. Определение минимизации по версии NIST

Подходящие кандидаты: явные предпочтения и полезные факты о проекте

Наиболее надежные кандидаты — это простые детали, прямо сформулированные пользователем, которые с высокой вероятностью будут определять повторяющиеся ответы. Примеры включают предпочтительный формат ответов, выбранное название проекта, материалы, уже отобранные для поделки, или явно высказанное предпочтение неприхотливых растений при планировании сада на балконе. Сохраняйте наименее детальную версию, которая все еще приносит пользу: формулировка «предпочитает короткие пошаговые инструкции» более полезна и менее инвазивна, чем хранение историй о каждом случае, когда пользователь просил быть кратким.

Некоторые личные факты актуальны только в рамках определенного проекта. Если при планировании планировки комнаты пользователь говорит, что ее размер 3 на 4 метра, эти параметры могут быть полезны в рамках проекта дизайна интерьера; они не должны становиться общим фоном для никак не связанных с этим бесед. Память с областью действия в рамках проекта отвечает на простой вопрос: каким будущим диалогам разрешено обращаться к этой детали?

Документация продуктов показывает, почему полезно рассматривать постоянные воспоминания и контекст проекта как разные сущности. OpenAI описывает сохраненные воспоминания отдельно от истории чатов и документирует опцию памяти только для проектов (Project-only memory), которая ограничивает возможность диалогов внутри проекта ссылаться друг на друга. Это элементы управления конкретного продукта, а не гарантия того, что любая система ИИ предлагает такой же охват. Документация OpenAI по памяти

Оставляйте временные ситуационные детали временными

Деталь может быть полезной сейчас, но бесполезной потом. Кафе, в котором вы сидите, сегодняшняя погода, временный список покупок или незавершенное решение могут помочь ответить на текущий запрос, но быстро теряют актуальность. Оставляйте их в текущем диалоге или проекте, если вы явно не попросите перенести их дальше. Если они сохраняются, задайте им область действия и момент для пересмотра: например, «для плана этой поездки» или «пока я не выберу ноутбук».

Это помогает избежать превращения единичного момента в воображаемую черту характера. Одна просьба найти тихое кафе не доказывает постоянную любовь к тихим местам; единичный выбор яркого цвета не формирует постоянных эстетических предпочтений. Безопасный подход при проектировании заключается в том, чтобы сохранять слова пользователя как факт с ограниченной областью применения, когда это необходимо, а не обобщать их без ведома в описание личности.

Документация Google по конфиденциальности Gemini разделяет сохраненные инструкции и персонализацию на основе прошлых чатов, указывая, что сохраненной информацией пользователь может управлять или удалять ее. В ней также отмечается, что персонализация на основе прошлых чатов может использовать информацию из переписок. Это различие поддерживает практическое правило проектирования продуктов: осознанные, редактируемые предпочтения должны отделяться от контекста, извлеченного из истории разговоров. Центр конфиденциальности приложений Gemini

Не делайте выводов о деликатных характеристиках и не сохраняйте данные третьих лиц по умолчанию

Система памяти не должна превращать подсказки из диалога в деликатные выводы. Формулировки пользователя, расписание, покупки или разовые выборы не дают повода строить догадки о личных чертах, обстоятельствах или мотивах. Даже если предположение звучит правдоподобно, оно может оказаться ошибочным, и будущий ответ может стать неловким или вводящим в заблуждение, если оно воспринимается как подтвержденный факт. Сохраняйте предоставленный пользователем факт только тогда, когда он имеет четкое применение в конкретной задаче; не превращайте его в масштабное суждение о личности пользователя.

Проявляйте такую же сдержанность в отношении информации о других людях. Для проекта может потребоваться имя или роль, которые пользователь явно указал, но повседневный диалог не должен превращаться в постоянное досье на друзей, родственников или коллег. Если сведения о третьих лицах необходимы для конкретной задачи, держите их в рамках этой задачи и избегайте ненужных личных подробностей. Это рекомендация по проектированию продуктов, основанная на принципе минимизации, а не утверждение о том, что каждый сервис обрабатывает такие данные одинаково.

Определите для каждого воспоминания область действия, источник и способ пересмотра

Памяти проще доверять, когда интерфейс четко показывает, что именно сохранено, откуда это взялось и где может использоваться. Практичная запись в памяти может содержать: точную формулировку пользователя; цель сохранения; действует ли она глобально или только в одном проекте; а также ориентировочную дату пересмотра или условие для удаления. Например: «Для проекта сада на балконе предпочитает растения, требующие редкого полива; пересмотреть, когда список растений будет выбран». Это наглядный пример формата, а не документированная функция какого-либо конкретного продукта.

У пользователей должна быть возможность просматривать, исправлять и удалять сохраненную информацию. Они также должны четко понимать разницу между удалением воспоминания, удалением чата или изменением общих настроек персонализации. Справочная документация OpenAI поясняет, что сохраненные воспоминания могут существовать отдельно от истории чатов, поэтому удаление одного лишь исходного чата может не удалить отдельное воспоминание. В центре конфиденциальности Gemini аналогично описываются раздельные элементы управления историей действий и сохраненными данными. Эти примеры продуктов показывают, почему понятный процесс удаления должен объяснять, на какой именно уровень влияет тот или иной элемент управления. Настройки памяти OpenAI, Управление данными в приложениях Gemini

Выбор памяти отделен от политик конфиденциальности и охвата настроек

Выбор того, что относится к памяти, отвечает только на один вопрос: какие детали должны сохраняться для будущей персонализации? Сам по себе он не объясняет, какую информацию собирает сервис, как обрабатывает чаты, кто может проверять данные и какие настройки учетной записи применяются. Это отдельные вопросы политик раскрытия данных и охвата настроек. В продукте их следует описывать раздельно и точно, не создавая иллюзии, будто небольшой список воспоминаний означает, что никакие другие данные не обрабатываются.

Это различие имеет практическое значение. В уведомлении о конфиденциальности Google описаны различные категории информации и настроек, включая сохраненные инструкции, историю действий, подключенные приложения и использование данных для предоставления и улучшения сервисов. Точное поведение зависит от продукта и его конфигурации. Таким образом, интерфейс выбора памяти должен сообщать, чем именно он управляет, и направлять пользователей к соответствующей информации о конфиденциальности и настройках, не создавая впечатления, будто он заменяет эти правила. Центр конфиденциальности приложений Gemini

Короткий тест для проверки каждого предлагаемого воспоминания

Прежде чем сохранить деталь, задайте четыре вопроса:

Была ли она предоставлена или подтверждена явно? Если это лишь интерпретация, не сохраняйте ее как факт.

Улучшит ли она выполнение конкретной вероятной задачи в будущем? Назовите эту задачу; если ничего не приходит на ум, не сохраняйте ее.

Каковы правильные границы ее применения? Используйте рамки проекта для деталей, которым не место в общей персонализации.

Может ли пользователь просмотреть и удалить ее? Если нет, интерфейс не должен преподносить ее как простое воспоминание, контролируемое пользователем.

Например, в проекте планировки комнаты запись «Пользователь выбрал компактный письменный стол для кабинета» может быть полезна до завершения расстановки мебели. Кафе, посещенное во время сеанса планирования, скорее всего, временная деталь. Предположение о том, что пользователь «всегда предпочитает минимализм», не следует сохранять, если только он сам прямо не заявит об этом предпочтении и не захочет использовать его шире. Эти примеры иллюстрируют применение проверочного теста; они не являются результатами исследований или утверждениями о конкретном продукте.

Умеренной системе памяти нет необходимости составлять полный профиль личности. Ей достаточно переносить вперед несколько явных предпочтений и практических фактов, помогающих решать выбранные задачи, удерживать локальные детали на локальном уровне и делать процессы исправления и удаления понятными. Цель состоит в обеспечении преемственности, опирающейся на то, что пользователь действительно сказал, а не в претензии на то, что ИИ знает человека, стоящего за диалогом.

Продолжить изучение темы