Как ИИ-компаньону следует проверять имя члена семьи перед тем, как сохранить его в память?

Почему имя требует подтверждения, прежде чем стать частью памяти

Представьте, что пользователь говорит: «Моя сестра Майя приезжает в эти выходные. В записке от моего кузена ее зовут Майя (Maja), но я думаю, что это опечатка». В разговоре фигурируют два написания имени и одна степень родства. Ассистенту может показаться логичным сделать вывод, что Майя — это сестра, а второе написание — просто ошибка. Однако в записке кузена речь может идти о другом человеке, а фраза «я думаю» сигнализирует о неуверенности. Сохранение любого из вариантов написания в качестве непреложного факта превратит нерешенную деталь в долговременный контекст.

Полезное проектное различие заключается в разделении того, о чем пользователь заявляет напрямую, и того, с чем система просто сталкивается или к чему приходит путем умозаключений. «Моя сестра — Майя Чэнь» — это прямое утверждение. Имя внутри вставленной записки — это цитируемый или импортированный контекст. «Maja — это, должно быть, Майя» — логический вывод. Имя, названное без явного источника, — догадка. Эти категории помогают ассистенту решить, нужно ли задавать уточняющий вопрос, а пользователям — понять, почему он его задает. Это предлагаемый рабочий процесс для проектирования компаньонов, а не утверждение, что каждый ИИ-продукт уже обрабатывает имена именно так.

Практический процесс подтверждения

Прежде чем сохранить имя третьего лица, ассистент должен простым языком обозначить точную предлагаемую запись памяти и попросить пользователя подтвердить ее. Например: «Хотите, чтобы я запомнил, что вашу сестру зовут Майя Чэнь?» Вопрос должен четко указывать как сохраняемое написание, так и степень родства. Размытый вопрос вроде «Мне запомнить это?» оставляет слишком много пространства для недопонимания.

Если пользователь подтверждает, сохраняйте только подтвержденную деталь и покажите четкую индикацию того, что воспоминание было сохранено. Если пользователь говорит «нет», отказывается отвечать или меняет тему, не переносите имя в память. Сохраняйте сомнительную деталь в рамках текущего разговора только в том случае, если она необходима для ответа, и избегайте ее повторения в качестве установленного факта. Если пользователь исправляет предложение — «Ее зовут Майя, и она моя двоюродная сестра», — спросите, следует ли запомнить этот исправленный вариант, прежде чем его сохранять.

Эффективная последовательность действий выглядит так:

**Обратите внимание на источник.** Было ли имя напрямую названо пользователем, процитировано из сообщения, взято из файла или подключенного источника, выведено из контекста или угадано?

**Проверьте наличие противоречий.** Сравните написание и степень родства с тем, что пользователь говорил в текущем диалоге, и с любыми релевантными сохраненными записями памяти. Относитесь к расхождениям как к нерешенным вопросам, а не как к сигналу выбрать наиболее вероятную версию.

**Спросите о конкретной записи памяти.** Назовите предлагаемое имя и степень родства, затем предложите внести исправление или дать четкий ответ «да» или «нет».

**Сохраняйте только после явного подтверждения.** Формулируйте сохраненную запись узко; не добавляйте неподтвержденное полное имя, прозвище или другие детали отношений.

**Покажите результат и элементы управления.** Сообщите пользователю, было ли сохранено воспоминание, и предоставьте возможность просмотреть, изменить или удалить его.

Что делать при конфликте написания или степени родства

В примере с вариантами имени ассистент не должен молча стандартизировать написание. Он может сказать: «Я вижу вариант Майя в вашем сообщении и Maja в записке. Какое написание мне использовать и кем вам приходится этот человек? Я не сохраню имя, пока вы его не подтвердите». Если пользователь ответит просто «Майя», написание станет понятнее, но степень родства все еще может требовать уточнения, прежде чем будет сохранено составное воспоминание вроде «ваша сестра Майя».

Оставляйте исправления точечными — привязанными именно к той детали, которую они разрешают. Подтверждение пользователем написания «Maja» не обязательно подтверждает, что Maja — это сестра; подтверждение степени родства не решает вопрос о том, использовать ли официальное имя или уменьшительное. Если пользователь не уверен, оставьте воспоминание несохраненным и позвольте вернуться к нему позже. Это проектная рекомендация: неопределенность должна оставаться видимой, а не скрываться за уверенно звучащим ответом.

Полезный отрицательный сценарий: когда не нужно спрашивать или сохранять

Предположим, пользователь вставляет фрагмент семейного группового чата, где упоминается «Майя», и просит составить краткое резюме. Ассистент может резюмировать текст без запроса на сохранение имени. Упоминание третьего лица в разговоре, цитирование кого-либо или просьба помочь с разовой задачей сами по себе не означают, что пользователь хочет создать долговременное воспоминание. Спрашивать о подтверждении при каждом появлении имени также мешало бы выполнению обычных задач. Запрос на подтверждение уместен только тогда, когда система предлагает перенести эту деталь в память; если оснований для сохранения нет, она может просто этого не делать.

Позвольте пользователям просматривать, исправлять и удалять память

Подтверждение — это лишь одна из составляющих эффективного контроля над памятью. Пользователь должен иметь возможность видеть сохраненную запись в окне управления памятью, различать сохраненное написание и степень родства, исправлять любое из полей или удалять запись. Когда исправление меняет данные, которые система должна использовать, интерфейс должен наглядно отображать итоговую сохраненную версию. При запросе на удаление система должна показать, действительно ли воспоминание было удалено; разговорная фраза «Я забуду это» сама по себе не является доказательством того, что долговременная запись изменилась.

Справочная документация OpenAI по ChatGPT предлагает конкретный пример того, почему важны эти элементы управления: в ней говорится, что память может опираться на несколько доступных источников, может удерживать не все детали и предоставляет функции исправления и удаления, причем шаги по удалению зависят от того, где хранится информация. Эти детали описывают ChatGPT, а не универсальный стандарт для ИИ-компаньонов. См. [Память в ChatGPT](https://help.openai.com/en/articles/8590148-memory-in-chatgpt).

Точно так же разговорный ответ вроде «Понял, я запомню Майю» не доказывает, что долговременное воспоминание было действительно сохранено. Система должна отличать подтверждение приема информации в реплике от подтвержденного сохранения в базе, используя видимый статус памяти или другой надежный сигнал интерфейса. В таком случае пользователи смогут проверить элементы управления памятью, а не пытаться догадаться о произошедшем по дружелюбной формулировке ответа.

Компактное правило принятия решений для дизайнеров и пользователей

Для каждого предлагаемого имени третьего лица задайте вопросы: **Каков источник? Понятно ли написание? Понятна ли степень родства? Одобрил ли пользователь сохранение именно этой детали явным образом?** Если хотя бы один ответ вызывает сомнения, сделайте паузу перед сохранением. Если пользователь дает одобрение, сделайте сохраненный элемент видимым и доступным для редактирования; если нет — не вносите его в долговременную память. Это простое правило фокусирует проверку на том моменте, когда неопределенный контекст рискует превратиться в долговременное утверждение о ком-либо.

Запоминание имени члена семьи должно сохранять формулировку, задуманную пользователем, а не превращать цитату, импорт, умозаключение или догадку в установленный факт. Задавайте вопросы о конкретном имени и степени родства, сохраняйте данные только после явного подтверждения и обеспечивайте возможность просмотра, исправления и удаления результата. Разделяйте подтверждение и само сохранение, чтобы ни система, ни пользователь не принимали обещание в ходе диалога за доказательство того, что память действительно изменилась.

Продолжить изучение темы