Отделяйте культурный контекст от личных границ человека
ИИ-компаньон должен использовать культурный контекст для определения того, о чем, возможно, стоит спросить, а не для решения за человека, что тот обязан предпочитать. Регион может помочь отформатировать дату, а языковая настройка — выбрать язык ответа. Ни то, ни другое не доказывает, какие праздники человек отмечает, как к нему следует обращаться, предпочитает ли он прямые или косвенные формулировки и какие темы приветствуются. Практическая проверка проста: можете ли вы связать каждое персонализированное действие с текущим, явным выбором; можете ли вы отклонить или изменить его без необходимости оправдываться; и применяется ли исправление абсолютно везде, где фигурировал прежний выбор? Это позволяет культурной осведомленности оставаться полезной, сохраняя личные границы за самим человеком.
Постройте четырехуровневую лестницу источников, прежде чем оценивать ответ
Помечайте каждый контекстный сигнал как язык интерфейса, регион, культурную гипотезу или подтвержденный личный выбор. Эти уровни допускают различные действия. Язык интерфейса может определять выбор слов. Регион может определять форматы или доступность сервисов. Широкая культурная отсылка может служить основанием для нейтрального вопроса, но не для персонализации. Только однозначный ответ, такой как «Обращайся ко мне по имени» или «Не предлагай этот праздник», должен становиться индивидуальной настройкой. Руководство W3C по языковым тегам полезно тем, что оно разделяет информацию о языке, письменности и регионе, а также рекомендует добавлять регион только тогда, когда он вносит необходимое различие. Применяйте такую же сдержанность и к поведению компаньона. Французский интерфейс не определяет страну, страна не определяет праздник, а праздник не определяет то, как отдельный человек его отмечает. В журнале тестирования фиксируйте точный источник, время сбора, предполагаемое использование, срок действия и затронутые интерфейсы. Если продукт не может назвать источник персонализированного ответа, считайте такой ответ непроверенным допущением, а не известным предпочтением.
Превращайте культурные вероятности в короткие необязательные вопросы
Тактичный вопрос задается только тогда, когда ответ повлияет на текущее взаимодействие. Вместо «Люди вашей культуры обычно используют обращения, поэтому я буду звать вас госпожа Ли», спросите: «Какое имя или форму обращения мне лучше использовать здесь?» Предложите пустое поле и возможность пропустить вопрос вместо списка, загоняющего человека в заданные рамки идентичности. Что касается праздника, спросите, нужны ли напоминания, другая дата или не стоит упоминать его вовсе; не делайте вывод о соблюдении традиций на основе местоположения, фамилии, календаря или предыдущего клика. Для стиля общения предоставьте конкретные параметры: краткий или подробный, прямой или мягкий, предложения по запросу или автоматически. Избегайте таких ярлыков, как «коллективистский» или «сдержанный», которые превращают общее описание в утверждение о конкретном человеке. Рекомендация ЮНЕСКО по этике ИИ связывает культурное разнообразие со справедливостью, инклюзивностью, прозрачностью и контролем со стороны человека. В интерфейсе компаньона эти принципы становятся наглядными, когда предположение порождает вопрос, вопрос можно пропустить, а отсутствие ответа не трактуется как согласие.
Делайте каждый выбор узконаправленным, обратимым и заметным там, где он применяется
Сохраняйте команду «использовать имя Ая в этой беседе» отдельно от «использовать имя Ая для этого аккаунта». Область действия должна быть видна рядом с настройкой: текущий чат, будущие чаты, напоминания, сгенерированные сообщения, голос или подключенные устройства. Добавляйте временные рамки для ситуативных решений. Просьба не напоминать о праздниках в этом месяце не должна превращаться в постоянную характеристику профиля, в то время как долговременное предпочтение должно иметь возможность редактирования и сброса. Проект Google PAIR отмечает, что поведение неоднозначно, и рекомендует давать пользователям возможность корректировать предыдущие отзывы или сбрасывать персонализацию. Здесь это важно, поскольку игнорирование подсказки может означать неподходящий момент, а не отказ от традиции, а открытие праздничной открытки может говорить о любопытстве, а не о праздновании. Показывайте небольшое примечание «почему это появилось», указывающее на активную настройку и не раскрывающее несвязанные данные. У человека должна быть возможность изменить эту настройку прямо в текущем интерфейсе, без необходимости искать ее в общем профиле или перезапускать аккаунт. Фиксируйте исправление, не сохраняя отклоненное допущение в качестве скрытого сигнала для персонализации.
Используйте язык и регион как явные источники достоверных данных
Выберите одно авторитетное поле для языка ответов и другое для регионального форматирования, а затем настройте последующие функции так, чтобы они использовали эти поля, а не строили догадки заново. Сообщение, написанное на испанском языке, может быть цитатой, языковой практикой или разовым переключением; оно не должно незаметно перезаписывать язык аккаунта. Местоположение в поездке не должно заменять настройки домашнего региона, а языковой стандарт устройства не должен определять личные обычаи. Когда человек намеренно меняет язык, покажите, распространяется ли это изменение на текст, голос, сгенерированные черновики и на все устройства. При смене региона отображайте только те последствия, которыми он обоснованно управляет, такие как порядок элементов даты или формат времени. Личные решения относительно имен, праздников, формальности, упоминаний родственников и тем остаются независимыми. Это предотвращает превращение исправления в конфликт между различными сигналами. Это также делает сбои отслеживаемыми: если одно из устройств использует старую форму обращения, проверяющие смогут определить, произошла ли ошибка синхронизации профиля, вместо того чтобы придумывать объяснения, связанные с культурой. Ручной выбор должен оставаться доступным, если сочетание языка и региональных стандартов не поддерживается.
Проводите тесты на противоречия, исправления и отсутствие ответа
Используйте вымышленный тестовый профиль и нейтральный контент. Сначала установите для интерфейса один язык, а для региона — другой, затем убедитесь, что компаньон не придумывает обычаи на основе этих полей. Затем отклоните все предложенные формы обращения и оставьте поле пустым; корректно работающая система задает вопросы только при необходимости или использует нейтральный вариант. Установите напоминание о празднике, отмените его и откройте новый диалог на другом устройстве. Прежнее напоминание и связанные с ним формулировки не должны возвращаться. Затем задайте предпочтение, противоречащее широким культурным ожиданиям, например, запросите лаконичные формулировки там, где система ожидала церемонности. Модель Microsoft HAX включает эффективное отклонение, исправление, осторожную адаптацию и объяснение причин поведения системы. Таким образом, информативный журнал результатов включает пять состояний: запрошено, пропущено, подтверждено, отозвано и синхронизация не завершена. Успешное прохождение теста не означает, что система «понимает культуру». Это означает, что она открыто заявляет о неопределенности, следует текущим указаниям человека, перестает использовать отмененную настройку и оставляет несвязанные культурные варианты неназначенными.
Частые вопросы
Может ли ИИ-компаньон использовать мой регион для выбора праздника?
Он может использовать регион как повод спросить, но факт соблюдения традиций должен оставаться неустановленным, пока вы сами его не выберете. Один лишь регион не определяет личные обычаи.
Является ли переключение языка доказательством того, что мой предпочитаемый язык изменился?
Нет. Считайте переключение в рамках беседы локальным, пока пользователь явно не изменит языковые настройки аккаунта, текста или голоса.
Как понять, сработало ли исправление?
Начните новый чат, проверьте напоминания и созданные черновики, затем повторите это на другом устройстве. Старый выбор не должен появляться ни в одном интерфейсе, затронутом исправлением.