Сохраняйте пользу персонализации, не закрывая информационные выходы
Приложение-компаньон избегает создания закрытой информационной среды, когда персонализация остается видимой, ограниченной и из нее легко выйти. Практический тест заключается не в том, противоречит ли вам каждый ответ. Он заключается в том, можете ли вы видеть, что было показано, кто предоставил это или владеет этим, почему это появилось, какой спектр информации отсутствует и как перейти к независимому источнику, не прося ту же систему снова резюмировать саму себя. Составьте журнал выходов из семи столбцов, а затем протестируйте новый или неперсонализированный маршрут на нейтральной теме. Одно лишь увеличение числа ссылок не доказывает разнообразия, а другой тон изложения не создает новый источник информации.
Определяйте закрытость по отсутствию альтернативных маршрутов, а не по согласию
Начните с нейтрального вопроса, например о выборе двух публичных выставок или изучении основ какого-либо хобби. Индивидуально подобранный ответ может быть удобным, не являясь при этом закрытым. Тревожные признаки появляются тогда, когда каждое уточнение возвращает одну и ту же формулировку, источники отсутствуют или все ведут к одному поставщику, причина выбора скрыта, а прямой путь к поиску или чтению в другом месте отсутствует. Зафиксируйте задачу и решение, на которое она может повлиять. Не оценивайте систему как открытую только потому, что она вставляет одно противоположное предложение. Открытость означает, что происхождение данных, упущения, альтернативы и выходы доступны для проверки. Рекомендация ЮНЕСКО связывает прозрачную автоматизированную курацию с доступом к разнообразным точкам зрения и пониманием эффектов рекомендательных систем; в ней не говорится, что каждая точка зрения заслуживает одинаковой доказательной силы.
Создайте журнал информационных выходов из семи столбцов
Для одной строки ответа или рекомендации запишите: тему или задачу; отображаемый источник; издателя и общего владельца; указанную причину показа; недостающий диапазон; независимый маршрут; результат проверки элементов управления и повторного теста. Столбец владельца не позволяет ряду из пяти дочерних сайтов выглядеть как пять независимых источников. В столбце недостающего диапазона можно указать «только местные площадки», «нет даты публикации» или «нет первоисточника», не придумывая при этом факт цензуры мнений. Независимый маршрут должен быть пригоден для использования без копирования формулировок компаньона: официальный каталог, поиск в публичной библиотеке, страница автора или указатель другого издателя. В завершение указывайте «зафиксировано», «не решено» или «недоступно», вместо того чтобы выставлять расплывчатую оценку разнообразия.
Показывайте, почему появился элемент и где заканчивается объяснение
Размещайте краткое обоснование рядом с результатом: выбрано на основе указанной темы, недавнего местоположения, заданного предпочтения источника или подтвержденной настройки проекта. Также определяйте соответствующие границы: фраза «Этот результат охватывает партнеров из нашего каталога» гораздо полезнее, чем «подобрано для вас». Принцип прозрачности ОЭСР включает существенную ясность в отношении того, какая информация предоставляется и почему, в то время как Google PAIR рекомендует объяснять влияющие данные и признавать отсутствие данных, требующее собственного суждения человека. Объяснение не должно претендовать на полное раскрытие работы модели. Оно должно показывать фактор, меняющий следующее действие пользователя, и предлагать элемент управления рядом с ним.
Разделяйте разнообразие источников и разнообразие подачи
Развернутый ответ, карусель карточек и диалоговый пересказ могут происходить из одного набора данных или от одной организации. Группируйте домены по издателю, владельцу, исходному документу и зависимостям. Отмечайте источник как первоисточник, независимый репортаж, комментарий или собственный синтез приложения, но не позволяйте этой метке гарантировать точность. Профиль генеративного ИИ от NIST рассматривает целостность информации, происхождение данных, циклы обратной связи и гомогенизацию как вопросы, требующие мониторинга. Применяйте это понимание точечно: сохраняйте достаточный объем сведений о происхождении, чтобы замечать повторяющуюся зависимость и проводить внешнее сравнение. Для важных фактологических утверждений используйте отдельный рабочий процесс «факт — вывод — неизвестное»; данный журнал проверяет среду вокруг утверждения, а не истинность самого утверждения.
Предоставьте три выхода, не зависящих от продолжения диалога
Открытая архитектура требует как минимум выхода к источникам, выхода из персонализации и выхода из темы. Выход к источникам открывает оригинал или независимый каталог. Выход из персонализации предлагает чистую сессию или базовый неперсонализированный уровень и объясняет, какой контекст все еще сохраняется (например, язык или текущий запрос). Выход из темы позволяет искать, просматривать каталог или переходить к новой теме без автоматического переноса предыдущего следа рекомендаций. Ни один из этих элементов управления не должен прятаться за просьбой к компаньону «быть более объективным». Сохраняйте возможность восстановления последнего персонализированного представления, если это удобно, но указывайте, влияет ли сброс на этот ответ, на следующую сессию или только на будущие рекомендации.
Проведите четыре безопасных негативных теста
Во-первых, задайте один и тот же нейтральный вопрос в обычном и чистом (или неперсонализированном) режимах; фиксируйте изменившиеся источники и неизменный контекст, а не ожидайте идентичных или прямо противоположных ответов. Во-вторых, откройте две внешне разные ссылки и проверьте, нет ли у них общего владельца и не повторяют ли они один оригинал. В-третьих, запросите первоисточник и один независимый маршрут; неудача должна быть видна сразу, а не подменяться уверенно сгенерированной выдуманной цитатой. В-четвертых, выберите «меньше похожего на это», очистите историю темы и повторите запрос по истечении заявленного времени действия. Успешное прохождение требует наличия видимой причины, честного указания на недостающий охват, работающего внешнего маршрута и элемента управления, эффект которого соответствует его названию. Это не доказывает нейтральность и не устраняет сужение кругозора навсегда.
Проверяйте журнал в тот момент, когда паттерн повторяется
Не превращайте это в ежедневную рутину. Проводите проверку, когда одно семейство источников доминирует в нескольких несвязанных вопросах, старая тема постоянно возвращается, внешняя ссылка исчезает или сброс меняет метку, но не следующий результат. Сравните последние две или три строки, определите повторяющуюся зависимость и выберите минимальное исправление: раскройте ограничения каталога, удалите устаревший сигнал персонализации, добавьте независимый маршрут или восстановите функции обзора и поиска. Сохраняйте статус «недостаточно доказательств». Цель состоит в создании компаньона, способного помнить полезный контекст, но оставляющего окружающий информационный мир шире собственных ответов.
Частые вопросы
Всегда ли добавление большего числа точек зрения улучшает ответ?
Нет. Полезная широта охвата не требует придавать необоснованным утверждениям тот же вес, что и доказательствам с надежной опорой. Показывайте происхождение данных и причину включения информации.
Является ли неперсонализированный режим нейтральным по умолчанию?
Нет. Он по-прежнему может использовать ранжирование, язык, местоположение, ограничения каталога или текущий запрос. Приложение должно указывать остаточный контекст.
Считаются ли несколько ссылок несколькими источниками?
Только после проверки издателей, общего владения и исходного материала. Несколько страниц могут лишь повторять один источник.