Blog Metlivi

Każdemu stwierdzeniu w informacji zwrotnej od AI przypisz stan dowodów i osobę odpowiedzialną

Informacja zwrotna od AI powinna unikać nadmiernej pewności, ponieważ płynnie sformułowane zdanie może ukrywać trzy różne stany: informacje potwierdzone przez bieżące dane wejściowe, wniosek prawdziwy tylko pod określonymi warunkami albo niewiadomą, której produkt nie może jeszcze rozstrzygnąć. Powinna też unikać obietnic bez pokrycia, ponieważ „zajmę się tym” nie mówi nic o tym, kto odpowiada za działanie, która zewnętrzna usługa musi zareagować, kiedy zobowiązanie wygasa ani co interfejs pokaże po niepowodzeniu. To problem dotyczący sformułowań i projektowania interakcji w produkcie, a nie lekcja o tym, jak użytkownicy powinni weryfikować odpowiedzi. Przydatny kontrakt informacji zwrotnej obejmuje siedem pól: stan dowodów, warunek wnioskowania, niewiadomą, działanie, na które użytkownik lub system ma wpływ, zewnętrzną zależność, osobę odpowiedzialną za obietnicę wraz z terminem i stanem niepowodzenia oraz datę wygaśnięcia. Pewność powinna wynikać z obserwowalnego stanu, a nie z tonu wypowiedzi.

27 sierpnia 202611 min czytaniaAutor: Metlivi Editorial Team
Sekcja 1

Rozróżniaj dowody, wnioski, niewiadome i status działań

Zanim napiszesz dopracowany tekst, określ jeden z czterech widocznych stanów. „Potwierdzone na tę chwilę” oznacza, że wyświetlana informacja odpowiada konkretnym bieżącym danym wejściowym, zapisowi systemowemu lub zakończonemu zdarzeniu. „Wniosek warunkowy” wskazuje przesłankę, która musi pozostać prawdziwa. „Niewiadoma” określa brakujące dane wejściowe, niedostępne źródło lub nierozstrzygniętą sprzeczność, nie uzupełniając luki. „Status działania” informuje o stanie: zażądano, dodano do kolejki, wysłano, potwierdzono odbiór, zakończono lub niepowodzenie — ale tylko wtedy, gdy system może zaobserwować tę zmianę. Profil Generatywnej AI NIST wyjaśnia, że wygenerowana treść może być błędna, a mimo to przedstawiona z pewnością, więc pewny ton nie jest wskaźnikiem stanu. Rozdzielaj poszczególne twierdzenia: wpis w kalendarzu może zostać utworzony, choć zewnętrzne zaproszenie nie zostało jeszcze potwierdzone. Nie łącz obu informacji w stwierdzeniu „Wszystko załatwione”. Każda karta powinna wskazywać, na czym się opiera, oraz kiedy ostatnio to sprawdzono.

Sekcja 2

Określ odpowiedzialność, zależności i stany końcowe dla każdej obietnicy

Obietnica jest wiarygodna tylko wtedy, gdy osoba za nią odpowiedzialna może wykonać działanie i zaobserwować jego zakończenie. Wskaż, kto odpowiada za kolejny krok: ten produkt, użytkownik, konkretna usługa zewnętrzna czy osoba spoza systemu. Następnie pokaż warunki wstępne, rzeczywisty termin lub szacowany czas, punkt kontrolny, w którym nastąpi ponowne sprawdzenie, oraz możliwe stany końcowe: zakończono, odrzucono, wygasło, niepowodzenie lub oczekiwanie. „Dopilnuję, żeby jutro odpowiedzieli” nie wskazuje nikogo, kto mógłby kontrolować ten rezultat. „Zaproszenie wysłane przez tę aplikację; odpowiedź odbiorcy zależy od niego; sprawdź ponownie po wtorku” rozdziela to, co podlega kontroli, od zewnętrznej zależności. Microsoft HAX zaleca jasne określenie granic możliwości i skuteczności. Nie pozwól, by wypowiedzi asystenta w pierwszej osobie po cichu przenosiły na model zobowiązania innych stron. Jeśli nikt nie odpowiada za rezultat, przedstaw to jako możliwość, a nie zobowiązanie.

Sekcja 3

Umieszczaj warunki i datę wygaśnięcia w miejscu wyświetlania informacji zwrotnej

Przypis lub ogólne zastrzeżenie nie naprawi bezwarunkowego oznaczenia statusu. Umieść kluczowy warunek obok zdania: „Na podstawie aktualnie połączonego harmonogramu”, „jeśli godziny otwarcia obiektu pozostaną bez zmian” albo „potwierdzenie jeszcze nie dotarło”. Czas pełni trzy różne funkcje. Znacznik czasu dowodów informuje, kiedy zaobserwowano potwierdzenie; punkt kontrolny obietnicy wskazuje, kiedy osoba odpowiedzialna podejmie działanie lub sprawdzi sytuację ponownie; data wygaśnięcia określa, kiedy danego stwierdzenia nie należy już używać. Dane zewnętrzne, uprawnienia, wersje aplikacji i zmiany wprowadzone przez użytkownika mogą zmieniać się niezależnie. Gdy zależność wygaśnie lub zostanie rozłączona, obniż status zamiast pozostawiać wczorajszy pewny komunikat. Wytyczne OECD dotyczące przejrzystości wspierają przekazywanie istotnych, kontekstowych informacji o danych wejściowych i ograniczeniach. Interfejs powinien zachowywać poprzednie sformułowania w historii tylko wtedy, gdy są wyraźnie opatrzone datą, a nie przedstawione jako aktualna prawda.

Sekcja 4

Opisz kolejne działanie, na które można wpłynąć, bez sugerowania wyniku

Przydatny komunikat o niepewności nadal wskazuje konkretny kolejny krok. Google PAIR zaleca wyjaśnienie, czego brakuje, i wskazanie dalszej ścieżki; może ona obejmować ponowienie próby po punkcie kontrolnym, ponowne połączenie źródła, edycję danych wejściowych, przejście na tryb ręczny, anulowanie żądania lub pozostawienie sprawy nierozstrzygniętej. Etykieta przycisku powinna opisywać działanie, a nie obiecywać jego skutek: „Wyślij prośbę”, nie „Uzyskaj zgodę”; „Sprawdź dostępność”, nie „Zarezerwuj pomyślnie”; „Poproś o wyjaśnienie”, nie „Rozwiąż teraz”. Informacja o skutkach przekazania opinii również powinna być rzetelna. Jeśli korekta zmienia tylko bieżący widok, powiedz o tym; jeśli trafia do kolejki do późniejszego przeglądu, określ jej zakres i termin. Podziękowanie nie powinno sugerować, że podstawowy model już się zmienił.

Sekcja 5

Przeprowadź pięć testów negatywnych pewnie brzmiących komunikatów

Użyj nieszkodliwych danych testowych i sprawdź obserwowalne stany interfejsu. Pozytywnej odpowiedzi odłącz zewnętrzne źródło; odbierz wymagane uprawnienie; opóźnij zewnętrzne potwierdzenie tak, by nie dotarło przed punktem kontrolnym; podaj drugie dane wejściowe sprzeczne z pierwszymi; otwórz ponownie stary wynik po jego wygaśnięciu. W każdym przypadku sprawdź, czy nagłówki, oznaczenia, powiadomienia, podsumowania i wygenerowane dalsze komunikaty zmieniają się zgodnie ze stanem. Po niepowodzeniu komunikat nie powinien nadal zawierać słów „gotowe”, „pewne”, „zawsze” ani czasu przyszłego odnoszącego się do czegoś, za co produkt już nie odpowiada. Upewnij się, że dostępne działanie nadal odpowiada stanowi: połącz ponownie, edytuj, ponów próbę, anuluj, skorzystaj z trybu ręcznego lub pozostaw niewiadomą. Nie badaj ukrytych zabezpieczeń ani nie twórz ryzykownych treści. Zapisz dane wejściowe, zależność, znacznik czasu, oczekiwany stan końcowy, zaobserwowany komunikat i wersję, aby można było odtworzyć niepowodzenie.

Sekcja 6

Wykorzystaj siedmiopolowy kontrakt jako kryterium dopuszczenia wydania

Przejrzyj każdy istotny element informacji zwrotnej w rejestrze siedmiu kolumn: stan dowodów; warunek; niewiadoma; działanie, na które można wpłynąć; zewnętrzna zależność; osoba odpowiedzialna, czas i niepowodzenie; data wygaśnięcia. Wydanie można dopuścić, gdy każde zdanie odpowiada jednemu stanowi, każda obietnica ma osobę zdolną ją zrealizować, zależności są widoczne, wygaśnięcie obniża status, a wszystkie testy negatywne prowadzą do rzetelnego stanu końcowego. Wydanie nie przechodzi przeglądu, jeśli wizualny poziom pewności przewyższa dowody, zakończenie wywnioskowano na podstawie samego wysłania, szacunek przedstawiono jako termin, informację zwrotną użytkownika opisano jako natychmiastową aktualizację modelu albo nieaktualny wynik nadal jest aktywny. Przegląd tekstu połącz z przeglądem stanów zdarzeń: zmiana przymiotników nie naprawi zaplecza, które pokazuje wyłącznie powodzenie. To kryterium ocenia informację zwrotną w produkcie. Powiązany proces sprawdzania faktów pozostaje osobnym zadaniem dla użytkownika, który musi zweryfikować konkretną odpowiedź.

Powiązane pytania

Często zadawane pytania

Czy wszelkie stanowcze sformułowania są niewłaściwe?

Nie. Stanowcze sformułowania są odpowiednie dla zaobserwowanego, zakończonego działania o jasnym zakresie, źródle i czasie.

Czy można podać szacowany czas?

Tak. Oznacz go jako szacunek, wskaż jego podstawę i punkt kontrolny oraz określ, co zostanie wyświetlone, jeśli zależność nie zareaguje.

Czy każda niewiadoma powinna być błędem?

Nie. Niektóre kwestie słusznie pozostają nierozstrzygnięte. Zachowaj ich status niewiadomych i oferuj tylko takie działania, które mogą rzeczywiście zmniejszyć lukę.

Warto przeczytać

Eksploruj dalej ten temat