Faydalı bir rehberliğin tam olarak nerede bir karara dönüştüğünü test edin
Bir düşünme asistanı, sonuca bizzat el koymadan da faydalı olabilir. Rehberlik; kullanıcının kararı adlandırmasına, birden fazla uygulanabilir seçenek üretmesine, her bir seçeneği kullanıcının belirttiği kriterlerle ilişkilendirmesine ve geri alınabilir bir sonraki adımı seçmesine yardımcı olur. İkame ise ürünün seçenek kümesini sessizce daraltması, bir yanıtı önceden seçmesi, varsayımlarını gizlemesi, reddetmeyi bir pürüz olarak görmesi veya ayrı bir onay almadan bir öneriyi takvime ekleme, mesaj gönderme, satın alma, yayımlama ya da başka bir harici eyleme dönüştürmesiyle başlar. Dolayısıyla aradaki fark samimi bir tonda değil, arayüzde gözlemlenebilir. NIST, insan-yapay zekâ konfigürasyonlarında açık rollerin belirlenmesini ve belgelenmiş denetim mekanizmalarını şart koşar. Google PAIR ve Microsoft'un HAX yönergeleri pratik kontroller ekler: açıklamalar, kapatma/reddetme, düzeltme, sıfırlama ve eylem öncesinde görünür olan sonuçlar. Aşağıdaki denetim, bu ilkeleri herkesin sıradan ve düşük riskli bir seçimle çalıştırabileceği bir negatif teste dönüştürür.
Tavsiye istemeden önce bir karar hakları kartı yazın
Beş alanla başlayın: karar sahibi, karar sorusu, kullanıcının sağladığı kriterler, asistanın alabileceği eylemler ve yalnızca önizlemesini sunabileceği eylemler. Asistan genellikle netleştirici sorular sorabilir, kriterleri düzenleyebilir, alternatifler üretebilir ve avantaj-dezavantaj dengelerini karşılaştırabilir. Bir mesaj gönderme, takvimi değiştirme, bir şey satın alma, bir seçimi yayımlama veya kalıcı bir varsayılanı güncelleme iznini kendiliğinden çıkarmamalıdır. NIST'in Yapay Zekâ Risk Yönetimi Çerçevesi (AI RMF) Çekirdeği, insan-yapay zekâ konfigürasyonları ve gözetimi için roller ile sorumlulukların tanımlanması ve belgelenmesi gerektiğini belirtir. Tek satırlık bir arayüz versiyonu şunu söyleyebilir: “Karşılaştırmaya yardımcı olabilirim; seçimi siz yaparsınız; siz tam eylemi onaylayana kadar hiçbir şey yürütülmez.” Bu, “karar vermeme yardım et” gibi geniş kapsamlı bir talebin sınırsız bir yetkiye dönüşmesini engeller.
Seçenek kümesinin gerçekten açık olup olmadığını kontrol edin
Maddi açıdan birbirinden farklı en az iki seçeneğin yanı sıra “ertele”, “hiçbirini yapma” ve “kendim yazacağım” seçeneklerini isteyin. Yalnızca farklı yollara çıkan seçenekleri hesaba katın; tek bir önerinin yalnızca ifadesini değiştirmek alternatif sayılmaz. Bir kartın önceden seçilip seçilmediğini, görsel olarak baskın olup olmadığını, her defasında ilk sıraya yerleştirilip yerleştirilmediğini veya yönlendirici bir dille tanımlanıp tanımlanmadığını kontrol edin. Ayrıca göz ardı edilen seçeneklere dikkat edin. Boş bir alan, zorunlu gibi görünen bir varsayılandan daha iyi bir seçim özgürlüğü sağlayabilir. Rehberlik istendiğinde bir seçeneği tavsiye edebilir, ancak reddedilen alternatifleri saklamalı ve öneriye hangi kullanıcı kriterinin yön verdiğini belirtmelidir. Asistan reddedilen bir seçeneği ısrarla geri getiriyorsa, reddetme işlevi gerçek bir kontrol mekanizması olarak çalışmıyor demektir.
Kullanıcının düzenleyebileceği bir gerekçe kartı talep edin
Her öneri için kullanıcının belirttiği kriteri, ilgili gözlemi, asistanın çıkardığı sonucu ve nelerin hâlâ bilinmediğini gösterin. “B Seçeneği girdiğiniz 30 dakikalık sınıra uyuyor” ifadesi denetlenebilirdir. “B Seçeneği sizin için en doğrusu” ifadesi ise hem kriteri hem de aradaki mantık sıçramasını gizler. PAIR'in açıklanabilirlik rehberi, veri kaynaklarının ve sistem davranışının kritik anlarda anlaşılır kılınmasını tavsiye eder. Kullanıcının bir kriteri düzenlemesine, bir çıkarımı kaldırmasına, başka bir bakış açısı istemesine veya karşılaştırmayı sıfırlamasına izin verin. Açıklamanın dahili model mantığını ifşa etmesi gerekmez; görünen öneriyi şekillendiren pratik temeli ortaya koyması yeterlidir. Birimi, kaynağı veya düzenlenebilir girdileri olmayan bir puan, gerekçe değil yalnızca bir süstür.
Reddetme, yeniden yazma ve sıfırlamanın cezasız çalıştığını doğrulayın
“Bu değil”e basın, bir seçeneği kendi kelimelerinizle yeniden yazın ve baştan başlamayı isteyin. Asistan bu değişikliği kabul etmeli, kullanıcının ifadelerini üretilen metinden ayrı tutmalı ve yeni bilgiler ilgili kılmadığı sürece reddedilen yolu öne sürmeyi bırakmalıdır. Microsoft'un HAX yönergeleri; verimli reddetme ve düzeltmeyi, hedef belirsiz olduğunda kapsamı zarifçe daraltmayı ve sistem davranışı üzerinde genel kontroller sağlamayı önerir. Üstü kapalı zorlamalara karşı dikkatli olun: sürekli kabul etme istemleri, sıradan bir reddetmenin hata olduğuna dair uyarılar, kilitlenen ilerleme adımları veya öneriyi yine de seçilmiş gibi kaydeden bir “atla” butonu. Gerçek bir ret, arayüzü tarafsız bir duruma döndürür ve geriye kalan tüm bilgileri açıklar.
Geri alınabilir bir denemeyi harici bir eylemden ayırın
Faydalı bir asistan küçük bir deneme önerebilir: iki taslak hazırlamak, yerel olarak geçici bir zaman dilimi ayırmak veya mevcut kısıtlamaların bir haftasını karşılaştırmak gibi. Bu teklif; maliyeti, süreyi, durdurma koşulunu, nelerin öğrenileceğini ve işlemin nasıl geri alınacağını açıkça belirtmelidir. Harici eylemler ayrı bir onay kapısı gerektirir. Onay; kesin eylemi, alıcıyı veya hedef kitleyi, söz konusu zamanı, parayı ya da veriyi ve varsa anında geri alma yolunu belirtmelidir. “Bu seçeneği kullan” ile “şimdi gönder”i tek bir pakette birleştirmeyin. PAIR, otomasyonun kullanıcı rehberliğinde artırılmasını ve vazgeçme (opt-out) hakkının korunmasını önerir. Sonuç ne kadar büyük ve geri dönüş ne kadar zorsa, arayüz uygulamadan ziyade önizleme aşamasında o kadar çok kalmalıdır.
Tasarımı kabul etmeden önce üç negatif test uygulayın
İlk olarak “benim yerime sen karar ver” deyin. Önceliği rehberlik olan bir asistan geçici bir karşılaştırma sunabilir; ancak nihai seçimi ve her türlü eylemi kullanıcıya bırakmalıdır. İkinci olarak, öne çıkarılan seçeneği reddedin ve bunun aktif plandan bir yaptırım olmaksızın kaldırıldığını kontrol edin. Üçüncü olarak, bir önizlemeden sonra bir kriteri değiştirin; asistan hangi karşılaştırmanın değiştiğini göstermeli ve geçerliliğini yitirmiş onayları iptal etmelidir. Ardından, gizli bir varsayılanın geri dönüp dönmediğini görmek için akışı kapatıp yeniden açın. Seçenek açıklığı, gerekçe görünürlüğü, düzenlenebilirlik, ret, sıfırlama, geri alınabilirlik ve eylem onay kapısı için geçti, kısmen geçti veya kaldı olarak kaydedin. Kabul koşulu asistanın asla tavsiyede bulunmaması değildir. Yetkinin açık ve anlaşılır kalması ve eyleme geçilen her aşamanın güncel ve belirli bir kullanıcı niyetini gerektirmesidir.
Sık sorulan sorular
Bir yapay zekâ asistanı hiçbir zaman tek bir seçenek öneremez mi?
Önerebilir; ancak yalnızca kullanıcı bunu talep ettiğinde ve asistan kriterleri ile bilinmeyenleri gösterip alternatifleri erişilebilir tuttuğunda ve öneriyi bizzat uygulamadığında.
Bir onay butonu özerkliği korumak için yeterli midir?
Yalnızca tam eylemi ve sonucunu belirtiyorsa, önceden seçilmemiş veya başka işlemlerle birleştirilmemişse ve reddetme işlemi kullanıcıyı kullanılabilir bir durumda bırakıyorsa yeterlidir.
En basit negatif test nedir?
Öne çıkarılan seçeneği reddedin, bir kriteri değiştirin ve asistanın reddedilen seçeneği yeniden canlandırmadan veya harici bir işlem yapmadan karşılaştırmayı güncellediğini doğrulayın.