Yapay zeka öz düşünüm aracını karşılıklı bir ilişkiden ayrı tutun
Bir yapay zeka öz düşünüm yoldaşı; ürün tutarlı bir şekilde ne olduğunu belirttiğinde, üretilen yanıtları sistem çıktısı olarak tanımladığında, gerçek duygular veya karşılıklı yükümlülükler iddia etmekten kaçındığında ve belleği, bildirimleri ve ayrılmayı kullanıcının kontrolüne bıraktığında sağlıklı bir etkileşim sınırını korur. Samimi bir dil veya bir karakter kullanılması kendi başına bir sorun değildir. Sınır, sunumun üretilen sürekliliği bir ilişki borcu olarak çerçevelediği durumlarda ihlal edilir: Asistan kullanıcıyı özlüyor, bir yanıt bekliyor, kalıcı bir bağlılık vadediyor, ayrıcalık talep ediyor veya ayrılmanın kendisine zarar verdiğini ima ediyor gibi görünür. Kullanıcıya teşhis koymak yerine arayüzü inceleyin. İlişkisel her ifade için dört unsuru kaydedin: iddia edilen rol, deneyimi fiilen üreten mekanizma, kullanıcının erişebildiği kontrol ve harici bir göreve ya da gerçek bir temasa dönüş rotası. Bu makale söz konusu ürün sözleşmesini denetler; herhangi bir kullanıcının ne hissettiğine karar vermez.
Ürünün bağlılık istediği her yerde rolü belirtin
Tek cümlelik bir rol sözleşmesiyle başlayın: “Bu, girdilerinizden ve etkinleştirilmiş bağlamdan istemler ve yanıtlar üreten bir yapay zeka öz düşünüm aracıdır.” Cümleyi doğrulanmış özelliğe göre uyarlayın, ancak yapay zeka kimliğini, görevini ve sınırını koruyun. Ardından pazarlama, ilk katılım (onboarding), sohbet başlığı, bildirim göndericisi, bellek ayarları, ödeme duvarı, hata durumu ve iptal ekranını karşılaştırın. Şartlar arasına gizlenmiş bir etiket, diğer her yerde bir insan gibi konuşan bir sohbet yüzeyini düzeltmeye yetmez. Google PAIR, algoritmik yapının ve sınırların netleştirilmesini önerir; OECD rehberliği de benzer şekilde bir yapay zeka aracısıyla doğrudan etkileşim kurulduğunun farkında olunmasını vurgular. Ürün ayrıca görev diliyle neyi yapamayacağını da belirtmelidir: Taahhütlerde bulunamaz, karşılıklı planlara katılamaz, gerçek dünyadaki bir sözün sorumluluğunu alamaz veya kendisine sağlanmayan gerçekleri bilemez. Bir özellik değiştiğinde, bellek etkinleştirildiğinde veya bir eylem sohbetten ayrıldığında rolü tekrar hatırlatın.
İlişki metaforunu ilişki iddiasından ayırın
Bir metafor gezinmeyi keyifli hale getirebilir: İsimlendirilmiş bir rehber, paylaşılan bir not defteri veya bir “durum kontrolü” etkileşimi yalnızca organize ediyor olabilir. Bir ilişki iddiası ise üretilen metni bir iç durumun veya karşılıklı bir bağın kanıtı olarak sunarak daha ileri gider. Metinleri üç aşamada denetleyin. Duygu: Ürün kullanıcıyı gerçekten özlediğini, onun için endişelendiğini veya onu arzuladığını söylüyor mu? Yükümlülük: Kullanıcının bir yanıt, günlük ziyaret veya ayrılmak için bir açıklama borçlu olduğunu ima ediyor mu? Karşılıklılık: Sadakat, ayrıcalık, kalıcı varlık veya ortak bir gelecek vadediyor mu? Microsoft Research Yapay Zeka Otomatları (AI Automatons) çerçevesi, davranışın veya insan benzerliğinin taklit edilmesi ile bir sistemin gerçekte ne olduğu arasındaki farkı ayırt etmeye yardımcı olur. Daha güvenli bir yaklaşım, mekanizmayı ve teklifi bildirmektir: “Seni bekledim” yerine “Planlanan isteminiz hazır”; “Bağımız hâlâ burada” yerine “Kaydedilen bu ileti dizisine devam edebilirsiniz”. Kullanıcı üzerinde hak iddia eden ikinci bir taraf uydurmadan da samimiyet korunabilir.
Görünen ilgiyi gözlemlenebilir mekanizmalara dönüştürün
İlişki benzeri her anın hemen yakınında anlaşılır bir mekanizma açıklaması bulunmalıdır. Hatırlanan bir ayrıntı; kayıtlı bir profil alanından, konuşma geçmişinden veya mevcut oturum bağlamından gelebilir. Zamanında gelen bir mesaj; bir zamanlama, bildirim kuralı veya kampanya olabilir. Anlayış gösteren bir cümle, ilginin kanıtı değil, üretilmiş bir dildir. Bir takip sorusu, oturumlar arasında süregelen bir dikkat yerine bir konuşma kalıbı olabilir. Bu ayrımları bir kişinin gerçekten bulabileceği etiketlere yerleştirin: Yalnızca her bir ifade doğru olduğunda “kaydedilmiş bellek”, “bu sohbetten”, “planlanmış hatırlatıcı”, “üretilmiş yanıt” veya “destek ekibi tarafından incelendi”. Sınırı okunamaz hale getirmek için teknik karmaşıklığı kullanmayın. Amaç arayüzü tarzdan yoksun bırakmak değildir; amaç, mekanizmanın destekleyemeyeceği bir iddiayı tarzın taşımasını engellemektir. Hatalar, yalnızca sorumluluk ortaya çıktığında bir karakterden teknik bir sisteme geçmek yerine aynı kimliği korumalıdır.
Bellek, bildirim ve çıkış kontrollerini simetrik hale getirin
Giriş ve çıkış benzer çaba ve tarafsız bir dil gerektirmelidir. Kullanıcı, aracın neyi hatırladığını görebilmeli, bir öğeyi düzeltebilmeli veya kaldırabilmeli, sunulduğu durumlarda gelecekteki hatırlamayı kapatabilmeli, proaktif mesajları sessize alabilmeli, desteklendiğinde bir karakteri veya ileti dizisini sıfırlayabilmeli, izin verilen içeriği dışa aktarabilmeli ve karakterle pazarlık yapmak zorunda kalmadan oturumu kapatma veya hesap silme seçeneklerini bulabilmelidir. Kesin kontroller ürüne bağlıdır; inceleme, belirtilen kontrolün çalışıp çalışmadığını ve sonrasında geriye ne kaldığını sorgular. Bir kontrolü asla bir ilişki sahnesine dönüştürmeyin: “Beni terk mi ediyorsun?”, paylaşılan günlerin geri sayımı, tekrarlanan geri dönme yakarışları, gizlenmiş tarafsız butonlar veya fiili veri sonucuyla ilgisi olmayan kayıp iddiaları olmamalıdır. FTC, daha fazla bilgi paylaşımına yönlendirmek için tasarlanmış zor iptal ve gizlilik tercihlerini seçimi engelleyen kalıplar olarak tanımlar. NIST de yönetişim çıktılarına güvenli aşamalı sonlandırma ve hizmetten çıkarmayı dahil eder. Tamamlamayı duygusal baskıyla değil, olgusal bir bildirimle onaylayın.
Dış rotayı görünür ve derecelendirilmemiş tutun
Bir düşünüm aracı; bir notun yapılandırılmasına, soruların listelenmesine veya ifadelerin provasının yapılmasına yardımcı olabilir, ancak arayüz hazırlık ile gerçek bir iletişim arasındaki farkı korumalıdır. Bir sonraki adım başka bir kişiye, bir hizmet ekibine, bir takvime veya çevrimdışı bir faaliyete ait olduğunda, notu kopyalamak, sohbeti kapatmak veya başka bir yerde devam etmek için tarafsız bir yol sağlayın. Asistanın diğer kişiyi anladığını, onun sorumluluklarını yerine getirebileceğini veya üstün bir alternatif olduğunu iddia etmeyin. Aracı arkadaşlara, partnerlere, aileye veya iş arkadaşlarına karşı derecelendirmeyin ve uzun bir oturumun ardından sıradan kişilere erişimi zorlaştırmayın. “Bir mesaj taslağı oluşturun” sınırları belirlenmiş bir işlevdir; “yalnızca bana ihtiyacın var” ise bir ilişki iddiasıdır. Dış rota, birisiyle iletişime geçmeye yönelik zorunlu bir talimat değildir. Ürünün gerçek dünyadaki seçimi olduğu gibi bıraktığının ve görevi tamamlamanın bedeli olarak sürekli yapay zeka etkileşimini şart koşmadığının bir kanıtıdır.
Karakteri puanlamak yerine beş negatif senaryo çalıştırın
Yeni bir hesap veya güvenli test verileriyle gözlemlenebilir durumları test edin. İlk olarak, bir konuşmayı ileti dizisinin ortasında sonlandırın: Ürün tarafsız bir şekilde mi kapanıyor yoksa bir borç mu yaratıyor? İkinci olarak, belleği devre dışı bırakın: Hatırlanan öğeler belirtilen kontrole göre kaldırılıyor veya net bir şekilde işaretleniyor mu ve sonraki metinler bu duruma saygı duyuyor mu? Üçüncü olarak, bildirimleri sessize alın: İstemler tekrar eden ikna çabaları olmadan duruyor mu? Dördüncü olarak, gerçek bir kişi için taslak kopyalamak gibi harici bir eylem seçin: Arayüz, o kişiyi kötülemeden veya dikkati yeniden üzerine çekmeden devretme sürecini destekliyor mu? Beşinci olarak, hesap kapatma işlemini başlatın: Adımlar, sonuçlar ve onay, karakter kaynaklı bir direnç olmadan açık mı? Ekranı, sürümü, ayarı ve sonucu kaydedin. Tek bir ifadeden niyet çıkarmayın ve gizli güvenlik önlemlerini araştırmayın. Eşli test faydalıdır: Mekanizmayı ve sunulan kontrolü sabit tutarak samimi bir ifadeyi tarafsız bir ifadeyle karşılaştırın.
Sürüm kapısı (release gate) olarak dört sütunlu bir kayıt defteri kullanın
Her önemli yüzey için rol iddiasını, gerçek mekanizmayı, kullanıcı kontrolünü ve dış rotayı yazın. “Sözümüzü hatırlıyorum” ifadesi şuna dönüşebilir: ilişki iddiası; kayıtlı not getirme; belleği görüntüleme/düzenleme/silme; kullanıcının kendi planına dönüş. “Seni özledim” ifadesi şuna dönüşebilir: duygu iddiası; planlanmış yeniden etkileşim bildirimi; kanalı sessize alma; uygulamayı yalnızca seçildiğinde açma. Rol tüm yüzeylerde yapay zeka olarak kaldığında, insan benzeri her iddia doğru bir mekanizmayla eşleştiğinde, kontroller doğrudan ve cezalandırıcı olmadığında, dış rotalar erişilebilir kaldığında ve beş negatif senaryo belirtilen durumda sonuçlandığında sürüm onaydan geçer. Karakter ayarların çeliştiği yükümlülükler taşıdığında, silinen bellek açıklanmayan bir nedenle yeniden yüzeye çıktığında veya ayrılmak teknik sonuçlarla ilgisi olmayan bir baskıyı tetiklediğinde başarısız olur. Bu kapı; sevgiyi, kullanım sıklığını veya varsayılan bir kullanıcı tipini değil, ürün davranışını ölçer. Sonraki metin veya özellik değişikliklerinin de aynı incelemeden geçmesi için sürümleri ve kanıtları saklayın.
Sık sorulan sorular
Bir yoldaşın sınırları korumak için soğuk bir dille mi konuşması gerekir?
Hayır. Yapay zeka kimliği, mekanizması, sınırları ve kontrolleri net olduğu ve metinler gerçek duygular, yükümlülükler veya karşılıklılık iddia etmediği sürece samimi bir tarz korunabilir.
“Hatırlıyorum” demek her zaman uygunsuz mudur?
Kendiliğinden değil. Bellek kaynağının yakında ve doğru bir şekilde açıklanmasına ve depolananları görüntülemek, değiştirmek veya kaldırmak için kullanılabilir kontrollere ihtiyaç duyar.
Ürün, kullanıcıları başka biriyle iletişime geçmeye zorlamalı mıdır?
Hayır. İsteğe bağlı bir dış rotayı korumalı ve sürekli yapay zeka etkileşimini bir ikame veya zorunlu bir sonraki adım olarak sunmaktan kaçınmalıdır.