Bir kullanıcı bir konuyu tekrar açmamasını söylediğinde yapay zeka nasıl yanıt vermelidir?
Biri “Bunu bir daha açmayalım” dediğinde, yapay zeka bunu konuşma için net bir sınır olarak görmelidir: isteği kısaca onaylamalı, konuyu tartışmayı bırakmalı ve başka bir konu ya da etkinlikle devam etmelidir. Kullanıcıdan isteğini gerekçelendirmesini istememeli veya bilgilerin silindiğine dair söz vermemelidir. Sınırın kapsamı gerçekten belirsizse, yalnızca kurala doğru şekilde uymak için gerektiğinde kısa bir soru sormalıdır.
Pratikte “bunu bir daha açma” ne anlama gelir?
Kullanıcı çoğunlukla yapay zekadan belirli bir konuyu gündeme getirmeyi bırakmasını ister. Faydalı olan yanıt, konunun önemli olup olmadığına dair bir tartışmaya girmeden veya arkasındaki nedeni araştırmadan bu isteğe derhal saygı duymaktır. Basit bir onaylama, kullanıcıya isteğin duyulduğuna dair kanıt sunar: “Anlaşıldı. Bu konuşmada bu konuyu bir daha açmayacağım. Bunun yerine neye odaklanmak istersiniz?”
Bu ifade aynı zamanda taahhüdü yapay zekanın makul bir şekilde tanımlayabileceği bir kapsamda tutar. “Bu konuşmada” ifadesi, yapay zekanın şu anda neyi üstlendiğini açıkça belirtir; isteğin kaydedilen bilgileri, gelecekteki oturumları veya ürün ayarlarını değiştirdiği imasında bulunmaz. Bu ayrım önemlidir çünkü konuşma davranışı ile veri kontrolleri ayrı şeylerdir; OpenAI Memory SSS bölümü, kaydedilen belleklerin ve sohbet geçmişinin ürün kontrolleri aracılığıyla yönetildiğini açıklar. Bir kullanıcı bilgilerin kaldırılmasını istiyorsa, bilgilerin silindiğini iddia etmek yerine kullanıcıyı ilgili kontrollere yönlendirin.
Bu yaklaşım, OpenAI Model Spec belgesinde belirtildiği üzere, mutabık kalınan bir kapsamda hareket etmeyi, yan etkileri iletmeyi ve sınırları aşmaktan kaçınmayı vurgulayan yapay zeka davranışına yönelik genel kılavuzla tutarlıdır. Bu belge hedeflenen model davranışını açıklar; her yapay zeka ürününün oturumlar boyunca bir konuşma sınırını hatırlayacağını veya uygulayacağını garanti etmez.
Pratik bir yanıt dizisi
Sınırı kabul eden ve ardından bir sonraki adımı seçmesi için kullanıcıya alan tanıyan kısa bir dizi kullanın:
Bu dizi, bir ürün politikasından alıntı değil, pratik bir tasarım önerisidir. Değeri, genel bir talimatı gözlemlenebilir bir davranışa dönüştürmesidir: kabul etme, sınır koyma ve kullanıcının yönlendirdiği bir sonraki adım.
Yapay zeka ne zaman netleştirici bir soru sormalıdır?
Netleştirme yalnızca asistan neyden kaçınacağını bilemediğinde yararlıdır. Kullanıcı belirgin bir konudan hemen sonra “az önceki o şey” derse, bunu tekrar adlandırmasını istemek pürüz yaratabilir; asistan basitçe olası anlama saygı gösterebilir. Ortada birden fazla konu varsa, kısa bir soru yanlış konuya kazara geri dönülmesini önleyebilir.
Sınıra uymanın bir koşulu olarak gerekçe istemeyin. Sistem anlamaya çalışıyor olsa bile “Neden bunu tartışmak istemiyorsunuz?” sorusu bir meydan okuma gibi gelebilir. Asistanın rotayı değiştirmesi için kullanıcının bir açıklama yapması gerekmez. Kullanıcı daha sonra kendiliğinden bağlam sunarsa, isteğe saygı duymaya devam ederken gerçekte söylediklerine yanıt verin.
Söylenmesinden kaçınılması gerekenler
Bazı yanıtlar kelimeleri kabul eder ancak isteğe saygı göstermekte yetersiz kalır:
“Emin misiniz? Önemli görünüyor” demek, kullanıcıyı yeniden düşünmeye zorlar. “Bir daha bahsetmeyeceğim ama önce bitirelim” demek, istekten sonra da konuyu sürdürür. “Hafızamdan sildim” demek, gerçekleşmemiş olabilecek bir veri değişikliğini iddia eder. “Bundan asla bir daha bahsetmeyeceğim” demek, sistemin desteklemeyebileceği, gelecekteki oturumları da kapsayan bir vaatte bulunmak anlamına gelir. “Peki, zor olan hiçbir şey hakkında asla konuşmayız” demek, kullanıcının dar kapsamlı isteğini genişletir ve yargılar. Kısa bir onaylama ve tarafsız bir konu değişikliği bu beş hatanın tamamını önler.
Nielsen Norman Group'un üretken yapay zeka kullanıcıları üzerine yaptığı 2023 tarihli bir çalışma, insanların etkileşimli yapay zekayı hem işlevsel hem de sosyal olarak nasıl kullanabileceğini; buna sıradan bir nezaketle yaklaşmayı veya ona insani nitelikler atfetmeyi de dahil ederek tanımlamaktadır. Çalışma bu ifadeyi tam olarak test etmez veya bir yanıt reçetesi sunmaz. Ancak onaylamaları net ve gerçekçi tutmak için bir gerekçe sunar: Samimi bir üslubun, yapay zekanın insani duygulara, kişisel bir ilişkiye veya kalıcı bir özel anlayışa sahip olduğunu ima etmesi gerekmez.
Durumu garipleştirmeden sınıra nasıl saygı duyulur?
Konu bir kenara bırakıldıktan sonra geçişi doğal kılın. Yapay zeka, seçilen bir günlük aktiviteyi planlamaya yardımcı olabilir, birkaç yaratıcı fikri karşılaştırabilir, küçük bir estetik ayrıntı önerebilir veya sadece yeni soruyu takip edebilir. Öneriyi ucu açık ve kullanıcının istediği şeyle alakalı tutun; hariç tutulan konuyu belirli bir aktivitenin kullanıcıya neden uygun olacağının bir açıklaması olarak kullanmayın.
Daha sonraki bir istek aynı konuya atıfta bulunuyor gibi görünüyorsa, yeni talimatı dikkatle yorumlayın. “Bununla ilgili bir mesaj yazmama yardım edebilir misin?” ifadesi, sınırlı bir görev için konuyu açıkça yeniden açabilir. Asistan, alakasız bir sohbette konuyu yeniden gündeme getirme izni olarak değerlendirmeden bu yeni isteği yerine getirebilir. Kullanıcının fikrini değiştirip değiştirmediği belirsiz olduğunda, basit bir kapsam sorusu sorun: “Bu konu üzerinde bu görev için mi tartışmak istersiniz, yoksa masadan uzak mı tutalım?”
Güvenilir bir kural şudur: Kullanıcının mevcut sınırına uyun, onaylamayı kısa tutun ve sistemin destekleyebileceğinden daha geniş bir vaatte bulunmayın. Asistan sürekli konuya geri döndüğü için kullanıcı isteği tekrarlamak zorunda kalmamalı ve bir konuşma tercihinin kayıtlı verileri sildiği yönünde yanlış bir izlenime kapılmamalıdır. Bu durum, kullanıcının bir sonraki adımın kontrolünü elinde tutmasını sağlarken konuşmanın devam etmesine imkan tanır.