Bir Yapay Zekâ Arkadaşı Bir Aile Üyesinin Adını Hatırlamadan Önce Nasıl Doğrulamalıdır?
Ürün tasarımcıları ve dikkatli kullanıcılar için kilit nokta, kullanıcı kaydetmeyi açıkça onaylayana kadar bir kişinin adını doğrulanmamış olarak kabul etmektir. Bir isim doğrudan bir ifadede, bir alıntıda, içe aktarılan bir metinde veya bir modelin tahmininde yer alabilir; bunlar eşdeğer kaynaklar değildir. Net bir onay adımı ve ardından kaydedilen ögeyi inceleme, düzeltme veya kaldırma imkânı, yapay zekâ arkadaşının daha sonraki konuşmalara ne aktaracağı konusunda kontrolü kullanıcıya verir.
Bir isim belleğe dönüşmeden önce neden onaya ihtiyaç duyar?
Bir kullanıcının şöyle dediğini düşünün: “Kız kardeşim Maya bu hafta sonu ziyarete geliyor. Kuzenimden gelen notta adı Maja olarak geçiyor ama bence bu bir yazım hatası.” Bu konuşma iki farklı yazım ve bir akrabalık ilişkisi içeriyor. Bir asistan, Maya'nın kız kardeş ve Maja'nın bir hata olduğu çıkarımını yapmaya meyilli olabilir. Ancak kuzenin notu başka birine atıfta bulunuyor olabilir ve “bence” ifadesi bir belirsizliğe işaret eder. Her iki yazımı da kesin bir gerçek olarak kaydetmek, çözülmemiş bir ayrıntıyı kalıcı bir bağlama dönüştürür.
Kullanışlı bir tasarım ayrımı, kullanıcının doğrudan belirttiği şey ile sistemin yalnızca karşılaştığı veya çıkardığı şey arasındadır. “Kız kardeşim Maya Chen” doğrudan bir ifadedir. Yapıştırılan bir notun içindeki isim, alıntılanmış veya içe aktarılmış bir bağlamdır. “Maja kesinlikle Maya olmalı” bir çıkarımdır. Net bir kaynak olmadan sağlanan bir isim ise bir tahmindir. Bu kategoriler, asistanın soru sorup sormayacağına karar vermesine yardımcı olur ve kullanıcıların asistanın neden sorduğunu anlamasını sağlar. Bunlar, tüm yapay zekâ ürünlerinin isimleri hâlihazırda bu şekilde ele aldığına dair bir iddia değil, arkadaş yapay zekâ tasarımı için önerilen bir iş akışıdır.
Pratik bir onay iş akışı
Üçüncü bir şahsın adını kaydetmeden önce asistan, önerilen kesin belleği sade bir dille tanımlamalı ve kullanıcıdan bunu onaylamasını istemelidir. Örneğin: “Kız kardeşinizin adının Maya Chen olduğunu hatırlamamı ister misiniz?” Soru, kaydedilen hem yazımı hem de ilişkiyi netleştirmelidir. Belirsiz bir “Bunu hatırlayayım mı?” ifadesi, yanlış anlaşılmaya çok fazla alan bırakır.
Kullanıcı onaylarsa, yalnızca onaylanan ayrıntıyı kaydedin ve belleğin kaydedildiğine dair net bir gösterge sunun. Kullanıcı hayır derse, yanıt vermeyi reddederse veya konuyu değiştirirse, adı belleğe aktarmayın. Belirsiz ayrıntıyı yalnızca yanıt vermek için gerekliyse geçerli konuşma içinde tutun ve kesin bir gerçekmiş gibi tekrarlamaktan kaçının. Kullanıcı öneriyi düzeltirse (“Adı Maja ve o benim kuzenim”), kaydetmeden önce bu düzeltilmiş versiyonun hatırlanmasını isteyip istemediğini sorun.
Kullanışlı bir sıralama şöyledir:
**Kaynağı fark edin.** İsim kullanıcı tarafından doğrudan mı belirtildi, bir mesajdan mı alıntılandı, bir dosyadan veya bağlı bir kaynaktan mı getirildi, bağlamdan mı çıkarıldı yoksa tahmin mi edildi?
**Çelişki olup olmadığını kontrol edin.** Yazımı ve ilişkiyi, kullanıcının mevcut etkileşimde söyledikleriyle ve ilgili tüm kayıtlı belleklerle karşılaştırın. Uyuşmazlığı en olası görünen versiyonu seçmek için bir işaret olarak değil, çözülmemiş bir durum olarak değerlendirin.
**Kesin bellek hakkında soru sorun.** Önerilen adı ve ilişkiyi belirtin, ardından düzeltmeye veya net bir evet ya da hayıra davet edin.
**Yalnızca açık onaydan sonra kaydedin.** Kaydedilen ifadeyi dar tutun; onaylanmamış bir tam ad, takma ad veya başka bir ilişki ayrıntısı eklemeyin.
**Sonucu ve kontrolleri gösterin.** Kullanıcıya kaydedilip kaydedilmediğini bildirin ve bunu inceleme, değiştirme veya kaldırma yöntemi sağlayın.
Yazım veya ilişki çeliştiğinde ne yapılmalı?
Maya/Maja örneğinde asistan, yazımı sessizce standartlaştırmamalıdır. Şöyle diyebilir: “Mesajınızda Maya, notta ise Maja görüyorum. Hangi yazımı kullanmalıyım ve bu kişiyle hangi ilişkiyi bağdaştırmalıyım? Siz onaylamadığınız sürece bir isim kaydetmeyeceğim.” Kullanıcı yalnızca “Maya” yanıtını verirse, yazım netleşir ancak “kız kardeşiniz Maya” gibi birleşik bir bellek kaydedilmeden önce ilişkinin hâlâ netleştirilmesi gerekebilir.
Düzeltmeleri çözdükleri ayrıntıyla sınırlı tutun. Bir kullanıcının “Maja”yı onaylaması, Maja'nın kız kardeş olduğunu mutlaka onayladığı anlamına gelmez; bir ilişkiyi onaylamak, resmî bir adın mı yoksa takma adın mı kullanılacağını kesinleştirmez. Kullanıcı emin değilse, belleği kaydedilmemiş olarak bırakın ve daha sonra buna geri dönmelerine izin verin. Bu bir tasarım tavsiyesidir: Belirsizlik, kendinden emin görünen bir yanıtla gizlenmek yerine görünür kalmalıdır.
Faydalı olumsuz durum: ne zaman sorulmamalı veya kaydedilmemeli?
Diyelim ki kullanıcı “Maya”dan bahseden bir aile grubu sohbeti alıntısı yapıştırıyor ve ardından bir özet istiyor. Asistan, adı kaydetmeyi teklif etmeden alıntıyı özetleyebilir. Bir konuşmada üçüncü bir şahıstan bahsetmek, bir başkasından alıntı yapmak veya tek seferlik bir görev için yardım istemek, tek başına kullanıcının kalıcı bir bellek istediği anlamına gelmez. Bir isim her geçtiğinde sormak, sıradan görevleri de sekteye uğratır. Onay istemi, sistemin bu ayrıntıyı belleğe taşımayı önerdiği noktaya aittir; kaydetmek için bir nedeni yoksa, bunu yapmaktan kolayca kaçınabilir.
Kullanıcıların belleği incelemesine, düzeltmesine ve kaldırmasına izin verin
Onay, faydalı bir bellek kontrolünün yalnızca bir parçasıdır. Bir kullanıcı, kaydedilen girdiyi bir bellek görünümünde görebilmeli, depolanan yazımı ve ilişkiyi ayırt edebilmeli, her iki alanı da düzeltebilmeli veya ögeyi kaldırabilmelidir. Bir düzeltme sistemin neyi kullanması gerektiğini değiştirdiğinde, arayüz ortaya çıkan kaydedilmiş versiyonu netleştirmelidir. Kaldırma istendiğinde sistem, belleğin kaldırılıp kaldırılmadığını belirtmelidir; sohbette söylenen “Bunu unutacağım” ifadesi, tek başına kalıcı bir kaydın değiştiğinin kanıtı değildir.
OpenAI'ın ChatGPT yardım belgeleri, bu kontrollerin neden önemli olduğuna dair ürüne özel bir örnek sunar: Belleğin mevcut birkaç kaynaktan beslenebileceğini, her ayrıntıyı tutamayabileceğini belirtir ve bilginin nerede saklandığına bağlı olarak değişen kaldırma adımlarıyla birlikte düzeltme ve silme kontrolleri sağlar. Bu ayrıntılar ChatGPT'yi tanımlar, yapay zekâ arkadaşları için evrensel bir standardı değil. Bkz. [Memory in ChatGPT](https://help.openai.com/en/articles/8590148-memory-in-chatgpt).
Aynı şekilde, “Anladım, Maya'yı hatırlayacağım” gibi sohbete dayalı bir yanıt, kalıcı bir belleğin gerçekten kaydedildiğini kanıtlamaz. Bir sistem, görünür bir bellek durumu veya başka bir güvenilir ürün sinyali kullanarak bir teyit ile onaylanmış bir kaydetmeyi birbirinden ayırmalıdır. Böylece kullanıcılar, samimi ifadelerden ne olduğunu tahmin etmek zorunda kalmak yerine bellek kontrollerini inceleyebilirler.
Tasarımcılar ve kullanıcılar için yalın bir karar kuralı
Önerilen her üçüncü taraf ismi için şunu sorun: **Kaynak nedir? Yazım net mi? İlişki net mi? Kullanıcı bellek için bu kesin ayrıntıyı açıkça onayladı mı?** Herhangi bir yanıt belirsizse, kaydetmeden önce duraklayın. Kullanıcı onaylarsa, depolanan ögeyi görünür ve düzenlenebilir hâle getirin; onaylamazsa, kalıcı belleğin dışında tutun. Bu küçük karar kuralı, denetimi belirsiz bağlamın birisi hakkında kalıcı bir iddiaya dönüşeceği ana odaklar.
Bir aile üyesinin adını hatırlamak, bir alıntıyı, içe aktarımı, çıkarımı veya tahmini gerçeğe dönüştürmek değil, kullanıcının amaçladığı ifadeyi korumak olmalıdır. Belirli bir ismi ve ilişkiyi sorun, yalnızca açık onaydan sonra kaydedin ve sonucu incelemeyi, düzeltmeyi ve kaldırmayı mümkün kılın. Ne sistemin ne de kullanıcının sohbete dayalı bir vaadi belleğin değiştiğinin kanıtı sanmaması için, onayı kaydetme eyleminin kendisinden ayrı tutun.