İçerik denetimini uçtan uca bir güvenlik mekanizması olarak değerlendirin

Kuralları değerlendirmeden önce her içerik alanını haritalandırın

Mevcut uygulamanın gerçekte sunduğu alanları listeleyerek başlayın. Özel bir karakter yanıtı, başka bir kişiden gelen bir mesaj, bir profil adı, herkese açık bir gönderi, yüklenen bir görsel, harici bir bağlantı, paylaşılan bir konuşma ve önerilen bir öge farklı kitlelere ve yollara sahiptir. İçeriğin incelendiğini söyleyen genel bir cümle; taramanın üretimden önce mi, yayından sonra mı, yalnızca bir şikayetten sonra mı yoksa sadece herkese açık sayfalarda mı yapıldığını ortaya koymaz. Topluluk kurallarını, güvenlik merkezini, özellik yönlendirmelerini ve şikayet menüsünü birlikte okuyun. Her alan için ögeyi kimin oluşturduğunu, kimin görebileceğini, hangi kuralın geçerli olduğunu, sessize alma veya engelleme gibi kişisel kontrollerin mevcut olup olmadığını ve platformun daha geniş görünürlüğü değiştirip değiştiremeyeceğini kaydedin. Model çıktısı kontrollerini topluluk uygulamasından ayrı tutun: her ikisi de kullanıcının gördüklerini etkiler, ancak farklı kanıtlar, zamanlamalar ve çözüm yolları kullanırlar. Bir alan açıklanmamışsa, her yerde en güçlü korumanın geçerli olduğunu varsaymak yerine 'bilinmiyor' olarak bırakın.

Tespit ve önceliklendirmenin politikayı nasıl zamanlamaya dönüştürdüğünü görün

Kurallar güvenliği yalnızca bir sinyal yeterli bağlamla doğru sıraya ulaştığında etkiler. Ofcom'un süreci; otomatik eşleştirme veya sınıflandırmayı, kullanıcı ve üçüncü taraf şikayetlerini, insan incelemesini ve önceliklendirmeyi içerir. Her rota bağlamı gözden kaçırabilir veya hata yapabilir. Bir sınıflandırıcı hızlı hareket edebilir ancak dili veya alıntıları yanlış anlayabilir; bir şikayet yerel bağlamı taşıyabilir ancak maruziyetten sonra gelebilir; bir denetmen bağlamı değerlendirebilir ancak sınırlı bir anlık görüntü üzerinden çalışıyor olabilir. Sıradan bir denetim için; nelerin şikayet edilebildiğini (öge, hesap, etkinlik veya özellik), formun ilgili mesajı veya bağlantıyı koruyup korumadığını, bir onay görünüp görünmediğini ve beklenen bir yanıt süresinin belirtilip belirtilmediğini inceleyin. Yalnızca hızı ölçmek için gerçek bir sıraya zararsız materyaller göndermeyin. Önemli ayrım tespit edildi, sıraya alındı, incelendi ve karara bağlandı şeklindedir. Bunlar ayrı durumlardır ve bir gönderim makbuzu yalnızca ikincisini doğrular.

Her müdahaleyi maruziyet ve tekrarlanan temas ile eşleştirin

Kaldırma yalnızca olası eylemlerden biridir. Bir hizmet yayını engelleyebilir, bir ögeyi inceleme için bekletebilir, bir uyarı ekleyebilir, önerilmeyi azaltabilir, iletmeyi sınırlandırabilir, bir yanıtı gizleyebilir, bir hesabı kısıtlayabilir veya alıcının sessize almasına ve engellemesine izin verebilir. Güvenlik etkisi kapsama bağlıdır. Bir mesajı yerel olarak gizlemek, diğer kişilerin gördüklerini değiştirmeden anında kontrol sağlayabilir. Herkese açık bir gönderiyi kaldırmak daha geniş maruziyeti azaltabilir ancak doğrudan mesaj erişimini kapatmayabilir. Bir hesabı kısıtlamak, eski kopyaları veya ekran görüntülerini hizmetin kontrolü dışında bırakırken gelecekteki iletişimi etkileyebilir. İlgili olduğunda etkilenen alandaki gözlemlenebilir sonucu kontrol edin: akış, profil, arama, bağlantı önizlemesi, bildirim, grup ve ikinci cihaz. Tek bir değişen ekrandan platform genelinde bir eylem çıkarımı yapmayın. Neyin, kimin için, ne zaman durduğunu, eylemin süresinin dolup dolmadığını ve hangi yolun açık kaldığını kaydedin. Bu, gizli güvenlik ayrıntılarını sormaya gerek kalmadan tekrarlanan temas sınırlarını test edilebilir hale getirir.

Hataları düzeltilebilir kılmak için bildirim, kanıt ve itirazı kullanın

Denetim sistemleri hem gözden kaçan ögeler hem de hatalı işlemler üretebilir, bu nedenle güvenli bir mekanizmanın bir düzeltme yoluna ihtiyacı vardır. eSafety, durum bilgisi içeren net şikayet ve itiraz süreçleri önerir; UNESCO da gerekçelerin sunulması ile otomatik ve insan rollerine ilişkin şeffaflık çağrısında bulunur. Yararlı bir bildirim; etkilenen ögeyi veya hesabı, kural kategorisini, eylemi ve kapsamı, ilgili olduğunda süreyi ve mevcut bir sonraki adımı tanımlar. Şikayet edenin kimliğini ortaya çıkarmamalı veya gereksiz özel içeriği ifşa etmemelidir. Şikayet eden kişi, başka birinin hesap ayrıntılarını almadan bir durum bilgisi alabilir; etkilenen kullanıcı ise gizli tespit yöntemlerini görmeden bir gerekçe alabilir. İtiraz bir kuralı delme yolu değildir. Bağlam eklemenin ve bir kararı gözden geçirmenin yapılandırılmış bir yoludur. Yalnızca hizmetin gerekli olduğunu söylediği kanıtları saklayın, kimlik bilgilerini ve ilgisiz özel materyalleri dahil etmeyin; itiraz gönderildi, incelendi, değiştirildi ve kapatıldı durumlarını birbirinden ayırın.

Tek bir temiz örneği değil, geri bildirim döngüsünü değerlendirin

Yedi sütunlu bir zincirle bitirin: alan, kural, tespit kaynağı, önceliklendirme durumu, müdahale ve kapsam, bildirim veya itiraz ve geri bildirim kanıtı. Bunu zararsız, kendi oluşturduğunuz materyaller üzerinde veya daha önce karşılaştığınız gerçek bir olay üzerinde çalıştırın; asla başka bir kullanıcıyı kışkırtmayın veya kontrolleri aşma yollarını test etmeyin. Anlamlı bir şeffaflık kaydı, toplam kaldırma sayılarının ötesine geçer. eSafety; tespit ve düzeltme etkinliğine, şikayetlere, itiraz sonuçlarına, geri yüklenen içeriğe veya hesaplara ve hatalardan sonra yapılan değişikliklere işaret eder. Ofcom da benzer şekilde maruziyeti, çevrim içi kalma süresini ve itirazları farklı performans görünümleri olarak ele alır. Bir kullanıcı için gözlemlenebilir sorular daha basittir: Kuralı bulabildim mi, ilgili alandaki şikayet aracına ulaşabildim mi, kendi görünümümü anında koruyabildim mi, ortaya çıkan durumu anlayabildim mi ve belgelenmiş bir düzeltme yolu bulabildim mi? Birkaç sütun bilinmiyor olarak kalırsa, etkilenen sosyal veya paylaşım alanının kullanımını sınırlandırın ve süslü bir güvenlik etiketini kanıta dönüştürmek yerine güncel resmi bilgileri arayın.

Bu konuyu keşfetmeye devam et