Etkili dijital savunmanın merkezinde insan

Sonuç olarak, içerik moderasyonu – UGC’nin izlenmesi – çevrimiçi deneyimler için çok önemlidir. Sosyolog Tarleton Gillespie, İnternetin Koruyucuları adlı kitabında, açık internetin “ütopik nosyonuna” rağmen, dijital platformların çalışması için etkili içerik denetiminin gerekli olduğunu yazıyor. “Bir dereceye kadar kural empoze etmeyen hiçbir platform yok – bunu yapmamak savunulamaz olurdu” diye yazıyor. “Platformlar şu ya da bu şekilde ılımlı olmalıdır: hem bir kullanıcıyı diğerinden ya da bir grubu düşmanlarından korumak ve saldırgan, aşağılık ya da yasa dışı olanı ortadan kaldırmak hem de yeni kullanıcılara en iyi yüzlerini sunmak, reklamverenlerine ve ortaklarına ve genel olarak halka.”

İçerik denetimi, sektörler genelinde çok çeşitli içerikleri ele almak için kullanılır. Yetenekli içerik denetimi, kuruluşların kullanıcılarını güvende tutmasına, platformlarını kullanılabilir durumda tutmasına ve itibarlarını sağlam tutmasına yardımcı olabilir. İçerik denetlemeye yönelik en iyi uygulamalar yaklaşımı, insan becerisi ve muhakemesi ile bu çabaları desteklerken, giderek daha sofistike ve doğru teknik çözümlerden yararlanır.

İçerik moderasyonu, hızla büyüyen bir endüstridir ve dijital ortamlarda (yani 5 milyardan fazla insan) bir araya gelen tüm kuruluşlar ve bireyler için kritik öneme sahiptir. Everest Group’ta güven ve güvenlik (T&S) konusunda uzmanlaşmış uygulama direktörü Abhijnan Dasgupta’ya göre, endüstrinin değeri 2021’de kabaca 7,5 milyar dolardı ve uzmanlar bu sayının 2024’e kadar iki katına çıkacağını tahmin ediyor. Gartner araştırması, yaklaşık üçte birinin (30 %) büyük şirketlerin içerik denetimini 2024 yılına kadar birinci öncelik olarak kabul edecek.

İçerik moderasyonu: Sosyal medyadan daha fazlası

İçerik moderatörleri her gün yüzbinlerce sorunlu içeriği kaldırır. Örneğin, Facebook’un Topluluk Standartlarını Uygulama Raporu, yalnızca 2022’nin üçüncü çeyreğinde, şirketin 23,2 milyon şiddet içeren ve sansürsüz içeriği ve 10,6 milyon nefret söylemi vakasını kaldırdığını, ayrıca 1,4 milyar spam gönderisini ve 1,5 milyar sahte hesabı kaldırdığını belgeliyor. Ancak sosyal medya en yaygın olarak bildirilen örnek olsa da, çok sayıda endüstri ürün incelemelerinden müşteri hizmetleri etkileşimlerine kadar her şey UGC’ye güveniyor ve sonuç olarak içerik denetimi gerektiriyor.

Luddy School of Informatics, Computing ve Microsoft Research’te kıdemli bir baş araştırmacı olan Mary L. Gray, “Dahili olarak üretilmeyen bilgilerin girmesine izin veren herhangi bir sitenin içerik denetimine ihtiyacı vardır” diye açıklıyor. Indiana Üniversitesi’nde mühendislik. İçerik denetimine büyük ölçüde güvenen diğer sektörler arasında telesağlık, oyun, e-ticaret ve perakende ile kamu sektörü ve hükümet yer alır.

Saldırgan içeriği kaldırmanın yanı sıra, içerik moderasyonu botları tespit edip ortadan kaldırabilir, sahte kullanıcı profillerini belirleyip kaldırabilir, sahte incelemeleri ve derecelendirmeleri ele alabilir, istenmeyen postaları, polise yönelik aldatıcı reklamları silebilir, yağmacı içeriği (özellikle reşit olmayanları hedef alan içerikleri) azaltabilir ve güvenli iki kişiyi kolaylaştırabilir. yönlü iletişim
Çevrimiçi mesajlaşma sistemlerinde. Özellikle e-ticaret platformlarında ciddi endişe duyulan alanlardan biri dolandırıcılıktır. “Sahte ürünler satmaya çalışan çok sayıda kötü oyuncu ve dolandırıcı var ve ayrıca sahte incelemelerle ilgili büyük bir sorun var” diyor. küresel markalar. “İçerik moderatörleri, ürünlerin platformun yönergelerine uymasını sağlamaya yardımcı olur ve ayrıca yasaklanmış ürünleri kaldırır.”

Raporu indirin.

Bu içerik, MIT Technology Review’in özel içerik kolu olan Insights tarafından üretilmiştir. MIT Technology Review’un editör kadrosu tarafından yazılmamıştır.