İsimsiz kahramanlar: İnternet güvenliğinin ön saflarında yer alan moderatörler
Dijital yırtıcıların rekor sayılarda çevrimiçi ortamda gizlendiği ve diğerlerini zararlı dillere, resimlere, videolara ve etkinliklere maruz bıraktığı bir sır değil. Her dakika internete yüklenen 300 saatlik kullanıcı tarafından oluşturulan içerikle, şüpheli olmayan kullanıcıları korumak devasa bir görev haline geldi. Göre Çeşitlilik, kullanıcı tarafından oluşturulan içerik, medya ile harcanan tüm zamanın %39’unu temsil eder. Peki, şirketler çevrimiçi alanları nasıl koruyabilir ve bağımsız olarak oluşturulan bu kadar çok içerikle marka bütünlüğünü nasıl koruyabilir?
Dijital deneyimlerimizin güvenli olmasını sağlamanın zorlu görevini isteyerek kabul eden esnek insan moderatörleri (dijital ilk müdahale ekipleri de denir) girin.
Bir içerik moderatörünün tam olarak ne yaptığı sorulabilir. Bu soruyu cevaplamak için en baştan başlayalım.
İçerik denetimi nedir?
Her ne kadar terim ılımlılık genellikle yanlış yorumlanır, temel amacı açıktır: kullanıcı tarafından oluşturulan içeriği başkalarına zarar verme potansiyeli açısından değerlendirmek. İçerik söz konusu olduğunda, ılımlılık, saldırgan dil, grafik görüntülere veya videolara maruz kalma ve kullanıcı dolandırıcılığı veya istismarı gibi aşırı veya kötü niyetli davranışları önleme eylemidir.
Altı tür içerik denetimi vardır:
- Denetleme yok: Kötü aktörlerin başkalarına zarar verebileceği içerik denetimi veya müdahalesi yok
- Ön moderasyon: İçerik, önceden belirlenmiş yönergelere göre yayınlanmadan önce taranır.
- Denetleme sonrası: İçerik yayınlandıktan sonra incelenir ve uygunsuz görüldüğü takdirde kaldırılır.
- Reaktif moderasyon: İçerik, yalnızca diğer kullanıcılar bunu rapor ederse taranır
- Otomatik denetleme: İçerik, yapay zeka destekli otomasyon kullanılarak proaktif olarak filtrelenir ve kaldırılır
- Dağıtılmış denetleme: Birden fazla topluluk üyesinin oylarına göre uygunsuz içerik kaldırılır
İçerik denetimi şirketler için neden önemlidir?
Kötü aktörler tarafından gerçekleştirilen kötü niyetli ve yasa dışı davranışlar, şirketleri aşağıdaki şekillerde önemli risklere sokar:
- Güvenilirliği ve marka itibarını kaybetmek
- Çocuklar gibi savunmasız kitleleri zararlı içeriğe maruz bırakmak
- Müşterileri dolandırıcılık faaliyetlerinden koruyamamak
- Müşterileri daha güvenli deneyimler sunabilecek rakiplere kaptırmak
- Sahte veya sahte hesaba izin verme
Ancak içerik denetiminin kritik önemi, işletmeleri korumanın ötesine geçer. Hassas ve korkunç içeriği yönetmek ve kaldırmak her yaş grubu için önemlidir.
Birçok üçüncü taraf güven ve güvenlik hizmeti uzmanının onaylayabileceği gibi, en geniş risk yelpazesini azaltmak için çok yönlü bir yaklaşım gerekir. İçerik moderatörleri, kullanıcı güvenliğini en üst düzeye çıkarmak ve marka güvenini korumak için hem önleyici hem de proaktif önlemleri kullanmalıdır. Günümüzün son derece politik ve sosyal olarak yüklü çevrimiçi ortamında, bekle ve izle “ılımlılık yok” yaklaşımını benimsemek artık bir seçenek değil.
“Adaletin erdemi, bilgelik tarafından düzenlendiği gibi ılımlılıktan oluşur.” – Aristoteles
İnsan içerik moderatörleri neden bu kadar kritik?
Birçok içerik denetleme türü, bir noktada insan müdahalesini içerir. Ancak reaktif denetleme ve dağıtılmış denetleme ideal yaklaşımlar değildir, çünkü zararlı içerik kullanıcılara maruz kalana kadar ele alınmaz. Post-moderasyon, AI destekli algoritmaların içeriği belirli risk faktörleri için izlediği ve ardından belirli gönderilerin, resimlerin veya videoların gerçekten zararlı olup olmadığını ve kaldırılması gerekip gerekmediğini doğrulamak için bir insan moderatörü uyardığı alternatif bir yaklaşım sunar. Makine öğrenimi ile bu algoritmaların doğruluğu zamanla iyileşir.
Maruz kaldıkları içeriğin doğası (çocukların cinsel istismarı materyali, görsel şiddet ve diğer zararlı çevrimiçi davranışlar dahil) göz önüne alındığında, insan içerik moderatörlerine olan ihtiyacı ortadan kaldırmak ideal olsa da, bunun mümkün olması pek olası değildir. İnsan anlayışı, kavrayışı, yorumlaması ve empati yapay yollarla kopyalanamaz. Bu insani nitelikler, iletişimde bütünlüğü ve özgünlüğü korumak için gereklidir. Aslında, tüketicilerin %90’ı, hangi markaları beğeneceklerine ve destekleyeceklerine karar verirken özgünlüğün önemli olduğunu söylüyor (2017’de %86’ydı).
Dijital çağ bize günümüzün risklerinden aslan payını önlemek veya azaltmak için ihtiyaç duyulan gelişmiş, akıllı araçlar (otomasyon ve yapay zeka gibi) sağlarken, insan içerik moderatörlerinin hala aracı olarak hareket etmeleri ve kullanıcıları korumak için bilinçli olarak kendilerini tehlikeye atmaları gerekiyor. ve markalar aynı.
Dijital dünyayı daha güvenli bir yer haline getirmek
İçerik moderatörünün rolü dijital dünyayı başkaları için daha güvenli bir yer haline getirirken, moderatörleri rahatsız edici içeriğe maruz bırakır. Esasen, masum, şüphelenmeyen kullanıcıları, özellikle çocuklar gibi daha savunmasız olan kullanıcıları, duygusal olarak rahatsız edici içerikten koruyan dijital ilk müdahalecilerdir.
Bazı güven ve güvenlik hizmeti sağlayıcıları, ılımlılığa yaklaşmanın daha düşünceli ve kullanıcı odaklı bir yolunun, sorunu çocuğunu korumaya çalışan bir ebeveyn olarak görmek olduğuna inanıyor – bu, tüm markalar için bir temel oluşturabilecek (ve belki de olması gereken) bir şey ve ne kesinlikle dünyanın dört bir yanındaki cesur moderatörleri günümüzün çevrimiçi kötülüğüyle mücadele etme yolunda kalmaya motive ediyor.
Bir dahaki sefere sosyal medya akışınızda kaygısız bir şekilde gezinirken, bir dakikanızı ayırın ve gördüğünüz içerikten daha fazlasını düşünün – gördüğünüz istenmeyen içeriği düşünün. yapma görün ve her gün yaptıkları kişisel fedakarlıklar için ön saflardaki moderatörlere sessizce teşekkür edin.
Bu içerik Teleperformance tarafından hazırlanmıştır. MIT Technology Review’un editör kadrosu tarafından yazılmamıştır.