Gizli bir içerik moderatörü meta veri deposunu nasıl denetler?
Meta, Horizon Worlds’te kaç tane içerik moderatörü çalıştırdığını veya sözleşme imzaladığını veya şirketin yeni çağ politikasıyla bu sayıyı artırmayı düşünüp düşünmediğini söylemeyecek. Ancak değişiklik, dikkatleri bu yeni çevrimiçi alanlarda yaptırımla görevli olanlara (Yekkanti gibi insanlara) ve işlerini nasıl yaptıklarına çekiyor.
2020 yılından itibaren sanal gerçeklik alanında moderatör ve eğitim yöneticisi olarak görev yapan Yekkaanti, metin ve görseller üzerinde geleneksel moderasyon çalışması yaptıktan sonra göreve geldi. Microsoft ve Play Lab gibi internet şirketlerine içerik denetleme hizmetleri sağlayan WebPurify’da çalışıyor ve Hindistan merkezli bir ekiple çalışıyor. WebPurify, hangilerinin özellikle müşteri gizlilik sözleşmelerine atıfta bulunduğunu doğrulamayı reddetmesine rağmen, çalışmaları çoğunlukla Meta’nın sahip olduğu platformlar da dahil olmak üzere ana akım platformlarda yapılıyor.
Uzun süredir internet meraklısı olan Yekkaanti, bir VR başlığı takmayı, dünyanın her yerinden insanlarla tanışmayı ve metaverse yaratıcılarına oyunlarını ve “dünyalarını” nasıl geliştirecekleri konusunda tavsiyeler vermeyi sevdiğini söylüyor.
O, özel güvenlik ajanları olarak metaverse’de güvenliği koruyan, sanal gerçeklikteki uygunsuz davranışları ortaya çıkarmak için çok gerçek insanların avatarlarıyla etkileşime giren yeni bir işçi sınıfının parçasıdır. Moderatör statüsünü kamuya açıklamıyor. Bunun yerine, aşağı yukarı gizli çalışıyor ve ihlallere daha iyi tanık olmak için ortalama bir kullanıcı gibi görünüyor.
Belirli kelimeler üzerinde AI özellikli filtreler gibi geleneksel denetim araçları, gerçek zamanlı sürükleyici ortamlara iyi bir şekilde çevrilmediğinden, Yekkanti gibi modlar dijital dünyada güvenliği sağlamanın birincil yoludur ve iş her geçen gün daha da önemli hale geliyor. gün.
Metaverse’nin güvenlik sorunu
Metaverse’nin güvenlik sorunu karmaşık ve opaktır. Gazeteciler küfürlü yorumlar, dolandırıcılık, cinsel saldırılar ve hatta Meta’nın Oculus’u aracılığıyla organize edilen bir adam kaçırma olaylarını bildirdiler. Roblox ve Meta’nın Horizon Worlds gibi en büyük sürükleyici platformlar, kötü davranışlarla ilgili istatistiklerini çok gizli tutuyor, ancak Yekkani her gün rapor edilebilir ihlallerle karşılaştığını söylüyor.
Meta, kayıt hakkında yorum yapmayı reddetti, ancak yürürlükteki araçların ve politikaların bir listesini gönderdi. Roblox sözcüsü, şirketin “7/24 uygunsuz içeriği izleyen ve topluluğumuz tarafından gönderilen raporları araştıran binlerce moderatörden oluşan bir ekibe” sahip olduğunu ve ayrıca metin, resim ve sesi incelemek için makine öğrenimini kullandığını söyledi.
Güvenlik sorunlarıyla başa çıkmak için teknoloji şirketleri, Meta’nın topluluk rehberleri gibi gönüllülere ve çalışanlara, Yekkanti gibi gizli moderatörlere ve diğer kullanıcıların güvenliklerini engelleyen kişisel bir sınır çizgisi gibi, kullanıcıların kendi güvenliklerini yönetmelerine olanak tanıyan -giderek artan bir şekilde- platform özelliklerine yöneldi. çok yakın.