Sosyal medya toplumu kirletiyor. Moderasyon tek başına sorunu çözmez

Denetleme (otomatik veya insan), potansiyel olarak “akut” zararlar dediğimiz şey için işe yarayabilir: doğrudan tek tek içerik parçalarının neden olduğu zararlar. Ancak bu yeni yaklaşıma ihtiyacımız var, çünkü aynı zamanda herhangi bir bireysel içerikten ziyade ürün genelinde kendini gösteren bir dizi “yapısal” sorun (ayrımcılık, zihinsel sağlıkta azalma ve sivil güvenin azalması gibi sorunlar) var. Bu tür bir yapısal sorunun ünlü bir örneği, Facebook’un 2012’deki “duygusal bulaşıcılık” deneyidir ve bu deney, kullanıcıların etkisinin (platformdaki davranışlarıyla ölçülen ruh hallerinin) ürünün hangi versiyonuna maruz kaldıklarına bağlı olarak ölçülebilir bir şekilde değiştiğini göstermiştir.

Sonuçların kamuoyuna açıklanmasından sonra ortaya çıkan tepkide, Facebook (şimdi Meta) bu tür kasıtlı deneylere son verdi. Ancak bu tür etkileri ölçmeyi bırakmış olmaları, ürün kararlarının bu etkilerin devam etmeyeceği anlamına gelmez.

Yapısal sorunlar, ürün seçimlerinin doğrudan sonuçlarıdır. Facebook, YouTube ve TikTok gibi teknoloji şirketlerindeki ürün yöneticileri, ezici bir şekilde platformlarda zaman ve katılımı en üst düzeye çıkarmaya odaklanmaya teşvik ediliyor. Ve deneyler orada hala çok canlı: hemen hemen her ürün değişikliği, randomize kontrollü denemeler yoluyla küçük test kitlelerine dağıtılıyor. İlerlemeyi değerlendirmek için şirketler, merkezi misyonlarını (Hedefler ve Temel Sonuçlar veya OKR’ler olarak bilinir) teşvik etmek için titiz yönetim süreçleri uygularlar, hatta bu sonuçları ikramiye ve promosyonları belirlemek için kullanırlar. Ürün kararlarının sonuçlarını ele alma sorumluluğu, genellikle altta yatan ve temel nedenlere yönelik daha az yetkiye sahip olan diğer ekiplere verilir. Bu ekipler genellikle akut zararlara müdahale etme yeteneğine sahiptir, ancak çoğu zaman ürünlerin neden olduğu sorunları çözemezler.

Dikkat ve odaklanma ile bu aynı ürün geliştirme yapısı toplumsal zararlar sorununa dönüştürülebilir. Frances Haugen’in geçen yılki kongre ifadesini ve Facebook’un gençlerin zihinsel sağlığı üzerindeki iddia edilen etkisi hakkındaki medya açıklamalarını düşünün. Facebook, gençlerin olup olmadığını araştırdığını açıklayarak eleştirilere yanıt verdi. keçe ürünün zihinsel sağlıkları üzerinde olumsuz bir etkisi olup olmadığı ve bu algının ürünü daha az kullanmalarına neden olup olmadığı, ürünün değil, aslında zararlı bir etkisi oldu. Yanıt, söz konusu tartışmayı ele almış olsa da, kullanıcı katılımı üzerindeki etkisinden ziyade doğrudan akıl sağlığı sorununu hedefleyen bir çalışmanın büyük bir gerginlik olmayacağını gösterdi.

Sistemik zarar değerlendirmelerini dahil etmek kolay olmayacak. Gerçekte neleri titizlikle ve sistematik olarak ölçebileceğimizi, şirketlerden ne isteyeceğimizi ve bu tür değerlendirmelerde hangi konulara öncelik verileceğini belirlememiz gerekir.

Şirketler protokolleri kendileri uygulayabilir, ancak finansal çıkarları çoğu zaman ürün geliştirme ve büyüme üzerindeki anlamlı sınırlamalara ters düşer. Bu gerçeklik, kamu adına işleyen düzenleme için standart bir durumdur. İster Federal Ticaret Komisyonundan yeni bir yasal yetki ister yeni bir devlet kurumundan gelen zarar azaltma yönergeleri yoluyla olsun, düzenleyicinin işi, ölçülebilir uygulanabilir protokoller tasarlamak için teknoloji şirketlerinin ürün geliştirme ekipleriyle birlikte çalışmak olacaktır. kurs sırasında anlamlı zarar sinyallerini değerlendirmek için ürün geliştirme.

Bu yaklaşım kulağa zahmetli gelebilir, ancak bu tür protokolleri eklemek, en büyük şirketler için (sadece düzenlemenin geçerli olması gereken şirketler) basit olmalıdır, çünkü onlar, etkinliklerini ölçmek için geliştirme süreçlerine zaten randomize kontrollü denemeler eklemişlerdir. Daha fazla zaman alan ve karmaşık olan kısım, standartları tanımlamak olacaktır; testin fiili olarak yürütülmesi, düzenleyici katılımı hiç gerektirmez. Yalnızca normal büyümeyle ilgili soruların yanı sıra teşhis amaçlı sorular sormayı ve ardından bu verileri dış gözden geçirenler için erişilebilir hale getirmeyi gerektirir. 2022 ACM Algoritmalar, Mekanizmalar ve Optimizasyonda Eşitlik ve Erişim Konferansı’nda yakında çıkacak olan makalemiz bu prosedürü daha ayrıntılı olarak açıklayacak ve nasıl etkili bir şekilde kurulabileceğini özetleyecektir.

On milyonlara ulaşan ürünler, etkileşimi artırma yetenekleri açısından test edildiğinde, şirketlerin bu ürünlerin – en azından toplu olarak – aynı zamanda “sorunu daha da kötüleştirme” ilkesine uymasını sağlamaları gerekecektir. Zamanla, halihazırda onaylanmış ürünlerin mevcut etkilerini geri almak için daha agresif standartlar oluşturulabilir.