Roomba test kullanıcıları, mahrem görüntülerin Facebook’ta sona ermesinin ardından yanıltılmış hissediyor
“Bu dilin çoğu, şirketi geçerli gizlilik yasalarından muaf tutmak için tasarlanmış gibi görünüyor, ancak hiçbiri ürünün nasıl çalıştığının gerçekliğini yansıtmıyor.”
Daha ne, herşey test katılımcıları, verilerinin makine öğrenimi ve nesne algılama eğitimi için kullanılabileceğini kabul etmek zorundaydı. Spesifik olarak, küresel test sözleşmesinin “araştırma bilgilerinin kullanımı” ile ilgili bölümü, “metin, video, resimler veya sesin … iRobot tarafından istatistikleri ve kullanım verilerini analiz etmek, teknoloji sorunlarını teşhis etmek, ürün performansını, ürünü ve yenilik, pazar araştırması, ticari sunumlar ve makine öğrenimi ve nesne algılama dahil olmak üzere şirket içi eğitim sunuyor.”
Burada açıklanmayan şey, iRobot’un makine öğrenimi eğitimini, ham verilerde yakalanan bireysel öğeleri tanımak için algoritmaları tıklatarak öğreten insan verisi etiketleyicileri aracılığıyla gerçekleştirmesidir. Başka bir deyişle, bizimle paylaşılan sözleşmelerde kişisel görüntülerin diğer insanlar tarafından görülüp analiz edileceğinden asla açıkça bahsedilmiyor.
iRobot’un sözcüsü Baussmann, vurguladığımız dilin “çeşitli test senaryolarını kapsadığını” ve veri açıklaması için gönderilen görüntülere özgü olmadığını söyledi. “Örneğin, bazen test uzmanlarından bir robotun belirli bir nesneye takılıp kaldığı veya tam olarak kenetlenmediği durumlar gibi davranışlarının fotoğraflarını veya videolarını çekmeleri ve bu fotoğrafları veya videoları iRobot’a göndermeleri isteniyor” diye yazdı ve ekliyor: “Açıklama amacıyla görüntülerin çekileceği testler için, söz konusu testle ilgili sözleşmede belirtilen belirli şartlar vardır.”
Ayrıca, “konuştuğunuz kişilerin makalenizle ilgili geliştirme çalışmasının bir parçası olduklarından emin olamayız” diye yazdı, ancak sonuçta küresel test anlaşmasının doğruluğuna itiraz etmedi. herşey makine öğrenimi için toplanacak ve kullanılacak kullanıcı verilerini test edin.
Kullanıcıların gerçekten anladıkları
Mahremiyet avukatlarından ve bilim adamlarından onay anlaşmalarını incelemelerini istediğimizde ve onlarla test kullanıcılarının endişelerini paylaştığımızda, belgeleri ve ortaya çıkan gizlilik ihlallerini, ister beta test kullanıcısı olalım ister hepimizi etkileyen, ihlal edilmiş bir rıza çerçevesinin simgesi olarak gördüler. düzenli tüketiciler
Uzmanlar, şirketlerin, eğer biz okursak, insanların gizlilik politikalarını nadiren yakından okuduklarının gayet iyi farkında olduklarını söylüyor. Ancak AI ve insan haklarına odaklanan Elektronik Gizlilik Bilgi Merkezi avukatı Ben Winters, iRobot’un küresel test sözleşmesinin kanıtladığı şeyin, “onu okusanız bile yine de netlik elde edemediğiniz” olduğunu söylüyor.
Daha ziyade, “Bu dilin çoğu, şirketi geçerli gizlilik yasalarından muaf tutmak için tasarlanmış gibi görünüyor, ancak hiçbiri ürünün nasıl çalıştığına dair gerçekleri yansıtmıyor” diyor Cahn, robot elektrik süpürgelerinin hareketliliğine ve kontrol etmenin imkansızlığına işaret ediyor. potansiyel olarak hassas kişilerin veya nesnelerin – özellikle çocukların – her zaman kendi evlerinde olduğu yerler.
Nihayetinde “yer[s] sorumluluğun çoğu … son kullanıcıya ait,” diyor Maryland Üniversitesi Bilgi Çalışmaları Fakültesi’nde araştırma ve onay politikalarındaki en iyi uygulamaları inceleyen bir bilgi bilimcisi olan Jessica Vitak. Yine de onlara “işlerin nasıl ters gidebileceğinin” gerçek bir açıklamasını vermiyor – “bu, katılıp katılmamaya karar verirken çok değerli bilgiler olacaktır” diyor.