AB, şirketleri zararlı AI için kancaya koymak istiyor
AI Sorumluluk Direktifi olarak adlandırılan yeni yasa tasarısı, aynı zamanda AB yasası haline gelecek olan AB’nin AI Yasasına dişler ekleyecek. AI Yasası, polislik, işe alım veya sağlık hizmetleri de dahil olmak üzere, insanlara zarar verme potansiyeli en yüksek olan AI’nın “yüksek riskli” kullanımları için ekstra kontroller gerektirecektir.
Yeni sorumluluk faturası, insanlara ve şirketlere bir AI sistemi tarafından zarar gördükten sonra tazminat davası açma hakkı verecek. Amaç, teknolojilerin geliştiricilerini, üreticilerini ve kullanıcılarını sorumlu tutmak ve AI sistemlerinin nasıl oluşturulduğunu ve eğitildiğini açıklamalarını istemektir. Kurallara uymayan teknoloji şirketleri, AB çapında toplu davaları riske atıyor.
Örneğin, kendilerine karşı ayrımcılığa uğrayan özgeçmişleri taramak için bir AI sisteminin olduğunu kanıtlayabilen iş arayanlar, bir mahkemeden AI şirketini, sorumluları belirleyebilmeleri ve neyin yanlış gittiğini bulabilmeleri için sistemle ilgili bilgilere erişim izni vermeye zorlamasını isteyebilir. Bu bilgilerle silahlanarak dava açabilirler.
Teklifin, en az birkaç yıl sürecek olan AB yasama sürecinden geçmesi gerekiyor. Avrupa Parlamentosu üyeleri ve AB hükümetleri tarafından değiştirilecek ve muhtemelen bu tür kuralların inovasyon üzerinde “caydırıcı” bir etkisi olabileceğini iddia eden teknoloji şirketlerinden yoğun lobicilikle karşı karşıya kalacak.
Başarılı olsun ya da olmasın, bu yeni AB mevzuatı, AI’nın dünya çapında nasıl düzenlendiği üzerinde dalgalı bir etkiye sahip olacak.
Avrupa’nın Google, Amazon ve Uber gibi şirketleri temsil eden teknoloji lobisi grubu CCIA’nın politika yöneticisi Mathilde Adjutor, tasarının özellikle yazılım geliştirme üzerinde olumsuz bir etkisi olabileceğini söylüyor.
Yeni kurallara göre, “geliştiriciler yalnızca yazılım hatalarından sorumlu olma riskini değil, aynı zamanda yazılımın kullanıcıların zihinsel sağlığı üzerindeki potansiyel etkisini de riske atıyor” diyor.
Bir yapay zeka araştırma enstitüsü olan Ada Lovelace Enstitüsü’nde politika direktörü yardımcısı olan Imogen Parker, yasanın gücü şirketlerden alıp tüketicilere kaydıracağını söylüyor – AI’nın ayrımcılık potansiyeli göz önüne alındığında özellikle önemli olarak gördüğü bir düzeltme. Üyeleri arasında Microsoft ve IBM’in de bulunduğu BSA teknoloji lobisi Avrupa politikasının başkanı Thomas Boué, tasarının bir yapay zeka sistemi zarar verdiğinde AB genelinde tazminat aramanın ortak bir yolunun bulunmasını sağlayacağını söylüyor.
Bununla birlikte, bazı tüketici hakları örgütleri ve aktivistler, tekliflerin yeterince ileri gitmediğini ve iddiada bulunmak isteyen tüketiciler için çıtayı çok yüksek tutacağını söylüyor.