AI tarafından oluşturulan metni tespit etmek neden bu kadar zor (ve bu konuda ne yapılmalı)

Bu araç, OpenAI’nin, ChatGPT’yi oluşturduğu metni algılamak için herhangi bir yol olmadan başlattığı için eğitimciler, gazeteciler ve diğerlerinden aldığı hararete verdiği yanıttır. Bununla birlikte, hala devam eden bir çalışmadır ve ne yazık ki güvenilmezdir. OpenAI, yapay zeka metin algılayıcısının yapay zeka tarafından yazılan metnin %26’sını doğru bir şekilde “yapay zeka tarafından yazılmış olması muhtemel” olarak tanımladığını söylüyor.

OpenAI’nin aracını iyileştirmek için yapacak daha çok işi varken, onu ne kadar iyi yapabileceğinin bir sınırı vardır. Yapay zeka tarafından üretilen metni %100 kesinlikle tespit edebilen bir araca sahip olma ihtimalimiz çok düşük. Doğal ortamlardaki araştırmaları denetleyen bir profesör olan Muhammed Abdul-Mageed, yapay zeka tarafından oluşturulan metni tespit etmenin gerçekten zor olduğunu çünkü yapay zeka dil modellerinin tüm amacının akıcı ve insana benzeyen metinler oluşturmak olduğunu ve modelin insanlar tarafından oluşturulan metinleri taklit ettiğini söylüyor. – British Columbia Üniversitesi’nde dil işleme ve makine öğrenimi

Abdul-Mageed, en yeni, en güçlü modellerle eşleşebilecek algılama yöntemleri oluşturmak için bir silahlanma yarışındayız, diye ekliyor. Yeni AI dil modelleri, daha akıcı bir dil oluşturmada daha güçlü ve daha iyidir, bu da mevcut algılama araç kitimizin hızla güncelliğini yitirmesine neden olur.

OpenAI, kendisi gibi modellerin çıktılarını algılamak için özel olarak eğitilmiş ChatGPT’ye benzer yepyeni bir yapay zeka dil modeli oluşturarak algılayıcısını oluşturdu. Ayrıntılar seyrek olsa da, şirket görünüşe göre modeli yapay zeka tarafından oluşturulan metin örnekleri ve insan tarafından oluşturulan metin örnekleriyle eğitti ve ardından yapay zeka tarafından oluşturulan metni bulmasını istedi. Daha fazla bilgi istedik ancak OpenAI yanıt vermedi.

Geçen ay, bir yapay zeka tarafından oluşturulan metni algılamak için başka bir yöntem hakkında yazmıştım: filigranlar. Bunlar, yapay zeka tarafından üretilen metinde bilgisayar programlarının onu bu şekilde algılamasına izin veren bir tür gizli sinyal görevi görür.

Maryland Üniversitesi’ndeki araştırmacılar, yapay zeka dil modelleri tarafından oluşturulan metne filigran uygulamanın zarif bir yolunu geliştirdiler ve bunu ücretsiz olarak kullanıma sundular. Bu filigranlar, yapay zeka tarafından oluşturulan metnin ne zaman kullanıldığını neredeyse kesin olarak söylememize olanak tanır.

Sorun şu ki, bu yöntem yapay zeka şirketlerinin en başından sohbet botlarına filigran yerleştirmesini gerektiriyor. OpenAI bu sistemleri geliştiriyor ancak henüz herhangi bir ürününde kullanıma sunmadı. Gecikme sebebi? Bunun bir nedeni, yapay zeka tarafından oluşturulan metne filigran eklenmesinin her zaman arzu edilmemesi olabilir.

ChatGPT’nin ürünlere entegre edilebileceği en umut verici yollardan biri, insanların e-posta yazmasına yardımcı olacak bir araç veya bir kelime işlemcide gelişmiş bir yazım denetleyici olarak kullanılmasıdır. Bu tam olarak hile değil. Ancak yapay zeka tarafından oluşturulan tüm metinlere filigran eklenmesi, bu çıktıları otomatik olarak işaretler ve haksız suçlamalara yol açabilir.