AI arama motorlarına neden güvenmemelisiniz?
Microsoft, ChatGPT destekli yeni Bing arama motoruyla insanların ortalığı karıştırmasına izin verdikten yaklaşık iki saniye sonra, insanlar bazı sorulara komplo teorileri gibi yanlış veya anlamsız yanıtlar verdiğini fark etmeye başladı. Google, bilim adamlarının şirketin kendi chatbot’u Bard için verdiği reklamda gerçeklere dayalı bir hata fark ettiklerinde utanç verici bir an yaşadı ve bu daha sonra hisse fiyatından 100 milyar dolar sildi.
Tüm bunları daha da şok edici yapan şey, yapay zeka dil modellerine dikkat eden hiç kimse için sürpriz olmamasıdır.
Sorun şu: teknoloji bu ölçekte bu şekilde kullanılmaya hazır değil. AI dil modelleri, kötü şöhretli saçmalıklardır ve genellikle yanlışlıkları gerçekler olarak sunar. Bir cümledeki bir sonraki kelimeyi tahmin etmede mükemmeldirler, ancak cümlenin gerçekte ne anlama geldiği hakkında hiçbir fikirleri yoktur. Bu, gerçekleri doğru bir şekilde anlamanın çok önemli olduğu arama ile birleştirmeyi inanılmaz derecede tehlikeli hale getirir.
Hit AI sohbet robotu ChatGPT’nin yaratıcısı OpenAI, bunun hala sadece bir araştırma projesi olduğunu ve insanlardan geri bildirim aldıkça sürekli geliştiğini her zaman vurguladı. Bu, arama sonuçlarının güvenilir olmayabileceğine dair uyarılar olsa da, Microsoft’un onu Bing’in yeni bir sürümüne entegre etmesini engellemedi.
Google, insanların internette anahtar kelimeler yerine tüm cümleleri kullanarak arama yapmasına yardımcı olmak için yıllardır doğal dil işlemeyi kullanıyor. Bununla birlikte, Washington Üniversitesi’nde çevrimiçi arama konusunda uzmanlaşmış bir profesör olan Chirag Shah, şirketin şimdiye kadar kendi AI chatbot teknolojisini imza arama motoruna entegre etme konusunda isteksiz olduğunu söylüyor. Google’ın liderliği, ChatGPT benzeri bir aracı aceleye getirmenin “itibar riski” konusunda endişeli. İroni!
Big Tech’in son hataları, yapay zeka destekli aramanın kaybedilmiş bir dava olduğu anlamına gelmiyor. Google ve Microsoft’un AI tarafından oluşturulan arama özetlerini daha doğru hale getirmeye çalışmasının bir yolu, alıntılar sunmaktır. Google’ın yapay zeka etik ekibine liderlik etmiş olan yapay zeka girişimi Hugging Face’de araştırmacı ve etik uzmanı olan Margaret Mitchell, kaynaklara bağlantı vermenin kullanıcıların arama motorunun bilgileri nereden aldığını daha iyi anlamasını sağladığını söylüyor.
Bu, insanlara başka türlü yapabileceklerinden daha fazla kaynak düşünmeye teşvik ederek, olaylara daha çeşitli bir bakış açısı kazandırmaya bile yardımcı olabilir, diyor.
Ancak bu, bu yapay zeka modellerinin bilgi oluşturması ve yanlışları kendinden emin bir şekilde gerçekmiş gibi sunması şeklindeki temel sorunu ele almak için hiçbir şey yapmıyor. Yapay zeka tarafından oluşturulan metin yetkili göründüğünde ve kaynaklardan alıntı yaptığında, bu, ironik bir şekilde, kullanıcıların gördükleri bilgileri tekrar kontrol etme olasılıklarını daha da azaltabilir.