Meta’nın en son büyük dil modeli neden çevrimiçi olarak yalnızca üç gün hayatta kaldı?

Galactica’nın arkasındaki Meta ekibi, dil modellerinin arama motorlarından daha iyi olduğunu savunuyor. Araştırmacılar, “Bunun, insanların bilimsel bilgiye nasıl eriştiğine ilişkin bir sonraki arayüz olacağına inanıyoruz” diye yazıyor.

Bunun nedeni, dil modellerinin bilgileri “potansiyel olarak depolayabilmesi, birleştirebilmesi ve hakkında akıl yürütmesi”dir. Ancak bu “potansiyel olarak” çok önemlidir. Dil modellerinin henüz tüm bunları yapamayacağı kodlanmış bir kabuldür. Ve asla yapamayabilirler.

Shah, “Dil modelleri, kelime dizilerinin kalıplarını yakalama ve bunları olasılıksal bir şekilde tükürme yeteneklerinin ötesinde gerçekten bilgili değil” diyor. “Yanlış bir zeka duygusu veriyor.”

New York Üniversitesi’nde bilişsel bir bilim insanı ve derin öğrenmenin sesli bir eleştirmeni olan Gary Marcus, “A Few Words About Bullshit” başlıklı bir Substack yazısında, büyük dil modellerinin insan tarafından yazılmış metni taklit etme yeteneğinin hiçbir şey olmadığını söyleyerek görüşünü dile getirdi. “üstün bir istatistik başarısı”ndan daha fazlası.

Yine de Meta, dil modellerinin arama motorlarının yerini alabileceği fikrini savunan tek şirket değil. Son birkaç yıldır Google, bilgi aramanın bir yolu olarak dil modeli PaLM’yi tanıtıyor.

Cezbedici bir fikir. Ancak, Meta’nın Galactica’yı tanıtırken yaptığı gibi, bu tür modellerin ürettiği insan benzeri metnin her zaman güvenilir bilgiler içereceğini öne sürmek pervasızca ve sorumsuzca olur. Zorunlu olmayan bir hataydı.