Açık kaynaklı AI patlaması, Big Tech’in bildirileri üzerine kuruludur. Ne kadar sürecek?

Daha geniş açık kaynak topluluğu gibi, Pineau ve meslektaşları da şeffaflığın norm olması gerektiğine inanıyor. “Araştırmacılarımı yapmaları için zorladığım şeylerden biri, sizin açık kaynak yapmak istediğinizi düşünerek bir proje başlatmaları,” diyor. “Çünkü bunu yaptığınızda, hangi verileri kullandığınız ve modeli nasıl oluşturduğunuz açısından çok daha yüksek bir çıta belirliyor.”

Ama ciddi riskler de var. Büyük dil modelleri yanlış bilgi, önyargı ve nefret söylemi yayıyor. Kitlesel propaganda üretmek veya kötü amaçlı yazılım fabrikalarına güç sağlamak için kullanılabilirler. Pineau, “Şeffaflık ve güvenlik arasında bir denge kurmalısınız” diyor.

Meta AI için bu değiş tokuş, bazı modellerin hiç yayınlanmadığı anlamına gelebilir. Örneğin, Pineau’nun ekibi Facebook kullanıcı verileri üzerine bir model eğittiyse, özel bilgilerin dışarı sızma riski çok büyük olduğu için bu model kurum içinde kalacaktır. Aksi takdirde ekip, modeli yalnızca araştırma amacıyla kullanılması gerektiğini belirten bir tıklama lisansı ile yayınlayabilir.

LLaMA için benimsediği yaklaşım buydu. Ancak piyasaya sürülmesinden birkaç gün sonra, birisi tam modeli ve onu çalıştırma talimatlarını 4chan internet forumunda yayınladı. Pineau, “Hala bu özel model için doğru takas olduğunu düşünüyorum” diyor. “Ama insanların bunu yapması beni hayal kırıklığına uğrattı, çünkü bu yayınları yapmayı zorlaştırıyor.”

“Şirket liderliğinden Mark’a kadar her zaman güçlü bir destek aldık. [Zuckerberg] Bu yaklaşım için, ama kolay gelmiyor” diyor.

Meta AI için riskler yüksektir. “Çılgınca bir şey yapmanın potansiyel sorumluluğu, çok küçük bir girişim olduğunuzda, çok büyük bir şirket olduğunuz zamana göre çok daha düşüktür” diyor. “Şu anda bu modelleri binlerce kişiye sunuyoruz, ancak daha sorunlu hale gelirse veya güvenlik risklerinin daha büyük olduğunu hissedersek, çemberi kapatacağız ve yalnızca çok güçlü kimlik bilgilerine sahip bilinen akademik ortaklara yayınlayacağız— araştırma amaçları için bile olsa, modelle herhangi bir şey oluşturmalarını engelleyen gizlilik anlaşmaları veya NDA’lar kapsamında.

Böyle bir durumda, açık kaynak ekosisteminin pek çok sevgilisi, Meta AI’nın bundan sonra ortaya koyduğu her şeyi inşa etme lisanslarının iptal edildiğini görebilir. LLaMA olmadan Alpaca, Open Assistant veya Hugging Chat gibi açık kaynaklı modeller o kadar iyi olmazdı. Ve yeni nesil açık kaynak yenilikçileri, mevcut partinin sahip olduğu ayağı kaldıramayacak.