Geoffrey Hinton, yapımına yardım ettiği teknolojiden şimdi neden korktuğunu anlatıyor

Geri yayılım yoluyla eğitilen sinir ağlarının gücünün gerçekten bir etki yaratması 2010’lara kadar sürdü. Birkaç lisansüstü öğrenciyle çalışan Hinton, görüntülerdeki nesneleri tanımlamak için bir bilgisayara sahip olma tekniğinin diğerlerinden daha iyi olduğunu gösterdi. Ayrıca, günümüzün büyük dil modellerinin habercisi olan bir cümledeki sonraki harfleri tahmin etmek için bir sinir ağı eğittiler.

Bu yüksek lisans öğrencilerinden biri, OpenAI’nin kurucu ortaklarından biri olan ve ChatGPT’nin geliştirilmesine liderlik eden Ilya Sutskever’di. Hinton, “Bu şeyin harika olabileceğine dair ilk ipuçlarını aldık” diyor. “Ama iyi olması için büyük ölçekte yapılması gerektiğine karar vermek uzun zaman aldı.” 1980’lerde sinir ağları bir şakaydı. O zamanlar sembolik AI olarak bilinen baskın fikir, zekanın kelimeler veya sayılar gibi sembolleri işlemeyi içermesiydi.

Ama Hinton ikna olmamıştı. Sinir ağları, nöronların ve aralarındaki bağlantıların kodla temsil edildiği beyin yazılım soyutlamaları üzerinde çalıştı. Bu nöronların nasıl bağlandığını değiştirerek – onları temsil etmek için kullanılan sayıları değiştirerek – sinir ağı anında yeniden kablolanabilir. Başka bir deyişle, öğrenmesi sağlanabilir.

Hinton, “Babam bir biyologdu, bu yüzden biyolojik terimlerle düşünüyordum” diyor. “Ve sembolik muhakeme açıkça biyolojik zekanın merkezinde yer almıyor.

“Kargalar bulmaca çözebilir ve dilleri yoktur. Bunu sembol dizilerini saklayarak ve onları manipüle ederek yapmıyorlar. Bunu beyinlerindeki nöronlar arasındaki bağlantıların gücünü değiştirerek yapıyorlar. Ve bu yüzden yapay sinir ağındaki bağlantıların gücünü değiştirerek karmaşık şeyleri öğrenmek mümkün olmalı.”

yeni bir zeka

Hinton, 40 yıl boyunca yapay sinir ağlarını biyolojik olanları taklit etmek için kötü bir girişim olarak gördü. Şimdi bunun değiştiğini düşünüyor: Biyolojik beyinlerin yaptıklarını taklit etmeye çalışırken, daha iyi bir şey bulduğumuzu düşünüyor. “Bunu gördüğünüzde korkutucu” diyor. “Ani bir dönüş.”

Hinton’un korkuları, birçok kişinin bilimkurgu gibi gelecek. Ama işte onun durumu.

Adından da anlaşılacağı gibi, büyük dil modelleri, çok sayıda bağlantıya sahip devasa sinir ağlarından yapılır. Ama beyinle karşılaştırıldığında çok küçükler. Hinton, “Beynimizin 100 trilyon bağlantısı var” diyor. “Büyük dil modellerinde yarım trilyon, en fazla bir trilyon var. Yine de GPT-4, herhangi bir kişinin bildiğinden yüzlerce kat daha fazlasını bilir. Yani belki de aslında bizden çok daha iyi bir öğrenme algoritmasına sahiptir.”