Google DeepMind yeni matematiği keşfetmek için geniş bir dil modeli kullandı

FunSearch (eğlenceli olduğu için değil, matematiksel işlevleri aradığı için böyle adlandırılmıştır), DeepMind’ın yapay zekayı kullanarak temel matematik ve bilgisayar bilimlerinde yaptığı bir dizi keşif devam ediyor. İlk olarak AlphaTensor, birçok farklı kod türünün kalbindeki hesaplamayı hızlandırmanın bir yolunu buldu ve 50 yıllık bir rekor kırdı. Daha sonra AlphaDev, günde trilyonlarca kez kullanılan anahtar algoritmaların daha hızlı çalışmasını sağlamanın yollarını buldu.

Ancak bu araçlar büyük dil modellerini kullanmıyordu. DeepMind’ın oyun oynayan AI AlphaZero’sunun üzerine inşa edilen her ikisi de matematik problemlerini Go veya satrançtaki bulmacalarmış gibi ele alarak çözdüler. Şirkette hem AlphaTensor hem de FunSearch üzerinde çalışan bir araştırmacı olan Bernardino Romera-Paredes, sorunun kendi şeritlerinde sıkışıp kalmaları olduğunu söylüyor: “AlphaTensor, matris çarpımında harikadır, ancak temelde başka bir şey değildir.”

FunSearch farklı bir yol izliyor. Google’ın PaLM 2’sinin bilgisayar koduna göre ince ayarlı bir sürümü olan Codey adı verilen geniş bir dil modelini, yanlış veya anlamsız yanıtları reddeden ve iyi yanıtları yeniden takan diğer sistemlerle birleştirir.

Google DeepMind’da araştırma bilimcisi olan Alhussein Fawzi, “Dürüst olmak gerekirse hipotezlerimiz var ancak bunun neden işe yaradığını tam olarak bilmiyoruz” diyor. “Projenin başlangıcında bunun işe yarayıp yaramayacağını bilmiyorduk.”

Araştırmacılar, popüler bir programlama dili olan Python’da çözmek istedikleri problemin taslağını çizerek başladılar. Ancak programda sorunun nasıl çözüleceğini belirten satırları atladılar. FunSearch’ün devreye girdiği yer burasıdır. Codey’nin boşlukları doldurmasını, yani sorunu çözecek kodu önermesini sağlar.

Daha sonra ikinci bir algoritma Codey’nin bulduklarını kontrol edip puanlıyor. En iyi öneriler (henüz doğru olmasalar bile) kaydedilir ve programı yeniden tamamlamaya çalışan Codey’e geri verilir. Kohli, “Birçoğu saçma olacak, bazıları mantıklı ve birkaçı da gerçekten ilham alacak” diyor. “Gerçekten ilham verenleri alıyorsunuz ve ‘Tamam, bunları alın ve tekrar edin’ diyorsunuz.”

Birkaç milyon öneriden ve birkaç gün süren genel sürecin birkaç düzine tekrarından sonra FunSearch, en büyük boyutu bulmayı da içeren emisyon üst sınırı belirleme sorununa doğru ve önceden bilinmeyen bir çözüm üreten kodu bulmayı başardı. belirli bir tür kümenin Grafik kağıdına noktalar çizdiğinizi hayal edin. Kapak ayarlama problemi, üç tanesi düz bir çizgi oluşturmadan kaç nokta koyabileceğinizi bulmaya benzer.

Süper niş ama önemli. Matematikçiler bırakın çözümün ne olduğunu, nasıl çözüleceği konusunda bile anlaşamıyorlar. (Aynı zamanda AlphaTensor’un hızlandırmanın bir yolunu bulduğu hesaplama olan matris çarpımı ile de bağlantılıdır.) Fields Madalyası da dahil olmak üzere matematikte en büyük ödüllerin çoğunu kazanan, Los Angeles’taki Kaliforniya Üniversitesi’nden Terence Tao, 2007’deki bir blog yazısında sınır belirleme problemi “belki de en sevdiğim açık soru”.