Yapay zekanın bilinçli hale gelip gelmediğini söylemek neden zor olacak?

Tarih, cansız nesnelere hayat vermeye çalışan insanların ve “sihir” diye tüyolar ve hileler satan insanların örnekleriyle zengindir. Ancak makinelerdeki bilince inanmaya yönelik bu insani arzu hiçbir zaman gerçeklikle eşleşmedi.

Yapay zeka sistemlerinde bilinç yaratmak birçok teknoloji uzmanının hayalidir. Büyük dil modelleri, akıllı makinelere yönelik arayışımızın en son örneğidir ve bazı insanlar (tartışmalı bir şekilde) onlarla yapılan konuşmalarda bilinç parıltıları gördüklerini iddia etmektedir. Mesele şu ki, makine bilinci hararetle tartışılan bir konudur. Pek çok uzman bunun sonsuza dek bilim kurgu olarak kalmaya mahkum olduğunu söylüyor, ancak diğerleri bunun çok yakında olduğunu savunuyor.

MIT Technology Review’un son sayısı için sinir bilimci Grace Huckins, insanlardaki bilinç araştırmalarının bize yapay zeka hakkında neler öğretebileceğini ve yapay zeka bilincinin ortaya çıkaracağı ahlaki sorunları araştırıyor. Daha fazlasını buradan okuyun.

İnsan bilincini tam olarak anlamıyoruz, Grace, nörobilimcilerin bunun beyinde nasıl tezahür ettiğine dair bazı ipuçlarına sahip olduğunu yazıyor. Açıkça belirtmek gerekirse, yapay zeka sistemlerinin beyni yoktur, dolayısıyla yaşam belirtileri için beyin aktivitesini ölçen geleneksel yöntemleri kullanmak imkansızdır. Ancak sinir bilimcilerin yapay zeka sistemlerindeki bilincin nasıl görünebileceğine dair çeşitli farklı teorileri var. Bazıları bunu beynin “yazılımının” bir özelliği olarak ele alırken, diğerleri onu daha doğrudan fiziksel donanıma bağlıyor.

Yapay zeka bilincine yönelik testler oluşturma girişimleri bile oldu. Florida Atlantic Üniversitesi’ndeki Geleceğin Zihinleri Merkezi’nin yöneticisi Susan Schneider ve Princeton’lu fizikçi Edwin Turner, bir yapay zeka ajanının, test edilmeden önce eğitimi sırasında bilinçle ilgili edinebileceği her türlü bilgiden izole edilmesini gerektiren bir tane geliştirdiler. . Bu adım, büyük bir dil modelinde olduğu gibi, eğitim sırasında bilinç hakkında edindiği insan ifadelerini papağan gibi tekrarlayamayacağı için önemlidir.

Testi yapan kişi daha sonra yapay zekaya yalnızca kendisinin bilinçli olması durumunda cevaplayabileceği soruları sorar. Bir anne ve kızın beden değiştirdiği, bilinçlerinin fiziksel benliklerinden ayrıldığı Freaky Friday filminin konusunu anlayabilir mi? Rüya görme kavramını kavrayabilir mi, hatta rüya görmeyi bile rapor edebilir mi? Reenkarnasyonu veya ahireti tasavvur edebilir mi?

Elbette bu test kusursuz değildir. Deneğinin dili kullanabilmesini gerektirir, böylece bebekler ve hayvanlar (açıkça bilinçli varlıklar) testi geçemezler. Ve dile dayalı yapay zeka modelleri, üzerinde eğitim aldıkları devasa miktardaki internet verisindeki bilinç kavramına maruz kalmış olacak.

Peki bir yapay zeka sisteminin bilinçli olup olmadığını gerçekten nasıl bileceğiz? Turing Ödülü sahibi Yoshua Bengio’nun da aralarında bulunduğu bir grup sinir bilimci, filozof ve yapay zeka araştırmacısı, farklı alanlardan çeşitli teorilere dayanarak yapay zeka bilincini tespit etmenin pratik yollarını öneren bir teknik inceleme yayınladı. Eğer teoriler doğruysa, hedeflerin esnek bir şekilde takip edilmesi ve dış ortamla etkileşimde bulunulması gibi farklı belirteçler için yapay zeka bilincini gösterecek bir tür karne öneriyorlar. Günümüzün sistemlerinin hiçbiri herhangi bir kutucuğu işaretlemiyor ve bunu yapıp yapmayacakları da belli değil.

İşte bildiklerimiz. Büyük dil modelleri, cümledeki bir sonraki kelimenin ne olması gerektiğini tahmin etmede son derece iyidir. Ayrıca şeyler arasında bağlantılar kurma konusunda da çok başarılılar; bazen bizi şaşırtacak ve bu bilgisayar programlarının başka bir şeyin kıvılcımlarını barındırabileceği yanılsamasına inanmamızı kolaylaştıracak şekillerde. Ancak yapay zeka dil modellerinin iç işleyişi hakkında oldukça az şey biliyoruz. Bu sistemlerin bu sonuçlara nasıl ve neden vardıkları hakkında daha fazla bilgi sahibi olana kadar, modellerin sonuçlarının sadece süslü matematik olmadığını söylemek zor.