Bu robotlar ne zaman yardım istemeleri gerektiğini biliyor

“KnowNo” adı verilen yeni bir eğitim modeli, robotlara emirler net olmadığında bizden yardım istemeyi öğreterek bu sorunu çözmeyi amaçlıyor. Aynı zamanda, gereksiz ileri geri gidişleri en aza indirerek yalnızca gerektiğinde açıklama aramalarını sağlar. Sonuç, sizi fazla rahatsız etmeden ne istediğinizi anladığından emin olmaya çalışan akıllı bir asistandır.

Yeni tekniğin geliştirilmesine yardımcı olan Google DeepMind’da araştırma bilimcisi olan Andy Zeng, robotların birçok özel senaryoda güçlü olabildiklerini, ancak sağduyu gerektiren genel görevlerde genellikle kötü olduklarını söylüyor.

Örneğin, size kola getirmesi istendiğinde robotun öncelikle mutfağa gitmesi, buzdolabını araması ve buzdolabının kapısını açması gerektiğini anlaması gerekiyor. Geleneksel olarak bu küçük alt adımların manuel olarak programlanması gerekiyordu, çünkü aksi takdirde robot, insanların içeceklerini genellikle mutfakta tuttuklarını bilemezdi.

Zeng, bunun büyük dil modellerinin (LLM’ler) düzeltmeye yardımcı olabileceği bir şey olduğunu, çünkü bunların çok fazla sağduyulu bilgiye sahip olduğunu söylüyor.

Artık robottan kola getirmesi istendiğinde, dünyaya dair genel bir anlayışa sahip olan bir Yüksek Lisans, robotun takip etmesi için adım adım bir rehber oluşturabiliyor.

Ancak LLM’lerle ilgili sorun, talimatlarının robot tarafından yürütülmesinin mümkün olduğunu garanti etmenin bir yolunun olmamasıdır. Belki kişinin mutfağında buzdolabı yoktur veya buzdolabının kapı kolu kırılmıştır. Bu durumlarda robotların insanlardan yardım istemesi gerekiyor.

KnowNo, büyük dil modellerini güven düzeylerini ölçen istatistiksel araçlarla birleştirerek bunu mümkün kılar.

“Kaseyi mikrodalgaya koyun” gibi belirsiz bir talimat verildiğinde KnowNo, öncelikle dil modelini kullanarak birden fazla olası sonraki eylem üretir. Daha sonra her potansiyel seçimin en iyi seçim olma olasılığını tahmin eden bir güven puanı oluşturur.