"AI, insanların anlayamayacağı bir dil geliştirdi" Facebook kontrolden çıktı "AI projesi
1 Xinzhiyuan raporu
Digitaljournal'da yer alan bir habere göre, Facebookun geçen ay yaygın tartışmalara neden olan insanların anlayamadığı iletişimi geliştiren akıllı diyalog robot projesi kapandı.
Geçen ay, Facebook Yapay Zeka Araştırma Enstitüsü (FAIR), iki sohbet robotunun diyalog stratejilerini yinelemeli olarak yükseltmek için makine öğrenimi yöntemlerini kullandı ve insanların anlayamayacağı benzersiz bir dil geliştirdiklerini keşfetti. Araştırmacılar elle müdahale etmek zorunda kaldı.
Bu araştırma yayınlandıktan sonra, internette ve medyada hızla geniş bir ilgi gördü ve yaygınlaştı.Birçok insan haykırıyordu: Makineler, insanların anlayamadığı kendi dillerini yarattılar ve dikkatli düşünmekten son derece korkuyorlar.
Ancak bazı insanlar, bu sadece bir grup bozuk kod değil mi?
Şimdi, bu sistem "küçük siyah bir odada" kilitli. Yabancı basında çıkan haberlere göre, Facebook Araştırma Enstitüsü, "bu AI'ların kontrolünü kaybedebileceği endişeleri" nedeniyle bu proje üzerindeki araştırmayı durdurdu.
Bu, AI'nın eğitim için kullanılan İngilizceden saptığı ve yeni ve daha etkili bir dil geliştirmeye yöneldiği ilk keşfediliş değil. İnsanların gözünde bu iletişimler daha çok saçmadır. Bununla birlikte, AI ajanlarının bakış açısından, aslında anlamları var.
Yeni bir dilde iletişim kurun: İngilizce "geri bildirim" eksikliği
Bu araştırma raporunun ana noktası, robotların iyi müzakereciler olabileceği - değersiz bir şeyle ilgileniyormuş gibi davranacaklar ve sonra müzakere sürecinde taviz veriyormuş gibi onu feda edecekler. Diyalog aracıları tarafından kendi dilinin geliştirilmesiyle ilgili olarak, araştırma raporu gerçekten sadece bir hurda, ancak herkesin dikkatini çekti.
Fast Co. Design tarafından bildirildiği üzere araştırmacı, sistemdeki sohbet botlarının (botların) İngilizce iletişimden tamamen vazgeçtiğini, ancak sistemin yükseltilmiş sürümünün gerçekten diğer aracılarla iletişim kurabildiğini fark etti. Birlikte herhangi bir işe nasıl devam edeceklerine karar verebilirler. Başlangıçta, kullandıkları kelime dağarcığı anlaşılmaz görünüyordu, ancak uzun süreli gözlem yoluyla, araştırmacılar bu kelime dağarcığının aslında ajanın karşılaştığı görevleri temsil ettiğini keşfettiler.
Örneğin, bir iletişimde, bir sohbete katılan iki bot, Bob ve Alice, iletişimi tamamlamak için kendi dillerini kullanır. Bob, "Ben her şeyi yapabilirim" demeye başlar. Alice cevap verdi, "Toplar bana sıfır, benden bana, bana bana, benden bana." Bir sonraki diyalog bu cümleye benzer.
Bu kelime kombinasyonları ilk bakışta anlamsız görünse de, araştırmacılar iki robotun nasıl çalıştığını ve her kelimeyi kaç kez işlemesi gerektiğini ortaya çıkardıklarına inanıyorlar. Bob'un tekrarı, Alice'e daha fazla bilgi göndermek için bu kelime dağarcığını nasıl kullandığını gösterir. Açıklamak için bu yöntemi kullanırsanız, söylediği şey iyidir, biraz da insanların "Bende üç tane olacak ve diğer her şeye sahip olacaksınız" dediği gibi.
Görünüşe göre temsilciler, belirli senaryoların anlaşılması için İngilizce cümlelerin gerekli olmadığını keşfettiler. Şu anda, derin öğrenmeye dayalı AI, "ödül" ilkesini izlemektedir. Temsilciler, bir sistemin özel davranışına göre hareket ederek karşılık gelen faydaları elde edeceklerdir. Bununla birlikte, bu senaryoda, İngilizce'yi kullanmaya devam etmek, karşılık gelen geri bildirimleri getirmedi, bu nedenle temsilci, daha verimli bir iletişim yöntemine uyum sağlamaya karar verdi.
Bir Facebook Yapay Zeka Araştırması (FAIR) araştırmacısı FastCo'ya şunları söyledi: Tasarımlar, "İngilizce dilinde, bir temsilcinin takip edebileceği sözde geri bildirim yok."
FastCo. Designs bildirdi: "Temsilci, insan tarafından anlaşılabilir dilinden sapacak ve kendi 'kod dilini' yaratacak. Örneğin, 'the' 5 kez geçiyorsa, o zaman 5 kez terimi kopyalamak istiyorum. Bu Aslında insanlar tarafından yaratılan kısaltmalardan pek de farklı değil. "
Diğer AI geliştiricileri de aracıların iletişimi basitleştirmek için "kısaltmalar" kullandığını fark ettiler. Open AI'da araştırmacılar, yapay zeka robotlarının yarattıkları dili öğrenmesini başarıyla sağladı.
Sorun nerede
Yapay zeka kendi dilini oluşturmaya devam ederse, geliştiriciler yeni sinir ağları oluşturmada ve benimsemede sorunlarla karşılaşabilir, ancak bunun makinenin geliştiricilerini gerçekten devirmesine izin verip vermeyeceği açık değildir.
Ancak, bu yeni gelişmeler yapay zekanın daha verimli çalışmasına izin veriyor ve iş yerinde yapay zeka tarafından oluşturulan yeni "kısaltmaları" öğrenip bu yeni iletişim yöntemini güncel tutarsa, araştırma ekibi uzun vadede fayda sağlayabilir.
