Yapay zekayı "yaratan dili" yapan Facebook araştırmacısı, medyadaki haberlere "sorumsuz" öfkelenerek
Annie derleyin ve organize edin
Qubit Production | Genel Hesap QbitAI
Son iki gündeki çalkantılı Facebook chatbot olayı sona ermeli.
Ön özet, bu dramanın konusu üç aşamaya ayrılmıştır.
Olayın sebebi, 15 Haziran'da Facebook Yapay Zeka Araştırma Enstitüsü'nden (FAIR) araştırmacıların, diyaloğa dayalı yapay zeka sistemi için açık kaynak kodu sağlamasıydı. Yapay zekanın müzakere ve pazarlık yapmasını istediler. Ayrıca arXiv'de bir "Anlaşma mı, Anlaşma mı? - Müzakere Diyalogları için Sona Kadar Öğrenme ". Qubit de bu konuda daha önce haber yapmıştı.
Altı gün sonra, FAIR'de bazı garip yapay zekâ sohbetleri çıktı.İki ajan, insanların anlayamayacağı bir duruşta "i" ve "bana" döngüsü içindeydi. Garip olan şey, Facebook verilerinin temsilciler çiftinin görüşmeyi başarıyla tamamladığını göstermesidir.
Önceki kübit raporunu görüntülemek için üst paragraftaki mavi metne tıklayın
Olay, son iki gün içinde tekrar yükseldi. Yabancı basında çıkan haberlere göre, Facebook, AI ajanlarının müzakereler yapmasına izin veren bu projeyi kapattı.Araştırmacılar, iki makine arasında iletişim kurmanın bir anlamı olmadığını, AI'nın insanlarla daha fazla iletişim kurabileceğini umuyorlar.
Facebook'un projeyi kapatması medyanın dikkatini yeniden çekti. "London Sun", "Robot zekası tehlikelidir: Facebook'un yapay zekası kendi dilini oluşturduktan sonra, uzmanlar bir uyarı yayınladı."
Bu konudaki birçok basında çıkan haberlerin abartılı olduğunu hissedebilirsiniz.Bu pazartesi, bu projede yer alan FAIR ekibinden bir araştırmacı olan Dhruv Batra, Facebook'ta bir açıklama yayınladı:
AI ajanları tarafından kendi dilinin icadı dış dünyayı şaşırtabilirse de, AI'nın olgun bir alt alanıdır ve ilgili yayınlar onlarca yıl öncesine dayanmaktadır.
Basitçe söylemek gerekirse, bir temsilcinin bir görevi çözmeye çalıştığı bir ortamda, ödülleri en üst düzeye çıkarmak için genellikle sezgisel olmayan yöntemler bulur. Ödül işlevini analiz etmek ve deneysel parametreleri değiştirmek, "gücü çekmek" ve "AI'yı kapatmak" ile aynı şey değildir. Bu ifadeye göre, her AI araştırmacısı, makinede belirli bir görevi durdururken AI'yı "kapatmıştır".
Batra bazı medya haberlerini "aldatıcı ve sorumsuz" olarak nitelendirdi. Ek olarak, müzakere aracısı üretimde hiç kullanılmamış ve sadece bir araştırma deneyidir.
Diğer FAIR araştırmacıları da medyadaki terörist haberlere kızdı.
Araştırmacı Edward, Twitter'daki bir haberden duyduğu memnuniyetsizliği ifade ederek, "Başka editörünüz yok mu?"
Hardmaru, "Bu raporun başlığı" AI kendi dilini icat ettiğinden, Facebook onu kapattı "çok sorumsuzca ve yazar bundan utanmalıdır."
Ancak bunu söyledikten sonra, Facebook AI ajanı tarafından tetiklenen drama da sona ermeli.
Bitiş
