Yoshua: Yapay zekayı insan seviyesinde derinlemesine öğrenmenin zorluğu (PPT indirme ile)
Kaynak: akademik manşetler
Bu makale hakkında 2000 kelime 5 dakika okumanız tavsiye edilir.
Bu makale, Montreal Üniversitesi Bilgisayar Bilimleri ve Bilgisayar Çalışmaları Bölümü'nde profesör olan Yoshua Bengio'nun "İnsan Düzeyinde Yapay Zekaya Yönelik Derin Öğrenmenin Zorlukları" konulu bir dersi tanıtmaktadır.
CCF YOCSEF Akademik Komitesi Başkanı Tang Jie ve Tsinghua Üniversitesi Bilgisayar Bilimleri Bölümü'nden bir öğretmen olan Cui Peng derse eş başkanlık yaptı. Ders alanında boş koltuk yoktu ve birçok öğrenci, koltukları doldurmak için bir buçuk saat önce siteye geldi.
Bu konuşmanın PPT'sini almak için arka plandaki özel mesajdaki "1112" yi yanıtlayın.
Bu derste Profesör Yoshua, mevcut yapay zekanın insan seviyesinden hala çok uzak olduğunu ve endüstriyel uygulamalardaki mevcut yapay zekanın başarılarının esas olarak denetimli öğrenme yöntemlerine dayandığını söyledi. Yapay zeka hala büyük bir zorlukla karşı karşıyadır, yani dış dünyayı özerk olarak anlayamaz ve insanlar gibi çevre ile iletişim kuramaz. Yoshua, derin öğrenme modelinin belirli içeriğini, soyut özelliklerin çok seviyeli öğreniminin nasıl elde edileceğini, temsil öğrenmenin nasıl daha iyi gerçekleştirileceğini, bilgi arasındaki bağımsızlığı, korelasyonu ve entropiyi optimize etmek için ayırıcıyı ve BabyAI çerçevesini derinlemesine tartıştı.
2017'de yayınlanan "The Consciousness Prior" makalesinde, bilinçli düşüncenin tam bir duruma göre çok düşük boyutlu bir nesne olduğundan bahsetmiştir: Bilinçsiz beyin = kural tabanlı bir sistemdeki cümlelere veya kurallara benzer, ancak Beklenmedik tahmin değeri veya faydaları vardır.
- Dikkat, büyük bir koleksiyondaki bazı öğelere odaklanabilir
- Yumuşak dikkat, bu işlem geri dönüşünü gradyan tabanlı optimizasyon yoluyla eğitmeye izin verir
- Seyrek otomatik kodlayıcılardan farklı olarak: denetleyici koşullu olarak odağı seçer
İki sistem (ve bilişsel görev kategorileri):
- Sistem 1: Sezgisel, hızlı sezgisel, bilinçsiz, sözsüz, mevcut derin öğrenme iyi yapabilir.
- Sistem 2: Yavaş, mantıklı ve sıralı, bilinçli klasik sembolik AI yapmaya çalışıyor
Profesör ilginç bir hipotezden bahsetti: Yabancı dil anlayışı: düşünce deneyi.
Herkesten başka bir gezegene yaklaştığınızı ve uzaylılar tarafından değiş tokuş edilen bilgilerin dünyadaki bilgilerden farklı olduğunu gözlemlemesini istedi.İletişim kanalları çok gürültülü, ancak dünyada bant genişliği pahalı ve en iyi iletişim Bunun yolu, mesajı maksimuma sıkıştırarak gerçekte değiş tokuş edilen rastgele bir bit dizisi elde etmektir. Yalnızca sıkıştırılmış mesajları gözlemlersek, yabancı dilleri anlayamayız.
Öyleyse yabancı dilleri anlamayı nasıl öğrenebiliriz?
Karasal dil öğrenimi yapmalıyız: uzaylıların bilgileriyle ne yaptıklarını gözlemlememiz, niyetlerini, geçmişlerini vb. Çözmeye çalışmamız gerekiyor. Bu amaçla, davranışlarının nedensel yapısını yakalayabilecek ve böylece çevrelerini değiştirebilecek bir "dünya dışı dünya modeli" oluşturmamız gerekiyor.
Profesör, önce bir dünya modelini öğrenmemizi, sonra da onun doğal dil tanımını öğrenmemizi istedi? Yoksa yapay zeka dili ve dünyayı birlikte mi öğrenmeli? Ve ikincisini tercih ettiğini ifade etti. Denetimli ImageNet sınıflandırıcılarının üst düzey temsilleri göz önüne alındığında, bunların denetimsiz öğrenmede öğrenilenden daha iyi ve daha kolay öğrenilme eğiliminde olduklarını söyledi. neden? Çünkü dil (burada nesne kategorisi), öğrencilere daha kolay genelleştirilebilen ilgili semantik üst düzey faktörlere ilişkin ipuçları sağlar. Sadece büyük miktarda dil metninden anlayamazsınız, aynı anda dünya modelini ve dilini öğrenmelisiniz.
Profesör ayrıca bahsetti İid varsayımının zayıflamasıyla ilgili olarak, Test verilerinin eğitim verileriyle aynı dağıtımdan geldiği varsayımı çok güçlüdür ve pratikte genellikle ihlal edilerek düzensiz genellemeye neden olur. Ve gevşek varsayımların dikkate alınması önerildiğini söyledi: test verileri aynı nedensel dinamikler altında üretilir, ancak farklı başlangıç koşullarından gelir ve genellikle aynı eğitim dağılımına uyma olasılığı düşüktür.
Dersin sonunda yaklaşık yarım saatlik bir soru-cevap seansı düzenlenmiş, Profesör Yoshua herkesin sorularını profesyonelce ve esprili bir şekilde cevaplamış, ortam oldukça hareketliydi.
Bu konuşmanın PPT'sini almak için arka plandaki özel mesajdaki "1112" yi yanıtlayın.
- Bitiş -Tsinghua-Qingdao Veri Bilimi Enstitüsü'nün resmi WeChat kamu platformunu takip edin " THU Veri Pastası "Ve kız kardeş numarası" Veri Pastası THU "Daha fazla ders avantajı ve kaliteli içerik elde edin.
