Xinzhiyuan Raporu
Tayvan, Çin'deki araştırmacılar yakın zamanda, jeneratörünün çıkış katmanında ikili nöronlar tasarlayan yeni bir Generative Adversarial Network (GAN) türü geliştirdiler. Bu model, önceden arXiv'de yayınlanan bir makalede önerilmiştir ve test sırasında doğrudan ikili değer tahminleri üretebilir.
Şimdiye kadar GAN, sürekli dağıtım modellemesinde dikkate değer sonuçlar elde etti. Bununla birlikte, özellikle yüksek boyutlu ayrık alanlarda, GAN'ı ayrık verilere uygulamada hala büyük zorluklar vardır, bunun başlıca nedeni, model dağıtımından hedef veri dağıtımına dağılımı optimize etmedeki zorluktur.
Bu araştırmayı yürüten araştırmacılardan biri olan Hao-Wen Dong, "Şu anda müzik üretimi üzerine çalışıyorum. Bence beste, enstrüman seçimi, akor yöntemi ve hatta bir dizi karar olarak yorumlanabilir. Kullanılan tam notlar.YZ bestecisinin büyük vizyonunu gerçekleştirmek için, özellikle GAN gibi derin üretken modellerin karar verip veremeyeceğiyle ilgileniyorum.Bu nedenle, bu çalışma ikili nöronlarla tasarlanmış bir GAN'ı eğitip eğitemeyeceğimizi incelemektedir. , Ve ikili kararlar almak için standart eğitim algoritmalarını ve geri yayılımı kullanın. "
Hao-Wen Dong ve danışmanı Yi-Hsuan Yang, test sırasında doğrudan ikili değer tahminleri üretebilen bir model geliştirdi. Daha sonra, farklı ikili nöron türlerinin, GAN hedeflerinin ve ağ mimarilerinin performansını karşılaştırırken ikili MNIST rakamları oluşturmak için kullandılar.
Örnekler, MLP tarafından uygulanan ve WGAN-GP hedefleri kullanılarak eğitilen önerilen model için rakamlar ve ön aktivasyon çıktıları üretir. Kaynak: Dong ve Yang
Dong, "Kısacası, bu yeni GAN türü (BinaryGAN), ikili nöronları kullanan ve jeneratörünün çıktı katmanında bir veya sıfır nöron çıkaran bir GAN'dır," dedi Dong, " Bölüm: oluşturucu ve ayırıcı Jeneratörün amacı, ayrıştırıcıyı oluşturulan örnekleri gerçek örnekler olarak sınıflandırması için kandırabilen sahte veri örnekleri üretmektir. Öte yandan, ayırıcının amacı sahte örnekleri ayırt etmek ve sonra kullanmaktır. Jeneratörü iyileştirmek için geri bildirim sağlayın. Eğitimden sonra, jeneratör yeni veri örnekleri oluşturmak için kullanılabilir. "
Araştırmacılar, BinaryGAN'ı ve bunların üretken modellerini ve ikili nöronlarını etkili bir şekilde eğitebilirler. Araştırma sonuçları, gradyan tahmin edicilerinin kullanımının GAN ile ayrık dağılımları simüle etmek için umut verici bir yol olabileceğini de göstermektedir.
Önerilen modelin ön aktivasyon çıktısının histogramı ve gerçek değerli modelin olasılık tahmini. Her iki model de MLP tarafından uygulanır ve WGAN-GP hedefleri aracılığıyla eğitilir.
Dong, "Gradyan tahmin edicisini kullanarak, BinaryGAN'ı eğitmek için geri yayılım algoritmasını kullanabiliriz," dedi. "Ek olarak, modelde kullanılan ikilileştirme, derin sinir ağı öğreniminin ara temsilinde birçok farklı özelliğin varlığına yol açtı. İkilileştirme işlemlerini eğitime dahil etmenin önemini vurgular, böylece bu ikili işlemler de optimize edilebilir. "
Dong ve Yang şimdi, koşullu hesaplama grafiklerinin gerçekleştirilmesine ikili nöronlar kullanarak GAN'ı uygulamaya çalışıyorlar. Bu durumda, ağdaki ikili nöronlar tarafından verilen kararlara göre belirli kısımlar aktif hale gelecek veya devre dışı bırakılacaktır.
MLP uygulaması için önerilen model sistemin şeması; lütfen ikili nöronların yalnızca jeneratörün çıkış katmanında kullanıldığını unutmayın.
Bu önemlidir, çünkü erken ağ düzeyindeki kararlara dayanan daha karmaşık bir model oluşturmamıza izin verir, "dedi." Örneğin, önce enstrümanları ve akorları öğrenmeye karar veren ve ardından buna göre yanıt veren bir AI bestecisi oluşturabiliriz. Beste yapmayı öğrenin. "
Referans bağlantısı:
https://techxplore.com/news/2018-10-binarygan-adversarial-network-binary-neurons.html
Xinzhiyuan AI DÜNYA 2018
Dünya Yapay Zeka Zirvesi Tam inceleme
Xinzhiyuan, 20 Eylül'de Pekin'deki Ulusal Kongre Merkezi'nde AI WORLD 2018 Dünya Yapay Zeka Zirvesi'ne ev sahipliği yaptı. Makine zekası ve insan kaderi.
Xinzhiyuan AI World 2018'in büyük olayını hatırlatarak:
IQIYI
Sabah: https://www.iqiyi.com/v_19rr54cusk.html
Öğleden sonra: https://www.iqiyi.com/v_19rr54hels.html
Sina: