Memeli beyin nöronları da derin öğrenme yapabilir ve sinirbilim ve yapay zeka önümüzdeki 10 yıl içinde atılımlara öncülük edecek.
Sinir ağları biyolojik sinir ağlarından ilham alır, ancak beyindeki öğrenme süreci gerçekten derin öğrenmeyi seviyor mu? Bu sorunun cevabının daha güçlü bir derin öğrenme modeline ulaşması ve ayrıca insan zekasının daha iyi anlaşılmasına yardımcı olması bekleniyor.
5 Aralık'ta Toronto Üniversitesi'nden CIFAR araştırmacısı Blake A. Richards ve meslektaşları, eLife dergisinde "Ayrılmış dendritlerle derin öğrenmeye doğru" adlı bir makale yayınladılar. Beyinde derin öğrenmenin nasıl gerçekleştirilebileceğini simüle etmek için makalede bir algoritma önerdiler. Kurdukları ağ gösteriyor ki Bazı memeli nöronları, derin öğrenmeye uygun şekillere ve elektriksel özelliklere sahiptir. . Sadece bu değil, deneylerinde gerçek beynin derin öğrenmeyi nasıl gerçekleştirdiğini göstermek için biyolojiye daha yakın bir yöntem kullandı ve beynin "öğrenme" yeteneğini nasıl geliştirdiğini açıklamaya yardımcı olması bile bekleniyor.
Nöronlar ve derin öğrenme arasındaki bağlantı doğrulanırsa, hastalık tedavisinden gelişmiş zekaya kadar daha iyi beyin-bilgisayar arayüzleri geliştirebiliriz ve sonraki uygulamalar da çeşitli olasılıkları açacaktır.
Memeli beyinlerindeki nöronlar da derin öğrenme yapabilir
Bu araştırma Richards ve onun yüksek lisans öğrencisi Jordan Guerguiev tarafından Toronto Üniversitesi'nde DeepMind'den Timothy Lillicrap ile işbirliği içinde yapıldı.
Deneyde kullanılan nöronlar, fare beyninin neokorteksinden alınan dendritik hücrelerdir. Neokortikal beyin bölgesi, algı oluşturma ve motor talimatlar gibi bazı yüksek işlevlerden sorumludur ve ayrıca uzaysal akıl yürütme, bilinç ve insan dili ile ilgilidir. Öte yandan, dendritler, nöron hücrelerinin gövdesinden çok dallı çıkıntılardır ve ağaçlara benzer. Dendritler, diğer nöronlardan alınan aksiyon potansiyellerini (elektrik sinyalleri) hücre gövdesine ileten nöronların giriş kanallarıdır.
Araştırma tarafından oluşturulan "çok bölmeli sinir ağı" modeli şunu gösteriyor: sol taraf fare birincil görsel korteks piramidal nöronları, sağ taraf ise basitleştirilmiş nöron modelidir. Kaynak: CIFAR
Bu nöron yapısı bilgisini kullanarak, Richards ve Guerguiev "çok bölmeli sinir ağı modeli" adlı bir model oluşturdu. Bu ağda, nöronlar sinyalleri ayrı "bölümlerde" alır. Segmentler ayrıldığı için, farklı katmanların simüle edilmiş nöronları derin öğrenmeye ulaşmak için işbirliği yapabilir.
Çok katmanlı ağın, el yazısıyla yazılmış rakamları tanırken tek katmanlı ağdan önemli ölçüde daha iyi performans gösterdiği bulundu. Algoritmaların çok katmanlı bir ağ yapısı kullanarak üst düzey gösterimleri tanıma yeteneği, derin öğrenmenin temel işaretidir. Bu, fare beyin nöronlarının tıpkı yapay nöronlar gibi derin öğrenme gerçekleştirebileceğini gösteriyor.
Richards, "Bu sadece bir dizi simülasyon, bu yüzden beynin ne yaptığını tam olarak yansıtamaz. Ancak, eğer beyin AI tarafından kullanılan algoritmaları kullanabilirse, bu, daha ileri deneysel araştırmalar yapabileceğimizi kanıtlamak için yeterlidir." Dedi.
Derin öğrenmenin insan beyninin çalışma mekanizmasını yansıttığını kanıtlamak için daha iyi eğitim yöntemleri kullanın
21. yüzyılın başında, Richards ve Lillicrap Toronto Üniversitesi'nde Hinton dersleri aldı. Derin öğrenme modelinin insan beyninin çalışma mekanizmasını bir dereceye kadar doğru şekilde yansıttığına ikna olmuş . Ancak, o sırada bu fikri doğrulamak için birkaç zorluk vardı. Her şeyden önce, insanlar derin öğrenmenin insan seviyesine ulaşıp ulaşamayacağından hala emin değiller. İkincisi, derin öğrenme algoritmaları, sinirbilimcilerin zaten kanıtladığı biyolojik gerçekleri ihlal ediyor.
Derin öğrenmedeki bilgisayar ağlarının aktivite kalıpları da insan beyninde görülenlere benzer. Bununla birlikte, derin öğrenmenin bazı özellikleri beynin çalışma şekliyle uyumsuz görünmektedir. Dahası, yapay ağlardaki nöronlar biyolojik nöronlardan çok daha basittir.
Şimdi, Richards ve bazı araştırmacılar aktif olarak sinirbilim ve yapay zeka arasındaki boşluğu doldurmanın yollarını arıyorlar. Bu makale, Yoshua Bengio'nun ekibinin nöral ağları biyolojik olarak daha uygulanabilir bir şekilde eğitme araştırmasına dayanmaktadır.
Dengeli yayılma diyagramı: sinir ağlarını eğitmek için dengeli yayılma kullanıldığında bilgi aktarımı süreci. Sağdaki basit ağ katman katman geçirilir, BP uygulanabilir ve tabii ki dengeli yayılma da uygulanabilir; Soldaki karmaşık ağ, biyolojik bir sinir ağı yapısına daha çok benziyor.BP burada geçerli değil.Bu, derin öğrenmenin insan beyni mekanizmasını yansıtamamasının nedenlerinden biridir.Ancak bu duruma çoklu bağlantılarla dengeli yayılma uygulanabilir.
Bengio ve yüksek lisans öğrencisi Benjamin Scellier, yaygın olarak kullanılan geri yayılmaya (BP) bir alternatif olan "denge yayılımı" adlı yeni bir sinir ağı eğitim yöntemi icat etti. Denge yayılımı, hata muhakemesi ve geri yayılma için tek bir döngü ve tek bir hesaplama türü kullanabilir. Bu nedenle, denge yayılma süreci, beynin biyolojik sinir devrelerindeki öğrenme sürecine daha benzer olabilir.
Bu araştırma, sinir ağlarının bazı eğitim kurallarını daha da gevşetmek için DeepMind'dan Timothy Lillicrap tarafından geliştirilen algoritmayı da kullandı. (Bu arada, Timothy Lillicrap aynı zamanda DeepMind'ın en güçlü genel satranç AI AlphaZero makalesinin yazarlarından biridir.)
Bu makale aynı zamanda Matthew Larkam'ın neokortikal nöronların yapısı üzerine yaptığı araştırmayı da özümsedi. Nörobilim bulgularını mevcut algoritmalarla birleştirerek, Richards'ın ekibi beyindeki öğrenme sürecini simüle etmek için daha iyi, daha gerçekçi bir algoritma yarattı.
Önümüzdeki 10 yıl içinde sinirbilim ve yapay zekayı gerçekten açın
Dendritik neokortikal nöronlar, beyindeki birçok hücre tipinden sadece biridir. Richards, gelecekteki araştırmaların farklı beyin hücresi türlerini simüle etmesi ve derin öğrenmeye ulaşmak için nasıl etkileşime girdiklerini araştırması gerektiğini söyledi. Uzun vadede, araştırmacıların geri bildirim almadan deneyim yoluyla nasıl öğrenileceği gibi büyük zorlukların üstesinden gelebileceklerini umuyor.
Richards şunları söyledi: "Önümüzdeki on yıl içinde sinirbilim ve yapay zeka arasında gerçek bir erdemli araştırma döngüsü görebiliriz. Sinirbilimin keşifleri yeni yapay zeka geliştirmemize yardımcı oluyor ve yapay zeka sinirleri açıklamamıza ve anlamamıza yardımcı oluyor. Bilimsel deneysel veriler. "
Referans
-
Ayrılmış dendritlerle derin öğrenmeye doğru : Https://elifesciences.org/articles/22901
-
Denge Yayılımı: Enerji Temelli Modeller ile Geri Yayılım Arasındaki Uçurumun Kapatılması : Https://www.frontiersin.org/articles/10.3389/fncom.2017.00024/full
-
Rastgele sinaptik geri bildirim ağırlıkları, derin öğrenme için hata geri yayılımını destekler : Https://www.nature.com/articles/ncomms13276
Okuyucular ve arkadaşlar iletişim kurmak ve tartışmak için Xinzhiyuan okuyucu grubuna katılmaya davetlidir, lütfen WeChat'i ekleyin (açıklama adı + okul / işletme + araştırma / odak alanı): aiera2015
Xinzhiyuan işe alıyor Pozisyon ve işe alım detayları hakkında bilgi almak için aşağıdaki işe alım posterine tıklayın.
