Jizhi bilim adamı Zhang Jiang analiz ediyor: Karmaşıklık neden derin öğrenmeye ihtiyaç duyar?
Lei Feng Net Not: Bu makale Beijing Jizhi Club'dan gelmektedir. Yazar Zhang Jiang, Pekin Normal Üniversitesi Sistem Bilimi Okulu'nda doçent, Jizhi Kulübü'nün kurucusu ve şu anki başkanı, bir Jizhi bilim adamı ve Tencent Tengyun Düşünce Tankının bir üyesidir.
Karmaşıklığa rağmen bilim, yaşamın kökeni ve karmaşıklığın kökeni gibi geniş bir nihai soru kategorisine cevaplar arıyor. Ama aslında, gelişimi tamamen araştırma yöntemlerine dayanıyor. Örneğin, bilgisayarların ortaya çıkmasından önce, insanlar karmaşık sistemleri incelemek için felsefi spekülasyon ve matematiksel denklemler kullandılar; 1990'larda Santa Fe okulu yükseldi ve çok etmenli simülasyon ve karmaşık uyarlamalı sistem yöntemleri çeşitli araştırma alanlarını taradı; 2000'den sonra karmaşık ağlar Yükselişle birlikte, küçük dünyalar, ölçeksiz ve çeşitli ağ analizleri, karmaşıklık araştırmasının her köşesine nüfuz etti; 2010'dan sonra, büyük veriye ve hesaplamalı sosyal bilime (hesaplamalı sosyal bilim) dayalı karmaşıklık araştırmaları ortaya çıkmaya başladı. Peki, 2016'nın sonunda geleceğe baktığımızda bir sonraki çılgınlık dalgası ne olacak? Sanayi devrimine öncülük eden derin öğrenme teknolojisi olabilir mi?
Aslında, derin öğrenme teknolojisini karmaşık bilim araştırmalarına sokmak için çok sayıda araştırma vakası olmuştur. Örneğin, Science dergisinde yayınlanan "Yoksulluğu Tahmin Etmek İçin Uzaktan Algılama ve Uydu Verilerinin Kullanılması" üzerine yakın zamanda yapılan bir çalışma iyi bir örnektir1. Stanford Üniversitesi'nden bir ekip, Afrika'daki yoksulluğu başarılı bir şekilde tahmin etmek için derin öğrenme teknolojisini kullandı. Bu araştırma, sosyologları onlarca yıldır rahatsız eden büyük sorunları çözmekle kalmadı, aynı zamanda sosyal karmaşıklık araştırmalarına girmek için derin öğrenme yöntemlerini de açtı. Yeni bir pencerede.
Yoksulluğu derin öğrenmeyle tahmin edin
Derin öğrenme ve uzaktan algılama verilerini kullanarak Afrika'daki yoksulluğu tahmin etme üzerine bilimsel makaleler (solda) ve aynı dergide yayınlanan makaleleri gözden geçirme
Sorunun arka planı şudur: Afrikanın yoksulluk sorunu, gelişmiş bölgelerden gelen finansman eksikliğinden değil, doğru bir yoksulluk verisi olmadığı için uzun süredir çözülmedi. Sonuç olarak, Afrika'daki büyük miktarda yatırım yardıma ihtiyaç duyan bölgelere ulaşmadı ve hepsi zengin ve yolsuzluğa bulaşmış yetkililerin cebine düşerek zenginler ile fakirler arasında daha büyük bir uçurum oluşmasına neden oldu. Bu nedenle, insanlar bölgenin yoksulluğunu tahmin etmek için uydular tarafından yakalanan gece ışığı verilerini kullanmayı düşünüyor, çünkü alan ne kadar zenginse, gece ışıklarının parlaklığı da o kadar yüksek oluyor.
Ancak bu sonuç doğru değil, alan ne kadar fakirse ışıkların o kadar karanlık olduğu anlamına gelmiyor. Aslında, araştırmacılar ıssız çölleri siyah bir bölgeden veya ışık kullanamayacak kadar fakir köyleri ayırt edemezler. Nasıl yapılır?
Şekil 1 Karmaşık bir eğitim boru hattı Yukarıdaki işlem, uzaktan algılama verilerinde özellikler elde etmek için evrişimli bir sinir ağını eğitmek için aynı alandaki gece ışığının parlaklığını tahmin etmek için bir alanın uydu uzaktan algılama verilerini girmektir. Aşağıdaki şekil şunu göstermektedir: Evrişimli sinir ağı taşınır ve sıradan bir sinir ağını eğitmek için küçük bir miktar yoksulluk anket verisi etiket olarak kullanılır. Son olarak, evrişimli sinir ağı + sıradan ağ, girdi resmine dayalı olarak bölgesel yoksulluğu tahmin edebilir. Kaynak: Literatür 2
Stanford araştırma ekibi, aynı bölgedeki parlak ışığın büyüklüğünü tahmin etmek için derin bir evrişimli sinir ağını (Konvolüsyonel Sinir Ağı, CNN) eğitmek için başka bir yüksek hassasiyetli, yüksek kaliteli uydu uzaktan algılama görüntü verilerini akıllıca eğitti. Ancak bunun amacı gerçekten gece ışıklarını tahmin etmek değil, uzaktan algılama görüntü verilerinden (sokaklar, çatılar vb. Gibi) özellikleri çıkarmaktır. Daha sonra bu özellikler girdi olarak kullanılır ve birkaç örnekleme noktasının yoksulluk araştırma verileri, sıradan bir sinir ağını birlikte eğitmek için etiket olarak kullanılır. Sonunda, bu ağı bir sokak görünümü haritası ile besleyin ve bölgedeki yoksulluk derecesini yüksek doğrulukla tahmin edebilir. Bu şekilde, bu grup yerel yoksulluk derecesini yüksek doğrulukla tahmin etmek için çok gelişmiş aktarım öğrenme teknikleri ve karmaşık makine öğrenimi eğitim hatları kullandı (Şekil 1).
Derin öğrenme ve çok etmenli modelleme
Çok etmenli modelleme, karmaşık sistemler için çok yaygın ve etkili bir araştırma yöntemidir. Basit etkileşim kurallarını izleyen çok sayıda bireyin oluşturduğu sistemi bir bütün olarak anlıyoruz. Örneğin, bir kalabalığın kolektif davranışını analiz ettiğimizde, her birey için bir model oluşturabilir ve hepsinin çok basit etkileşim kurallarına (sosyal kuvvet modeli 3 gibi) uyduğunu varsayabiliriz. Ardından, kalabalığın hareket yörüngesini simüle etmek için bu grup insanın bilgisayar simülasyon programını bilgisayarda yeniden oluşturduk.
Sosyal kuvvet modelinin simülasyon programı
Bu tür bir düşünce gerçekten karmaşık sistemleri gerçekçi bir şekilde simüle edebilse de, tüm model kuralları ve parametreleri neredeyse tamamen model oluşturucu tarafından belirlenir. Bu, modelin doğruluğunu ve güvenilirliğini büyük ölçüde tehlikeye atar.
Aslında, kentsel kamusal alanların artık çeşitli kameralarla dolu olduğunu biliyoruz. Videoda çok sayıda kalabalık hareket izi kaydedildi. Peki, videodaki bireylerin hareket yörüngelerini otomatik olarak çıkarabilir, konu modelimizi eğitebilir ve son derece gerçekçi kalabalık hareket simülasyonu elde edebilir miyiz?
Tsinghua Üniversitesi Doğal Dil İşleme ve Derin Öğrenme'den bir ekip böyle bir girişimde bulundu. Kalabalık hareketli videodaki herkes için bir LSTM modeli (uzun kısa süreli bellek, doğal dil işleme ve makine çevirisinde yaygın olarak kullanılan özel bir döngüsel sinir ağı RNN modeli) oluşturdular ve videoyu otomatik olarak çıkardılar Her bireyin hareket yörüngesi eğitim verisi olarak kullanılır ve kalabalığın hareket durumunu tahmin edebilen bir derin öğrenme modeli 4 oluşturulur.
Her Temsilcinin LSTM modeli, resim alıntıdır: Referans 4
Model yalnızca her bir kişinin hareket yörüngesini tahmin etmekle kalmaz, aynı zamanda kalabalığın panik durumunu uyarmak ve damgalanmanın meydana gelmesini önlemek için kalabalığın toplu hareket durumunu otomatik olarak sınıflandırabilir ve tanımlayabilir. Acil durumları hızlı bir şekilde belirlemek için de kullanılabilir.
Benzer şekilde, Birleşik Krallık'taki Sheffield Üniversitesi ve Amerika Birleşik Devletleri'ndeki Harvard Üniversitesi'nden bir ekip, makinelerin taklit yoluyla otomatik olarak çok etmenli modeller oluşturmasına izin vermek için rakip makine öğrenimi yöntemlerini kullanmaya çalıştı5. Kendi kendine yapılan küçük robotları üç gruba ayırdılar, bir grup taklit edilecek nesne, önceden belirlenmiş kurallara göre karmaşık hareketler yapacaklar; diğer grup taklitçi, hareketlerini taklit etmek için ilk robot grubuna karışacaklar Davranış, ayrımcıyı olabildiğince aldatmak için; üçüncü grup ayırıcıdır, görevi taklit eden ve taklit edilen bu robotları ayırt etmektir. Son etki, ayırıcının tanıma doğruluğu arttıkça, taklitçinin taklit davranışının taklit edilene giderek daha fazla yaklaşmasıdır. Bu nedenle, eğitimli taklitçileri, taklitçiler grubunu simüle etmek için gerçekçi bir çok-etmenli model oluşturmak için kullanabiliriz.
Bu çalışmalar halen laboratuvar aşamasında olsa da gelecekte yapay zekanın büyük ölçekli simülasyon programları oluşturmak için derin öğrenme yoluyla konunun çalışma kurallarını otomatik olarak çıkaracağını hayal etmek zor değil. O zaman, birden fazla karmaşık sistemi daha gerçekçi bir şekilde simüle edebilecek ve bunlar üzerinde planlama veya politika simülasyonları gerçekleştirebileceğiz.
Karmaşık ağlarda derin öğrenme
Derin öğrenme neden bu kadar güçlü? Farklı insanlar farklı cevaplar verecektir.
Derin bir sinir ağı seviyesine sahip olduğu için - yeni başlayanlar öyle diyebilir;
Çünkü çok büyük ölçekli verileri öğrenebilir - derin öğrenmeyi anlayan bir endüstri pratisyeni bunu söyleyebilir;
Derin öğrenme teknolojisi, verilerden özellikleri otomatik olarak çıkarabildiğinden, derin öğrenmeyi derinlemesine anlayan bir araştırmacı bu şekilde yanıt verebilir.
Bu doğru, derin öğrenmenin özü, seviyenin ne kadar derin olduğu veya veri ölçeğinin ne kadar büyük olduğu değil, daha çok özellikleri otomatik olarak ayıklama yeteneğidir.
Özellikler nelerdir? Uzunluk, genişlik, renk, malzeme, şekil vb. Tüm özelliklerdir. Ancak hepsi yapay olarak tanımlanmıştır. Frekans dünyasında yaşayan bir organizmayı varsayarsak, bir nesnenin uzunluğunu ve hacmini görmek muhtemelen zordur. Bu nedenle, ultra büyük ölçekli veriler karşısında, özellikleri çıplak gözle düzeltmek bizim için zordur.Bu yetenek makineye verilmelidir, bu derin öğrenmenin özüdür.
Modern karmaşık sistem araştırmasında, karmaşık ağ standart bir genel açıklama dili haline geldi. Peki, büyük ölçekli ağ veri özelliklerini otomatik olarak çıkarmak için derin öğrenmeyi nasıl kullanacağız?
Karmaşık bir ağın, noktalardan ve bağlantılı kenarlardan oluşan bir bütünden başka bir şey olmadığını biliyoruz. Bir düğümün veya bir kenarın özellikleri, içinde bulunduğu ağ ortamı (bağlam) tarafından doğal olarak belirlenir. Her noktayı n boyutlu bir vektöre atadığımız sürece, tüm ağın (n boyutlu uzayda bir nokta bulutu) gömülmesini elde ederiz.
Sözde bir "birlikte oluşum ağı" oluşturmak için dilde aynı cümle içinde yer alan kelimeleri birleştirebiliriz Bu şekilde, her kelime bir düğümdür ve hatta kenarlar eşzamanlı görünüm anlamına gelir. Bu tür bir ağ için, 2013 yılında Googledan Miklov, Word2Vec6 adı verilen, İngilizce kelimeleri temsil etmek için vektörleri kullanma yöntemine öncülük etti. Word2Vec, büyük miktarda metin verisini tarayarak, her kelime için, yani n boyutlu uzayda bir nokta için hızlı ve verimli bir şekilde bir vektör oluşturabilir.
Kırmızı ve pembe gibi benzer kelimeler uzayda birbirine yakın olacaktır. Daha da ilginci, aynı anlama sahip sözcükler, farklı dillerin mekansal yerleştirmelerinde benzer konumlara sahiptir. Örneğin, sırasıyla İngilizce ve Fransızca olarak eğitim alırsak, 1, 2, 3 ... gibi sayılar iki vektör gösterimi kümesi altında benzer konumlara sahip olacaktır. resim gösterdiği gibi:
Word2Vec'i sırasıyla saf İngilizce (sol) ve saf Fransızca (sağ) korpus ile eğiterek elde edilen vektör gösterimleri. İngilizcede bir, iki, üç ... konumlarının ve karşılık gelen Fransızca kelimelerin çok benzer olduğunu göreceğiz. Benzer şekilde, memeliler de iki dilin yerleştirilmesinde benzer pozisyonlara sahiptir (aşağıdaki iki resim).
Word2Vec'te ortaya çıkan vektör farkı ilişkisi: burada mavi vektörler (koyu mavi ve açık mavi), Word2Vec tarafından öğrenilen kelime vektörlerini temsil eder. Aralarındaki fark vektörü (kırmızı ok), en yüksek güç ilişkisinin de yaklaşık olarak eşit olduğunu gösterir.
Daha şaşırtıcı olan şey, yukarıdaki ünlü formülde gösterildiği gibi, kelimeler arasındaki ilişkinin Word2Vec tarafından otomatik olarak öğrenilebilmesidir: v (erkek) -v (kadın) = v (kral) -v (kraliçe), burada v (x), x kelimesinin kelime vektörünü temsil eder. Başka bir deyişle, makine erkeklerin krallara göre kadınlara kraliçelere göre eşdeğer olduğunu öğreniyor. Bu nedenle, her bir kelimenin vektör temsiline ek olarak, Word2Vec ayrıca "en yüksek güç" ün soyut ilişkisini de örtük olarak öğrenebilir.
Benzer şekilde, birçok kavram arasında hiyerarşik bir ilişki olacaktır. Örneğin, "hayvan", "böcek" nin hipernymidir ve "böcek", "yusufçuk" un hiperimidir. Çıkarmak için bu kelimelerin vektör temsillerini kullanırsak, bu soyut ilişkiyi temsil etmek için fark vektörünü kullanabiliriz9. Gosterildigi gibi:
Word2Vec tarafından öğrenilen kelimeler arasındaki hiyerarşik ilişki: İlk olarak, Word2Vec'in çok sayıda Çince külliyat öğrenmesine izin verin, böylece her kelime bir gösterime (mavi nokta) karşılık gelecektir. İkinci olarak, işçiler ve marangozlar veya sporcular ve futbolcular gibi hiponimlerin tüm hiyerarşik ilişkilerini ararız ve hiponimlerin fark vektörlerini elde etmek için vektör temsillerini çıkarırız. Bu fark vektörleri, işçi-marangoz ve işçi-bahçıvan gibi aynı tipteyse, çok benzer olduklarını gördük. Bu nedenle, Word2Vec tarafından öğrenilen vektör temsili, ilişkisel bir temsili ifade eder. Şekil şu kaynaktan alınmıştır: Referans 9
Bununla birlikte, bu örtük ilişkinin ifadesi çok net değildir ve büyük hatalar vardır. Bu nedenle, insanlar iyileştirmek için çeşitli yöntemler bulmuşlardır.Daha kapsamlı yollardan biri, tüm isim varlıklarını ve çeşitli ilişkileri (üst ve alt konumlar, eşanlamlılar vb. Dahil) farklı alanlara (yani varlık alanı ve ilişki) yerleştirmektir. Onları daha kapsamlı ve doğru bir şekilde ifade edebilen boşluk) 10.
Buna benzer şekilde, bu yöntemi diğer farklı ağlarla uğraşmak için de kullanabiliriz.
Word2Vect'e benzer DeepWalk algoritması 10 kullanılarak elde edilen "Taekwondo Club" (sol) ağının gömülmesi (sağ). Bunların arasında düğümler insanlardır ve bağlantılar arkadaştır. Bu kulüpte, her biri farklı bir renkle işaretlenmiş 4 nispeten bağımsız topluluk vardır. Referans 7'den alınmıştır
Bu vektör temsillerini almanın faydası nedir? Birçok kullanım alanı vardır.Örneğin, düğümler arasındaki kümeler vektör gösterimi yoluyla bulunabilir.Aşağıdaki şekilde gösterildiği gibi, sadece gösterim uzayında birbirine yakın olan düğümleri tek bir kategoriye bölmemiz gerekir:
Bu şekil, iki farklı parametre koşulu altında aynı ağdaki (üst ve alt) Node2Vec algoritmasına parametreli ağın gömülmesi ve vektör gösterimine dayalı kümeleme analizi gerçekleştirilmesi ile elde edilen görselleştirme etkisidir. Aynı renk, aynı kümeye karşılık gelir. Yukarıdaki şekilde elde edilen kümeler, ağın topluluk bölümleridir. Aşağıdaki şekilde gösterilen kümeleme, nişlerin (yaprak düğümler, köprü düğümleri ve merkezi düğümler) bölünmesini elde eder. Literatürden 8
Daha da önemlisi, bu çeşitli vektör gösterimleri, düğüm sınıflandırması ve tahmin problemlerinin temeli olarak her bir düğümün özellik tanımlama problemini çözer. Genel olarak, bir düğümün vektör temsili, makinenin kendiliğinden öğrenmiş olduğu ve tüm ağdaki her düğümün ekolojik durumunu yansıtan düğüm özelliğidir.
Bu nedenle, makine öğrenimi ve sinir ağı teknolojisi kullanılarak elde edilen özelliklere dayanarak düğümleri sınıflandırabilir ve tahmin edebiliriz. Sosyal ağlar aracılığıyla hangi düğümün terörist olma ihtimalinin daha yüksek olduğunu belirleyebiliriz. Bir makalenin, alıntı ağındaki konumuna bağlı olarak Nobel Ödülü'ne aday gösterilip gösterilemeyeceğini de tahmin edebiliriz.
Evrişimli sinir ağının grafiğini çiz
Mevcut derin öğrenme teknolojisindeki en önemli atılımların aslında görüntü tanıma ve doğal dil alanında olduğunu biliyoruz. Teknik olarak konuşursak, görüntüler statik iki boyutlu bir diziye aittir, oysa doğal dil aslında zaman içinde bir dizi sembol olarak görülebilir. Hepsi çok standart veri yapılarına sahiptir.
Bununla birlikte, bir ağ veya grafik, iki boyutlu bir dizi ile tek boyutlu bir dizi arasındaki düzensiz bir veri türüdür. Ağı bir görüntü olarak kabul edemeyiz, çünkü ağın düğümleri görüntünün pikselleri arasında normal komşuluk ilişkisine sahip değildir. Ayrıca ağı tek boyutlu bir düğüm ve kenar dizisi olarak da göremeyiz, çünkü düğümler arasındaki sırayı keyfi olarak tersine çeviririz, ancak bunlar aynı ağa karşılık gelir.
Böylece sorun geldi. Derin öğrenme, görüntü tanıma ve doğal dil işleme yeteneklerini gösterebildiğinden, karmaşık ağlarla ilgili görevlerde de iz bırakabilir mi?
Spesifik olarak, böyle bir sözde grafik sınıflandırma problemini ele alalım. Size başka yardımcı bilgi içermeyen bir ağ verirsem, bana hangi kategoriye ait olduğunu söyleyebilir misiniz? Bir sosyal ağ mı yoksa biyolojik bir ağ mı? Ölçeksiz bir ağ mı yoksa küçük bir dünya ağı mı? Bu sorunun gerçek arka planı nedir? Karmaşık ağların karmaşık sistemlerin omurgası olarak kabul edilebileceğini biliyoruz, bu nedenle farklı karmaşık sistemlerle uğraşırken, bunların iskeletlerini tanımlamak, sınıflandırmak ve tahmin etmek için kullanabiliriz. Örneğin, bir topluluğun sosyal ağını topluluğun iskeleti olarak görebiliriz, o zaman ağın işleyişini buna göre tahmin edebilir miyiz; başka bir örnek olarak, bir ülkenin girdi-çıktı ağını ulusal ekonomik sistem olarak kabul edersek İskelet, o zaman ülkenin endüstriyel yapısının "nabzını teşhis edebiliriz".
5 yıl önce henüz filizlenmeye başlayan bu sorunların arkasında yeni bir atılım gerekiyor ve bu Graph evrişimli sinir ağı (GNN) 11. Bu teknoloji seti, büyük miktarda ağ verisini işlemek için görüntü tabanlı Evrişimli Sinir Ağı'nı (CNN) genişletir. Ve CNN ile aynı doğruluk seviyesine ulaşmak mümkündür.
GNN modelinin mimarisi, görüntü işlemede CNN'ye benzer.GNN, bir ağ üzerinde evrişim işlemlerini gerçekleştirebilir ve Referans 12'den alınan çok katmanlı sinyal işlemeyi elde etmek için onu kaba taneli yapabilir.
Birçok belgede, insanlar CNN'i görüntüleri tanımak için kullanmakla kalmaz, aynı zamanda resimlerdeki nesnelerin özelliklerini çıkarmak için de kullanır. Örneğin, yoksulluğu tahmin etmek için uydu uzaktan algılama görüntülerini kullanma çalışmasında, CNN kullanan araştırmacıların temel amacı, görüntüdeki çatılar ve yollar gibi özellikleri çıkarmaktır. Makineler tarafından otomatik olarak öğrenilen bu özellikler ile öğrenilen ağı çeşitli alanlarda kullanabiliriz. Örneğin, "resimlere bak ve konuş" elde etmek için CNN ve LSTM'yi birleştirebiliriz; bilgisayarların videoları izlemesini ve insanlar gibi oyunlar oynamasını sağlamak için güçlü pekiştirmeli öğrenme ile CNN ekleyebiliriz; güçlü Monte Carlo ile CNN ekleyin Arama, insan efendileri yenen AlphaGo'ya ulaşabilirsiniz.
Benzer şekilde, GNN teknolojisi bir atılım gerçekleştirdiğinde, makro karmaşık sistemin nabzını ağ aracılığıyla gerçekten teşhis edebiliriz. Şehir planlaması kötü mü? Şehir planına bir puan vermek için şehrin yol ağını taramak için GNN'yi kullanalım; ABD ve Çin'in finans piyasalarından hangisinin çökme olasılığı daha yüksektir? Cevap vermek için GNN'nin hisse senedi ile ilgili ağlarını taramasına izin verin; bugün Facebook'un havası nasıl? GNN'den sosyal ağı taramasını istemek şöyle bir açıklama verebilir: "Facebook bugün kötü bir ruh hali içinde, çünkü WeChat 50 milyon kullanıcıyı daha ele geçirdi ... ".
Görünüm
Karmaşık sistemler derin öğrenmeye ihtiyaç duyar mı? Cevabım elbette evet. Bunun nedeni, derin öğrenmenin nesnelerdeki gizli özellikleri otomatik olarak çıkarabilmesidir; bu, karmaşıklık bilim adamlarının özellik göstergelerini manuel olarak icat etmelerinin onlarca yıllık tarihini sona erdirecektir. İnsan zekası pırıl pırıl parlıyor olsa da, büyük veriler karşısında yapay zeka hala daha iyi. GNN ve ağ yerleştirme gibi teknolojilerde atılımlar yapıldıktan sonra, tüm özellik keşfi otomatikleştirilmiş bir montaj hattı haline gelecek ve karmaşık sistemleri daha yüksek bir seviyede anlayabiliyoruz.
Derin öğrenmenin görüntü alanındaki çok sayıda atılım, bize, makinelerin özellikleri otomatik olarak çıkarmayı öğrendikten sonra, insanların hayal bile edemeyeceği bir doğrulukla tahminler ve tanımalar yapabileceğimizi söylüyor. Örneğin, yüz tanımada derin öğrenmenin doğruluğu% 99'a ulaşırken, insanların doğruluğu yalnızca% 97'dir. Bu nedenle, gelecekte karmaşık sistemleri doğru bir şekilde anlamak ve kontrol etmek tamamen imkansız değildir.
Daha da ilginci, derin öğrenmeyi çok aracılı simülasyon ve sistem dinamikleri dahil olmak üzere geleneksel tekniklerle birleştirdiğimizde, karmaşık sistemlerin otomatik modellemesini gerçekleştirmenin mümkün olmasıdır. Böyle bir makineyi hayal edebiliyoruz, sürekli olarak büyük miktarda veri beslediğiniz sürece, otomatik olarak çok ajanlı bir model çıkarabilir ve size hassas kontrol sistemi planını söyleyebilir. Bu adım başarılabilirse, yapay zeka toplumu gerçekten yönetebilir.
Bununla birlikte, muhalifler derin öğrenmeyi kara kutu modeli olarak eleştiriyor: iyi çalışmasına rağmen, biz insanlar hala anlayamıyoruz. Bu, Çin tıbbında, yalnızca eski doktorların kişisel deneyimlerine ve içgörülerine dayanan, size Batı tıbbının bilimsel standartlarını karşılayan bir açıklama yapamayan bir doktor görmek gibidir. Bununla birlikte, belki de karmaşık sistemler bu tür Çin tıbbı düşüncesini gerektirir. Tıpkı küçük karıncaların karınca kolonilerinin davranışını anlayamadığı için, süper karmaşık etkileşimler insan beynimiz tarafından ele alınmayabilir. Ultra büyük ölçeğin karmaşıklığıyla başa çıkmak için yalnızca daha güçlü makineler kullanabiliriz.
Tersine, karmaşıklık bilimi de derin öğrenme modellerini daha iyi anlamamıza yardımcı olabilir. Örneğin, bir grup yeni fizikçi derin öğrenme ağını 13 anlamak için varyasyonel yeniden normalleştirme grubu (Varyasyonel yeniden normalleştirme grubu) yöntemini kullanmaya çalışıyorlar, her ek nöron düğümleri katmanı orijinal problemin daha yüksek bir seviyesidir. İri taneli. Bu nedenle, seviyelerin derinleşmesi, verilerdeki yasaları daha yüksek bir ölçekte kavramamıza yardımcı olur.
Sonuç olarak, karmaşıklık bilimi uzun zamandır çok kapsamlı bir konu olmuştur. Çeşitli matematiksel yöntemlerin ve mühendislik tekniklerinin bir eritme potasıdır. Bu nedenle, derin öğrenmeyi karmaşık sistemlere entegre etmek kaçınılmaz bir eğilimdir.
Referanslar
1. Jean N, Burke M, Xie M, vd. Yoksulluğu tahmin etmek için uydu görüntüleri ve makine öğrenimini birleştirmek .. Science, 2016, 353 (6301): 790-794.
2.Blumenstock J E.Yoksullukla verilerle mücadele Science, 2016, 353 (6301): 753-754.
3. Helbing D, Moln T. Yaya Dinamikleri için Sosyal Kuvvet Modeli Fiziksel İnceleme E İstatistiksel Fizik Plazma Sıvıları ve İlgili Disiplinlerarası Konular, 1995, 51 (5): 4282-4286.
4.Hang Su, Yinpeng Dong, Jun Zhu, Haibin Ling ve Bo Zhang, Tutarlı Yinelenen Sinir Ağları ile Kalabalık Sahne Anlama, Yapay Zeka Üzerine Yirmi Beşinci Uluslararası Ortak Konferansı Bildirileri (IJCAI-16), 2016
5. Wei Li, Melvin Gauci ve Roderich Gro: Turing öğrenimi: davranış çıkarımına yönelik ölçüsüz bir yaklaşım ve sürülere uygulanması, https://arxiv.org/pdf/1603.04904v2.pdf
6. T. Miklov: Vektör Uzayında Kelime Temsillerinin Etkin Tahmini, 2013
7. Perozzi B, Al-Rfou R, Skiena S. DeepWalk: Sosyal Temsillerin Çevrimiçi Öğrenimi. ArXiv ön baskı arXiv: 1403.6652, 2014.
8.Aditya Grover, Jure Leskovec. Node2vec: Ağlar için Ölçeklenebilir Özellik Öğrenimi KDD 2016.
9. R Fu ve diğerleri: Kelime Gömme Yoluyla Anlamsal Hiyerarşileri Öğrenmek, Hesaplamalı Dilbilim Derneği Toplantısı, 2014
10.Lin Y, Liu Z, Sun M, vd. Bilgi grafiğinin tamamlanması için öğrenme varlığı ve ilişki yerleştirmeleri.2015.
11. Defferrard M, Bresson X, Vandergheynst P.Hızlı Yerelleştirilmiş Spektral Filtreleme ile Grafiklerde Evrişimli Sinir Ağları.2016.
12. Niepert M, Ahmed M, Kutzkov K.Grafikler için Evrişimli Sinir Ağlarını Öğrenmek.2016.
13. Mehta P, Schwab D J. Varyasyonel Renormalizasyon Grubu ve Derin Öğrenme arasında tam bir eşleme. Bilgisayar Bilimi, 2014.
