He Yujian, Pekin Üniversitesi: Geleneksel algoritmalar nasıl sinir ağlarına dönüştürülebilir?
Leifeng.com AI Araştırma Enstitüsü'ne göre: Bugünün AI döneminde, hem CNN hem de RNN geniş ilgi gördü ve birçok ilgili tartışma var, en temel sinir ağı DNN ise nispeten az araştırma ve maruziyete sahip. DNN, diğer tüm sinir ağlarının temelidir, bu nedenle bunun biraz anlaşılması gerekir. Bu makale, geleneksel makine öğreniminin temel kavramlarına ve sinir ağlarının temel yapısına ve sinir ağlarının naif Bayes ve karar ağaçlarının iki geleneksel algoritma modelini ifade edebilmesi için sinir ağı yapılarının nasıl tasarlanacağına dair ayrıntılı bir giriş sunar. Makalenin içeriği AI Araştırma Enstitüsü'nün çevrimiçi paylaşım sınıfına göre düzenlenmiştir.
Hepimiz sinir ağlarının çok güçlü olduğunu biliyoruz, ancak çok az insan neden bu kadar güçlü olduğunu düşünüyor. Leifeng.com AI Araştırma Enstitüsü'nün son çevrimiçi paylaşım toplantısında, kıdemli Python mühendisi He Yujian, sinir ağının naif Bayes ve karar ağaçlarının iki geleneksel algoritma modelini ifade edebilmesi için bir sinir ağı yapısının nasıl tasarlanacağını bizimle paylaştı. Umarım bu tasarım, herkesin sinir ağlarının gücünü sezgisel olarak hissetmesine izin verir.
"Python and Machine Learning in Action" kitabının yazarı, Pekin Üniversitesi Matematik Bölümü'nden geliyor.Python geliştirmede uzun yıllara dayanan deneyime sahip.GitHub'da saf Python ile yazılmış bir makine öğrenimi algoritma kitaplığına (180 yıldız, 100 çatal) sahip ve sürdürüyor. AI Engineering Institute of Innovation Works'te yapılandırılmış verilere uygun yeni bir sinir ağının araştırma ve geliştirmesinden sorumluydu. Umarım bu tasarım, herkesin sinir ağlarının gücünü sezgisel olarak hissetmesine izin verir.
İçerik paylaşma:
-
Makine öğreniminin temel kavramları ve sinir ağlarının temel yapısı
-
Naive Bayes, karar ağacı algoritmalarına ve sinir ağları ile ilişkisine giriş
-
Özel uygulama talimatları ve yapılabilecek iyileştirmeler ve yenilikler
Herkese merhaba, ben He Yujian'ım. Günümüzün yapay zeka çağında, hem CNN hem de RNN geniş ilgi gördü ve birçok ilgili tartışma var. "En temel sinir ağı DNN'nin nispeten az araştırması ve teşhiri var. DNN, diğer tüm sinir ağlarının temelidir, bu nedenle bunun biraz anlaşılması gerekir. Bazı öğrenciler makine öğrenimiyle ilgili kavramlara aşina olmayabilir, bu nedenle paylaşılan tüm içerik en temelden başlar.
Ana içeriği paylaşın Sinir ağı yapısını tasarlayarak, sinir ağı, naif Biylerin ve karar ağaçlarının iki geleneksel algoritma modelini ifade edebilir. Umarım bu tasarım, herkesin sinir ağlarının gücünü sezgisel olarak hissetmesine izin verir.
Makine öğreniminin temel kavramları ve sinir ağlarının temel yapısı
Bu paylaşımda yer alan sorunların tümü denetimli öğrenme problemleridir. Sözde denetimli öğrenme, bir model için girdisinin bir hedefe yönlendirileceği anlamına gelir. Nihai amaç, modelin çıktısının hedefe mümkün olduğunca yakın olmasıdır.
Makine öğrenimi terimleri:
Özellik vektörü: Modelin kabul ettiği girdiye genellikle X harfi ile değinilen bir özellik vektörü denir.
Etiket: Model uydurma hedefi genellikle Y harfi ile anılan bir etiket olarak adlandırılır.
Örnek: Yaygın olarak duyulan "örnek" kavramı, özellik vektörü + etiketin kombinasyonudur ve d = (x, y),
Veri seti: Genellikle D = (d1, d2, ... dn) olarak adlandırılan birçok örneğin koleksiyonudur.
Kayıp işlevi: Modelin "kaybını" tek bir örneklem üzerinde hesaplayan bir işlev.
Maliyet fonksiyonu: Tüm veri setinde modelin "maliyetini" hesaplayan bir fonksiyon.
Ardından, sinir ağları konusundaki tartışmaya girin.
Bir sinir ağı, bir giriş katmanı, bir gizli katman ve bir çıktı katmanı içerir. Kaç tane sinir ağı katmanı olduğundan bahsederken, girdi katmanı olan ilk katmanı saymayacağız.
Katmanlar arasındaki iletişim yolu
Her katmandaki her nöron bir sonraki katmandaki her nörona bağlıdır ve bu yönteme tam bağlantı denir. Matematiksel formüllerde bu tam bağlantıya matris çarpımı denir. Doğrusal haritalama ve aktivasyon fonksiyonu, sinir ağlarının temel işlem birimleridir.
Ofset: simetriyi boz
Veri kümesinin kendisi merkezi olarak simetrik olmadığı sürece, mevcut sinir ağlarının veri kümesinin arkasındaki yasaları öğrenmesi imkansızdır. Mevcut sinir ağı yalnızca merkezi simetri yasasını öğrenebilir.
Sinir ağının temel algoritması
İleri iletim algoritması, sinir ağı hesaplama modeli çıktısı sürecidir. Mevcut değeri adım adım iletmek ve ileriye doğru hesaplamaktır.
Gradyan iniş yöntemi, bir sinir ağı eğitim algoritması. Gradyan inişindeki gradyan, fonksiyon değerinin en hızlı yükselmesini sağlayan yöndür.Amacımız kayıp fonksiyonunu en aza indirmektir. Gradyan, fonksiyon değerinin en hızlı yükselmesini sağlayan yönse, negatif gradyan yönü, fonksiyon değerinin düşmesini sağlayan yöndür.
Sinir ağları ile geleneksel makine öğrenimi algoritmalarının karşılaştırılması
Geleneksel makine öğrenimi Bayes
Naif Bayesçi Düşünce : Meydana gelme olasılığı ne kadar yüksek olan örnek daha iyi örnektir. Düşünceyi öğrendikten sonra, spesifik işlem nasıl yapılır ve saf Bayes formülünde yer alan olasılık nasıl tahmin edilir? Tüm olasılıkları tahmin etmek için frekans tahmini olasılık yöntemini kullanacaktır.Kesin nokta saymaktır.
Bir veri kümesinden gerçekten saf bir Bayes modeli oluşturabileceğimiz ortaya çıktı.
Oluşturulan naif Bayes modelini ifade etmek için sinir ağlarının nasıl kullanılacağına bir göz atalım. Naive Bayes'te bir çok çarpma kullanılırken, eklemelerin tümü doğrusal modellerde yapılır.Bu sırada logaritmik fonksiyon günlüğü kullanılır.
Saf Bayes'in doğrusal bir model olduğunu ve sinir ağlarının doğrusal modellere dönüştürülebileceğini kanıtladık, bu da sinir ağının saf Bayes'i ifade edebileceği anlamına geliyor.
Sonra, karar ağacı ve sinir ağı arasındaki ilişkiyi tanıtacağız. Ayrıca sinir ağlarının karar ağaçlarını ifade edebildiğini de kanıtlayacak.
Karar ağacı çok basittir: Önce öznitelik vektör uzayını ayrık alt uzaylara bölecek ve bölmeden sonra alt uzayları etiketleyecektir. Tahminler yaparken, hangi alt uzaya ait olduğunu görmek için X girişine göre ve ardından ona karşılık gelen etiketi çıktı olarak.
Karar ağaçlarının da birçok sorunu vardır, ancak veri seti verildiği ve aynı özellik vektörü iki farklı etikete karşılık gelmediği sürece, karar ağacı veri setindeki tüm örnekleri doğru şekilde sığdırabilir. Çünkü sadece alt uzayı sürekli olarak alt bölümlere ayırması gerekiyor.
Karar ağacı algoritmasını ifade etmek için sinir ağı yapısı tasarlayın
Tasarımın temel fikirleri aşağıdaki üç noktada özetlenmiştir:
-
İlk gizli katman, karar ağacının orta düğüme karşılık gelen hiper düzlemi ifade edebilir.
-
İkinci gizli katman, her bir karar yolunu ifade edebilir
-
İkinci gizli katman ile çıktı katmanı arasındaki ağırlık matrisi, her yaprak düğümünü ifade edebilir.
İkinci gizli katman ile çıktı katmanı arasındaki ağırlık matrisinin aslında her yaprak düğümünü ifade edebileceğini görebiliriz. Böylelikle karar ağacından sinir ağına dönüşüm de tamamlanmış olur.
Somut gerçekleştirme ve iyileştirme yeniliği
Somut gerçekleştirme ve iyileştirme ve inovasyon nasıl yapılır. Gerçekler, geleneksel algoritmaları sinir ağlarına dönüştürmenin gerçekten mümkün olduğunu kanıtladı, ancak bu dönüşüm gerçekten mantıklı mı? Karar ağacına karşılık gelen sinir ağının aktivasyon işlevini değiştirerek, aslında bazı ilginç sonuçlar elde edilebilir. Canlı video oynatımı izlemek için AI Araştırma Enstitüsü'nü takip edebilirsiniz.
Karar ağacını sinir ağına dönüştürme örneği
Sağdaki sonuç her zaman daha iyi olmayabilir, ancak en azından sınır sezgisel olarak daha rahat olabilir.
sonuç olarak:
Daha fazla ayrıntı için lütfen tıklayın:
Leifeng.com hatırlatıyor: WeChat genel hesabını takip edin: AI Araştırma Topluluğu, düzenli olarak ücretsiz kuru içerik paylaşımı vardır.
