Kıdemli Algoritma Mühendisi Wan Gongxi: Java mühendislerinin yapay zeka derin öğrenme çerçevesini dönüştürmesi için gizli sihirli silah Deeplearning4j | Paylaşım özeti
Lei Feng Net AI Araştırma Enstitüsü Basın : Derin öğrenme, yapay zekanın en hızlı büyüyen alanlarından biridir. Google, Facebook ve Microsoft gibi devler, derin öğrenmeyle ilgili bir dizi yeni projeye yatırım yaptı. Ayrıca bazı açık kaynak derin öğrenme çerçevelerini de destekliyorlar. Araştırmacılar tarafından şu anda kullanılan derin öğrenme çerçeveleri arasında TensorFlow, Torch, Caffe, Theano, Deeplearning4j vb. Bulunmaktadır ve Deeplearning4j, Apache Spark ile sorunsuz bir şekilde entegre olabilen ve CPU / GPU kümesi dağıtılmış hesaplamayı destekleyen Java / JVM tabanlı birkaç sistemden biridir. Açık kaynak çerçevesi. Bu makale size Deeplearning4j derin öğrenme çerçevesinin önemli bileşenlerine, farklı ortamlarda işlem kullanımına ve örneklerin paylaşımına ayrıntılı bir giriş sağlayacaktır.
Suning.com'un arama teknolojisi araştırma ve geliştirme departmanından kıdemli bir algoritma mühendisi olan Wan Gongxi, Leifeng.com'daki AI Araştırma Derneği'nin son çevrimiçi paylaşım oturumunda, Deeplearning4 çerçevesinin yapısını, ana işlevsel modülleri ve örneklerle özel kullanım yöntemlerini tanıttı.
Video oynatma bağlantısı:
Soochow Üniversitesi'nde Master olan Wan Gongxi, şu anda Suning Tesco'nun doğal dil işleme, makine görüşü ve diğer uygulama geliştirme alanlarında çalışan arama teknolojisi araştırma ve geliştirme bölümünde çalışıyor. Deeplearning4j ve Keras gibi açık kaynaklı derin öğrenme çerçevelerine aşina.
Aşağıdakiler ana paylaşılan içeriktir:
Paylaşım konusu şudur: Java tabanlı açık kaynak derin öğrenme çerçevesi-Deeplearning4j örneklerinin tanıtılması ve paylaşılması. (
İçerik paylaşımı aşağıdaki dört yönden özetlenebilir:
-
Deeplearning4j ekosisteminin ana işlevsel modüllerine giriş
-
Deeplearning4j Tek Makine / Paralel / Dağıtık Modelleme Sürecine Giriş
-
Deeplearning4j, transfer öğrenmeyi ve pekiştirmeli öğrenmeyi destekler
-
Fashion Mnist veri kümesine dayalı görüntü sınıflandırma uygulamasının geliştirilmesi, dağıtımı ve çevrimiçi örneği
İlk bölüm özellikle DL4j'nin açık kaynak kitaplık geçmişi, mevcut proje ilerlemesi ve arkasındaki destek ekibi hakkındadır.
İkinci bölüm, ekosistemdeki en önemli üç modülü tanıtan DL4j ekosistemidir: DL4j'nin kendisi, dayandığı tensör bütçe kitaplığı ND4j ve DataVec veri ETL kitaplığı olan DL4j.
DL4j'nin kendisi, resimlerde daha sık kullanılan evrişimli sinir ağı gibi daha klasik bir sinir ağı yapısını tanımlar ve uygular. Makine öğreniminin bir tensör hesaplama çerçevesine dayanması gerekir.DL4j için, ND4j gibi bir çerçeveye güvenir. Libnd4j, ND4j tarafından adlandırılan bir kitaplıktır.
Model Zoo, klasik sinir ağı yapısının resmi bir uygulamasıdır. AlexNet, GoogLenet, DeepFace, YOLO vb. Dahil Modle Zoo, 0.9.0 sürümünden önce bağımsız bir proje olarak mevcuttu ve 0.9.0'dan sonraki sürüm, DL4j'nin bir modülü olarak gömüldü.
DL4j'nin bağlı olduğu tensör işlem kitaplığı ND4J, Numpy'nin JAVA sürümü olarak kullanılabilir.
ND4j bellek yönetimi durumu:
ND4j, karşılık gelen hesaplamaları yapmak için yığın dışı belleğin ve yığın üstü belleğin iki bölümünü kullanır. Belirli bir tensörü bildirmek için ND4j kullanıldığında, tensör nesnesi yığın dışı bellekte saklanır ve yığın bellek yalnızca tensör nesnesinin referansını depolar. Tasarımın ana nedeni, tensör hesaplama kitaplığına güvenmemizdir. Bilgi işlem alanının çoğu yığın dışı bellekte. Verileri yığın dışı belleğe koymak, işletim verimliliğini artırabilir.
ND4j'yi sinir ağı eğitimi için kullanırken, yığın dışı belleğin çok büyük ayarlanması gerektiğine dikkat edilmelidir, çünkü karşılık gelen tensör işlemlerini gerçekleştirmek için yığın dışı bellekte çok fazla iş yapılır. Yığın dışı bellek, yığın bellekten çok daha büyüktür.
ND4j'ye özel örnek, ilki bir tensörün nasıl oluşturulacağı ve tensörün alt katmanda saklandığı sıranın nasıl yazdırılacağıdır.
İkincisi hadmard ürününün gerçekleştirilmesidir. Açık bir şekilde, açıklama iki tensörün karşılık gelen pozisyonlarının çarpılması ve sonucun bir sonraki bölümün sonucu olarak kullanılan yeni bir vektör haline getirilmesidir.Bu işlem daha yaygın olarak konvolüsyon dahil kullanılır.
DataVec adı verilen Veri ETL kitaplığı, ana işlevi ses sinyallerini, resim dosyalarını ve metin dosyalarını veri ETL'si yapmak için tensör biçimine dönüştürmektir.
DataVec kitaplığının rolünü özetleyin: Yapılandırılmamış verileri işlendikten sonra tensör verilerine dönüştürebilir ve ayrıca yapılandırılmış verilerin okunmasını destekler.
Üçüncü bölüm nasıl modellenir. Üç senaryo vardır, ilki yerel tek makineli modellemedir; ikincisi, birden fazla CPU veya birden çok GPU kartı olduğunda paralel modellemenin nasıl yapılacağı; üçüncüsü, dağıtılmış DL4j modelleri yapmak için Spark ile nasıl birleştirileceğidir. Modelleme.
Dört modelleme adımı sabit değildir ve gerçek duruma göre esnek bir şekilde ele alınabilir. Genel fikir, önce böyle bir eğitim, test ve doğrulama veri seti oluşturmaktır.
Yerel bağımsız modelleme, önce verileri (yerel veriler ve test verileri dahil) yüklemek ve ardından model yapısını ve hiper parametreleri yapılandırmak ve model parametrelerini başlatmaktır. Son olarak, sinir ağı modelini eğitin ve değerlendirme için test veri setini kullanın.
Veri paralelleştirme:
Paralel modelleme şekilde gösterilmiştir:
Spark ile birlikte dağıtılmış bir Dp4j modeli nasıl modellenir:
Spark üzerinde geliştirme yapmak isteyen öğrencilerin Spark sürümüne dikkat etmeleri gerekir çünkü DL4j, 1.5, 1.6 ve 2.0'dan sonraki sürümleri destekler. Çerçeve, 1.0 sürümüne yakın ve gerçek orijinal ekolojide Spark için fazla destek yok.DL4j ve Spark kombinasyonu, öne çıkan özelliklerinden biridir.
Dördüncü bölüm, aynı zamanda ekosistemin bir bileşeni olan RL4j adı verilen pekiştirmeli öğrenme modülüdür.
DL4j'de transfer öğrenimi ve pekiştirmeli öğrenmenin desteği:
Paylaşılacak özel uygulama örnekleri:
Deeplearning4j'nin Özeti:
AI'da kişisel deneyim:
-
Yapay zeka için ana çözüm makine öğrenimidir, ancak tek çözüm değildir.
-
Derin öğrenme her derde deva değildir. Yapılandırılmamış veriler için: resimler, metin ve konuşma mükemmel sonuçlar verir, ancak geleneksel makine öğrenimi modelleri de çok önemlidir.
-
Verinin niteliği ve miktarı, modelin pratik uygulamalarda genelleme yeteneğini birlikte belirler.
-
Yapay zekayı dönüştürmek, Hello World'den de başlayabilir.
-
Yapay zekanın iç gücünü artırmak için, sadece demodan bitmek yerine, ilkelerde yetkin olmalısınız.
-
Belirli bir araç çerçevesiyle sınırlı kalmayın, birbirinizden öğrenebilirsiniz.
-
Transfer öğrenimi ve pekiştirmeli öğrenme, AI'nın geleceğini temsil edebilir.
Derin öğrenmenin uygulanması, geliştirmenin nasıl yapılacağı, modelinin nasıl eğitileceği, nasıl ayarlanacağı, nasıl dağıtılacağı ve çevrimiçi olacağı hakkında daha fazla bilgi edinmek istiyorsanız, bu sayının içeriğini incelemek için aşağıdaki videoyu tıklayın.
Leifeng.com AI MOOC Academy video oynatma bağlantısı:
