Haberler Sinir ağı mutasyonu otomatik olarak AI optimizasyon algoritmasını seçer, hız 50000 kat artar!
Kılavuz
Belirli bir görev için en uygun optimize edilmiş makine öğrenimi algoritmasını bulmak, zaman alıcı ve zahmetli bir iştir, çünkü tek bir algoritma tüm görevlere uygulanamaz. IBM araştırmacıları, makine öğrenimi görevleri için en uygun algoritmayı otomatik olarak seçebilen "sinirsel mutasyon" evrimsel algoritmasını önerdiler.Seçim hızı 50.000 kat artırıldı ve hata oranı yalnızca% 0.6 artırıldı.
Makine öğrenimi sistemleri "eşit doğuştan" değildir. Hiçbir algoritma tüm makine öğrenimi görevlerini yerine getiremez, bu da en iyi makine öğrenimi algoritmasını bulmayı zor ve zaman alan bir görev haline getirir. Ancak bu problem artık umarız çözülür. Son zamanlarda IBM araştırmacıları, yapay zeka optimizasyon algoritmalarını otomatik olarak seçebilen bir sistem geliştirdiler.
İrlanda'daki IBM Enstitüsü'nde veri bilimcisi olan Martin Wistuba, geliştirdiği sistemi geçtiğimiz günlerde blog yazısında tanıttı. Sistemin yapay zeka algoritmalarının hızını 50.000 kez otomatik olarak seçip optimize edeceğini ve hata oranının yalnızca% 0,6 arttığını iddia etti.
Wistuba, bu evrimsel algoritma sisteminin uygun bir makine öğrenimi mimarisi seçme süresini birkaç saate indirebileceğini ve böylece herkesin derin öğrenme ağ mimarisini optimize edebileceğini söyledi.
Makine öğrenimi için sinir ağı mutasyon algoritması
Bu yöntem, evrişimli sinir ağı mimarisini bir dizi sinir hücresi olarak ele alır ve daha sonra, belirli bir veri seti ve makine öğrenimi görevi için sinir ağının performansını iyileştirebilecek bir yapı bulmak için bir dizi mutasyon uygular.
Bu yöntem, ağ eğitim süresini büyük ölçüde kısaltır. Bu mutasyonlar ağ yapısını değiştirecek, ancak ağın tahminini değiştirmeyecektir Ağ yapısındaki değişiklikler, yeni katmanlar eklemeyi, yeni bağlantılar eklemeyi veya çekirdeği veya mevcut katmanları genişletmeyi içerebilir.
Orijinal işlevi koruyan bir sinir ağı mutasyonu örneği. Sağdaki mimari, mutasyondan sonraki ağdır, ancak soldaki mimari ile aynı tahmin sonuçlarına sahiptir (aynı renkle temsil edilir)
Deneysel değerlendirme: hız 50.000 kat arttı, hata oranı yalnızca% 0.6 arttı
Deneyde, araştırmacılar yeni nöroevrim yöntemini CIFAR-10 ve CIFAR-100 veri kümelerindeki görüntü sınıflandırma görevleri için birkaç başka yöntemle karşılaştırdılar. Bu veri kümeleri, makine öğrenimi ve bilgisayarla görme algoritmaları için görüntü kümelerini eğitmek için yaygın olarak kullanılır.
Yapay olarak tasarlanmış en gelişmiş mimariler, takviye öğrenme tabanlı mimari arama yöntemleri ve evrimsel algoritmalara dayalı diğer otomatik yöntemlerin sonuçlarıyla karşılaştırıldığında, yapısal mutasyon algoritması, sınıflandırma hatalarında önceki yöntemlere göre biraz daha yüksektir, ancak çok daha az zaman alır , Diğer yöntemlerden 50000 kat daha hızlıdır ve hata oranı, kıyaslama veri seti CIFAR-10'daki en güçlü rakipten yalnızca% 0,6 daha yüksektir.
Aşağıdaki şekil, algoritmanın optimizasyon sürecini göstermektedir. Şekil 2'de, her nokta farklı bir yapıyı temsil eder ve bağlantı çizgileri mutasyonları temsil eder. Farklı renkler her yapının doğruluğunu gösterir ve x ekseni zamanı temsil eder. Doğruluk oranının ilk 10 saatte hızla arttığı, ardından yavaşça arttığı ve sonunda stabilize olduğu görülebilir.
Derin öğrenme ağ tasarımının evrimsel algoritma optimizasyonu
Şekil, evrimsel algoritmanın zaman içindeki optimizasyon sürecini göstermektedir
Aşağıdaki şekil, derin öğrenme ağı yapısının zaman içindeki gelişimini göstermektedir.
Ağ yapısı zamanla gelişir, bazı ara durumlar şekilde gösterilmemiştir.
Aslında, otomatik algoritma seçimi yeni değil. Google, akıllı telefonlarda yüz tanıma ve hedef tespitinde de bu tür yöntemleri kullanıyor. IBM'in sisteminin performansı gerçekten belirtildiği gibiyse, bu alanda büyük bir gelişme olabilir.
Gelecekte araştırmacılar, bu optimizasyonu IBM'in bulut hizmetlerine entegre etmeyi ve bunları müşterilere sağlamayı umuyor. Ek olarak, ImageNet gibi daha büyük veri kümelerine ve zaman serileri ve metin, doğal dil işleme görevleri gibi diğer veri türlerine genişletilmesi de planlanmaktadır.
Wistuba, bu yaklaşımı Eylül ayında İrlanda'nın Dublin kentinde düzenlenen Avrupa Makine Öğrenimi ve Veritabanı Bilgi Keşfi Konferansı'nda (ECML-PKDD) tanıtacak.
Kaynak: venturebeat, IBM
(Bu makale bir ağ alıntı veya yeniden basımdır, telif hakkı orijinal yazara veya yayın medyasına aittir. Çalışmanın telif hakkıyla ilgiliyseniz, lütfen bizimle iletişime geçin.)
