Yeni PyTorch grafik sinir ağı kitaplığı, 14 kat daha hızlı: LeCun'a övgüde bulundu, GitHub 2000 yıldız
İçbükey tapınaktan kestane dişi
Qubit Üretildi | Genel Hesap QbitAI
"CNN eski ve GNN burada!"
Bilim adamları keşfettiğinde, Grafik sinir ağı (GNN) Geleneksel CNN'in başa çıkamadığı Avrupa dışı verileri işleyebilir Geçmişte derin öğrenme ile çözülemeyen birçok sorun anahtarı buldu.
Bugün, GitHub'da toplanan bir grafik ağı PyTorch kitaplığı var. 2000'den fazla yıldız , Aynı zamanda CNN'in babasıydı Yann LeCun Flop:
Adı PyTorch Geometrik , PyG olarak anılır, toplandı 26 öğe Grafik ağ araştırmasının kod uygulaması.
Bu kütüphane hala çok hızlı Önceki DGL grafik ağ kitaplığı ile karşılaştırıldığında, PyG 15 kat daha hızlı olabilir.
Her şey kitaplığı
Verileri düzensiz yapıda çalıştırmak için PyG kullanın. nasıl olursa olsun Grafikler (Grafikler), Nokta bulutu (Nokta Bulutları) veya Manifold (Manifoldlar).
Sağ taraf düzensiz, Öklid dışı boşluktur
Bu zengin bir kitaplıktır: birçok model PyTorch uygulaması , Çeşitli yararlı Dönüştürmek (Dönüşümler) ve çok sayıda ortak karşılaştırma veri seti , Her şeye sahip olmak.Kipf ve diğerlerinin grafik evrişimli ağı dahil olmak üzere uygulamadan bahsetmişken. ( GCN ) Ve Bengio'nun grafik dikkat ağı ( GAT ) 2017-2019'daki en iyi konferansların (en az) 26 grafik ağ çalışmasını dahil ederek, hızlı uygulamaları burada bulabilirsiniz.
Ne kadar hızlı olabilir? PyG'nin iki yazarı, Nvidia GTX 1080Ti ile deneyler yaptı.
karşı taraf DGL , Aynı zamanda bir grafik ağ kitaplığıdır:
Dört veri kümesinin hepsinde PyG, DGL'den daha hızlı çalışır. En farklı oyun, GAT modelini Cora veri setinde çalıştırmaktır: 200 dönem çalıştırılır ve rakip zaman alır 33.4 saniye , Yalnızca PyG 2.2 saniye , Rakibin hızının 15 katına eşdeğer
Her algoritmanın uygulanması hem CPU hesaplamayı hem de GPU hesaplamayı destekler.
Nasıl yenir
Kütüphanenin yazarları Dortmund Teknik Üniversitesi'nden iki Alman genç.
onlardan biri
PyG ile bir grafik ağı başlatmanın çocuk oyuncağı olduğunu söylediler.Gördüğünüz gibi, bir Edge Convolution Layer (Edge Convolution Layer) uygulamak için:
1 ithalat meşale Torçtan. Nn ithal Sıralı, Lin, ReLU olarak Doğrusal 3from torch_geometric.nn Import MessagePassing 45 sınıf EdgeConv (MessagePassing): 6 def __init __ (öz, F_in, F_out): 7 süper (EdgeConv, self) .__ init __ () 8 self.mlp = Sıra (Lin (2 * F_in, F_out), ReLU (), Lin (F_out, F_out)) 910 def ileri (self, x, edge_index): 11 # x'in şekli var 12 # edge_index'in şekli var 13 dönüş self.propagate (aggr = 'max', edge_index = edge_index, x = x) # şekil 1415 def mesaj (self, x_i, x_j): 16 # x_i'nin şekli var 17 # x_j'nin şekli var 18 edge_features = torch.cat (, dim = 1) # şekil 19 return self.mlp (edge_features) # şekilYüklemeden önce, en azından PyTorch 1.0.0; ardından cuda / bin'in $ PATH ve cuda / include'in $ CPATH cinsinden olduğunu onaylayın:
1 $ python -c "meşale içe aktar; yazdırma (torch .__ sürüm__)" 2 > > > 1.0.03 4 $ echo $ PATH 5 > > > / usr / local / cuda / bin: ... 67 $ eko $ CPATH 8 > > > / usr / local / cuda / include: ...Ardından, çeşitli pip kurulumları başlatın.
PyG proje portalı:
https://github.com/rusty1s/pytorch_geometric
PyG ana sayfa portalı:
https://rusty1s.github.io/pytorch_geometric/build/html/index.html
PyG tez portalı:
https://arxiv.org/pdf/1903.02428.pdf
- Bitiş -
Samimi işe alım
Qubit, editörleri / muhabirleri işe alıyor ve merkezi Pekin, Zhongguancun'da bulunuyor. Yetenekli ve hevesli öğrencilerin bize katılmasını dört gözle bekliyoruz! Ayrıntılar için, lütfen QbitAI diyalog arayüzünde "işe alım" kelimesiyle yanıt verin.
Qubit QbitAI · Toutiao İmzalayan Yazar
' ' Yapay zeka teknolojisi ve ürünlerindeki yeni eğilimleri takip edin
