g u t x .com.tr İpek yolu - Çin'i anlamaya götürürüm

Açık kaynak derin öğrenme çerçevesi "Tianyuan" ı yendi! Sun Jian: COCO'nun art arda üç şampiyonluğunun arkasındaki gizli silah

Aufei Tapınağı'ndan Kuru Ming Qubit Raporu | Genel Hesap QbitAI

6 yıl boyunca derlemek ve optimize etmek için kaynakları tüketmek, 8.0 sürümüne geçmek, teknik sistemin temel direğini küçümsemek ve artık resmi olarak açık kaynak kullanmak.

Az önce, derin öğrenmeye dayanan ilk Çinli AI tek boynuzlu at olan Megvii, açık kaynak kodlu kendi geliştirdiği derin öğrenme çerçevesi MegEngine'i (Brain ++ temel bileşenlerinden biri), Çince adı duyurdu. Tianyuan Go panosunun orta noktasından alınan ad.

Basın toplantısında, Megvii kurucu ortağı ve CTO Tang Wenbin, bunun AlphaGO'ya bir övgü olduğunu açıkladı.

Önceki açık kaynaklı "önceki" çerçevelerin aksine, açık kaynaklı AI çerçevesi, girişimciliği, büyümesi ve tekrarlanan endüstri kayıtları için temel itici motordur.

Öyleyse Tianyuan'ı küçümseyin, neden açık kaynak? Amaç ne? Sektöre ne gibi değişiklikler getirecek?

Tianyuan Kaiyuan'ı tanıtırken, Tang Wenbin "Tianyuan" ın başka bir anlamını tanıttı: her şeyin temeli.

Dedi ki: "Tianyuan gibi bir derin öğrenme çerçevesinin Çin'in yapay zekasının temel taşı olarak hizmet edebileceğini ve Çin'in yapay zekasının daha iyi hale gelmesine yardımcı olabileceğini umuyoruz."

Kendini küçümsemeye odaklanan açık kaynak, aynı zamanda algoritmalara dayalı endüstriye yükseltme ve AI altyapısı oluşturma stratejisinin bir uzantısıdır. Son yıllarda, bu yönde bir dizi eylem sürekli adımlar olmuştur.

Akıllı çağda üretkenlik araçları

2019'un başında Megvii, lojistik senaryolara uygulanan, daha fazla donanıma erişim sağlayan ve birleşik platform kontrolü ve zamanlaması sağlayan AIoT işletim sistemi "River Map" i piyasaya sürdü.

Bu sistem aynı zamanda daha fazla ekolojik ortakların kendi akıllı lojistik çözümlerinin geliştirilmesine katılmalarına ve sahne için değer yaratmalarına da olanak tanır.

"River Map" yayınlandıktan sonra, platform yazılımının oluşturulması daha fazla donanım erişimine izin vermesine rağmen, AI + senaryoları daha bol hale geldi. Ancak Megvii, daha büyük bir talebin ortaya çıktığını keşfetti - sahne sınırsız.

Bunun senaryolarda sonsuz sayıda algoritma talebine yol açtığına inanıyorlar, ancak hiçbir şirket tüm algoritmaları oluşturamaz. Bu çelişkiyi çözmek ve tüm endüstrinin algoritmaları yenileyebilme yeteneğini teşvik etmek için herkese açık bir dizi yapay zeka altyapısına ihtiyaç vardır.

Peki AI altyapısı nedir?

Tang Wenbin basın toplantısında, yalnızca AI çip platformlarının ve AI üretkenlik platformlarının AI altyapıları olarak adlandırılabileceğini söyledi.

Bunların arasında, AI'nın hesaplanması, onu taşıyacak bir AI çip platformu gerektirir ve AI üretkenliğinin "çerçeveden" gelmesi gerekir.

Daha önce, AI çerçevelerini gözlemlerken ve değerlendirirken, daha geniş bir perspektife de sahiptik:

İnsan toplumundaki üretim patlamasının üç ana dönemine bakıldığında, üretkenliğin odak noktası büyük ölçekli araçların önemi. Tarımsal uygarlık çağının özü, çiftçiliğin büyük ölçekte gelişmesini mümkün kılan pulluk kullanımıdır.

Sanayi devriminin anahtarı, buhar motorunun etkinleştirilmesi ve teşvik edilmesidir, böylece makine manuel atölyeler yerine gerçekten konuşlandırılabilir ve büyük ölçekte uygulanabilir. İstihbarat çağında, verilerin geniş ölçekli kullanımının ve işlenmesinin nasıl gerçekleştirileceği, rekabet gücünün anahtarı haline geldi.

Normal koşullar altında, teknolojiyi birincil üretken güç olarak görüyoruz, ancak daha çok teknolojiye odaklanıyoruz, ancak "teknoloji" araçlarının geniş ölçekli kullanımını görmezden geleceğiz.

Geriye dönüp bakarsanız, öyle bir yasa bulacaksınız ki, zamanın üretim araçlarına hakim olan her kimse, üretkenlikte ustalaşabilecek ve böylece zamanın temettülerinden en büyük yararlanacak ve rekabette başı çekebilecek.

Endüstriyel ekonomi teorisine göre, üretim verimliliğinin özü, fazlalığı daha fazla gelişmeyi teşvik etmek için kullanmak ve paradigma kayması ve kapasite sıçraması elde etmek için her büyüme darboğazındaki endüstriyel değişimin tekilliğini kavramak için tüketimi azaltmak ve üretimi artırmaktır. , Döngüyü gerçekten geçmek için.

Yapay zeka algoritmaları için bir çerçeve oluşturmak, şüphesiz ki, yapay zeka algoritmaları için bir çerçeve oluşturmak, mevcut yapay zeka çağına özgü, tüketimi azaltmak için bir araçtır: çıktıyı teşvik etmek için büyük ölçekli AI algoritmaları uygulanır ve yaşamın her alanı yeni bir enerji verimliliği dönüşüm savaşına girecektir.

Bu nedenle, genel endüstriyel zeka eğilimi altında, algoritma geliştirme çerçevesinin önemi daha da vurgulanır ve dijital altyapı inşası ve yapay zeka üretkenliği için temel araçlardan biri haline gelmiştir.

Bu perspektiften, Megvii Açık Kaynak Tianyuan sadece teknoloji topluluğuna bir katkı değil, aynı zamanda açık inovasyonu tanıtmak, bir Brain ++ üretkenlik platformu oluşturmak ve endüstriyel zeka çağında rekabet etmek için stratejik yönüdür.

Tang Wenbin, herhangi bir endüstri söz konusu olduğunda, yalnızca bir zincirleme standardizasyon ve ölçek reaksiyonuna yol açarak gerçek refahı başlatabileceğine inanmaktadır.

Bu, Tianyuan'ın çerçeve tasarımının özelliklerine ve yeteneklerine doğrudan yansıyan tasarım felsefesidir.

Tianyuan çerçevesinin dört özelliği

Tianyuan, Megvii Brain ++ 'ın temel bileşenlerinden biridir. Ana işlevi, geliştiricilerin ve kullanıcıların büyük ölçekli derin öğrenme modellerini eğitmek ve dağıtmak için dostça bir programlama arayüzü kullanmasına yardımcı olmaktır.

Megvii tarafından verilen resmi özete göre Tianyuan, eğitim ve muhakeme entegrasyonu, dinamik ve statik entegrasyon, uyumluluk ve kapsayıcılık ve esneklik ve verimlilik gibi dört özelliğe sahiptir ve bu da onu diğer ana akım derin öğrenme çerçevelerine kıyasla istikrarlı kılar.

Lafta Eğitim ve muhakeme entegrasyonu , Ürün muhakemesi ve paketlemesi için doğrudan kullanılabilen Tianyuan eğitimi yoluyla elde edilen model ve ürünleri ifade eder. Dağıtım sırasında, geliştiricilerin gereksiz kodu otomatik olarak silmesine ve otomatik model optimizasyonuna ulaşmasına da yardımcı olabilir.

ve Dinamik ve statik , Tianyuan'ın "statik grafiklerin yüksek performansı, düşük kaynak tüketimi ve kolay dağıtım" avantajlarını bütünleştirdiği anlamına gelir, "dinamik grafikler basit ve esnektir, hata ayıklaması ve kullanımı kolaydır".

Dinamik grafik modeli eğitiminin avantajlarından tam olarak yararlanırken, geliştiriciler Tianyuan'ın dinamik ve statik tek anahtar dönüştürme işlevi aracılığıyla üretim ve dağıtımı statik grafikler şeklinde tamamlayabilir; Ayrıca Tianyuan, daha esnek olan karma dinamik ve statik programlamayı da destekler.

Basın toplantısında, Megvii Araştırma Enstitüsü'nün kıdemli teknik direktörü Tian Zhongbo bir örnek verdi.

"Tianyuan'ın dinamik grafik özelliğini kullanırken, muhtemelen bir 32Batch'te hesaplanabilir. Statik grafiğe dönüştürülürse, 64Batch seviyesini destekleyebilir." Dedi.

Ama bu hepsi değil.

Ayrıca şunları da tanıttı: Bu durumda daha büyük bir grubu eğitmek ve daha büyük bir modeli eğitmek istiyorsanız, alt doğrusal otomatik bellek optimizasyon teknolojisini kullanabilirsiniz. Tianyuan, hesaplama hızında neredeyse hiç azalma sağlayamaz. 256Batch eğitim yeteneği. "

Ve modeliniz büyüdükçe ve derinleştikçe daha iyi çalışır.

Tian Zhongbo, Megvii'nin neredeyse aynı hızda bazı büyük modellerin 20 katından fazla bellek tasarrufu sağlayabilen bazı dahili değerlendirmeleri olduğunu ortaya koydu.

Uyumlu Tianyuan'ın kullanım kolaylığına da yansımıştır.Geleneksel makine öğrenimi için Python kullanmaya alışkın olan Pythonic API geliştiricileri daha düşük öğrenme maliyetlerine sahiptir ve öğrenmesi kolaydır. Ayrıca Tianyuan, modeli doğrudan içe aktarabilen, düşük geçiş maliyetine sahip ve modelin yeniden üretimini büyük ölçüde kolaylaştıran PyTorch Modülü işlevini de destekler.

Esnek ve verimli , Özellikle Tianyuanın güçlü çoklu platform ve çoklu cihaz uyarlanabilirliğine atıfta bulunur. Montaj ve talimatların yeniden düzenlenmesi gibi teknolojiler sayesinde Tianyuanın yerleşik operatörleri, çıkarım veya üretim ortamlarında çok çekirdekli avantajlardan tam olarak yararlanabilir ve esnek bir şekilde cihazların bilgi işlem gücünü çağırabilir. Özellikle büyük model algoritma eğitimi için uygundur.

Öyleyse soru şu: Tianyuan'ın kabiliyetinin ve özelliklerinin temel sırrı nedir?

Mimari tasarım.

Tianyuan Çerçevesinin genel yapısı

Mimari açıdan Tianyuan beş katmana ayrılmıştır: hesaplama arayüzü, grafik gösterimi, optimizasyon ve derleme, çalışma zamanı yönetimi ve hesaplama çekirdeği.

Üst düzey bilgi işlem arayüzünde, Tianyuan, farklı çerçeve öğrenme arayüzleri ve yeniden üretilmesi zor modeller sorununu çözmek için C ++ ve Python arayüzlerini yapılandırır;

Grafik sunum katmanında Tianyuan, geliştiricilerin programlama için dinamik grafikleri ve statik grafikleri karıştırmasını destekleyen yerleşik dinamik ve statik dönüştürme işlevlerine sahiptir;

Optimizasyon ve derleme katmanında Tianyuan, verimli kullanıcı etkileşimini desteklemek için temel hesaplama grafikleri oluşturur, otomatik türetme, grafik optimizasyonu ve grafik derleme işlevleri dahil olmak üzere API'ler tarafından ifade edilen hesaplamaları daha fazla optimize eder ve derler;

Çalışma zamanı cihaz yönetiminde Tianyuan, iki modülü yapılandırır, hesaplama çizelgeleme ve bellek yönetimi ve aygıtı, bilgisayar programlama modülü aracılığıyla bir yürütme akışına özetler ve zamanlayıcı aracılığıyla akıllı zamanlamayı gerçekleştirir.

Bellek optimizasyonu açısından Tianyuan, dinamik ve statik bellek tahsisinin bir arada varoluşunu benimser ve otomatik alt doğrusal bellek optimizasyonunu destekler.Aynı zamanda, Megvii, Tianyuan'ın daha iyi bellek optimizasyon etkileri elde etmesini sağlayan otomatik bir alt doğrusal bellek yönetimi iyileştirici yarattı.

Tianyuan'ın alt katmanı (bilgi işlem çekirdeği), heterojen bir mimariye ve yerleşik yüksek verimli bilgisayar görüntü operatörlerine dayalı bir bilgi işlem çekirdeğine ve X86 ve CUDA gibi ana akım donanım aygıtları için akıllı uyarlama yeteneklerine sahiptir.

Cihazın kendisine göre optimum çekirdeği sezgisel olarak seçmek için yerleşik algoritmayı kullanabilir ve ayrıca kullanıcının hesaplama için en uygun çekirdeği seçmesine izin verir.

Ek olarak, Tianyuan, çok makineli çoklu kart, büyük ölçekli, dağıtılmış algoritma eğitimi elde etmek için kullanıcıları farklı makineler ve bilgi işlem kartları arasında yüksek performanslı iletişimle desteklemek için yüksek performanslı heterojen bir iletişim kitaplığı ile donatılmıştır.

Bu çerçeveyi pratikte kullanmanın etkisi nedir?

Başlangıçta, Megvii'nin geliştirilmesinden bu yana dünyanın en değerli AI tek boynuzlu atlarından biri haline geldiği ve bu çerçevenin güçlü dürtüsünden ayrılamayacağı söylendi.

Çekirdeğin özünü küçümseyin

Geçtiğimiz 6 yılda, Tianyuan çerçevesi, Megvii'nin "ökaryotik" Brain ++ 'ın bir parçası olarak, tüm Megvii işlerini derin öğrenme bulut bilişim platformu (MegCompute) ve veri yönetimi platformu (MegData) ile birlikte destekledi.

Megvii Baş Bilimcisi ve Araştırma Enstitüsü Dekanı Sun Jian şunları söyledi: "Megvii'nin 1.400 Ar-Ge personelinin tümü Tianyuan çerçevesini kullanıyor ve bunu yüzlerce ürüne ve düzinelerce hesaplama platformuna uyguluyor."

Sun Jian'a göre Tianyuan, Google tarafından başlatılan TensorFlow'dan ve Facebook tarafından başlatılan PyTorch'tan çok farklı.

Yapay zeka şirketlerinin derin öğrenme çerçevesi ve platform şirketlerinin derin öğrenme çerçevesi, değerlendirme, yönelim ve yön açısından farklıdır. "Derin öğrenme çerçevemiz (Tianyuan) Megvii'nin temel işinde büyüyor. Umuyoruz. Aynı anda farklı sorunları çözmek için farklı çerçeveler kullanabileceklerini umarak, AI geliştiricilerine belirli bir yönde fayda sağlayabilir. "

Örneğin, yaygın bilgisayar görme modellerinde (ResNet 18, ResNet50, MobileNet v2 ve ShuffleNet V2), Tianyuanın eğitim hızı diğer genel çerçevelerden farklıdır.

Bu açık kaynakta Megvii, Tianyuan çerçevesi etrafında bir dizi geliştirme aracı da yayınladı.

Örneğin, kullanıma hazır çevrimiçi derin öğrenme aracı MegStudio, geliştiricilerin Tianyuan çerçevesini hızlı bir şekilde deneyimlemelerine ve modelleri eğitmelerine olanak tanır. Tianyuan ayrıca, Megvii Araştırma Enstitüsü'nün en son teknolojileri ve araştırma sonuçları dahil olmak üzere en iyi algoritmaları içeren bir model merkezi olan ModelHub'ı başlattı.

Aynı zamanda Megvii, büyük ölçekli görüntü veri işleme ve model eğitiminin verimliliğini daha da artırmak için Tianyuan'a dağıtılmış hesaplamada veri paralelliği ve model paralelliği uyguladı.

Tianyuan, daha geniş bir aralıkta ve daha fazla cihaz türünde dağıtım için sinir mimarisi araması, ağ budama ve düşük bitli küçük sinir ağları oluşturma gibi işlevler sağlar.

Ayrıca Tianyuan, derin öğrenme algoritmasının her bir anahtar bağlantısını otomatik olarak tasarlamak için Megvii'nin en son AutoML teknolojisini entegre ediyor, algoritmanın algoritmayı eğitmesine izin veriyor ve AI'nın başlama eşiğini düşürerek AI oluşturmasına izin veriyor.

Yukarıdaki tüm yetenekler, Tian Yuan'ın küçümseyen çekirdeğin, kutunun altına basma becerisinin özü olduğunu kanıtladı.

En doğrudan örnek, üç yıl boyunca COCO'nun ana etkinliği "Nesne Algılama" unvanını kazanan Megvii'dir ve onun üstünlüğü "Çin Masa Tenisi Takımı" nınkiyle karşılaştırılabilir. 2019'da ICCV'yi kazandıktan sonra, Sun Jian bir kez daha Brain ++ 'ya teşekkür ederek, bir dizi başarının arkasındaki güçlü Brain ++' dan ayrılamaz olduğunu söyledi.

Brain ++ platformunda algoritma üretme / geliştirme görevini üstlenen Tianyuan önemli bir rol oynamaktadır.

Ama öyle bir silah ki, çekirdeğin özü, küçümseme artık açık kaynak.

neden?

Oluşturmak ve optimize etmek 6 yıl sürdü, açık kaynak "sınırsız oyun"

Megvii için, açık kaynağı doğrudan teşvik eden iki faktör var: Biri teknolojinin olgun olup olmadığı, diğeri ise zamanlamanın doğru olup olmadığı.

Megvii kurucu ortağı ve CEO'su Yin Qi, bunun doğrudan AI endüstrisinin gelişimiyle ilgili olduğunu söyledi.

Algoritmalar, yazılım endüstrisini dönüştürmek ve hatta alt üst etmek için bir güç haline geldiğinde, nihai özün, bu AI şirketlerinin platform tabanlı olma, yani "yüksek kaliteli algoritmaları toplu halde, verimli ve rakiplerinden daha zamanında sağlayıp sağlayamayacağını" görmek olduğunu söyledi.

Bu rekabetin belirleyici faktörü, çekirdek motorun çerçevesine hakim olup olmamaktır.

Bu nedenle Megvii, 2014 yılında TensorFlow geliştirmesinden daha önce olan "Tianyuan" çerçevesini bağımsız olarak geliştirdi.

2015 yılının ortalarında, Tianyuan Çerçevesi, Megvii'nin şirketi genelinde tanıtıldı ve iş kollarındaki tüm modeller, kendi geliştirdiği çerçeveyle eğitilmiş versiyonlarla değiştirildi.

Aynı yılın Kasım ayında, Google açık kaynaklı TensorFlow'dan sonra, Megvii bir zamanlar derin öğrenme çerçeveleri geliştirmeye devam edip etmeyeceği konusunda sarsılmıştı. Ancak büyük ölçekli bir değerlendirmeden sonra, Megvii hala kendi kendini araştırma yoluna yöneldi - sonuçta, TensorFlow'un yeni ortaya çıkan etkisi ideal değildi.

Bugün Tianyuan gelişmeye devam ediyor, Brain ++ yavaş yavaş şekilleniyor, küçümseme daha da güçleniyor ve rekabet pazarı da genişliyor Açık kaynak, sektörde lider bir şirket olarak sorumluluğu haline geldi.

Yin Qi, "Çin'in tüm AI ekosistemine aslında katkıda bulunmamız gerektiğini düşünüyoruz. Bu gücün ne kadar büyük olabileceğini bilmiyorum, ancak bunun yapılması gerektiğini düşünüyorum," dedi.

Tianyuan'ın açık kaynağını duyuran basın toplantısında Tang Wenbin, açık kaynak aracılığıyla daha fazla insana katılabileceğini ve yapay zekanın gücüyle daha fazla değer yaratabileceğini umarak Tianyuan'a yönelik küçümseyen beklentilerini daha da açıkladı.

Elbette, bir AI başlangıç şirketi olarak Megvii, yalnızca ana işinin zarar görmemesini sağlamakla kalmaz, aynı zamanda açık kaynak yeteneklerini en üst düzeye çıkarabilir? Bu aynı zamanda, dış dünyanın Tianyuan'ın açık kaynak olup olmadığı ve nasıl açık kaynak yapılacağı konusunda endişelendiği temel meseledir.

Tianyuan'ın kalkınma yol haritasından, bu konularda küçümseme tavrının sadece kaçamak değil, aynı zamanda oldukça dürüst olduğu görülebilir.

Tang Wenbin açık kaynak kodlu Tianyuan'ın Apache License 2.0 tabanlı bir Alpha sürümü olduğunu ve çoğu uygulama senaryosunu kapsayan yaklaşık 350.000 satır kodlu olduğunu söyledi.

Önümüzdeki Haziran ayında Megvii, Tianyuan'ın Beta sürümünü yayınlayarak ARM serisi CPU'lar için destek, daha fazla hızlandırma cihazı, niceleme ve düşük bit bilgi işlem desteği ekleyecek.

Eylül ayında Megvii, genel bilgi işlem cihazlarını tam olarak destekleyen, dinamik bilgi işlem yeteneklerini yükselten ve tüm eğitim çıkarım sürecinin deneyimini optimize eden resmi 1.0 sürümünü yayınladı.

Tang Wenbin, daha fazla insanın ürünlerimizi eleştirip önerilerde bulunmasını, birlikte kodlara katkıda bulunmasını ve herkesle daha iyi bir Tianyuan inşa etmesini umduğunu söyledi.

Ancak yine de, o zamandan beri geliştiricilerin, model algoritmaları oluşturmak için bir çerçeve seçerken göz ardı edilemeyecek garantili bir seçeneği daha oldu.

Ek olarak, tüm AI endüstrisi için rekabet boyutu da daha da iyileştirildi. Açık kaynak rekabeti artık belirli bir algoritma veya model için tek bir açık kaynak noktası değil, bir çerçeve savaşı, bir platform savaşı ve ekolojik grup yarışması haline geldi.

Tang Wenbin'in dediği gibi: "Yapay zeka birçok endüstriyi ve senaryoyu güçlendirebilir, bu sonsuz bir oyundur."

Bu oyunda Megvii, Brain ++ nedeniyle güçlü ve Brain ++, Tianyuan nedeniyle her yerde yaygın hale geliyor.Alın yeniden canlanması, listelenen ilk AI başlangıcı olan Megvii'yi elde etti ve Megvii, AI etkisini artık Tianyuan ile birleştirmek için kullanıyor. Yetenek, daha geniş bir zeka çağına yayıldı.

Qubit ayrıca CEO Yin Qi'ye Tianyuan'ın dahili küçük hedefleri ne diye sordu

Yin Qi A: Çinli geliştiriciler arasında en iyi itibara sahip çerçeve.

Şimdi Tianyuan resmi olarak denetim ve değerlendirmeyi karşılama kapısını açıyor.