Zhongke Chuangda'dan Wang Fan ile röportaj: Gömülü yapay zeka algoritmaları nasıl geliştirilir?
Şu anda, ister akademik ister endüstriyel çevreler olsun, yapay zeka alanında herkes bir eğilimle hemfikirdir, yani birçok uygulama senaryosunda, cihazı akıllı hale getirmek için cihaza yani gömülü yapay zekaya bilgi işlem uygulanması gerekir. İstihbarat alanında yeni bir şube.
Zhongke Chuangda'nın Teknik Direktörü Wang Fan, Leifeng.com'a kesin bir şekilde söyledi.
Son (28 Nisan) Pekin GMIC Konferansı Yeni Teknoloji Gösterisi Gösterisinde Wang Fan, Zhongke Chuangda'nın gömülü yapay zeka alanında yaptığı işi dış dünyaya gösterdi. Bu Baidu doğumlu 90'lar sonrası teknik direktör, şu anda yerleşik yapay zeka algoritması araştırmasına odaklanan 30 kişilik bir ThunderView teknik ekibine liderlik ediyor. Wang Fan, şu anda yaptığımız şeyin gömülü cihazlara derin öğrenme koymak olduğunu açıkladı.
Wang Fan
Peki yerleşik AI nedir?
Leifeng.com'a göre, gömülü yapay zeka, yapay zeka elde etmek için bulut veri merkezi aracılığıyla büyük ölçekli hesaplamalar yapmak için cihazların İnternet'e bağlanmasına gerek olmadığı, ancak yerel olarak hesaplanması ve gerçek zamanlı çevresel algı ve insan-bilgisayar etkileşiminin İnternet olmadan yapılabileceği anlamına geliyor. , Karar kontrolü.
Gömülü yapay zeka ile bulut bilişim yapay zekası arasındaki farktan bahseden Wang Fan, Leifeng.com'a, genel bir yapay zeka sistemi için verilerin sunucu tarafında hesaplanabileceğini söyledi.İnsanlar genellikle modelin boyutunu ve ağın derinliğini artırarak mümkün olduğunca çok kişiyi arıyor. Daha doğru hesaplama sonuçları elde etmek için hesaplama kaynakları. Wang Fan, gömülü yapay zeka için bunun tersini yapmak gerekli, Bulut bilişim yapay zekası, sorunların nasıl daha iyi çözüleceğine adanmıştır; gömülü yapay zeka ise sorunların daha ekonomik bir şekilde nasıl çözüleceğine adanmıştır.
Gömülü yapay zekanın uygulama senaryoları nelerdir?
Gömülü yapay zeka uygulama senaryolarıyla ilgili olarak Wang Fan, bulut bilişimin yüksek doğruluğa sahip olmasına rağmen, tüm senaryoların uygun olmadığını söyledi, örneğin:
-
Yardımlı sürüş veya otonom sürüş sistemi Bulutta hesaplama yapılıyorsa, veriler cihaz tarafında toplanıp yüklenir ve hesaplama tamamlandıktan sonra terminale geri gönderilir.Bu kaçınılmaz olarak belirli bir gecikme getirecek ve sürüş sahnesinde bu gecikme risk faktöründe artış anlamına gelir. .
-
Veri güvenliği Örneğin, yaşlıların ve çocukların güvenliğine dikkat etmek için evde bir gözetleme kamerası kurulur ve buluta yüklenen bilgi işlem aynı zamanda mahremiyet sızıntısı riskinin artması anlamına gelir.
-
Çevrimdışı Günümüzde iletişim teknolojisi hızla gelişiyor olsa da yer altı otoparklarında ve alışveriş merkezlerinde hala sinyalin olmadığı durumlar var ... Şu anda bulut bilişimin iyi bir kullanıcı deneyimine sahip olması beklenemez.
Bu nedenle, yerleşik yapay zeka için hala büyük bir pazar talebi var.
Aynı zamanda gömülü yapay zeka da yapıyor. Horizon CEO'su Yu Kai bir keresinde Horizon'un gömülü yapay zekanın uygulama senaryolarında üç yön konusunda iyimser olduğunu söyledi: güvenlik, akıllı ev ve akıllı sürüş. Wang Fan da buna katıldı ve bu üç yönü gerçekleştirmedeki zorluğun giderek arttığını söyledi.
Algoritma perspektifinden bakıldığında, mevcut ThunderView algoritma çözümü üç bölümden oluşur: derin öğrenme algoritması, algoritma optimizasyonu ve algoritma entegrasyonu. Wang Fan, derin öğrenme algoritması ve algoritma optimizasyonunun iki bölümünün yürütme sürecinde son derece bağlantılı olduğundan bahsetti.Aynı zamanda algoritma optimizasyonu kısmının çalışması da çok önemli ve en zor olanı. Şu anda, görüntü işleme, makine görüşü ve diğer alanlarda bazı sonuçlar elde ettiler. Wang Fan, Lei Feng.com'a şunları söyledi:
2017 Uluslararası Tüketici Elektroniği Fuarı'nda (CES) ve Mobil Dünya Kongresi'nde (MWC) ekibimiz ve Qualcomm, Qualcomm standında nesne tanıma ve akıllı kamera yönlendirme algoritmalarımızı sergiledi. Bu algoritmalar, Qualcomm'un taşınabilir cihazlarında bağımsız olarak çalışır, bağımsız çalışmayı destekler ve ağ iletişimi gerektirmez. Nesneleri gerçek zamanlı olarak tanıyın ve kullanıcının fotoğraf çekme davranışını gerçek zamanlı olarak yönlendirin.
Ayrıca bu yılki MWC'de, ARM ile birlikte ARM standında gıda tanımlama ve kalori tahmin algoritmalarını birlikte gösterdik. ARM cihazındaki derin öğrenme motorunu kullanarak, ARM çift kameralı cihazda yiyecek tanıma ve kalori tahmini için bir mobil uygulama gösterdik.
MWC2017 Qualcomm standında gösterilen ThunderView algoritma teknolojisi
Çünkü derin öğrenme ağ modeli için, bir uygulama senaryosu iyi optimize edilmişse, farklı görevlere uyarlanabilir. Dolayısıyla şu anki seçimimiz, önce temel senaryolarda iyi bir iş çıkarmak ve ardından teknolojiyi farklı alanlara yaymak. Örneğin, Qualcomm ile mevcut işbirliği tespit aşamasındadır ve ARM ile işbirliği segmentasyon ve tanınma aşamasındadır ve amacımız en azından endüstrinin her alanda en son teknoloji seviyesine ulaşmaktır, dedi Wang Fan tam bir güvenle. Leifeng.com.
Peki gömülü yapay zeka ile problemler daha ekonomik bir şekilde nasıl çözülür?
Wang Fan, gömülü cihazların bilgi işlem kaynaklarının sınırlı olduğunu söyledi.Mobil yongaların hesaplama gücü sıçramalar ve sınırlarla ilerliyor olsa da, mevcut en yetenekli Qualcomm Snapdragon 835'i örnek olarak alın.Tek hassasiyetli kayan noktalı hesaplama performansı, yaklaşık 2000'den daha yüksek olan 630GFLOPS. Süper hesaplama, zaten ilk 100'e girebilirsiniz. Bununla birlikte, PC tarafındaki mevcut Tesla P100 ile karşılaştırıldığında, tek hassasiyetli kayan nokta hesaplama performansı, boşluğun hala on katı olan 10TFLOPS'a ulaşabilir. Bu, gömülü AI ve PC'nin oynanışının tamamen farklı olacağı anlamına gelir.
Genel olarak, gömülü geliştirme seviyesi, uygulama katmanı (Uygulama), algoritma katmanı (AI Algoritmaları), işletim sistemi katmanı (OS), sürücü katmanı ve yukarıdan aşağıya yonga katmanına bölünebilir. Mobil yongaların hesaplama gücünün sınırlandırılması nedeniyle, algoritma katmanını optimize etmenin yanı sıra, gömülü yapay zekanın da temeldeki sürücü ve işletim sisteminin optimizasyonuna dikkat etmesi gerekiyor.Bu, algoritma ekibinin yalnızca işletim sistemi alanında zengin deneyime sahip olmasını gerektiriyor. Üreticilerin yakın işbirliği var.
Aynı zamanda, gömülü kullanıcılar için, kullanıcılar güç tüketimi ve ısı üretimi gibi performans gereksinimlerine son derece duyarlıdır. Bu nedenle Wang Fan, bu faktörleri birleştirdikten sonra, bu aşamada gömülü hesaplama için verimli ve ekonomik algoritmalara sahip olmamız gerektiğini söyledi. Bu hedefe ulaşmak için hem donanım hem de yazılımla başlamalısınız.
donanım
Zhongke Chuangda için donanım, Qualcomm ve ARM çiplerine dayanıyor. Sadece bu değil, Wang Fan, teknik düzeyde işbirliğinin çok derin olduğunu belirtti.Geçerli iş birliği, donanım üreticileri için hızlandırma motorları geliştirmek ve Zhongke Chuangda algoritma ekibine teknolojiyi önceden geliştirmek için çip sağlamaktır.Bu süreçte donanım üreticileri Algoritma ekibinin ortaya koyduğu bazı görüşlere göre motor geliştirilecektir. Wang Fan bir örnek verdi. Zhongke Chuangda, Qualcomm ile MWC2017'de işbirliği yaptı. Qualcomm, donanım optimizasyonunda büyük yardım sağladı. Tamamen derin öğrenme algoritmalarını hedefleyen ve hesaplamayı 5 kat daha hızlı yapan dahili bir hızlandırma motoru geliştirdiler. Sol ve sağ hızın iyileştirilmesi. İyi bir motor, yapay zeka sisteminin gömülü cihazlara iniş yaparak yarı çabayla iki kat sonuç almasına izin verebilir.
yazılım
Yazılım açısından daha ekonomik bir hesaplama modeline ihtiyaç duyulmakta ve doğruluğu sağlamak için hesaplama miktarı en aza indirilmektedir.
İlki, ekonomik bir ağ tasarımıdır.
AI ile başa çıkmak için derin öğrenmeyi kullanmak genellikle bir yapı taşları sürecidir. Yapay zekadaki açık kaynak derecesinin artmasıyla birlikte, İnternette makaleler, ağ yapıları, değerlendirmeler, eğitimli modeller vb. Gibi birçok açık kaynak vardır, bu kaynakları iyi kullanır ve ağa modülleri yerleştirir. , Sadece mevcut ihtiyaçlarınızı karşılayan değil, aynı zamanda daha iyi sonuçlar veren bir ağa ulaşmak için.
İkincisi, kompleksten basitleştirilmişe. Geleneksel AI algoritmaları çok büyük bir kümede çalıştırılır. Bu durumda, ağın boyutu birkaç yüz megabayta, hatta birkaç gigabayta ulaşabilir ve hız nispeten yavaştır. Gömülü üzerine koymak istiyorsanız, kompleksten basite geçmeniz gerekir. İki yöntem vardır:
-
Biri öğretmen-öğrenci modelidir, küçük bir ağ, bilgisini orijinal karmaşık ağdan öğrenmek için tasarlanmıştır. Tipik çözüm, günümüzde birçok yarı denetimli öğrenmeyi içeren Hinton tarafından önerilen model damıtmadır. Bu, ağın boyutunu küçültmenin özellikle etkili bir yoludur.
-
Diğer bir nokta, azaltma ve yaklaştırmadır. Buradaki anahtar, azaltmadan sonra performansın muhtemelen düşeceğidir.Şu anda, algoritma mühendislerinin dengeler ve ödünleşmeler yapması ve mevcut ihtiyaçları karşılarken en iyi sonuçları ne ölçüde elde edebilecekleri.
Üçüncü nokta, uygulanabilir senaryolardır. Farklı görev senaryoları için optimum ağ tasarımı farklıdır. Özellikle gömülü sistemde çalışma hızının olabildiğince hızlı hale getirilmesi gerekmektedir. Test seti, kullanıcının gerçek kullanım senaryosundan farklıdır, bu nedenle model tasarlandıktan sonra, kullanıcının karşılaşabileceği gerçek duruma göre uyarlanması gerekir.
MWC2017ARM standında gösterilen ThunderView algoritma teknolojisi
Dördüncü nokta, parametreleri paylaşmaktır. Mümkün olduğunca çok sayıda farklı görevi gerçekleştirmek için aynı parametre setini kullanın. Örneğin, MWC'de Chuangda ve ARM tarafından ortaklaşa geliştirilen bir teknoloji esas olarak gıda tanımlama ve kalori hesaplaması içindir. Algoritma seviyesine kadar tamamlamamız gereken görev, önce yiyeceğin ne olduğunu bilmeyi, ikincisi ise yiyeceğin nerede olduğunu, ana hatların ne kadar büyük olduğunu ve hacmi bildikten sonra kaç kalori olduğunu bilmeyi gerektirir. Gıda sınıflandırması yapılırken, derin öğrenmenin parametreleri bu gıda hakkında zaten birçok bilgi içerir. Segmentasyon görevi sonuna eklendiğinde, aslında hiçbir ekstra parametre boşa gitmez, ancak sonunda bazı özellikler çıkarılır ve daha iyi bir etki elde etmek için basit bir bağlantı gerçekleştirilir.
Son olarak Wang Fan, yerleşik yapay zekanın iyi oynamasını istiyorsanız, yazılım ve donanımı tamamen entegre etmeniz gerektiği sonucuna vardı.
(Bitiş)
