Devrim niteliğindeki bilgi işlem mimarisinin düşük anahtarlı IBM sürümü, "yapay beyin üçlemesi" ikinci aşamaya mı giriyor?
("MIT Technology Review" APP'nin Çince ve İngilizce sürümü artık çevrimiçi ve yıllık aboneler her hafta teknoloji İngilizcesi dersini canlı yayınlıyor ve ayrıca bir teknoloji İngilizce öğrenme topluluğu da var ~)
24 Ekim'de IBM araştırmacıları, bellek bilgi işlem teknolojisinde büyük bir ilerleme kaydetti. İcadını duyurdular 1 milyon faz değişim hafızasında çalışabilir (Faz Değiştirme Belleği, PCM cihazı) Denetimsiz makine öğrenimi algoritması , Ve bir dizi bilinmeyen veri akışında başarıyla zaman korelasyonu buldu.
En gelişmiş geleneksel bilgisayarlarla karşılaştırıldığında, bu bellek hesaplama prototip teknolojisinin bilgi işlem hızını ve enerji tüketimi verimliliğini 200 kat artırması bekleniyor.Yüksek yoğunluklu, düşük güç tüketimli ve büyük ölçekli yapay zeka (AI) uygulamalarına ulaşmak için çok uygundur. Paralel hesaplama sistemi.
"Yapay beyin" üretiminin üç aşamada tamamlanması gerekiyorsa, IBM'in ikinci aşamaya bile ulaştığı söylenebilir. Nedenine gelince, DT bunu daha sonra ayrıntılı olarak inceleyecektir.
Bellek Hesaplamada (IMC) Diğer bir deyişle, hesaplanabilir depolama, son yıllarda ortaya çıkan bir kavramdır ve veri depolamak ve işlemek için bellek cihazlarının fiziksel özelliklerini kullanmak ilkesidir. Ancak, IBM bu noktayı daha kapsamlı bir şekilde ele almıştır, yani geçmişte yerleşik önbelleğin hiyerarşik mimarisini kullanmaz ve veri yolu aracılığıyla harici belleğe bağlanır. Bunun yerine, veri yolu tasarımı atlanır ve bellek ve CPU çekirdekleri, hesaplama sürecindeki veri geçişinin neden olduğu gecikmeyi olabildiğince ortadan kaldırmak için doğrudan birlikte oluşturulur.
Faz değişim hafızasının kendisi hem DRAM hızına hem de NAND'ın uçucu olmayan depolama özelliklerine sahiptir.Faz değişim hafızasını CPU ile doğrudan entegre ederek özel bir hesaplama donanım yapısı oluşturulur.Hem hesaplama hem de depolama aynı yapı üzerinde olabilir. Gerçekleşir, ek aktarım, okuma ve yazma eylemleri gerekmez. Bu nedenle, hesaplamadan depolamaya kadar gereken komut işlemleri ve bant genişliği tüketimi gibi olgular azaltılır. Yüksek miktarda veri geçişine sahip AI bilgi işlem gibi uygulamalar için, bu işlemler atlanırsa, genel hesaplama verimliliği büyük ölçüde iyileştirilebilir ve veri yolu veya ek okuma ve yazma işlemleri olmadığından, sistem güç tüketimi de büyük ölçüde azaltılabilir.
Tüm hesaplamalar, okuma ve yazma işlemleri aynı blok üzerinde çalışır, geçiş olmaz ve doğal olarak gecikme olmaz. Bu konsept, mevcut genel elektronik sistem ve cihazların çalışma prensiplerinden tamamen farklıdır.Hepimizin aşina olduğu masaüstü bilgisayarlar, dizüstü bilgisayarlar ve cep telefonları gibi elektronik cihazlar von Neumann yapısını benimser. Bu mimariyi kullanan bir cihaz çalışırken, çeşitli veriler sürekli olarak bellek ve bilgi işlem birimi arasında gidip gelir ve çok sayıda veri araması, bilgi işlem hızını azaltır ve enerji tüketimini artırır.
Şekil Geleneksel von Neumann yapısı
Aynı anda hesaplayıp depolayabilen bu mimari tanıdık geliyor mu? Doğru! Aslında spesifik ve mikro elektronik bir beyin yapısıdır. Bu sefer kullanılan bilgi işlem çekirdeği genellikle AI hesaplama için optimize edilmiş bir CPU mimarisi olsa da, IBM bir kez Ağustos 2016'da sansasyonel bir yapay nöron yayınladı. Bu bağlamda, IBM gerçekten tam bir "elektronik beyin" yaratmak istiyor.
Şekil Bellek hesaplama algoritmasının şematik diyagramı (Kaynak: IBM Research)
Bunu görünce, bellek hesaplamanın önemli olmadığını düşünebilirsiniz, mesele gecikmeyi azaltmak ve enerji tüketimini azaltmakla ilgili değil mi? Yapay nöronlar ve yapay beyinlerle ne ilgisi var?
Pekala, bu sefer IBMin araştırma ekibinin bileşimine bir göz atalım: IBM tarafından yayınlanan bu bellek bilişim mimarisi makalesinde, dört yazar Evangelos Eleftheriou, Abu Sebastian, Manuel Le Gallo, Tomas Tum, Onlar, IBM'in geçen yıl Ağustos ayında ilk yapay nöron takımını yayınladığı orijinal ekip üyeleridir!
Şekil IBM'in bellek bilgi işlem ekibi (solda), yapay nöron ekibinin neredeyse orijinal ekibidir (sağda)
Bu yeterince ikna edici değilse, daha önce yayınlanan yapay nöronlar ile yeni önerilen bellek hesaplama mimarisi arasındaki benzerliklere bir göz atalım.
IBM tarafından Ağustos 2016'da yayınlanan yapay nöronu gözden geçirelim. Bu faz değişim nöronu bir giriş terminali (biyolojik nöronların dendritlerine benzer), bir nöral membran (biyolojik nöronlara benzer bir iki katman), bir sinyal oluşturucu (biyolojik nöronlara benzer bir sinir hücreleri gövdesi) ve bir çıkış terminalinden (benzer Biyolojik nöronların aksonları). Belirli tipteki giriş sinyallerini güçlendirmek için sinyal oluşturucu ile giriş arasında bir geri besleme döngüsü de vardır.
Sinir zarı, tüm nöronun anahtarıdır. Biyolojik sinir hücrelerinde sinir zarının işlevi bir sıvı zar tabakasıdır, fiziksel mekanizması direnç ve kapasitans ile benzerdir: Elektrik akımının doğrudan geçmesini engeller, ancak aynı zamanda enerjiyi emer. Enerji belli bir ölçüde absorbe edildiğinde kendi ürettiği sinyali dışarıya yayar. Bu sinyal akson boyunca iletilir ve diğer nöronlar tarafından alınır. Ardından işlemi tekrarlayın.
IBM tarafından üretilen nöronlarda, sıvı membranın yerini küçük bir "nöral membran" parçası alır. Sinir zarı, germanyum antimon tellür kompozit malzemeden (GST malzemesi olarak da adlandırılır) yapılmıştır, Bu malzeme aynı zamanda yeniden yazılabilir Blu-ray diskler için temel işlevsel malzemedir.
Germanyum-antimon-tellür kompoziti bir faz değişim malzemesidir, yani iki durumda var olabilir: Kristal ve amorf hal. Enerji lazer veya elektrik akımı ile sağlanır ve iki durum birbirine dönüştürülebilir. Farklı durumlarda, faz değişim materyallerinin fiziksel özellikleri tamamen farklıdır: germanyum-antimon-tellür kompozit malzeme amorf durumda elektrik iletmez, ancak kristal halinde elektrik iletir.
Yapay nöronlarda, germanyum-antimon-tellür filmi başlangıçta şekilsizdi. Sinyal geldiğinde, film yavaş yavaş kristalleşir, yani yavaş yavaş iletken hale gelir. Sonunda akım, nöronun çıkış terminalinden yayılan bir sinyal oluşturmak için filmden geçer. Belli bir süre sonra, germanyum-antimon-tellür filmi amorf bir duruma geri döner. Bu süreç kendini tekrar ediyor.
Şekil Biyolojik nöronlar ile yapay nöronların karşılaştırılması (resim kaynağı: IBM)
IBM'in yeni piyasaya sürülen bellek bilgi işlem mimarisine bir göz atalım. Bu testte Araştırmacılar tarafından kullanılan PCM cihazı ayrıca bir germanyum-antimon-tellür kompozit malzeme katmanını sandviçleyen iki elektrottan oluşuyor. Zayıf bir akım, tüm cihazı ısıtabilir ve bileşik malzemenin iç durumu, sıcaklık yükseldikçe amorf bir durumdan kristal bir duruma değişir. IBM araştırmacıları, hesaplamalar için kristalleşme kinetiği ilkesini tekrar kullandılar. Burada kullanılan hesaplama prensibi, önceki yapay nöronla neredeyse aynıdır.
Şekil Bellek hesaplama biriminin yapısı, iki üst ve alt elektrottan oluşan yapay nöronun yapısı ve ortada bir faz değişimli kompozit malzeme (kaynak: IBM) ile tamamen aynıdır.
Bir IBM araştırmacısı ve makalenin yazarlarından biri olan Dr. Evangelos Eleftheriou, "Bu, AI fizik araştırmalarının önemli bir parçasıdır. Bu araştırma, yeni donanım malzemeleri, ekipman ve mimarileri keşfetmeye yardımcı olur. Teknik darboğaz, Moore Yasasının başarısızlığına yol açmıştır, bu nedenle işlemci ve belleğin "ikide bir" yapısından başlamalı ve günümüz bilgisayarlarının sınırlamalarını aşmak için önemli değişiklikler yapmalıyız. Bellek içi bilgi işlem teknolojimizin basitliği, yüksek hızı ve düşük enerji tüketimi göz önüne alındığında, nihai deneysel sonuçlar çok önemlidir - von Neumann bilgisayarında çalışan kıyaslama yöntemine çok yakındır. "
Şekil İncelenen PCM ekipmanı
IBM araştırma ekibi tarafından bu deneyin belirli ayrıntıları en son yayınlanan makalede açıklanmıştır ve Nature Communications da 24. sayfadaki makaleyi hakemli olarak değerlendirmiştir. Bu tekniği göstermek için, makalenin yazarı iki zamana dayalı örnek seçmiş ve bu teknikle elde edilen sonuçları geleneksel makine öğrenme yöntemleriyle (k-ortalama kümeleme) elde edilen sonuçlarla karşılaştırmıştır:
Simülasyon verileri: Ünlü İngiliz matematikçi Alan Turing'in yan portresine dayanan 1 milyon ikili (0 veya 1) rasgele işlem, 1000x1000 (piksel) siyah beyaz iki boyutlu bir ızgara oluşturur. IBM araştırmacıları, tüm pikselleri aynı frekansta titreşecek şekilde ayarladılar, ancak siyah pikseller arasında küçük bir korelasyon kuruluyor - bir siyah piksel titreştiğinde, başka bir siyah piksel titreşimi olasılığı takip ediyor Biraz geliştirin. Bire bir yazışmada 1 milyon PCM (depolama) cihazına rastgele süreçler atanır ve cihazlarda basit bir öğrenme algoritması çalıştırılır. Her yanıp sönme ile, PCM dizisi öğrenmeye devam edecek ve aynı zamanda sürece karşılık gelen PCM cihazı yüksek iletkenlik durumuna geçecektir. Bu şekilde, PCM cihazının iletkenlik diyagramı Alan Turing'in profil portresini yeniden çizer.
Şekil PCM ekipmanı Alan Turing'in yan portresini yeniden çiziyor
Gerçekçi veriler: Amerika Birleşik Devletleri'ndeki 270 hava istasyonundan bir saat içindeki yağış verileri toplandı ve toplama işlemi 6 ay sürdü. Bir saat içindeki yağmuru temsil etmek için 1 rakamını ve bir saat içinde yağmur olmadığını göstermek için 0 rakamını kullanın. Klasik k-ortalamalı kümeleme algoritması ve IBM bellek hesaplama yöntemi, 245 hava istasyonlarının sınıflandırılması konusunda bir anlaşmaya varmıştır. "İlgili" olarak işaretlenmiş k-ortalamalı 12 hava durumu istasyonu, bellek hesaplama yöntemiyle "ilgisiz" olarak işaretlenir ve 13 bellek hesaplama işareti işaretlenir "Alakalı" olan hava istasyonları, k-araçlarıyla "ilgisiz" olarak işaretlenir.
Şekil Gerçek dünya yağış verileri analizi
"Bellek, genellikle verilerin depolanacağı bir yer olarak kabul edilir. Ancak bu çalışmanın sonuçları, Oldukça yüksek düzeyde bir ilkel hesaplama yapmak için bellek cihazlarının fiziksel özelliklerini kullanabiliriz (Hesaplamalı ilkel). Hesaplamanın sonucu da hafızada saklanır Bu açıdan, teknik kavram beynin hesaplama yönteminden esinlenir. "Dr. Abu Sebastian. O bir keşif hafızası ve bilişsel teknoloji bilimcisi ve makalenin baş yazarıdır.
Şekil IBM Research Scientist Dr. Abu Sebastian
DT Jun, IBM tarafından bu kez piyasaya sürülen bellek bilişim mimarisinin gerçekten de yapay zeka hesaplamasını hızlandırabileceğine rağmen, IBM'in hedeflerinin kesinlikle bunun ötesine geçtiğine inanıyor. 2016'da piyasaya sürülen yapay nöron teknolojisi, CPU çekirdeğinin yerini alması için bu bellek bilişim mimarisine yerleştirilirse ne olacak?
Beynin sinir ağında hesaplama ve depolama entegredir.Lojik üretimi ve bilginin depolanması aynı yerde gerçekleşir.Ek iletişim veya dönüşüm gerekmez.Doğru nöron bağlantısı kurulduğu sürece tüm öğrenme doğal olarak tamamlanabilir. , Gelecekte GPU, FPGA ve TPU mimarisinin uygulanabilirliğini dikkate almadan Depolama ve çıkarım AI hesaplama adımları. Sonuçta hiçbir mimari yapay zeka hesaplaması için beyinden daha uygun değildir.
Ve nöronların toplu kodlama durumu, geleneksel hesap makinelerinde kullanılan ikili kodlardan çok daha karmaşık bir bilgi miktarını temsil edebildiğinden, veri depolama nöronlar biçiminde sunuluyorsa, mevcut hesaplama mimarisi yetersiz yerel depolama kapasitesine sahiptir ve daha fazla yardım gerektirir. Katmanın harici depolama mimarisi sorunu da çözülebilir.
IBM tarafından daha önce yayınlanan araştırma raporlarına göre, bu hesaplama şekli büyük veri ve makine öğrenimi alanlarında yaygın olarak kullanılabilir. Örneğin, tahmin hızını ve doğruluğunu hızlandırmak için çok sayıda en son hava durumu verilerini hızlı bir şekilde analiz etmek için Nesnelerin İnternetinde sensör verilerinin kullanılması veya bu yapay beynin finansal işlemlerde kullanılması, bu da farklı işlem modlarının faydalarını belirleyebilir. risk. Ek olarak, bu tür bir beyin insan toplumunu analiz etmek ve en son kültürel veya ticari trendleri değerlendirmek için bile kullanılabilir.
IBM, Ağustos 2016'da "yapay beyin üçlemesinin" açılışı olarak ilk yapay nöronun piyasaya sürülmesine şok verdiyse, bu bellek hesaplama mimarisi sürümü ikinci adım olarak tanımlanabilir, ancak bu sefer IBM çok düşük anahtar gibi görünüyor.
