En iyi çip ustası ve mikroişlemci efsanesi Jim Keller konuşuyor: Moore Yasası, bilgisayar mimarisi ve bilgisayar teknolojisinde gelecekteki eğilimler
Dünyanın en iyi "mimarlarının" birçoğu daha önce hiç duymadığınız insanlar olabilir.Çipin içindeki kumdan türetilen karmaşık sistem gibi, daha önce hiç görmediğiniz birçok büyülü yapı tasarladılar ve yarattılar. Cep telefonu, bilgisayar kullanıyorsanız veya İnternet üzerinden bilgi gönderip alırsanız, bu mimarların harika çalışmalarından her zaman yararlanacaksınız.
Jim Keller bu "mimarlardan" biridir. Mikroişlemciler alanında bir efsane olarak, şu anda Intel'in kıdemli başkan yardımcısı ve Silikon Mühendisliği Grubu'nun (Silikon Mühendisliği Grubu) genel müdürüdür. Bundan önce DEC, AMD, Broadcom, Apple, Tesla ve diğer şirketlerde mühendislik başkan yardımcısı veya baş mimar olarak çalıştı.
Onlarca yıllık profesyonel kariyeri boyunca, AMDnin K7, K8, K12 ve Zen ve iPhone4 ve iPad için Appleın A4 ve A5 mobil işlemcileri dahil olmak üzere birçok x86 ve ARM işlemci mimarisinin tasarımına liderlik etti. Slugın otopilot işlemcisi vb. Ayrıca x86-64 komut setinin yazarlarından biridir.
Jim Keller, Intel'den bir resim
Kısa bir süre önce Jim Keller, MIT'nin çevrimiçi ünlü Lex Fridman'ın podcast'ine konuk oldu ve Moore Yasası, bilgisayar mimarisi ve yapay zeka gibi teknik konulardaki görüşlerini ve düşüncelerini paylaştı. İkili arasındaki konuşma vahşi ve sınırsızdı, belirli bir teknoloji veya alanla sınırlı değildi, ancak belirli bir bakış açısıyla, teknolojinin arkasındaki itici faktörleri tartıştı ve çip ve yapay zeka endüstrisinin gelişimi ve dönüşümü hakkında derinlemesine bir analiz yaptı. Gelin ve çok faydalanın.
Lex Fridman, resim Twitter'dan geliyor
Lao Shi, Jim Keller'in ana görüşlerini sıralayıp derledi ve okuyucuların tadını çıkarmak için bunları tartışma konusuna göre iki makaleye ayırdı. Metinde, Esas olarak Jim Keller'in Moore yasasını, bilgisayar mimarisini, geleceğin bilgisayar teknolojisini vb. Geliştirme eğilimini tanıtır. . Makale nispeten uzundur, ancak sektördeki onlarca yıllık deneyiminin derinlemesine açıklamasıdır ve dikkatlice değerlendirilmeye değerdir.
Bu makale, Lao Shi'nin çekirdek-usta serisi hakkında konuştuğu dördüncü makaledir. Daha fazla ana dizi makalesi için lütfen "Mark Bol: Moore Yasasını Devam Eden Adam" ve "Doug Burger: Yapay Zeka Çağında FPGA'nın Benzersiz Avantajları" na bakın.
Mikroişlemci nedir, mikro mimari nedir ve komut seti nedir
Bilgisayarlar için, nispeten açık bir tasarım hiyerarşisine sahiptir ve bu da bu bilimin özel cazibelerinden biridir. Atomlar alt katmanda yer alır, atomlar düzenli bir şekilde dizildikten sonra silikon veya metal gibi malzemeler elde edileceği için bu malzemeleri transistör yapmak için kullanabiliriz.
İleriye dönük olarak, mantık kapıları oluşturmak için transistörleri kullanabilir ve ardından toplayıcılar, çarpanlar veya komut kod çözücüler gibi mantık birimleri oluşturabiliriz. Bu mantık birimleriyle, onları daha karmaşık işlem birimlerinde birleştirebiliriz. Modern işlemcilerde, muhtemelen 10 ila 20 bu tür işlem birimi vardır.
Rochester Institute of Technology RIT'den resim
Bu işleme birimleri birleştirildiğinde, bilgisayar programları çalıştırılabilir ve bu programlar aynı zamanda en düşük komut setinden montaj diline, C, C ++, Java, JavaScript vb. Gibi birçok soyut katmana sahiptir. Ve bunların hepsi aynı zamanda atomdan veri merkezine kadar soyutlama düzeyini oluşturur.
Bu anlamda, insanlar bilgisayar tasarlarken, önce tasarım hedeflerini net bir şekilde anlamaları gerekir. Şu anda, bir bilgisayarın tasarım hedefi için çalışma hızı vb. Gibi bir dizi ölçüm göstergesi vardır. Bir tasarım ekibinde, bilgisayar tasarımının farklı alanlarından ve farklı yönlerinden sorumlu olan binlerce kişi olabilir. Şahsen benim için, bu takımda işin hangi yönünden sorumlu olduğumu gerçekten umursamıyorum.
Komut seti, bilgisayarın toplama, çarpma, depolama, dallanma vb. Gibi en temel işlemlerinden bazılarını kodlamak için kullanılır. Aslında, geçmişte uzun bir süre boyunca, x86 ve ARM dahil olmak üzere çeşitli işlemcilerin komut setleri oldukça kararlıydı. Bu nedenle, şu anda sahada pek ilginç bir çalışma yok.
Bir program için, Kodun yaklaşık% 90'ı en temel 25 mikro yönergeye dayanmaktadır , Ve bu mikro talimatlar zaten çok kararlı ve olgundur. Örnek olarak Intel'i ele alalım. X86 mimarisi icadından bu yana yaklaşık 25 yıldır. Uzun zaman önce tanımladığımız bazı temel ilkelere dayanarak şimdiye kadar iyi çalıştı.
Skylake çip düzeni, TechPowerUp'tan resim
Geçmişte bilgisayarlar, talimatları alıp sırayla çalıştırarak çalışıyordu. Modern bilgisayarlar için çalışma şekli, 500 komut gibi çok sayıda talimat almak ve ardından bu talimatların bir bağımlılık grafiğini bulup oluşturmak ve ardından bu bağımlılık grafiğinin bir alt kümesini bağımsız yürütme birimlerinde yürütmektir.
Pek çok kişi bilgisayar tasarımının basit ve temiz olması gerektiğini söylüyor, ancak Aslında, piyasadaki "basit" ve "temiz" bilgisayarların sayısı temelde sıfırdır . Cep telefonlarından büyük veri merkezlerine kadar mevcut çeşitli bilgisayarlarda, tüm hesaplamalar çok sayıda talimat alınarak ve bağımlılık grafikleri hesaplanarak yapılmaktadır.
Modern bilgisayarlar temelde derin bir sıra dışı yürütmeyi destekler ve hangi işlemlerin bitmek üzere olduğunu veya sona erebileceğini kaydetmekten ve izlemekten sorumlu bir dizi mekanizmaya sahiptirler. Ancak hızlı çalışması için, bilgisayarın birçok talimat alması ve bunlardan olası paralellik araması gerekir.
Bir kitap okuduğumuzu hayal edin, kitapta kitabın içeriğini oluşturan birçok cümle ve paragraf var. Ve yukarıda tanıtılan bilgisayar tasarım yöntemi, İfade ettikleri içeriği etkilemeden cümlelerin veya paragrafların sırasını bozmaya çalışmak gibi . Örneğin bir kişiyi tanıtırken uzun boylu, zengin ve yakışıklı olduğunu söyleyebilirsiniz ancak bu noktaların sırası herhangi bir sırayla düzenlenebilir. Uzun boylu olan kişinin kırmızı elbise giydiğini de söyleyebilirsin ve bu cümlede bir bağımlılık var.
Bahsettiğim bilgisayar CPU ve GPU içerir. CPU için, temelde sıralı yürütme mimarisi tarafından belirlenen çok dar bir paralellik derecesine sahiptir ve bu aynı zamanda insanların düşünme biçimiyle aynıdır. Ben buna "seri anlatı" diyorum.
GPU için, tek işlem birimi bir pikseli işlemekten sorumludur, ancak bu tür milyonlarca birimi vardır. Bir resme veya çerçeveye baktığınızda, bilgisayarın önce hangi pikseli işlediğini umursamazsınız. Ben de buna "verilen paralellik" diyorum. Ve aynı zamanda geniş bir seri anlatılar koleksiyonu olarak da görülebilir.
CPU ve GPU mimarisi karşılaştırması, resim ağdan geliyor
Modern bilgisayarlarda paralelliğin keşfedilmesinin yanı sıra dal tahmini de çok önemlidir. Ortalamada, Her altı talimatta bir dal ifadesi vardır ve şu anda insanlar% 90'ın çok üzerinde bir tahmin doğruluğu elde edebilmektedir. .
Yirmi yıl önce, şube tahminlerini yaptığımızda, son tahminin sonuçlarını doğrudan kaydediyor ve bu dalın bu sefer tekrarlanacağını tahmin ediyorduk ve bu basit tahmin yöntemi% 85 doğruluğa ulaşabilirdi. Daha sonra, tahmin sonuçlarını saklamak için birkaç bit kullanılması ve önceki tahmin sonuçlarını saymak için bir sayaç kullanılması önerildi. Daha önce bir şube alınmışsa, sayı bir artırılır, başka bir dal alınmışsa, sayı bir azaltılır vb. Yani bu sayaç 0'dan büyükse, ilk dal tahmin edilir ve 0'dan küçükse başka bir dal tahmin edilir. Bu tahmin yöntemi, doğruluğu% 92'ye yükseltir. O zaman insanlar, belirli bir dal düğümünün kararının genellikle önceki programın nasıl yürütüldüğüne bağlı olduğunu fark eder, bu nedenle bu, tahminin doğruluğunu daha da artırır.
Ancak bunlar, modern bilgisayarların branş kararları vermesi için yöntemler değildir. Modern bilgisayarlarda sinir ağlarına benzer bir yöntem kullanılmaktadır.Basit bir ifadeyle, tüm çalışan süreçleri dikkate alır ve bu çalışan süreçler üzerinde farklı derin örüntü tanıma gerçekleştirir ve bu sonuçları birleştirerek dal tahminine cevap verir. Aslında, Modern bilgisayarlarda, özellikle bu dalları ve tahminleri hesaplamak için kullanılan küçük bir süper bilgisayar da var. .
Dal tahmini yapmak için yukarıdaki sayaç yöntemini de kullanırsak,% 85 doğruluk elde etmek için binlerce sayaca ve% 99 doğruluk elde etmek için on milyonlarca bite ihtiyacımız var. Diğer bir deyişle, tahmin doğruluğunda doğrusal bir iyileşme elde etmek için ödenecek fiyat üsteldir.
ancak, Pek çok durumda% 100 tahmin doğruluğuna ulaşmak gerekli değildir çünkü farklı dalların yanında çalıştırılacak programın bu dallarla hiçbir ilgisi olmayabilir. . Örneğin bir kitap okurken bazen paragraflar arasındaki bağlantı çok yakın olmuyor, bir paragraf anlaşılmazsa sonraki okumayı etkilemeyecektir.
İnsan beyni ve bilgisayar arasındaki benzerlikler ve farklılıklar
Ben şahsen, insanlar insan beyninin nasıl çalıştığını gerçekten anlamadıkları için insan beynini bilgisayarlarla doğrudan karşılaştırmanın zor olduğunu düşünüyorum. Ancak bir bilgisayar için, genellikle iki ana bölümden oluşur, biri hafıza ve diğeri hesaplayıcıdır. Şimdiye kadar neredeyse tüm bilgisayar mimarilerinin çalışma mekanizması bellekten veri almak, hesaplama birimi aracılığıyla hesaplamalar yapmak ve ardından sonuçları belleğe geri yazmaktır.
İnsan beyni için nöronlar çeşitli şekillerde birbirine bağlıdır, yerel olarak birbirine bağlı veya küresel olarak birbirine bağlı olabilirler. Veriler ve bilgiler, dağıtılmış bir yöntemde saklanır. Buna dayanarak, araştırmacılar sözde yapay sinir ağını inşa ettiler ve onu desteklemek için birçok karşılık gelen matematiksel teori önerdiler. Ancak bu yapı, insan beyninin gerçek yapısından oldukça farklıdır.
Bilgisayar sistemi kesinliği
CPU'da bir C dili programı çalıştırırsanız, her seferinde aynı sonuçları alırsınız. Ancak mevcut AI uygulamaları için, sinir ağı çok düşük hassasiyetli veri gösterimi kullanıyor ve giriş verileri de son derece gürültülü. Bu durumda neden tamamen doğru ve kesin hesaplamalar yapalım?
İnsanlar araştırma yoluyla kanıtlıyor ki Belli bir hata derecesine izin verildiğinde, birçok algoritma hesaplamayı daha kısa sürede tamamlayabilir, bu da güç tüketiminde bir azalma ve sistem performansında bir iyileşme sağlar. .
Öte yandan HPC gibi birçok uygulamada aynı hesaplamanın sonuçlarının her seferinde farklı olması kabul edilemez. Ayrıca, şu anda hesaplama sonucu yanlışsa, bunun bir algoritma hatası mı yoksa bilgisayar hatası mı olduğunu belirlemek genellikle zordur. Bu nedenle, insanların bir bilgisayar sisteminin kesinliği ve rastlantısallığı arasında dikkatli bir denge kurması gerekir.
Ayrıca, her çalışmanın sonucu aynı olsa bile, bu aynı hesaplamanın bilgisayarda yapıldığı veya aynı veri yolunun kullanıldığı anlamına gelmez. Aslında, modern bilgisayarlarda çalışan birçok program için, aynı sonuçlar yüz kez çalıştırılarak elde edilebilir, ancak her işlemin bilgisayarda çalıştırılma sırası, kullanılan hesaplama birimi, ilgili donanım yapısı vb. Kapsamlı değildir. aynısı.
Bilgisayar mimarisi her 5 yılda bir altüst edilmelidir
Bilgisayar mimarisini tasarlarken veya iyileştirirken, insanlar bu yanlış anlama eğilimindedir. Örneğin, bazı insanlar bilgisayarın şu anki bilgisayardan% 10 daha hızlı çalışmasını istediklerini ileri sürüyorlar, böylece mimarlar hafızayı nerede artıracaklarını, bilgi işlem birimlerini nerede artıracaklarını veya veri yolunun genişliğini artıracaklarını görmeye başlıyorlar.
Yavaş yavaş, her bilgi işlem biriminin gittikçe daha karmaşık hale geldiğini ve sistem performansının yavaş yavaş darboğaza ulaştığını göreceksiniz. Diğer bir deyişle, Ne kadar fazla depolama alanı eklediğiniz, kaç bilgi işlem birimi eklediğiniz veya ne kadar veri yolu genişliğini artırdığınız önemli değil, bilgisayarınızın performansı artık iyileştirilemez. .
Şu anda, akıllı mimarlar performans darboğazının önceki sistem bölümünden ve bu karmaşık bilgi işlem birimlerinin karşılıklı olarak bağlanmasından kaynaklandığını anlayacaklar. Bu nedenle, sistemi yeniden düzenleyecekler. Sonuç olarak, sistem performansı daha da geliştirilir ve ardından her bir hesaplama biriminin karmaşıklığı da büyük ölçüde azalır.
Bunun gibi sistem düzeyinde yeniden düzenleme işleminin her üç ila beş yılda bir gerçekleşmesi gerektiğini düşünüyorum. Diğer bir deyişle, Bilgisayar mimarisini temelden iyileştirmek istiyorsanız, en az beş yılda bir yeni bir tasarıma başlamanız gerekir. .
20 yıldan daha uzun bir süre önce, 64 bit x86 komut setinin en eski tasarımcılarından biriydim. Komut seti pek çok ilginç değişikliğe uğramamış olsa da, bu komut setlerine dayanan x86 mimarisi yıllar içinde büyük ölçüde değişti. Hem Intel hem de AMD'nin kendi mimarileri vardır. Ancak, bahsettiğim temel yeniden yapılanma temelde her 10 yılda bir ve en az beş yılda bir olacağını umuyorum.
Bilgisayar yapısının yeniden tasarlanması iki sorunu beraberinde getirecektir. Her üç ayda bir performansı yayınlaması gereken ekipler için, genellikle bu tür sistem düzeyinde yeniden düzenlemeden korkarlar. Ancak, uzun vadeli hedefleri olan ekipler için, yeniden düzenlemenin getirdiği kısa vadeli riskler, uzun vadeli hedeflere ulaşmalarını da etkileyecektir.
Bu nedenle, ortak bir yol, aynı anda birden fazla proje yapmaktır, böylece mevcut tasarımı optimize ederken tamamen yeni bir mimari geliştirebilirsiniz.
Pazarlama departmanındakiler, insanlara yeni bilgisayar mimarisinin önceki neslin her yönünden daha hızlı ve daha iyi olduğu konusunda güvence vermek ister. Aslında bir mühendis size ortalama olarak yeni mimarinin daha iyi olacağını ancak performans eğrisi nedeniyle önceki nesle göre daha yavaş ürünler olacağını söyleyecektir ve bu da müşterileri etkileyebilir.
Moore Yasası ölmedi
Gordon Mooreun Moore Yasası açıklaması, kabaca transistör sayısının her iki yılda bir ikiye katlandığı şeklindedir. Moore Yasasını anladığım, bilgisayarların performansının her 2 ila 3 yılda iki katına çıktığıdır. Bu ifade, son birkaç yılda oldukça doğruydu. Son yıllarda insanlar, yaklaşık 0,6 olan "küçülme faktörü" nü tanıttılar. Diğer bir deyişle, her 2 ila 3 yılda bir performans artışı 1 bölü 0,5'ten 1'e 0,6'ya bölünmüştür.
40 yıldır bilgisayar tasarımıyla uğraşıyorum, ilk başta insanlar Moore Yasasının önümüzdeki 10-15 yıl içinde öleceğini söylediler ve ben buna hala inanıyorum. 10 yıl sonra, insanlar Moore Yasasının 10-15 yıl içinde öleceğini ve birkaç yıl sonra 5 yıl içinde, birkaç yıl sonra 10 yıl sonra öleceğini söylediler. Daha sonra Moore Yasasının ne zaman gerçekten başarısız olacağı umurumda değildi.
Sonra Intel'e katıldım ve buradaki bazı insanlar Moore Yasasının ölmek üzere olduğunu söylüyor ve bu beni suskun bıraktı Çünkü Intel, Moore Yasasının kendisini temsil eden şirkettir. Benim için Moore Yasası ölmek üzere, yanlış bir önermedir, bu da bir gün yiyeceksiz kalacağımızdan, havasız kalacağımızdan vb.
Pek çok insan Moore Yasasının transistörlerin gittikçe küçülmesinden başka bir şey ifade etmediğini düşünüyor, ancak aslında Moore Yasası bu değişimin arkasındaki on binlerce teknolojik yeniliği temsil ediyor. Belirli bir teknoloji için, zamanın evrimi ile yavaş yavaş geride kalacaktır, ancak bu tür çok sayıda teknolojik yeniliğin kombinasyonu, tüm alanı ileriye taşıyabilir.
önce, Transistörün uzunluğu, genişliği ve yüksekliği her biri yaklaşık 1000 atomdur.Şimdi transistörün boyutu her biri 10 atom haline geldi, bu nedenle boyutu bir milyon kat azaldı . Mevcut teknoloji, insanların atomları doğrudan düzenlemesine izin veriyor, bu da teoride daha küçük transistörlerle sonuçlanacaktır. Ancak gerçek üretimde 10 üssü 23 üssü tek tek ayarlayamazsınız. Bu nedenle bilim adamları, yüksek verimli yarı iletken cihazları istikrarlı bir şekilde üretebilmemiz için fizik, kimya, malzemeler vb. Birçok alanda birçok yenilik yaptılar ve bu yenilikler aynı zamanda Moore Yasasının arkasındaki temel itici güçtür.
Bir bilgisayar mimarı olarak yapmamız gereken, bu sürekli artan transistörleri nasıl kullanacağımızı düşünmek ve buna dayanarak daha verimli bir bilgisayar mimarisi tasarlamak. Eski dostum Raja Koduri bir keresinde şöyle dedi: Transistör boyutu her 10 kat küçültüldüğünde, yeni bir hesaplama modeli türetilecektir. . Ayrıca mevcut hesaplama modlarını sırasıyla CPU, GPU, AI ASIC ve FPGA tabanlı hesaplamalara karşılık gelen skaler hesaplamalar, vektör hesaplamaları, matris hesaplamaları ve uzamsal hesaplamalara ayırdı. Aynı zamanda, insanların kendilerinin daha akıllı hale gelmemesi ve ekibin büyüklüğünün büyümeye devam etmemesi gibi birçok kısıtlamayı da dikkate almalıyız. Geçmişte, bilgisayarın kendisini tasarlamamıza yardımcı olması için daha hızlı bilgisayarlar kullanırdık, ancak şimdi bu yöntem artık etkili değil ve bu nedenle tasarım yazılımını sürekli olarak yeniden düzenlememiz ve güncellememiz gerekiyor.
4 hesaplama modu, Intel'den resimler
Sonuç
Bilim ve teknolojinin gelişimi, ustaların terfisinden ayrılamaz. Uygulayıcılar olarak, bu çalkantılı çağda doğduğumuz için mutlu olmalıyız, çünkü burada sonsuz fırsatlar ve zorluklarla dolu. Sıradan insanlar olarak bu çağda yaşamaktan da mutlu olmalıyız, çünkü bilim ve teknolojinin gelişmesinin hayata geçirdiği sonsuz rahatlığın tadını çıkarabiliriz.
Bir sonraki makalede Lao Shi, Jim Keller'in yapay zeka anlayışını ve kariyeri boyunca birçok felsefi düşüncesini paylaşmaya devam edecek. Bizi izlemeye devam edin.
(Not: Bu makale yalnızca yazarın kişisel görüşlerini temsil eder ve işverenle hiçbir ilgisi yoktur.)
Entegre Devre Mühendisi Çevrimiçi Oturumu-Nesnelerin İnterneti
