Düşmekten ağırlık kaldırmaya kadar, Ali'nin altyapısı dünyanın en şiddetli trafik zirvesini nasıl tutuyor?
Onuncu Double 11 yaklaşırken Alibaba Technology, yıllar içinde Double 11 hazırlıklarına katılan çekirdek teknoloji uzmanlarını Alibaba'nın teknolojisindeki değişiklikleri gözden geçirmeye davet eden "Pastoral Kodun On Yılı" serisini başlattı.
Bugün, Sistem Yazılım Bölümünde kıdemli bir teknik uzman olan Uncle Tong, bize altyapının son on yıldaki gelişimini anlatıyor: teknik telafi döneminden, teknik olgunluk döneminden ve ardından salgın dönemine kadar, sadece çift 11 yılın en yüksek değerini desteklemekle kalmadık, aynı zamanda 10.000 işlemin yeni maliyeti orijinalin 1 / 4'üne düşürüldü. Tüm bunlar, grup konteynerleştirme, birleştirilmiş zamanlama, hibrit bulut esnek mimarisi, hibrit dağıtım ve depolama ile bilgi işlemin ayrılması gibi teknolojilerden ayrılamaz.
Kıdemli teknik uzman amca
2018, Double 11'in onuncu yılıdır. Geriye dönüp bakıldığında, temel teknoloji alanındaki gelişmeler üç aşamaya ayrılabilir:
1. 2012 ve öncesi, temelde problemlerle karşılaşıldığında problemlerin çözülmesi olan teknolojik telafi sürecindedir ve en büyük zorluk istikrar;
2. 2013'ten 2014'e kadar olan dönem, olgun bir teknoloji dönemidir ve çok sayıda teknoloji biriktirilmiş ve yaratılmıştır. Tam bağlantılı stres testi ve uzaktan çoklu aktivite dahil olmak üzere, temel diskin kararlılığını koruyabilir ve bölgeler arası yatay genişlemeye ulaşabilir IDC / ağ / sunucu, bakım ve işletimden bağımsız araştırma ve geliştirmeye doğru evrilir. Bu dönemde Docker ve Kubernetes endüstrisi yükselmeye başladı, Ali aynı zamanda Pouch konteyner ve Sigma küme yönetiminin (AliDocker / Zeus) öncülünü de geliştirmeye başladı;
3. 2015 ve sonrası teknolojik bir patlama dönemi olacak ve teknolojik yinelemenin hızı hızlanacak ve altyapı, yoğunlaştırma ve birleştirme yoluyla ölçek kâr paylarını daha da serbest bırakacaktır. Altyapının yükseltilmesi, büyük ölçekli taban tipi veri merkezlerinin uygulanması, çevrimiçi iş konteynırlaştırmasının tamamlanması, tek iş planlamasından birleşik planlamaya geçiş ve grubun kendisinden Alibaba Cloud genel bulutunun hibrit bir bulut elastik mimarisi oluşturmak için entegrasyonuna kadar çevrimdışı karma departmanlarda tüm hizmetlerin evrimi dahil , Depolama ve bilgi işlem ayrımı vb., Birleşik planlama bulut mimarisi gücünü kullanmaya başladı. Temel teknolojilerin yükseltilmesi ve birleştirilmesiyle, yalnızca teknik ucun verimliliğini artırmakla kalmayan, maliyeti büyük ölçüde azaltan, aynı zamanda teknik kontrolü iyileştiren, istikrarı daha da artıran ve istihbarat girişimini ve gelişimini başlatan küresel kaynak yeniden kullanım kapasitesi geliştirildi.
Birkaç anahtar düğüm vardır:
- Tüm iş zincirini kapsayan bir stres testi doğrulama yöntemine ve üretim ortamında sistem kararlılığının kesinliğini sağlama yeteneğine sahip olmamızı sağlayan tam bağlantılı stres testi 2013 yılında başlatıldı.
- 2014 yılında, uzaktan dağıtım ve uzaktan genişletme yeteneğine sahip olmamız için, birleştirilmiş uzaktan çoklu etkinlik uygulaması Double 11'e uygulandı.
Bu iki teknolojinin birleşimi, hızlı bir şekilde genişletmek ve istikrarlı teslimat ve kabulü hızlı bir şekilde doğrulamak için esnek kaynakları kullanma yeteneği verir, bu da teknolojiyi çift 11 zirve büyümesinin hızlı genişlemesi altında garanti etmeyi mümkün kılar. Kararlılık ve ölçeklenebilirlik sorunları çözüldü.Çift 11 zirvesi karşısında, bir sonraki en büyük zorluk maliyettir.
2015'te, hibrit bulut elastik mimarisi, kendi geliştirdiği altyapı; 2016 konteynerleştirme, birleştirilmiş zamanlama; 2017 hibrit dağıtım, depolama ve bilgi işlem ayırma testi; 2018 temel veri merkezi, büyük ölçekli hibrit dağıtım, depolama ve bilgi işlem ayrımı tamamen uygulandı, ön Veri merkezini bir bilgisayar olarak gerçekleştirin.
Farklı yerlerde tam bağlantılı stres testi ve birden fazla faaliyet hakkında daha fazla konuşma var. Bugün, konteynerleştirme, birleşik zamanlama, hibrit bulut esnek mimarisi, hibrit dağıtım ve depolama ile bilgi işlemin ayrılması yoluyla büyük promosyonun maliyetini kapsamlı bir şekilde nasıl azaltacağımıza odaklanacağız.
Double 11'de her yıl yalnızca bir gün vardır.Yukarıdaki şekilde gösterildiği gibi, Double 11 ve Double 12'nin pik değeri, günlük pikin düzinelerce veya on katıdır. Double 11'deki pik kapasiteye hazırlanmak için, normalden birkaç kat daha yüksek olan ve daha sonra kaynakların kullanımını büyük ölçüde teşvik eden büyük miktarda kaynak satın alınmalıdır. Oran yüksek değildir ve grubun diğer çeşitli faaliyetleri yer değiştirme, transfer ve borçlanma yoluyla karşılanmaktadır. Genel kaynak esnekliği yetersizdir, bu da uzun bir verimsiz işletme süresi ve büyük maliyetli israfa neden olacaktır; işletim ve bakım sistemi çok farklıdır ve kaynaklar Çizelgeleme tek tip değildir ve her bölüm sorunsuz bir şekilde yeniden kullanılamaz.Her iş bölümü farklı bir arabellek havuzuna sahiptir. Çevrimiçi oran, tahsis oranı ve kullanım oranı birleştirilemez ve modellere olan talep görece karmaşıktır.
Bu destek modeli sürdürülemez.Aynı zamanda, Alibaba Cloud'un teknolojisi hızla gelişti ve büyük ölçekli ve büyük bir kaynak esnekliğine sahip. Bu nedenle, 2015 yılında Alibaba Bulut platformundan geçmek için e-ticaret Zeus planlamasını kullanmayı umarak bulut tabanlı bir mimari projesi başlattık. İşlem zirvelerinin hızlı büyümesini desteklemek ve büyük promosyonların maliyetini düşürmek için, bulut platformunda hızlı bir şekilde geçici işlem birimi siteleri oluşturacağız ve hibrit bir bulut esnek yapısı oluşturacağız.Birçok teknik detay ve yenilik var, bu yüzden henüz başlamayacağız.
- Büyük promosyon kaynak maliyeti = kaynak tutma süresi * kaynak tutma ölçeği
Birleşik planlama bulut mimarisinin optimizasyonu sayesinde 2016 yılında 110.000 çift 110.000 işlemin yeni maliyeti 2015 yılına göre% 50 azaldı ve 110.000 çift 110.000 işlemin yeni maliyeti 2016 yılına göre% 50 azaldı. Kaynak tutma süresinin tamdan düştüğü görülebiliyor. Esnek holdinglerin optimizasyonunun etkisi her yıl en belirgin olanıdır.Ayrıca, tek tıklamayla saha inşaatı ve basınç testi tur optimizasyonunun büyük önem taşıdığı görülmektedir.Sadece verimliliği artırmak için değil, aynı zamanda maliyetlerden de tasarruf etmek için zamandan ve işçilikten tasarruf sağlar. Üç yılın tamamında temel teknolojinin optimizasyonu sayesinde, 10.000 işlemin yeni maliyeti orijinalin 1 / 4'üne düşürüldü.Bu, böylesine yüksek hızlı bir en yüksek işlem büyümesini destekleyebilmemizin nedenlerinden biri.
Bu resmi anlamak için önce birkaç formülü anlayın:
- Günlük işlem hacmi = en yüksek işlem hacmi-toplam esnek kapasite
- Toplam elastik kapasite = hibrit bulut + hibrit dağıtım + zamanlama optimizasyonu
Maliyet optimizasyonu yönümüz, günlük olarak küçük bir işlem hacmi sağlamak ve büyük promosyonlar sırasında geçici zirveleri desteklemek için çok sayıda düşük maliyetli esnek kapasite bulmaktır.
Toplam elastik kapasite ne kadar yüksekse, en yüksek işlem kapasitesine o kadar yakın, günlük işlem kapasitesi o kadar düşük ve kaynakların uzun vadeli elde tutma maliyeti o kadar düşük; toplam esnek kapasitede ne kadar fazla serbest kaynak varsa, işlemin yeni maliyeti o kadar düşük olur; Maliyetleri düşürmek için hibrit bulut elastik mimarisi gibi maliyetleri olan büyük artımlı parçalar vardır, iki yol vardır: bekletme ölçeğini azaltmak veya bekletme süresini kısaltmak Son yıllarda, tek tıklamayla site inşaatının verimliliği her yıl% 50'den fazla optimize edilmiştir. , Tam bağlantılı stres testi turları ve döngüleri, hibrit bulut kaynaklarının tutulma süresini de etkileyecektir.Ayrıca optimizasyon için çok yer vardır, bu nedenle verimlilik ve maliyet doğrudan bir ilişkiye sahip olabilir. Elbette bulut satış hızı artmaktadır. Gelecekte, grubun geniş promosyon boşluğu talebini desteklemek yeterli olacaktır; maliyetsiz büyük promosyon artışı için holding ölçeğini artırın ve tutma süresini azaltın (kaynak paylaşımı işini etkilememesini sağlamaya çalışın).
Ücretsiz ve geniş tanıtım kaynaklarını artırmak amacıyla 2016 yılında yedek provalara başlamak ve küçük çaplı doğrulamalar yapmak için birden fazla kardeş BU'la ekip kurduk. 17 yılda karma konuşlandırmalar promosyonda 40.000 işlemi destekledi ve 18 yılda ölçek 17'den üç katına çıktı. 1991'de Sigma esnekliği ve zaman paylaşımlı çoklama teknolojisini ayırmaya başlayın ve 80.000 büyük ölçekli tanıtım projesi 2018'de optimize edilecek. Temel teknolojilerin evrimi uzun bir hazırlık dönemi gerektirir ve düzen iki ila üç yıl önceden olmalıdır. Programlamayı birleştirmek için, konteyner inşaatına 15 yılın ortasında başlamalı ve yıl sonunda T4 işleviyle uyum sürecini tamamlamalıyız. Mayıs 2016'da, tüm ağ konteynerizasyonu resmi olarak başlatıldı. O yılki çift 11 işlem trafiğinin% 100'ü çalışıyordu kabın üzerinde. 2017'de Double 11 öncesinde, çekirdek e-ticaret uygulamalarının% 100 konteynerizasyonu tamamlandı, uygulama sayısı 10.000'i aştı ve konteyner ölçeği bir milyona ulaştı. 18 yıl içinde, çevrimdışı bilgi işlem görevi Pouch'ı konteyner haline getirme girişimi başladı.
Sözde birleşik planlama bulut mimarisi nedir? Yukarıdaki şekle bakabilirsiniz. Grup bir buluttur ve Alibaba Cloud bir buluttur.İhtiyaç duyduğunuzda hibrit bir bulut oluşturabilirsiniz. Grubun Sigma'sı, Houyi tarafından toplu olarak yönetilen ECS kaynaklarına başvurmak, VPC aracılığıyla genel bulut ağını izole etmek, Pouch kapsayıcılarını çalışma zamanında büyük ölçekli ECS'de tahsis etmek ve barındırmak ve tek tıklamayla web sitesi oluşturma yoluyla ticaret birimlerini dağıtmak için OpenAPI üzerinden çift 11'i planlıyor. Buluta gitmek için kısa ve verimli form; grup içinde, katman katman yeniden yapılandırma ve yükseltme, kaynakların esnek yeniden kullanımı, küresel birleşik zamanlama, teknolojiyi tamamen bulut tabanlı hale getirme, çevrimiçi hizmetlerin ve bilgi işlem görevlerinin Sigma ve Fuxi planlaması aracılığıyla günlük olarak karışık bir şekilde dağıtılmasına olanak tanır Zaman zaman, çevrimdışı bilgi işlem görevleri çevrimiçi kümelere dahil edilir ve çevrimiçi hizmetler, maliyetleri büyük ölçüde optimize eden büyük promosyonlarda çevrimdışı kümelere dahil edilir.
Karma departmanın uygulanmasında teknik zorluklar çok büyük.Çevrimiçi hizmetler ve hesaplama görevleri model gereksinimlerinde büyük farklılıklar içerdiğinden, kaynakları iki kategoriye ayırmak için depolama ve bilgi işlem ayırma teknolojisi (Pangu depolama) kullanılır: hesaplama düğümleri ve depolama düğümleri. Heterojen modellerin getirdiği farklılıklar dengelenmiştir. Kaynak izolasyon teknolojisi açısından, sunucunun çekirdek seviyesinden öncelik, milisaniye düzeyinde uyarlanabilir zamanlama veya ilgili görevlerin kısıtlanması için CPU, bellek, IO, ağ ve diğer yönlere bölünmüştür; girişim algılama ve kaynakları çalıştırarak Portre planlaması, yüksek öncelikli görevlerin daha az etkilenmesini sağlamak için optimize edilmiştir. Karma programlama, işletim ve bakım sisteminin bağlantısı, uyumluluğu ve yükseltilmesi de çok çaba harcadı.
Birleşik zamanlama, bir bilgisayar gibi birden çok veri merkezini yönetir ve birden çok farklı platformda iş geliştirme için gereken kaynakları planlayabilir, sunucuları çok düşük bir maliyetle almak için hibrit bir küme oluşturabilir ve önce sorunları çözebilir. Esnek zaman paylaşımlı çoğullama ve karıştırma, kaynak kullanımını büyük ölçüde iyileştirebilir ve iyi kullanım sorununu çözebilir; esnek kaynakların düzgün yeniden kullanımını ve görevlerin esnek ve karışık dağıtımını gerçekten gerçekleştirin ve kapasite hedefini tamamlamak için en az sunucuyu, en kısa zamanı ve en iyi verimliliği kullanın. Veri merkezine bilgisayar olarak gidin. Karma dağıtım yalnızca büyük promosyonu desteklemekle kalmaz, aynı zamanda günlük çevrimiçi sunucu CPU kullanımını görev planlaması yoluyla% 45'i aşacak şekilde optimize eder, bu da günlük BT maliyetlerini% 30 azaltır ve birleşik zamanlama ve bulut mimarisi alanında teknik değer patlamasına neden olur.
Bu aynı zamanda konteynerler, orkestrasyon ve zamanlama ve küme yönetimi gibi bulut yerel teknolojilerin son yıllarda popülerliğinin endüstrinin gelişiminde kaçınılmaz bir eğilim olduğunu göstermektedir.Bu, bulut bilişim çağında göz ardı edilemeyecek bir güçtür.İşletim ve bakım katmanının endüstri değeri göz ardı edilmekten çok uzaktır. Gelecekte, Ali Group tarafından ayrılan bu rekabetçi teknolojileri piyasaya sürmek, endüstri müşterilerini bulutta güçlendirebilir ve endüstri teknolojisi standardizasyonunun geliştirilmesini teşvik edebilir.
2015'ten 2018'e kadar, Double 11'de 10.000 yeni işlemin maliyeti orijinalin 1 / 4'üne düştü. İşlem zirvelerinin sürekli hızlı büyümesiyle, birleşik planlamanın teknik yönü birden fazla BU ile işbirliği yapıyor. Lai Da, doğrudan ve dolaylı maliyet tasarruflarının büyük faydalarını teşvik ederek, ölçek etkisi altında teknolojik temettüleri serbest bırakır.
Ali, bulut tabanlı mimarinin birleşik dağıtımı ve hibrit dağıtım gibi teknoloji yönlerindeki çabalarını derinleştirmeye devam ederken, gelecekte yeni kaynakların maliyetinin sıfıra yükselmesi bekleniyor, bu da zorluğa ve dört gözle beklemeye değer.
