Kara kutunun köşesini ortaya çıkarın! OpenAI, sinir ağlarının iç yapısını görselleştirmek için "mikroskop" yayınladı
Yazar | Jiang Baoshang
Editör | Jia Wei
Neredeyse üç aydır ölü yatan OpenAI blogu nihayet güncellendi.Bu sefer AI araştırmacılarına getirdiği çalışma OpenAI Mikroskobunun Çince çevirisi olan "OpenAI Mikroskobu".
Yapay zeka araştırmacılarının sinir ağlarının yapısını ve özelliklerini daha iyi anlamalarına yardımcı olarak, bir laboratuvarda mikroskop gibi çalışabileceği anlamına gelir.
Blog adresi: https://openai.com/blog/microscope/
Sonuçta, bu mikroskop daha çok, 2012 ImageNet Challenge şampiyonu AlexNet, 2014 ImageNet şampiyonu GoogleNet (Inception V1 olarak da bilinir) gibi tarihsel olarak önemli ve yaygın olarak incelenen bilgisayar görme modellerini içeren bir nöron görselleştirme kitaplığına benziyor. ResNet v2.
OpenAI Mikroskop
Mikroskop adresi: https://microscope.openai.com/models
Yukarıdaki şekilde gösterildiği gibi, ilk sürüm bilgisayarla görme alanında 8 sinir ağı modeli içerir. Her bir sinir ağı, bazı önemli nöronların iç yapısını görsel bir biçimde gösterir.
Araştırmada bahsedilen OpenAI: Modern sinir ağı modellerinin güçlü yeteneği, binlerce nöronun etkileşiminden gelir,
Ancak nöronlar arasındaki "işbirliği" her zaman bir gizem olmuştur ve OpenAI tarafından yayınlanan mikroskop bu nöronları hızla keşfetmeye yardımcı olabilir.
Örneğin, bir araştırmacı şunları söyleyebilir: InceptionV14c: 447, bir tekerlek detektörü (4b: 373) ve bir pencere detektörü (4b: 237) ile oluşturulmuş bir araba detektörüdür. InceptionV14c: 447, bir tekerlek detektörü (4b: 373) ve bir pencere detektörü (4b: 237) içeren bir araba detektörüdür. Ardından, OpenAI mikroskobu spekülasyonu değerlendirebilir ve yeni şeyler keşfedebilir.
Örneğin, OpenAI mikroskobunun AlexNet gözlemi, yukarıdaki animasyonda gösterildiği gibi, ilk tam resimden başlar, özellikleri çıkarmak için sinir ağından geçer ve sonunda resim bazı renkli çizgiler halinde "bulanıklaşır".
(Lei Feng Ağı)
Ortada ne oldu? Açıkçası sinir ağındaki işlem sürecini anlamak çok önemlidir.
Yukarıdaki gibi, sinir ağının her katmanına tıklayın ve OpenAI mikroskobu resimlerin işlenme sürecini görsel olarak gösterecektir Özellikle, her nöron işlenmiş bir resme karşılık gelir. Her resmin "aşamalı" sürecini açıkça gösterir.
OpenAI'ye göre, nöronları keşfetmenin bu süreci, başka bir sinir ağı yorumlanabilirlik çalışmasına "Yakınlaştır: Devrelere Giriş" için beklenmedik bir yardım sağladı.
"Mikroskop" tekniği iki kavrama dayanmaktadır: modeldeki konum ve teknik. Daha canlı bir şekilde ifade etmek gerekirse, pozisyon mikroskobu hedeflediğiniz yerdir ve teknik, üzerine ne tür bir lens taktığınızdır.
Model, birbirine "kenarlarla" bağlanan "düğümlerin" (sinir ağı katmanları) grafiklerinden oluşur. Her operasyon, kabaca nöronlara benzeyen yüzlerce "birim" içerir.
Kullanılan tekniklerin çoğunun yalnızca belirli bir çözünürlükte işe yaradığını belirtmekte fayda var. Örneğin, özellik görselleştirme yalnızca bir "birime" işaret edebilir, üst "düğümüne" değil.
Ek olarak, bu aracı verirken, OpenAI yorumlanabilirlik araştırmalarına da birkaç katkı sağlar:
1. Tüm modeller ve görselleştirmeler açık kaynaklıdır ve "mikroskoptaki" tüm görselleştirmeler lucid kitaplığı kullanılarak oluşturulmuştur.
2. Model ve nöronlar birbirine bağlanabilir ve nöronlar hemen incelenip daha fazla araştırılabilir.
3. Erişilebilirlik, paylaşılan görselleştirme araştırmaları aracılığıyla yüksek düzeyde erişilebilirlik sağlayın.
Tıpkı biyologların birkaç "model organizma" üzerine odaklanması gibi, "mikroskoplar" da birkaç modeli ayrıntılı olarak keşfetmeye odaklanır. OpenAI'nin ilk sürümü, önümüzdeki aylarda diğer modellere de genişletilecek, yaygın olarak kullanılan dokuz görsel model içeriyor.
Diğer bir deyişle, şu anda yalnızca DeepDream ve işlev görselleştirme işlevleri sağlanmaktadır ve özel modellerin görselleştirme keşfi henüz desteklenmemektedir.
Açıklanabilirlik araştırması: DeepDream'den
Yorumlanabilirlik ve determinizm, makine öğrenimi sistemlerinde geniş bir konudur ve sinir ağının bu katmanların işlevlerinde ne yaptığını anlamaya çalışmak büyük bir zorluktur.
Ancak, başlatma parametrelerini nasıl seçeceğinizi anlamak için, sinir ağlarının doğasını anlamanız gerekir.
AI araştırmacıları bu yönde çalışıyor. Mikroskop altında nöron görselleştirmesine ek olarak, son zamanlarda yapılan bazı çalışmalar da makine öğrenimi modellerini görselleştirmeye çalıştı.
(Lei Feng Ağı)
Örneğin Facebook'un geçtiğimiz bahar lansmanını yaptığı Captum, makine öğrenimi modellerinin verdiği kararları açıklamak için görselleştirme tekniklerini kullanmaya çalıştı. Pytorch tabanlı bir model yorumlama kitaplığı olarak güçlü, esnek ve kullanımı kolaydır ve en son algoritmalar için yorumlanabilirlik sağlar.Araştırmacıların ve geliştiricilerin model tahmin sonuçlarını etkileyen belirli özellikleri daha iyi anlamalarına yardımcı olabilir. Nöronlar ve sinir ağı katmanları.
O sırada Facebook, Captum üzerine inşa edilen ve açıklayıcı görselleştirme işlevleri sağlayan Captum Insight'ın deneme sürümünü de piyasaya sürdü.
Mart 2019'da OpenAI ve Google, makine öğrenimi algoritmaları tarafından alınan kararları görselleştirmek için Etkinleştirme Atlaslarını da yayınladı;
(Lei Feng Ağı)
Önceki araştırma, bir algoritmanın görsel alfabesindeki tek bir harfin gösterilmesiyle karşılaştırılırsa, etkinleştirme atlası, harflerin gerçek kelime dağarcığını oluşturmak için nasıl birleştirildiğini gösteren tüm sözlüğü sağlar.
Aktivasyon atlası, odağı tek bir nörondan bu nöronların toplu olarak temsil ettiği alanı görselleştirmeye kaydıran özellik görselleştirmesine dayanmaktadır.
Açıkçası, bugün "mikroskop" un bu çalışması, önceki aktivasyon haritası teknolojisini de bütünleştirir ve kullanır.
Kaynağa geri dönüldüğünde, tüm bu tür görselleştirme araştırmaları, herhangi bir resmi kendisinin bir "illüzyon" versiyonuna dönüştürmek amacıyla 2015 yılında piyasaya sürülen bir bilgisayar vizyon projesi olan DeepDream adlı erken bir deneye indirgenebilir.
DeepDream, Google sinir ağı modelinin girdi resimleri anlayışını gösteriyor ki bu da "Derin Korsanlar" a benziyor. Garip boyama tarzı nedeniyle, bazı açılardan sözde yapay zeka estetiğini tanımladığı düşünülüyor.
Belki de o zamandan beri, yapay zeka araştırmacıları sinir ağı modellerinin gözünde dünyayı merak ediyor ve yorumlanabilirliğin gizemini keşfetmenin yolunu açtı.
OpenAI'den Chris Olah Olah'ın bir zamanlar dediği gibi: "Bazı açılardan, her şey DeepDream ile başladı."
