Today's Paper | Streamline BERT; yüz değişimi; 3D nokta bulutu; DeepFakes ve 5G vb.
Akademik gençlerin en yeni araştırma sonuçlarını ve teknolojilerini daha iyi öğrenmelerine yardımcı olmak için, AI Technology Review ve Paper Research Institute (paper.yanxishe.com) [Paper.yanxishe.com) [Paper Today] sütununu başlattı ve her gün sizin için yapay zekanın sınırlarını seçeceğiz. Akademik belgeler, çalışma referansınız içindir. Aşağıdakiler bugünün seçili içeriğidir
içindekiler
-
ALBERT: DİL TEMSİLCİLERİNİN KENDİNE DENETİMLİ ÖĞRENMESİ İÇİN BİR KÜÇÜK BERT
-
FaceShifter: Yüksek Doğruluk ve Oklüzyon Farkında Yüz Değiştirmeye Doğru
-
3B Nokta Bulutları için Derin Öğrenme: Bir Araştırma
-
Pekiştirmeli Öğrenmeyle Nedensel Keşif
-
5G ve Ötesinde Çoklu Erişimli Uç Bilişim Araştırması: Temel Bilgiler, Teknoloji Entegrasyonu ve Son Teknoloji
-
İçki İçen Filozoflardan Aylak Robotlara
-
DeepFakes ve Ötesi: Yüz Manipülasyonu ve Sahte Algılama Üzerine Bir Araştırma
-
Stokastik Gradyan Langevin Dinamikleri ile Bayes Öğrenimi
-
Takviyeli öğrenmeyle hesaplamalı model keşfi
-
Kuantum Tartışmalı Makine Öğrenimi
ALBERT: Dil temsilinin kendi kendine denetimli öğrenimi için basitleştirilmiş bir BERT
Bildiri Başlığı: ALBERT: DİL TEMSİLCİLERİNİN KENDİNE DENETİMİNDE ÖĞRENMESİ İÇİN BİR LİTE BERT
Yazar: ZhenzhongLan / MingdaChen / SebastianGoodman
Gönderme süresi: 2018/10/30
Kağıt bağlantısı: https://paper.yanxishe.com/review/8078?from=leiphonecolumn_paperreview0106
Önerilen neden: Bert modeli, doğal dili anlamanın eğitim öncesi dönemini açmıştır. Anlamsal analizle ilgili birçok görev bert modeli ile geliştirilebilir, ancak bu aynı zamanda bazı problemleri de beraberinde getirir.Çok fazla bert parametresi vardır ve model çok karmaşıktır. Daha büyük bilgi işlem gücü desteklenebildiği için bu büyük bir soruna yol açmıştır.Modelin nasıl küçültüleceği, bellek tüketiminin nasıl azaltılacağı ve eğitim süresinin nasıl azaltılacağı şimdiki sorun olarak adlandırılır ve aynı zamanda gerekli bir yöndür. Albert bu sorunu resmen çözdü. Bellek tüketimini azaltmak ve BERT eğitim hızını artırmak için iki parametre azaltma tekniği önerilmektedir. Sadece önceki sorunu çözmekle kalmadı, aynı zamanda bu eğitim öncesi model, önceki bert eğitim öncesi modelden daha etkilidir ve birçok görevde aşılmıştır.
FaceShifter: Yüksek doğruluk ve oklüzyon bilinciyle yüz değiş tokuşuna doğru
Kağıt Adı: FaceShifter: Yüksek Doğruluk ve Tıkanıklığa Doğru Yüz Değiştirme
Yazar: Li Lingzhi / Bao Jianmin / Yang Hao / Chen Dong / Wen Fang
Gönderme süresi: 2019/12/31
Kağıt bağlantısı: https://paper.yanxishe.com/review/8077?from=leiphonecolumn_paperreview0106
Tavsiye nedeni: Bu Pekin Üniversitesi ile Microsoft Asya Araştırma Enstitüsü arasında ortak bir çalışmadır ve yüz değişimi konusunu ele almaktadır.
Bu makale, yüksek doğruluk ve oklüzyon bilinçli yüz değişimi sağlamak için FaceShifter adlı yeni bir iki aşamalı çerçeve önermektedir. Değiştirilen yüzleri sentezlerken yalnızca hedef görüntünün sınırlı bilgilerini kullanan birçok mevcut yüz değiş tokuş çalışmasının aksine, FaceShifter ilk aşamasında hedef nitelikleri tamamen uyarlamalı olarak kullanarak ve entegre ederek, değiş tokuş edilen yüzleri yüksek doğrulukta oluşturur. Bu makale, çok seviyeli hedef yüz özniteliklerini çıkarmak için yeni bir öznitelik kodlayıcı önermekte ve uyarlamalı olarak entegre etmek için dikkatle tasarlanmış uyarlanabilir dikkat denormalizasyon katmanına sahip yeni bir oluşturucu önermektedir. Kimlik ve yüz bileşik öznitelikleri. FaceShifter, zorlu yüz kapanmasını çözmek için yeni bir sezgisel hata onayı iyileştirme ağını içeren ikinci bir aşama ekler. Herhangi bir manuel açıklama olmadan kendi gözetiminde anormal alanları kurtarmak için eğitilmiştir. Doğal yüzler üzerinde yapılan çok sayıda deney, diğer son teknoloji yöntemlerle karşılaştırıldığında, FaceShifter'ın değişim sonuçlarının yalnızca algısal olarak daha çekici olmadığını, aynı zamanda daha iyi bir kimliği koruduğunu gösteriyor.
3B Nokta Bulutları Üzerine Derin Öğrenme Araştırması
Bildiri Başlığı: 3B Nokta Bulutları için Derin Öğrenme: Bir Araştırma
Yazar: Guo Yulan / Wang Hanyun / Hu Qingyong / Liu Hao / Liu Li / Bennamoun Mohammed
Gönderme süresi: 2019/12/27
Kağıt bağlantısı: https://paper.yanxishe.com/review/8076?from=leiphonecolumn_paperreview0106
Tavsiye nedeni: Bu, Ulusal Savunma Teknolojisi Üniversitesi tarafından hazırlanan 3B nokta bulutu derin öğreniminin araştırma özetidir.
Nokta bulutu öğrenimi, bilgisayarla görme, otonom sürüş ve robotik gibi birçok alanda yaygın olarak kullanılmaktadır. Yapay zeka alanındaki ana teknoloji olan derin öğrenme, çeşitli iki boyutlu görme problemlerini çözmek için başarıyla kullanılmıştır. Bununla birlikte, 3B nokta bulutlarının işlenmesindeki bazı benzersiz zorluklar nedeniyle, nokta bulutları alanındaki derin öğrenme teknolojisi hala gelişimin erken aşamalarında. Gelecekteki nokta bulutu öğrenim araştırmasını teşvik etmek için bu makale, nokta bulutu derin öğrenme yöntemlerinin araştırma ilerlemesini kapsamlı bir şekilde gözden geçirmektedir. Bu yöntemler temel olarak 3B şekil sınıflandırması, 3B hedef algılama ve izleme ve 3B nokta bulutu segmentasyonunu içerir. Ek olarak, bu makale aynı zamanda kamuya açık bazı veri setlerinin karşılaştırma sonuçlarını gösterir ve anlayışlı gözlemler ve aydınlatıcı gelecek araştırma yönlerini önerir.
Takviye öğrenmeye dayalı nedensel keşif
Kağıt adı: Pekiştirmeli Öğrenmeyle Nedensel Keşif
Yazar: Zhu Shengyu / Ng Ignavier / Chen Zhitang
Gönderme süresi: 2019/6/11
Kağıt bağlantısı: https://paper.yanxishe.com/review/8075?from=leiphonecolumn_paperreview0106
Öneri nedeni: Bu makale, Huawei'nin Nuh'un Gemisi Laboratuvarı tarafından ICLR 2020 tarafından kabul edilen tam bir makaledir. Nedensel araştırmada nedensel keşif sorununu ele almaktadır.
Bir sonraki potansiyel sıcak nokta olarak nedensel araştırma, makine öğrenimi ve derin öğrenme alanında yaygın ilgi gördü. Nedensellik araştırmasındaki klasik bir problem, nedensel keşif problemidir, yani pasif olarak gözlemlenebilir verilerden potansiyel nedensel grafik yapısını keşfetmek. Bu makale, puanlama yönteminin nedensel keşif algoritmasına pekiştirmeli öğrenme uygular, öz-dikkat mekanizmasına dayalı kodlayıcı-kod çözücü sinir ağı modeli aracılığıyla veriler arasındaki ilişkiyi araştırır, nedensel yapının koşullarını birleştirir ve strateji gradyanının takviye öğrenme algoritmasını kullanır. Sinir ağı parametrelerini eğitin ve sonunda nedensel grafik yapısını elde edin. Bu yöntem, orta ölçekli grafiklerde bazı geleneksel nedensel keşif algoritmalarından ve son gradyan tabanlı algoritmalardan daha iyi performans gösterir ve herhangi bir puanlama işlevi ile çok esnek bir şekilde birlikte kullanılabilir.
5G'ye genel bakış ve gelecekteki çoklu erişim uç bilgi işlem: temel bilgi, teknoloji entegrasyonu ve en son teknoloji
Bildiri Başlığı: 5G ve Ötesinde Çoklu Erişimli Uç Hesaplama Araştırması: Temel Bilgiler, Teknoloji Entegrasyonu ve Son Teknoloji
Yazar: Pham Quoc-Viet / Fang Fang / Ha Vu Nguyen / Piran Md Jalil / Le Mai / Le Long Bao / Hwang Won-Joo / Ding Zhiguo.
Gönderme süresi: 2019/6/20
Kağıt bağlantısı: https://paper.yanxishe.com/review/8074?from=leiphonecolumn_paperreview0106
Önerilen neden: Bu, kenar hesaplama ile ilgili bir inceleme belgesidir.
Yeni bilgi işlem yoğun uygulamaların ortaya çıkması ve Nesnelerin İnterneti (IoT) vizyonuyla hareket eden, ortaya çıkan 5G ağlarının trafik ve bilgi işlem gereksinimlerinde benzeri görülmemiş bir büyüme ile karşı karşıya kalacağı öngörülebilir. Ancak, çoğu son kullanıcı sınırlı depolama kapasitesine ve sınırlı işlem gücüne sahiptir, bu nedenle, kaynakları kısıtlı kullanıcılar üzerinde yoğun hesaplama gerektiren uygulamaların nasıl çalıştırılacağı son zamanlarda doğal bir sorun haline gelmiştir. Mobil Uç Bilişim (MEC), gelişmekte olan beşinci nesil mobil ağda anahtar bir teknolojidir. Yoğun bilgi işlem gerektiren uygulamaları barındırarak buluta göndermeden önce büyük verileri işleyebilir ve kablosuz erişim ağında bulut bilişim işlevleri sağlayabilir. Mobil kaynakları optimize etmek için. Mobil uç bilgi işlem, sürücüsüz araçlar, artırılmış gerçeklik, robotik ve sürükleyici medya gibi kesinlikle gerçek zamanlı yanıt gerektiren çeşitli uygulamaları destekler. 5G ağlarında MEC'in başarılı bir şekilde gerçekleştirilmesi henüz emekleme aşamasındadır ve akademi ve endüstrinin sürekli çabalarını gerektirir. Bu inceleme ilk olarak MEC teknolojisine ve potansiyel kullanım durumlarına ve uygulamalarına genel bir bakış sağlar. Daha sonra, MEC'in 5G ve daha yüksek sürümlerde konuşlandırılacak yeni teknolojilerle entegrasyonuna ilişkin en son araştırmanın ana hatlarını çiziyor. Bu makale aynı zamanda uç hesaplama ve açık kaynak etkinlikleri için test platformunu ve deneysel değerlendirmeyi özetler, en son araştırma çalışmasından öğrenilen dersleri daha ayrıntılı olarak özetler ve MEC araştırmalarının zorluklarını ve gelecekteki olası yönlerini tartışır.
İçki filozofundan dolaşan robota
Bildiri Başlığı: İçen Filozoflardan Gezici Robotlara
Yazar: Şahin Yunus Emre / Özay Necmiye
Gönderme süresi: 2020/1/2
Kağıt bağlantısı: https://paper.yanxishe.com/review/8073?from=leiphonecolumn_paperreview0106
Önerilen neden: Bu makale, çok robotlu yol yürütme sorununu ele almaktadır.
Bu problemde, bir grup robot, asenkron ile karşılaştıklarında çatışmalardan ve kilitlenmelerden kaçınırken, başlangıç noktalarından önceden tanımlanmış bir yol boyunca bir hedef konuma hareket eder. Bu makale, sorunu, özellikle ünlü İçme Filozofları Problemi (DrPP) olmak üzere dağıtılmış bir kaynak yeniden yönlendirme problemi olarak yeniden yapılandırmaktadır. Paylaşılan kaynakları elde etmek için içme oturumunu dikkatlice tasarlayarak, bu belge, DrPP'nin mevcut çözümlerinin toplu çarpışmasız ve kilitlenmesiz robot kontrol stratejileri tasarlamak için kullanılabileceğini kanıtlamaktadır. Bu yazıda önerilen yöntem, robotların diğer robotların hız eğrilerini bilmesini veya tahmin etmesini gerektirmez ve dağıtılmış kontrol stratejileri gerektirmez. Simülasyon yoluyla, bu makale önerilen yöntemin etkinliğini doğrulamaktadır.
DeepFakes ve daha fazlası: Yüz manipülasyonu ve sahte algılama üzerine bir araştırma incelemesi
Bildiri Başlığı: DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection
Yazar: Tolosana Ruben / Vera-Rodriguez Ruben / Fierrez Julian / Morales Aythami / Ortega-Garcia Javier
Gönderme süresi: 2020/1/1
Kağıt bağlantısı: https://paper.yanxishe.com/review/8072?from=leiphonecolumn_paperreview0106
Öneri nedeni: Bu, yüz dolandırıcılığı üzerine bir inceleme makalesidir.
DeepFake'in gelişiyle yüz dolandırıcılığı daha kolay ve kolay hale geldi ve bu tür dolandırıcılık teknolojilerine karşı çok sayıda araştırma da başlatıldı. Bu makale, yüz görüntülerini manipüle etme tekniklerinin (DeepFake yöntemi dahil) ve bu tür manipülasyonları tespit etme yöntemlerinin kapsamlı bir incelemesini sunar; dört tür yüz operasyonu dahil: tam yüz sentezi, yüz kimliği değişimi, yüz özelliği manipülasyonu ve yüz ifadeleri işletme. Her bir manipülasyon türü için, bu makale ilgili manipülasyon tekniklerini, mevcut kamuya açık veri tabanlarını ve sahteciliğin tespitiyle ilgili yöntemleri gözden geçirmektedir.
Bu makale aynı zamanda bu alandaki gelişim eğilimlerini ve son DeepFake Detection Challenge gibi devam eden bazı çalışmaları tartışmaktadır.
Stokastik gradyan Langevin dinamiklerine dayalı Bayes öğrenimi
Kağıt adı: Stokastik Gradient Langevin Dynamics aracılığıyla Bayes Öğrenimi
Yazar: Max Welling / Yee Whye Teh
Gönderme zamanı: 2011/1/18
Kağıt bağlantısı: https://paper.yanxishe.com/review/8070?from=leiphonecolumn_paperreview0106
Öneri nedeni: Bu makale, küçük ölçekli çevrimiçi öğrenmeye dayalı yeni bir büyük ölçekli veri seti öğrenme çerçevesi önermektedir. Standart stokastik gradyan optimizasyon algoritmasına uygun miktarda gürültü ekleyerek, yinelemenin gerçek arka dağılımın örneğine yakınsadığı kanıtlanmıştır. Optimizasyon ve Bayesci posterior örnekleme arasındaki bu dikiş aktarımı, aşırı avlanmaya karşı doğal bir koruma sağlar.
Daha sonra makale, "örnekleme eşiğini" izleyen ve eşik aşıldıktan sonra örnekleri toplayan pratik bir posterior istatistiksel Monte Carlo tahmin yöntemi önermektedir.
Güçlendirmeli öğrenme yoluyla hesaplama modellerini keşfedin
Kağıt adı: Pekiştirmeli öğrenmeyle hesaplamalı model keşfi
Yazar: Bassenne Maxime / Lozano-Durán Adrián
Gönderme süresi: 2019/12/29
Kağıt bağlantısı: https://paper.yanxishe.com/review/8165?from=leiphonecolumn_paperreview0106
Önerilen neden: Bu araştırmanın motivasyonu, bilgi işlem biliminde karşılaşılan önemli bilimsel sorunlara yeni çözümler sağlamak için yapay zeka araştırmalarındaki en son gelişmeleri kullanmaktır. Yazar, azaltılmış sıra modellerini keşfetmede insan zekasının sınırlamalarını çözmek için insan düşüncesini desteklemek için yapay zeka kullanılmasını öneriyor.
Yazarın üç yönlü stratejisi, (i) analitik biçimde ifade edilen modeli, (ii) son değerlendirmeden sonra ve iii) referans çözümdeki tüm noktaları önceden bilgi olarak kullanmayı öğrenmeyi içerir. (İ) noktasında, yalnızca olası modellerin geniş arama alanını etkin bir şekilde parametreleştirmek için öğrenme sırasında kullanılan kara kutu sinir ağları yerine sembolik yorumlanabilir modeller peşinde koşuyoruz. Nokta (ii) 'de, öğrenilen model, önceden işlenmiş yüksek doğruluktaki verilerden alınan önceki bilgilere dayanarak hesaplama çözücüsündeki posterioru dinamik olarak değerlendirecek, böylece çözücünün değeri gibi özelliğini hesaba katacaktır. Son olarak, (iii) noktasında, yeni modelin keşfi yalnızca önceden tanımlanmış bir entegrasyon miktarı (Reynolds ortalaması veya Büyük Girdap Akımı Simülasyonundaki (LES) ortalama mühendislik ilgisi miktarı gibi) tarafından yönlendirilir. Bu hedeflere aynı anda ulaşmak için birleştirilmiş derin pekiştirmeli öğrenme çerçevesi ve hesaplamalı çözücü kullanıyoruz. Takviye öğrenme ve hedeflerin (i), (ii) ve (iii) kombinasyonu, yazarın çalışmasını makine öğrenmesine dayalı modelleme konusundaki önceki girişimlerinden ayırır.
Bu raporda yazar, pekiştirmeli öğrenme yoluyla model keşif çerçevesinin üst düzey bir tanımını sağlar. Bu yöntem, diferansiyel denklemlerdeki eksik öğelerin uygulanmasını ayrıntılı olarak tanıtmaktadır. Burgers denklemindeki eksik öğeleri bulan yöntemin temel somutlaştırması açıklanmıştır.
Kuantum yüzleşme makine öğrenimi
Kağıt adı: Quantum Adversarial Machine Learning
Yazar: Lu Sirui / Duan Lu-Ming / Deng Dong-Ling
Gönderme süresi: 2019/12/31
Kağıt bağlantısı: https://paper.yanxishe.com/review/8166?from=leiphonecolumn_paperreview0106
Önerinin nedeni: Tartışmalı makine öğrenimi, rakip ortamlarda makine öğrenimi yöntemlerinin kırılganlığını incelemeye ve buna bağlı olarak öğrenmeyi rakip manipülasyona karşı sağlam hale getirmek için teknolojiler geliştirmeye adanmış, gelişmekte olan bir alandır. Çeşitli makine öğrenimi uygulamalarında hayati bir rol oynar ve son zamanlarda farklı topluluklarda büyük ilgi gördü.
Bu makalede yazar, kuantum makine öğrenimi bağlamında farklı yüzleşme senaryolarını araştırıyor. Yazarlar, klasik sinir ağlarına dayanan geleneksel sınıflandırıcılara benzer şekilde, kuantum öğrenme sistemlerinin, girdi verilerinin klasik veya kuantum verisi olup olmadığına bakılmaksızın dikkatlice hazırlanmış rakip örneklere karşı savunmasız olduğunu buldular. Özellikle, orijinal yasal örneklere algılanamayan tedirginlikler eklenerek elde edilen rakip örnekler nihayet bir kuantum sınıflandırıcıyı neredeyse en son doğrulukla aldatabilir. Kuantum çekişmeli öğrenme, gerçek hayattaki görüntülerin sınıflandırılması (örneğin, MNIST veri setindeki el yazısı dijital görüntüler), maddenin öğrenme aşaması (örneğin, ferromanyetik / paramanyetik sıralar ve simetri dahil) dahil olmak üzere farklı senaryolarda açıkça gösterilmiştir. Korumanın topolojik aşaması) ve kuantum verilerinin sınıflandırılması.
Ayrıca yazar, eldeki yüzleşme örneğinden elde edilen bilgilere dayanarak, birçok farklı saldırıya karşı koymak için pratik savunma stratejilerinin tasarlanabileceğini göstermektedir. Yazarın araştırma sonuçları, kuantum makine öğrenimi sistemlerinin tedirginliğe karşı direnç açısından önemli bir güvenlik açığını ortaya koyuyor. Bu, makine öğrenimini kuantum fiziğiyle ilişkilendiren yeni bir bakış açısını ortaya çıkarmakla kalmıyor, aynı zamanda son ve gelecek nesillere dayanan kuantum sınıflandırıcıların gerçekliğini de temsil ediyor. Uygulamalar, kuantum teknolojisi için değerli rehberlik sağlar.
Lei Feng Ağı Lei Feng Ağı Lei Feng Ağı
