Kayıt AI'ya saldırmak veya saldırmak için AI kullanın, GeekPwn yoğun bir şekilde yapay zeka korsanlarını işe alıyor
Geekpwn (Mükemmel) -Akıllı hayata odaklanan dünyanın ilk güvenlik meraklısı konferansı. 3 seans başarıyla gerçekleştirildi. 2017 Geekpwn Karnavalı sırasıyla 24 Ekim ve 13 Kasım'da Şangay ve Silikon Vadisi'nde yapılacak.
Qubit, kooperatif bir medya olarak katılacak ve herkes için kazanacak Canlı seyirci 1999 değerinde 5 ücretsiz bilet. Katılım şekli için makalenin sonuna bakın.
Geekpwn
Bazı çalışmalar, çoğu makine öğrenimi algoritmasının müdahaleye açık olduğunu ve yanlış kararlar verdiğini ve bu kusurların bilgisayar korsanları tarafından istismar edilen güvenlik açıkları haline gelebileceğini doğrulamıştır.
2014 yılında, aynı zamanda Kanada, Montreal Üniversitesi'nde doktora yapmakta olan Ian Goodfellow, yapay zekayı "takip etmek" için gerçekçi modeller üreten "Generative Adversarial Networks" (GAN'lar) tasarladı. Ian Goodfellow'un deneyinde, köpek yavrusu görüntüsü makine tarafından bir devekuşu olarak tanındı, farklı nesneler bir uçak olarak tanınabilirdi ve aşağıdaki şekilde görülen Gauss gürültüsü bile bir uçak olarak kabul edildi.
Gürültü eklenmiş örneklere "rakip örnekler" diyorlar. Rakip örneklerin gerçek uygulama senaryoları, kötü amaçlı yazılım algılayıcı ağlarını aldatma ve uzaktan barındırılan API'ler (MetaMind, Amazon, Google) vb. Aracılığıyla eğitilen gerçek sınıflandırıcıları aldatmayı içerir.
Makineye tanımlama için yalnızca bilgisayarda oluşturulan bir resim gönderilirse, bu, dış ortamdaki birçok karşı konulamaz paraziti ortadan kaldıracaktır. Bu nedenle, beyaz kutu saldırı modelini benimsemişlerdir (yani, saldırgan makine öğrenimi algoritmalarını ve parametrelerini elde ettiğinde saldırmak). Sonuçlar, rakip görüntülerin% 87'sinin makineyi dış ortamda hala başarılı bir şekilde aldatabildiğini, bu nedenle rakip örneklerin gerçek ortamda hala etkili olduğunu göstermektedir.
Ek olarak, araştırmalar, çatışmalı örneklerin Takviyeli Öğrenme için de yararlı olduğunu göstermiştir. Derin öğrenmenin atılımıyla, AlphaGo'nun başarısıyla, pekiştirmeli öğrenme de giderek daha fazla ilgi gördü. Ancak Berkeley, OpenAI, Penn ve Nevada Üniversitesi'ndeki araştırmacılar, pekiştirmeli öğrenme ajanlarının rakip örnekler tarafından da manipüle edilebileceğini keşfettiler.
Yapay zeka ve profesyonel güvenliği keşfeden ilk platform olan GeekPwn (harika) güvenlik meraklısı yarışması, yapay zekanın ortaya çıkardığı birçok riske dikkat çekmede başı çekti. 2016'da Amerika Birleşik Devletleri'ndeki GeekPwn Silikon Vadisi istasyonunda, nesil yüzleşme ağlarından (GAN'lar) biri. Peder Ian Goodfellow, gerçek fiziksel dünyada makine öğrenimini aldatmada "rakip görüntülerin" etkisini gösterdi.
GAN'ların babası Lan Goodfellow ve Google'ın Alexey Kurakin'i müthiş Silikon Vadisi sitesinde aldatmacayla mücadele etmek için görüntüleri paylaşıyor
GeekPwn 2017'de Gundam'ı bile kurdu 5 milyon toplam ödül havuzu Küresel olarak bilgisayar korsanlarını işe alın, tutun Akıllı yazılım ve donanımda çığır açan rekabet Temelde Next Idea ile özel bir proje oluşturun "Yapay Zeka Güvenlik Zorluğu" Aynı zamanda bir sahne maçı da ekledi. "AI Simülasyon Ses Testi Ses Saldırı ve Savunma Oyunu" AI ile ilgili alanlarda dünyanın en iyi AI bilgisayar korsanlarını veya güvenlik araştırma ekiplerini aktif olarak katılmaya teşvik etmek ve böylece yapay zekanın sağlıklı büyümesine yardımcı olmak için.
Yapay zeka ve yapay zeka savaşları şunun eşiğinde: "Yapay Zeka Simüle Ses Testi Ses Saldırı ve Savunma Oyunu"
2016'da Google'ın DeepMind laboratuvarı, evrişimli sinir ağlarını kullanan bir konuşma sentez modeli yayınladı ve bu, simüle edilmiş konuşma ile insan sesi arasındaki farkı% 50'den fazla azalttı. Derin bir sinir ağı (DNN) kullanan iyi uyan bir ses modeli, ses izi tanıma sistemini ayırt edilemez hale de getirebilir.
GeekPwn Düzenleme Komitesi Toplam 400.000 yuan bonus "AI ses geçirmezlik saldırı ve savunma oyununa" eklenecek ve kazanan takıma 200.000 yuan verilecektir. . Bu yapay zeka çatışmasında:
Sizin ve ekibinizin, hedef kişinin sesinden ses özelliklerini öğrenebilen ve ses sesini sentezleyebilen, çeşitli ses doğrulama sistemlerine saldıran ve hedef sistemin kendisinin kullanıcı kimliği doğrulama işlevini bozan veya aldatan bir uygulama veya sistem geliştirmeniz gerekir.
Kısacası, AI teknolojisi ile sentezlenen ses saldırıları, kullanıcı oturum açma yazılım sistemlerini ve ses kimlik doğrulama işlevlerine sahip AI ürünlerini gerçekleştirmek için ses kimlik doğrulamasını kullanır.
Ayrıntılı yarışma kuralları aşağıdaki gibidir:
Sahneler
Katılımcı ekipler, hedef kişinin sesinden ses özelliklerini öğrenir ve sesi sentezler, bir dizi ses doğrulama sistemine saldırır ve hedef sistemin kullanıcı kimliği doğrulama işlevini bozar veya aldatır. Saldırının hedefleri, kullanıcı girişi için ses kimlik doğrulamasını kullanan yazılım sistemleri ve sesli kimlik doğrulama işlevlerine sahip akıllı ürünlerdir.
kural
Katılımcı ekipler, karakterlerin seslerinden ses özelliklerini öğrenebilen ve ses sesini sentezleyebilen bir uygulama veya sistem geliştirir.
Organizatör, yarışmadan iki hafta önce hedef kişinin birkaç ses dosyasını katılımcı takımlara sağlar ve katılan takımlar buna göre hata ayıklama yapar.
Katılan ekipler, yarışma alanında organizatör tarafından belirlenen çeşitli ses izi tanıma yazılımlarına ve akıllı cihazlara saldırdı.
Organizatör bir dizi Çince karakter ve sayı belirler ve katılan ekipler Çince konuşmayı sentezler ve saldırılan hedefin doğrulamasını geçmeye çalışır.
Aynı doğrulamayı iki kez deneyebilir ve bir kez geçebilirsiniz. 2 kez başarılı olamama, başarısızlık olarak kaydedilir.
Saldırı altındaki birden fazla hedefin geçiş olasılıklarını, hakemlerin puanları ile desteklenen entegre etmek, takımın toplam puanını farklı ağırlıklarla elde eder.
Sıralama, her takımın toplam puanına bağlıdır.
Son başvuru tarihi : 2017/10/10
Rekabet zamanı : 24 Ekim 2017
Yarışma yeri : Shanghai Himalaya Grand View Stage GeekPwn 2017 Karnavalı sahnesi
ödül ayarları
Birincilik: 100.000-200.000
İkincilik: 50.000-100.000
Üçüncülük: 20.000-50.000
Kazanan ödül (birden fazla kazanan): 5000 yuan
* Mükemmel teknik ekipler, teknoloji kuluçka yatırımı elde etme fırsatına sahiptir
Bonus aralığı, ekibin yerinde doğrulamasına göre değişir
Küresel Yapay Zeka Güvenliği Geek'in Destansı Postası: "Yapay Zeka Güvenliği Zorluğu"
AI simülasyon ses testi ses saldırgan ve savunma yarışmasına ek olarak, 2017 GeekPwn "Yapay Zeka Güvenlik Mücadelesi", PWN AI ve AI PWN'nin önermesiz kısmına da sahiptir. PWN AI, AI'yı meydan okuma nesnesi olarak alır ve yapay zeka algoritması, oyuncuların etkisi nedeniyle yanlış kararlar verir. Basitçe söylemek gerekirse, AI'daki hataları ve kusurları onu "hacklemek" için kullanmaktır. AI PWN, AI teknolojisini bir araç olarak kullanır.Oyuncular, belirlenen hedeflere saldırmak ve hata yapmaları için onlara rehberlik etmek için AI teknolojisini kullanır. Basitçe söylemek gerekirse, AI'nın saldırılar için yardımcınız olmasına izin verin.
Ayrıntılı yarışma kuralları aşağıdaki gibidir:
PWN AI (Tek öğe maksimum bonus 800.000)
Hedef aralığı
Yayınlanan yapay zeka hizmetleri, ürünleri, kitaplıkları ve çerçeveleri için (esas olarak Tensorflow, TorchNet, Caffe, vb. Gibi popüler çerçevelere atıfta bulunarak), sistemin çalışmamasını sağlamak için önlemler alın veya öğrenme veya fiili kullanım sırasında beklenmedik durumlar nedeniyle sistemin aldatılması veya yanlış yönlendirilmesi. Sözleşmeleri ihlal eden veya yanlış yargılarda bulunun ve kararlar verin. Talimatlar arasında, bunlarla sınırlı olmamak üzere, görüntü tanıma, ses tanıma, doğal dil işleme, otonom sürüş, kötü amaçlı yazılım tanıma vb. Yer alır.
Referans örneği
Yüz tanıma cep telefonunun kilidini kırın, cep telefonunun kilidini herhangi bir yüzle açın.
Otomatik sürüş sisteminde güvenlik sorununu bulun, böylece engellerin varlığını doğru bir şekilde algılayamaz.
Sorunu, konuşlandırılmış AI sisteminin bir miktar girdi aldığında yanıt vermeyi durdurmasına neden olan AI açık kaynaklı çerçevede bulun
AI PWN (Tek öğe maksimum bonus 800.000)
Sahneler
Yarışmacılar, orijinal sistem tarafından belirlenen sınırlamaları aşmak için ana veya yardımcı araç olarak AI'yı (görüntü, ses, doğal dil, otonom sürüş vb. Çeşitli alanlarda çeşitli yapay zeka yöntemleri dahil) kullanır, bu da hedef sistemin işlev ve mekanizmasının başarısız olmasına veya bilgi sızmasına neden olur. .
Referans örneği
Yapay zeka yöntemi, hedef simülasyon nesnesinin konuşmasını oluşturmak ve konuşma kimlik doğrulama sistemini yüksek olasılıkla geçmek için konuşma sentezi için kullanılır.
Eylemi belirlemek, videodan giriş kontrol şifresi girişini belirlemek ve daha yüksek bir doğru tanıma olasılığı elde etmek için yapay zeka kullanın.
Karmaşık makine doğrulama kodlarını tanımlamak için yapay zeka kullanarak, doğru tanıma oranı yüksektir ve hedef doğrulama kodu mekanizmasını işe yaramaz hale getirir.
Kayıt işlemi sırasında herhangi bir sorunuz varsa, lütfen şu adrese bir e-posta gönderin: cfp@geekpwn.org
Kayıt ve daha fazla yarışma bilgisi için 2017.GEEKPWN.ORG'a bakınız.
Yerinde izleyici alımı
2017 Geeky Karnavalı, yerinde etkileşime katılmak ve yarışmacıların zorluklarının anlarına tanık olmak için inek ruhuna meraklı profesyonelleri ve meraklıları da ağırlıyor. Yoğun rekabete ek olarak, Kaspersky ile ortaklaşa düzenlenen daha heyecan verici ve harika I-CTF Mücadeleleri ve Şangay İstasyonu'nun interaktif alanı var. Ezici geek unsurları, sizi bir "geek içinde olduğunuzu hissettiriyor Hayali işler".
içinde Mesaj alanı bize söyle "AI Güvenliği Üzerine Görüşünüz" , 25'inde saat 10: 00'dan itibaren ilk 5 beğeniyi alabilirsiniz 1999 yuan değeri Bir Shanghai Geeky Karnavalı bileti (geçiş Geeky Shanghai iç saha oyunları, Geeky ve Kaspersky I-CTF Challenge, Shanghai Station etkileşimli bölgesi için geçerlidir)
