Dünyanın bir numaralı bilgisayar korsanı ve bilgisayar güvenliğinin vaftiz annesi, Tencent'in başkan yardımcısı yapay zeka güvenliğini nasıl görüyor?
Li Gen, Ulusal Kongre Merkezi'nden devam etti.
Qubit Raporu | Genel Hesap QbitAI
En son kübitlerle ilgili bir makale yazdığımda, AI'nın kutsaması altında güvenlik konusu kızışıyor.Sadece haziran ayında güvenlik girişimciliği alanına toplam 3 milyar yuan yatırım gitti.
Aynı fenomen, Çin İnternet Güvenliği Liderleri Zirvesi'nde (CSS2017) yerinde meydana geldi. Tencent'in ev sahipliği yaptığı bu siber güvenlik konferansının konusu doğrudan "yapay zeka" ile ilgili olmasa da, AI zaten göz ardı edilemeyecek bir konu.
Konferansta, Tencentin güvenlikten sorumlu başkan yardımcısı Ding Ke, "dünyanın bir numaralı hacker'ı" olarak bilinen Kevin Mitnick ve Berkeley'deki California Üniversitesi'nde profesör olan Dawn Song ve "vaftiz annesi bilgisayar" (Dawn Song) yapay zeka trendini tartıştı. Güvenlik konusunda Qubit ile röportaj yapmayı kabul etti.
Ding Ke, Tencent Başkan Yardımcısı
Tencent'in düşüncesi: önce "etik"
Tencent'in başkan yardımcısı Ding Ke, Qubit'e yapay zeka altındaki güvenlik sorunlarının yeni ve özellikle önemli olduğunu söyledi. AI teknolojisinin geliştirilmesinde, doğal sınırlar aşılıyor ve yepyeni sorunlar ortaya çıkıyor.
Ding Ke özellikle, makine zekası çağının çok sayıda normal mantığı kara kutu işlemlerine dönüştürdüğünü açıkladı; burada kontamine olan makine verileri süreci, numunelerinizi ve yargılarınızı etkileyecek ve daha gizli ve zararlı güvenlik sorunları getirecektir. Geçmişte insanlar, sosyal ilişkilerin varlığıyla birleştiğinde mantık ve öz kontrole güvenirler, karşılıklı olarak birbirlerini kısıtlayabilir ve hesap verebilirler, ancak AI tüm bunları değiştirecektir.
Tencent açısından bakıldığında, AI çağındaki güvenlik sorunlarının yarısı geleneksel Anti-Pro ve Anti-SPAM teknolojileridir ve daha fazlası teknik ve etik keşiflerdir.
Hala teknolojide birikmiş destek var, ancak yeni etik standartlar sınır yargısına dahil edilmeye başlandı.
"Bu aşamada, sınır ötesi sorunları çeşitli yönlerden ve bilişsel tanımlama sürecini daha fazla araştırıyoruz. Gelecekte yapay zeka, otonom sürüş, görüntü öğrenme (derin tıbbi) ve karar desteği (sohbet, karar yardımı) gibi birçok ana alanda kullanılacak. ), sınır meselesinde iyi bir güvenlik kontrolü yapmazsanız, sorun kontrol edilemez hale gelir. "dedi.
Son olarak, Tencentin iç güvenlik yönetiminden sorumlu başkan yardımcısı ayrıca, güvenlik ilkeleri açısından, bir şeyin gelişmesinin temelinin, ne kadar kötü olabileceğini önceden tahmin etmek ve temelini anlamak olduğu sonucuna vardı. Sağlığın ve sürdürülebilir kalkınmanın temel ilkeleri.
"Dünyanın Bir Numaralı Hacker'ı" Kevin Mitnick
Efsanevi hacker: akıllı = kırılgan
Bu CSS konferansında, "dünyanın bir numaralı hacker'ı" olarak bilinen Kevin Mitnick de olay yerine davet edildi.Bu Çin'e ilk ziyareti, FBI ile savaşması ve bir numaralı siber güvenlik hedefi listesinde yer alması geçmişte kaldı. 20 yıl.
Kevin Mitnick'in artık kendi güvenlik danışmanlığı şirketi var, bir bilgisayar korsanı ve yeteneklerini ve tekniklerini siber saldırılara karşı koymak için önerilere ve yöntemlere dönüştürüyor.
Kevin Mitnick, yapay zekanın çevrimiçi dünyaya gittikçe daha fazla cihaz "getirdiğini" söyledi. Gittikçe daha fazla akıllı şehirimiz, akıllı ev aletlerimiz ve akıllı arabalarımız var, ancak temelde Kevin Mitnick'in gördükleriyle dolu "Kırılgan şehirler", "kırılgan ev aletleri" ve "kırılgan arabalar" için, tüm ekipmanlar saldırıya uğrayabileceğinden ve kullanılabileceğinden, kaynak güvenliği sertifikasyonu en önemli öncelik olmalıdır.
Kevin Mitnick tarafından ifade edilen öneri, kamu güven kurumunun özel bir departman kurması gerektiğidir.IOT ekipmanı piyasaya sürülmeden önce, güvenlik sertifikasından geçmesi gerekir ve kod güvenliği, daha fazla konuşlandırılmadan önce kontrol edilir.
Efsanevi bilgisayar korsanı, güvenlik kimlik doğrulamasının şimdiye kadar genel olarak "varsayılan kimlik bilgileri" biçimini benimsediğini, ancak birçok güvenlik olayı için sorunun kaynağının "varsayılan kimlik bilgileri" olduğunu söyledi. AI'nın geliştirilmesi ve daha fazla IOT cihazının bağlanmasıyla, Bu tür gizli tehlikelerin yol açacağı olası zarar her zamankinden daha korkunç olacaktır.
Bununla birlikte, Kevin Mitnick ayrıca, çekirdek AI teknolojisine gerçekten uyan hiçbir araç veya ürünün olmadığını vurguladı. Daha fazla ürün "karar verme" ye odaklandığından, kendisi henüz güvenlik analizi ve AI ürünlerinin değerlendirilmesinde deneyime sahip değildir.
Ancak, yapay zeka eğilimi çok göz kamaştırıcı hale geldi. Kevin Mitnick, Kaliforniya'da yapay zeka araçlarının ve ürünlerinin geliştirilmesinde uzmanlaşmış bir şirket kurduğunu söyledi.Gelecekte, sosyal ağlarda "kimlik avını" yakalayarak kullanıcılara güvenli bir ortam sağlayacağını söyledi. Aracın arkasındaki teknik ilke, makine öğrenmesidir. Veri modeli aracılığıyla, makine "kimlik avı web sitelerini" hızlı bir şekilde tanımlama yeteneğini öğrenebilir - bu ürün zaten geliştirme aşamasındadır.
"Bilgisayar Güvenliğinin Vaftiz Annesi" Song Xiaodong (Şafak Şarkısı)
"Bilgisayar Güvenliğinin Vaftiz Annesi" Song Xiaodong: Saldırı ile Yapay Zeka Sistemi Geliştirin
Efsanevi bilgisayar korsanı Kevin Mitnick'in yanı sıra, Berkeley California Üniversitesi'nde profesör olan Dawn Song da CSS'de çok izlenen bir misafir. "Bilgisayar Güvenliği Gomother" olarak bilinen bu profesör, "MacArthur Genius Ödülü" nü almış ve aynı zamanda bir lekedir. Analiz teorisinin savunucusu.
Kevin Mitnick'in fikrinden farklı olarak Song Xiaodong, AI ile ilgili güvenlik sorunlarının halihazırda yakın olduğuna inanıyor ve AI çağındaki güvenlik saldırılarıyla başa çıkmak için AI geliştiricilerinin ürün tasarımının başından itibaren düşünmesi gerekiyor.
"Tarih, saldırganların her zaman en son teknolojiyi takip edeceklerini ve hatta bazen en son teknolojiye öncülük edeceklerini kanıtladı." Song Xiaodong sordu.
Ve AI alanında mevcut riskin daha yüksek olacağını belirtmekte fayda var çünkü AI giderek daha fazla sistemi ve sistemi kontrol edecek. Bir saldırgan AI sistemine saldırmak ve başarılı olmak isterse, sonuçları çok ciddi olacaktır. Örneğin, saldırgan insansız bir araçla saldırı başlatır.
Nasıl başa çıkılır bununla?
Song Xiaodong'un ana fikri, yapay zeka geliştiricilerinin yapay zeka sistemleri geliştirdiklerinde, sorunları saldırgan açısından düşünmeleri gerektiğidir.
İki durum olabilir: Birincisi, saldırganın AI sistemine saldırması ve sistemin yanlış kararlar almasına neden olmasıdır. Bu durum, geliştiricilerin öğrenme sistemlerini yükseltmelerini, güvenlik duvarları oluşturmalarını ve derin öğrenme sistemine daha iyi güvenlik sistemleri yerleştirmelerini gerektirir.
Diğer bir durum da saldırganların diğer sistemlere saldırmak için yapay zeka araçlarını ve teknolojilerini kötüye kullanmasıdır; bu da geliştiriciler tarafından geliştirilen öğrenme sisteminin daha güçlü bir güvenliğe sahip olmasını gerektirir.
Öğrenme sisteminin güvenliğini güçlendirmek, derin öğrenmenin mevcut "zayıflıklarını" anlamak anlamına gelir. Örneğin, sistemi karıştırmak ve sistem tanımlama hatalarına neden olmak için rakip numuneler aracılığıyla, bu, otonom sürüş dahil olmak üzere yüksek güvenlik gereksinimleri olan alanları büyük risklere maruz bırakacaktır.
Bu nedenle Song Xiaodong, derin bir öğrenme sistemi oluştururken model, grafik seçimi, kod ve kara kutu saldırı savunmasının hepsinin, düşman örneklemin yeniden yapılandırılmasının neden olduğu saldırı riskine dikkat etmesi gerektiğini öne sürdü.
Buna ek olarak, yeni sinir ağı özellikleri geliştirme sürecinde, özyineleme ve döngülerin mantık yürütmeyi, modülerleştirmeyi ve genelleştirmeyi ve programın güvenliğini ve güvenilirliğini sağlamayı kolaylaştırdığına inanıyor.
Son olarak, bu "güvenlik vaftiz annesi", AI çağının getirdiği güvenlik zorlukları tahmin edilemez olsa da, AI'nın geliştiricilerin daha güvenli ve daha güvenilir yazılımlar tasarlamasına daha iyi yardımcı olabileceğine inanıyor. Derin öğrenme, mevcut güvenlik durumunu ve güvenlik yeteneklerini değiştirdi. , Bilişsel sistemi daha güçlü hale getirin ve çeşitli ürünlerde daha geniş çapta konuşlandırılabilir ve kötü amaçlı yazılımları tanımlama ve sahtekarlığı belirleme becerisiyle ürünün kendisinin yeni yetenekler edinmesine izin verebilir.
Yani temelde, AI en zorlu zorlukları getirebilir, ancak aynı zamanda en iyi zamanları da beraberinde getirecektir.
Kevin Mitnick'in kartvizit
OMT: "Dünyanın bir numaralı bilgisayar korsanı" nın kartvizitidir
Son olarak, Kevin Mitnick ile röportaj yaptıktan sonra, "dünyanın bir numaralı hacker'ı" kartvizitleri kübitlerle değiştirdi.Kart bir insan gibi.Metal kartvizit benzersiz görünüyor ve içi boş desen de oldukça ilginç.
Kevin Mitnick gülümsedi ve kübit'e şunları söyledi: Bunu (kartvizit) bir anahtar yazmak için kullanabilirsin, nereye gitmek istersen "hack". (gülmek)
- Bitiş -
Samimi işe alım
Qubit, editörleri / muhabirleri işe alıyor ve merkezi Pekin, Zhongguancun'da bulunuyor. Yetenekli ve hevesli öğrencilerin bize katılmasını dört gözle bekliyoruz! Ayrıntılar için, lütfen QbitAI diyalog arayüzünde "işe alım" kelimesiyle yanıt verin.
Qubit QbitAI
' ' Yapay zeka teknolojisi ve ürünlerindeki yeni eğilimleri takip edin
