Yapay zeka kötü niyetli saldırı mı? Önlemek ve iyileştirmek için Southern Polytechnic'ten yeni teknoloji!
Kısa bir süre önce, Güney Bilgisayar Teknolojisi Enstitüsü'nden Profesör Li Qianmu'nun ekibi tarafından gerçekleştirilen "Yapay Zeka Tartışmalı Kötü Amaçlı Örnekleri İzleme Teknolojisi", Uluslararası Yapay Zeka AAAI2019 Akademik Konferansında (CCF Sınıf A Konferansı) yayınlandı. "Bu, Çinli bir bilgi güvenliği akademisyeni ödülü ilk kez kazanıyor. Bu sonuç, bir yüzleşme ortamında akıllı kötü amaçlı yazılım izleme yöntemlerinin güvenilirliğini ve güvenliğini artırır.
Yapay zeka, endüstriyel üretim, sağlık hizmetleri, eğitim, yaşam, güvenlik, e-ticaret perakendeciliği, finans vb. Gibi giderek daha fazla alanda yaygın olarak kullanılmaktadır. İnsanların üretimine ve yaşamına büyük kolaylık sağlar, ancak kötü amaçlı yazılımlar da İnsanlar güvenlik riskleri getirir. Kötü amaçlı yazılım uzun zamandır sosyal kamu güvenliği için önemli bir tehdit olmuştur ve kamu güvenliği, endüstri ve bilgi ile trafik yönetimi departmanlarının izlenmesi ve çökertilmesi için bir hedef haline gelmiştir.
Bununla birlikte, kötü amaçlı yazılım geliştiricileri, izlemeden kaçınmak için izlemeye direnmek için yapay zeka teknolojisini kullanır. Düşman kötü amaçlı örnek oluşturma ve enjeksiyon gibi yeni teknolojiler ortaya çıkmıştır. Bu tür teknoloji genellikle "yapay zekaya karşı akıllı saldırılar" olarak bilinir. Mevcut bilgi güvenliği araştırma topluluğu Güvenlik ürünleri pazarında bu saldırılara karşı evrensel ve etkili bir karşı önlem yoktur.
Profesör Li Qianmu'nun ekibi, çok sayıda mevcut izleme sistemindeki makine öğrenimi algoritmalarının, kaçamaklı düşman yapay zeka algoritmaları tarafından kolayca saldırıya uğradığı mevcut durumu göz önünde bulundurarak, "yapay zekaya düşman kötü niyetli örnekleri için izleme teknolojisi" üzerine bir araştırma gerçekleştirdi.
"Kötü amaçlı yazılımları sınıflandırmak için esas olarak yapay zeka sınıflandırıcıları kullanarak derin öğrenme modelini geliştirmeye çalışıyoruz. Kötü amaçlı yazılımları girdi örnekleri olarak kullanmak, iki bölüme ayrılmıştır: eğitim veri kümesi ve test veri kümesi." Ekipten Dr. Li Deqiang, eğitim aldıklarını tanıttı Aşamada, bir dizi yapay zeka sınıflandırıcı eğitilir ve önerilen ilkeler sistematik olarak her sınıflandırıcıya uygulanır.
Test aşamasında, numuneler her sınıflandırıcıya girilir ve son olarak, tüm sınıflandırıcıların oylama sonuçlarına göre numunenin kötü amaçlı yazılıma karşı dirençli olup olmadığı belirlenir. "Bu teknolojinin anahtarı, eğitim aşamasında, akıllı sınıflandırıcıların kaçınma saldırılarına karşı güvenilirliğini ve güvenliğini artırmak için kötü amaçlı yazılım sınıflandırması ayarlarında kullanılan bazı tasarım ve kaçınma ilkelerini yenilikçi bir şekilde önermiş olmamızdır."
Profesör Li Qianmu, bu araştırmanın sonuçlarının yaygın olarak kullanıldığını ve endüstriyel İnternet ve akıllı insansız sistemlerin üst düzey güvenlik tasarımını standartlaştırmak için kullanılabileceğini belirtti.Akıllı sistemlerin güvenlik mimarisini birleştirerek, insansız sistemler gibi akıllı sistemlerin güvenlik ara bağlantısı ve birlikte çalışabilirliği artırıldı Akıllı sistemlerin bilgi savunma yeteneklerini geliştirmek için operasyonel özellikler. "Akıllı platformların ve endüstriyel İnternetin ürün güvenliği geliştirmesine rehberlik etmek için de kullanılabilir. Genelleştirme, standardizasyon ve bileşenleştirme yoluyla, çeşitli güvenlik işlevi bileşenleri yeniden kullanılabilir ve değiştirilebilir ve tedarik maliyetleri büyük ölçüde azaltılabilir."
Araştırma sonuçları, akıllı platformların ve Endüstriyel İnternetin güvenlik bileşenlerinin dağıtımına ve koordineli uygulamasına rehberlik etmek için de kullanılabilir.Güvenlik kaynağı optimizasyonu, güvenlik izleme süreci optimizasyonu ve güvenlik bileşeni tahsisi yoluyla, akıllı sistemlerin birden fazla güvenlik savunma görevine uyum sağlama yeteneği geliştirilir ve İnsan sistemleri, insansız sistemler ve insanlı sistemler ile insansız sistemler ve ağ bilgi sistemleri arasındaki güvenlik etkileşim yetenekleri.
kaynak: Jiangsu Eğitim Haberleri
