Bengio ve diğer birçok bilim insanı ortaklaşa üretti: AI'nın güvenilir olmasını sağlamak için bir sistem nasıl tasarlanır?
Yazar | Jiang Baoshang tarafından düzenlendi | Cong Mo
Endişeler olduğu kadar çok anlaşmazlık var.
Bu özellikle yapay zeka alanında doğrudur.YZ uygulamalarının sürekli uygulanmasıyla, insanlar yapay zeka sistemlerinin getirdiği risklerin giderek daha fazla farkına varmakta ve mevcut yasaların, endüstrinin ve akademik standartların hala yapay zekanın güvenilirliğini sağlamak için yetersiz olduğunun farkına varmaktadır. Araştırma ve Geliştirme.
Doğru ifadeler ve yeterli kanıt sağlanabilirse, AI geliştiricileri eylemlerinin sorumluluğunu düzenleyicilere, halka ve diğer geliştiricilere daha iyi kanıtlayabilir.
Bu amaçla, 59 birinci sınıf bilim insanı, güvenilir yapay zeka tarafından kapsanan mekanizmaları ayrıntılı olarak ele alan, güvenilir yapay zekanın inşası üzerine yakın zamanda "Güvenilir Yapay Zekaya Doğru: Doğrulanabilir İfadeler için Destekleme Mekanizmaları" başlıklı bir makaleyi birlikte yazdı.
AI Technology Review Backstage "Trusted AI" İndirme Raporuna Yanıt Verin
Raporun tamamı 30'dan fazla kurumu içeren OpenAI tarafından yönetiliyor, Google Brain, Turing Institute ve birçok büyük Avrupa ve Amerikan üniversitesi katıldı.
Rapor, Nisan 2019'da düzenlenen bir seminere dayanılarak yazılmıştır. Rapor, üç düzeyde hareket eden mekanizmaları ortaya koymaktadır: sistem, yazılım ve donanım:
- Kurumsal mekanizma: Bu bölüm, yapay zeka araştırma ve geliştirme ifadelerinin etkili bir şekilde doğrulanması için temel olarak kullanılır.Üçüncü taraf incelemesi, kırmızı ekip test çalışmaları, hata ve güvenlik tehlike algılama teşvikleri ve yapay zeka güvenlik kazası bilgi paylaşımı dahil olmak üzere dört öneri önerilmiştir.
- Yazılım mekanizması: Amaç, yapay zeka sistemlerinin özniteliklerinin anlaşılmasını ve denetlenmesini kolaylaştırmaktır. Özel önlemler şunları içerir: gizlilik koruması için denetim izi, yorumlanabilirlik ve makine öğrenimi.
- Donanım mekanizmaları: Bilgi işlem donanımıyla ilgili mekanizmalar, gizlilik ve güvenlikle ilgili iddiaların doğrulanması, kuruluşların kaynakları nasıl kullandığına dair şeffaflığın artırılması ve farklı iddiaları doğrulamak için gerekli kaynakların kimde olduğunu etkilemek dahil olmak üzere birçok alanda önemli bir rol oynayabilir. Bu bölüm üç bölümden oluşmaktadır: makine öğreniminin donanım güvenlik olanakları, yüksek hassasiyetli bilgi işlem kaynaklarının ölçümü ve akademi için bilgi işlem kaynağı desteğinin sağlanması.
1
Kurumsal mekanizma: davranışının görünürlüğünü artırın
bu kısım, Her şeyden önce, bir noktaya gelin: Yalnızca etik standartlara veya davranış kurallarına güvenmek, düzenleme ve sınırlama yeteneğinden çok uzaktır. Çünkü kılavuzlar genellikle belirli durumlardan soyutlanır ve güvenilir bir şekilde uygulanamaz.
Kurumsal mekanizmalar bir kuruluşun hedeflerini ve değerlerini netleştirmesine yardımcı olabilir ve bu da önerilerini değerlendirmek için bir temel sağlayabilir.
Kurumsal mekanizmanın bir bölümünde rapor, öz değerlendirme beyanları yerine üçüncü taraf denetimlerinin kullanılabileceğini öne sürüyor; Kırmızı takım çalışması Geliştiricinin önleme konusundaki farkındalığını artırmak ve sistemin kötüye kullanılması veya saldırı olasılığını azaltmak için; Hata ve güvenlik tehlikesi tespit teşvik sistemi (önyargı ve güvenlik ödülleri) Yapay zeka sistemindeki aksaklıkların zamanında tespiti ve raporlanmasını kolaylaştıracak teşvik mekanizması oluşturmak ve güçlendirmek AI güvenlik kazası bilgi paylaşımı , Toplumun yapay zeka sistemleri anlayışını geliştirmek. Üçüncü taraf denetimi tarafından ele alınan sorunlar şunlardır: Yapay zekanın geliştirme süreci genellikle belirli bir organizasyonun dışındaki kişilere opaktır ve çeşitli engeller, üçüncü tarafların geliştiricinin ifadesini doğrulamasını zorlaştırır. Bu nedenle, sistem özellikleriyle ilgili iddiaların doğrulanması kolay olmayabilir.
Verilen öneri, paydaş ittifakının yapay zeka sisteminin üçüncü taraf denetimini incelemek ve bunun için finansman sağlamak için bir çalışma grubu kurması gerektiğidir. Odak noktası, hassas fikri mülkiyet haklarıyla başa çıkmak için yöntemler tasarlamak ve standardizasyon ihtiyacı ile esneklik arasında bir denge kurmaktır.
Kırmızı takım test egzersizinin ele aldığı sorular şunlardır: Yapay zeka geliştiricilerinin, kötü niyetli davranışlar gibi riskler dahil olmak üzere yapay zeka sistemleriyle ilişkili "bilinmeyenleri" çözmesi zordur. Mevcut kırmızı takım yöntemi, bu sorunları AI arka planında çözmek için yeterli değil.
Verilen tavsiye şudur: AI Ar-Ge kurumları, sistemdeki olası riskleri keşfetmek ve sorunlarla başa çıkmak için ilgili en iyi uygulamaları ve araçları paylaşmak için kırmızı ekip çalışmalarına katılmalıdır. Tutarlı bir kırmızı takım şu iki soruyu yanıtlayabilmelidir: Bir takımın uygun kapsamı nedir? Özel bilgiler nasıl ele alınacak?
Hata ve gizli güvenlik tehlike tespit teşvik sistemi tarafından ele alınan sorunlar şunlardır: Yabancılar için, AI önyargısını ve güvenlik sorunlarını bulmak ve bildirmek için fazla motivasyon yoktur.
Verilen tavsiye şudur: AI geliştiricileri, AI sistemlerinin kapsamlı bir şekilde izlenmesi için bir teşvik mekanizması ve standart prosedürler oluşturmak için önyargı ve güvenlik ödüllerini denemelidir. Dahil edilmesi gerekenler: ikramiye başvurularının talep edilmesi ve değerlendirilmesi için prosedürlerin belirlenmesi; bu tür ikramiye yoluyla bulunan sorunların derhal ifşa edilmesi için prosedürlerin formüle edilmesi; uygunsuz teşvik mekanizmalarının oluşturulmasından kaçınılması ...
AI kaza paylaşımının ele aldığı sorunlar şunlardır: Yapay zeka sistemlerinin potansiyel riskleri konusunda ortak bir anlayışınız varsa, bu tür sistemler hakkındaki iddiaları daha etkili bir şekilde inceleyebilirsiniz. Ancak yapay zeka sistemi kazaları, tek taraflı yapmanın yüksek maliyeti nedeniyle nadiren paylaşılıyor.
Verilen tavsiye şudur: Uzun vadede, deneylerden ve araştırmalardan öğrenilen dersler, farklı yapay zeka kazaları ve raporlama süreçleri için olgun bir sistemi entegre edebilir.
2 Yazılım mekanizması: üç yönlü yaklaşım: hesap verebilirlik, yorumlama ve gizlilik
Yazılım mekanizmaları, tıpkı yazılımın kendisi gibi, belirli bir bağlamda anlaşılmalıdır.Yazılım mekanizmalarına ilişkin profesyonel bilgi yaygın değildir, bu da mekanizmaların kurulmasına zorluklar getirir.
Önerilen özel önlemler şunları içerir: Denetim izi Geliştirme ve konuşlandırma süreci ile ilgili anahtar bilgileri toplayarak yapay zeka sistemlerinin hesap verebilirliğini güçlendirmek; Yorumlanabilirlik Yapay zeka sistemlerinin özelliklerinin anlaşılmasını ve incelenmesini geliştirmek; ve Gizliliği koruyan makine öğrenimi , Geliştiricilerin gizlilik korumasına olan bağlılığını daha sağlam hale getirin. onların arasında, Denetim izi tarafından ele alınan sorunlar şunlardır: Yapay zeka sistemleri, problem tanımlama, tasarım, geliştirme ve işletim sürecinde atılan adımların izlenebilir bir kaydına sahip değildir ve hesap verebilirlik eksikliği yaşanacaktır.
Verilen öneri şudur: Standart belirleyen kurumlar, güvenlik açısından kritik yapay zeka sistemlerinin denetim izlerini talep etmek için akademik topluluk ve endüstri ile işbirliği yapmalıdır. Yazılım denetim izi uygulamaya bağlı olsa da, yazılım denetim izi genellikle uygunluğunu kanıtlamak için bir dizi temel izlenebilirlik izi gerektirir. İzleme sürecinin verimlilik, bütünlük, kurcalamaya karşı direnç ve diğer tasarım konuları arasındaki ödünleşmeleri dikkate alması gerekir.
Yorumlanabilirlik sorunu şudur: Yapay zeka kara kutu sorunu.
Çözüm: Risk değerlendirmesi ve denetimi desteklemeye odaklanarak yorumlanabilirlik araştırmasını teşvik etmek için daha fazla fon verin.
Gizliliği koruyan makine öğrenimi Sorun şu ki, yeni gizlilik koruma makine öğrenimi teknolojilerini değerlendirmek için standartların eksikliği ve bu teknolojileri uygulama yeteneği şu anda tipik yapay zeka geliştiricilerinin becerileri dahilinde değil.
Çözüm: Yapay zeka geliştiricileri, gizliliği koruyan makine öğrenimi araç setleri geliştirmeli, paylaşmalı ve kullanmalıdır. Yapay zeka geliştiricileri, özel makine öğrenimi teknolojisinin açık kaynak topluluğu çalışmasına katkıda bulunmalı, OpenMined, Microsoft SEAL, tf-şifreli, tf-federated ve nGraph-HE gibi diğer şekillerde kullanmalı ve desteklemelidir.
3 Donanım mekanizması: iddiaların doğrulanabilirliğini iyileştirin
Bilgi işlem donanımıyla ilgili mekanizmalar, gizlilik ve güvenlikle ilgili iddiaların doğrulanması, kuruluşların kaynakları nasıl kullandığına dair şeffaflığın artırılması ve farklı iddiaları doğrulamak için gerekli kaynakların kimde olduğunu etkilemek dahil olmak üzere birçok alanda önemli bir rol oynayabilir.
Bu bölümde tartışılan mekanizmalar, makine öğrenimini mükemmelleştirmeyi içerir Donanım güvenlik tesisleri Gizlilik ve güvenlik bildirimlerinin doğrulanabilirliğini geliştirmek için; Yüksek hassasiyetli bilgi işlem kaynaklarının ölçülmesi, Bilgi işlem gücünün kullanımına ilişkin iddiaların değerini ve karşılaştırılabilirliğini geliştirmek; ve Academia, bilgi işlem kaynağı desteği sağlar , Sektör dışından kişilerin büyük ölçekli yapay zeka sistemleri ile ilgili iddiaları değerlendirme yeteneğini geliştirmek. Donanım güvenlik tesislerinin sorunu : Güvenilir bir yürütme ortamının geliştirilmesi, çok büyük bir ön maliyetle karşı karşıyadır ve en uygun donanım tabanlı çözüm olmayabilir.
Öneri şudur: endüstri ve akademi, yapay zeka hızlandırıcıları için donanım güvenlik özelliklerini geliştirmek üzere birlikte çalışmalı veya bir makine öğrenimi ortamında güvenli bölgeleri (ticari donanım üzerinde "güvenli mahalleler" dahil) kullanmak için en iyi uygulamaları oluşturmalıdır.
Donanım düzeyinde, makine öğrenimi hızlandırıcılarına özel güvenlik özellikleri eklemek, güvenlik bölgelerinden farklı bir biçim alabilir. Bir yandan farklı mimariler ve yonga üzerindeki alanın farklı kullanımları nedeniyle; diğer yandan güvenlik sorunlarının farklı ağırlıkları nedeniyle; diğer yandan ticari yongalara göre ölçek ekonomilerindeki farklılık nedeniyle birçok makine öğrenimi hızlandırıcı geliştiricisi Intel veya NVIDIA'ya göre. Yerleşik çip tasarım şirketleri için ölçek daha küçüktür ve kaynaklar daha azdır.
Yüksek hassasiyetli bilgi işlem kaynaklarının hedeflediği sorunlar şunlardır: Bilgi işlem kaynaklarının kullanımını ölçmek için standartların olmaması, gönüllü raporların değerini azaltır ve yapay zekanın geliştirilmesinde kullanılan kaynaklarla ilgili iddiaların doğrulanmasını zorlaştırır.
Çözüm, bir veya daha fazla yapay zeka laboratuarının tek bir proje için yüksek hassasiyetli bilgi işlem kaynaklarını ölçmesi ve uygulamalarının geniş çapta benimsenip benimsenemeyeceğini bildirmesidir.
Akademi için bilgi işlem kaynakları sağlamanın sorunları şunlardır: Endüstri ve akademi arasındaki bilgi işlem kaynağı açığı, yabancıların yapay zeka geliştiricileri tarafından yapılan teknik iddiaları, özellikle hesaplama açısından yoğun sistemlerle ilgili olanları inceleme yeteneğini sınırlıyor.
Çözüm şudur: Devlet finansman kurumları, akademik araştırmacıların ticari yapay zeka iddialarını doğrulama yeteneğini geliştirmek için akademik araştırmacıların bilgi işlem gücü kaynakları için finansmanı önemli ölçüde artırmalıdır.
Bunun temeli, hükümetler satın alma güçlerini toplu bilgisayar satın alımlarını müzakere etmek için kullanırlarsa, bu tür bir bilgi işlem güç kaynağı daha ekonomik hale getirilebilir ve hükümetler de bu amaç için kendi bilgi işlem altyapılarını oluşturabilirler.
4 Önem: Yapay zekanın doğrulanabilirliğini artırın
Bu rapor, AI alanında güven kazanmanın bir yolunu ayrıntılı olarak ele aldı ve çeşitli mekanizmalar aracılığıyla ilgili personelin çeşitli ifadelerini doğrulamak, yapay zekanın sorumlu bir şekilde geliştirilmesini sağlayabilir.
Yapay zekanın sağlıklı bir şekilde gelişmesini sağlamanın ilk adımı etik ilkelerin geniş bir şekilde detaylandırılması olabilirse, doğrulanabilir mekanizmaların kullanılması ikinci adımdır.
Raporda önerilen mekanizma, farklı paydaşların karşılaşabileceği sorunların üstesinden gelmemize yardımcı olabilir:
- Bir kullanıcı olarak, hassas belgelerin makine çevirisi için yeni yapay zeka sistemini kullanırken gizlilik koruma düzeyi bildiriminin gerçekliğini doğrulayabilir miyim?
- Bir düzenleyici olarak sürücüsüz araçların neden olduğu kaza sürecini takip edebilir ve otomobil şirketinin güvenlik iddialarını yargılamak için hangi kriterlerin kullanıldığını bilebilir miyim?
- Bir bilim insanı olarak, endüstri bilgi işlem kaynaklarının yokluğunda büyük ölçekli yapay zeka sistemlerinin etkisi üzerine objektif araştırma yapabilir miyim?
- Bir yapay zeka geliştiricisi olarak, belirli bir alandaki rakiplerimin rekabet avantajı elde etmek için köşeleri kesmek yerine en iyi uygulamaları takip ettiğinden emin olabilir miyim?
Genel olarak, yapay zeka iddialarının etkili bir şekilde değerlendirilmesini engelleyen belirli konulara yanıt olarak, rapor, birbirine karşılık gelen bir dizi mekanizma ve öneri ortaya koyuyor. Bu mekanizmalardan bazıları halihazırda mevcuttur, ancak diğeri benzeri görülmemişken, hala iyileştirilmesi gerekmektedir. Rapor, yapay zeka araştırma ve geliştirme iddialarının doğrulanabilirliğini daha da artırmaya katkıda bulundu.
