Makine öğreniminde garip anlardan nasıl kaçınılır?
Makine öğreniminde garip anlardan nasıl kaçınılır? Adım adım inceleyelim.
Beklenmeyeni önceden düşünün!
Akıllı ürün yöneticileri ve tasarımcılar, üründeki bariz sığ sorunları görebilir ve ardından güvenliği sağlamak için koda onarım kodu ekleyebilir. Bununla birlikte, yapay zeka sistemi nispeten karmaşık ve ekibin bile dikkate alınması zor. Her zaman sizi tuhaf bir duruma sokan acil durumlar olacaktır.
Aynı şey gerçek hayatta da geçerli, bir tatil planlarken herkes her zaman tedbirlidir. Ama kabuklu deniz hayvanlarının zehirlenmesi nedeniyle hastaneye gidebileceğini ve sonunda Roma trenini kaçıracağını hiç düşünmemiştim. Bu yüzden asla "iyi hazırlanmışım" deme.
Beklenmedik şeyler olduğunda, yalnızca eylem yükünü etkili bir şekilde azaltabilecek altyapıya güvenebiliriz. Yapay zeka alanındaki altyapıdan bahsedelim.
Vahşi sohbet robotu
İnternet topluluğu vahşi sohbet botlarını çok seviyor. Şimdi Microsoft tarafından başlatılan bir sohbet botu olan Tay'a bir göz atalım.
Bir insan gibi tweet atacak bir yapay zeka sistemi istediğinizi hayal edin. Tabii ki bunu gerçek insan Twitter'da öğreteceksiniz. Şimdi, mükemmel çalıştığını varsayalım.
Tay'i genç bir kız olarak ayarladın ve kısa süre sonra "kötü kız" oldu, internetteki küfür ve diğer kötü sözlerinden öğreniyor.
Tay tweet atsa da, kullanıcılar onları her zaman lanetleyen (veya daha kötüsü) bu bot tarafından hayal kırıklığına uğruyor. Ayrıca istenen etkiyi elde etmediniz.
Bu süreçteki hatanız iki yönlü:
1. Hedef ("Bir insan gibi tweet atan bir robot", "sosyalleşmeye istekli, akıllı ve kibar bir tweet atabilen robottan" tamamen farklıdır).
2. Kullanılan veriler (entegre edilmemiş, daha değişken olan verileri öğrenme).
Vizyoner
Deneyimli makine öğrenimi uygulayıcıları böyle saçma şeyleri öngörebilirler - eğer biri bu sonuca şaşırırsa, çok amatörce olur. Bir robotun bir insan gibi tweet atmasını beklemenin onu lanete zorlamaktan farklı olmadığını bilmek için sağduyuya güvenmeniz yeterli.
Yapay zeka sistemleri bağımsız düşünmezler, aslında hiç düşünmezler.
İnsanlar böyle konuşur, bu yüzden sohbet robotlarının bu verileri okumasını bekleyebiliriz - çünkü nedeni ne olursa olsun, bu kötü niyetli sözler ve eylemler verilerde mevcuttur. Onları kişiselleştirmek için elinizden gelenin en iyisini yapsanız bile, makine öğrenimi veya yapay zeka sistemleri bağımsız olarak düşünmeyecektir. Sadece modeli sürekli çoğaltma için yerleşik prosedürlere dönüştürürler.
Bir eylemin popüler olmadığını tahmin ettiğinizde, onu beşikte öldürmek için hemen kodlayabilirsiniz. Bir şey beklemediyseniz, koruyucu önlemlere de sahip olmalısınız: seçkin ekipler yayınlanmadan önce eğitim ve analiz verilerini dağıtır ve ayrıca Makine Mühendisliği Bölümündeki öğrencilerin "ders kitaplarından" öğrendiklerine aşinadırlar. Ekip, bu istenmeyen davranışın ortaya çıkışını dikkate almazsa, bu davranışın ağdan kaymasına izin vermeyecektir Sonuçta, büyük miktarda veri, onları insani lirik ifadelerde usta kılar.
Bu ideal bir durum, ama ya patron bunu düşünmediyse ve analist yakınlarda uyuyakaldı ve bunu kaçırdıysa?
Hindsight'a Alternatif
Tüm sorunları sadece öngörü ile çözmeyi beklemeyin. Olaylarla yalnızca kişinin kendi öngörü yeteneği temelinde ilgilenmek akıllıca değildir. Güvenli olmak ve sağlam bir stratejik katman oluşturmak için koruyucu önlemler alın.
Sadece öngörüye güvenmeyin, strateji katmanını kullanın!
Strateji katmanı, makine öğrenimi / yapay zeka sisteminin üzerindeki ayrı bir mantıksal katmandır. Bu mantıksal katman, çıktıyı algılayabilen, filtreleyebilen ve bununla nasıl başa çıkılacağına karar verebilen yapay zeka için gerekli bir güvenlik ağıdır. Örneğin, strateji katmanı "Çıktıdaki hiçbir kelime küfür kara listesiyle eşleşmiyor" uyarısını verebilir.
Yapay zekanın görgü kuralları
Strateji katmanı, insan görgü kurallarının yapay zeka versiyonuna eşdeğerdir.
İnsanları küfürlü sözler olmadan nasıl küfrettiğinizi düşünün ve strateji katmanının neden kötü verileri sistemden kaldırmaktan daha iyi bir seçim olduğunu anlayacaksınız. Başka dillerde de bazı küfürler biliyorum ama bu kelimeleri asla masada söylemem. Bu kelimeleri unuttuğum için değil, kendimi filtrelediğim için. Toplum bana nezaketi öğretti. Neyse ki siz (ve kullanıcılar) için strateji katmanı olan makine öğreniminde böyle bir onarım sistemi var.
Strateji katmanının varlığını bildiğiniz ve inşa edilmesi kolay olduğu için şu anda yapay zeka sistemine kurmazsanız çok kötü olur.
İnternetten daha fazla görgü kuralları bilgisi.
