AI'nın kalbini görmek ister misiniz? İnsanlar için hala gidecek uzun bir yol var
Bugün yüz tanıma, dil çevirisi, araç kullanma vb. Gibi birçok şeyi yapay zekaya bırakabiliriz. Ancak bu yeni bir soruyu gündeme getiriyor: YZ bu kararları nasıl alıyor?
Sıradan bilgisayarlar, insanlar tarafından yazılan algoritmaları çalıştırır, ancak AI farklıdır. Çeşitli İngilizce ve Çince çeviriler gibi büyük miktarda veri girerek bir AI eğitiriz ve AI'nın kendisi karşılık gelen ilişkiyi "öğrenir".
(Resim: QZ)
Makineler bilgiyi işlemek için doğal dili kullanmadıkları için, AI'nın bu sonuçlara nasıl ulaştığını anlamak bizim için zor. Bu nedenle, son zamanlarda bir "algoritma sorumluluğu" çağrısı yapıldı ve makine üretme algoritmaları sürecinin ilk sırada yer aldığını anlamak daha kolay.
Bu amaçla, Amerika Birleşik Devletleri'ndeki Georgia Teknoloji Enstitüsü'ndeki araştırmacılar, Frogger oyununu oynarken karar verme sürecini İngilizce olarak açıklayabilen bir AI eğitti.
(Not: "Frog Crossing the River" 1980'lerden kalma klasik bir arcade oyunudur. Oyuncuların kurbağalara tehlikeli nehir boyunca rehberlik etmesi ve onları birer birer eve götürmeleri gerekir.)
(Fotoğraf: Codegolf)
Aslında, bu yapay zeka gerçekten ne yaptığını söylemiyor, aynı koşullar altında insanların bu fenomeni nasıl tanımlayacağını tahmin ediyor. Basitçe ifade etmek gerekirse, araştırmacılar bilgi işleme sürecindeki karakterleri insan tarafından anlaşılır metne "çevirmek" için yapay zekaya biraz kelime dağarcığı verdiler.
Özellikle bu yapılır:
"Nehri Geçerken Kurbağa" oynayan insanların oyun sürecini kaydedin, oyuncuyu kaydedin ve metne kopyalayın bu metni oyun sırasında insan oyuncu tarafından kullanılan algoritmayla ilişkilendirin AI'nın görmesi için ayrı bir algoritma tasarlayın Elde edilen oyun algoritması insan diline karşılık gelir.
Örneğin, AI "Bir nefes alabilmek için zıplamak için bir yer bekleniyor" yazdığında, aslında bir atlama noktası beklemiyor olabilir, ancak bir insan oyuncuya benzer bir sahnede oyunda tam olarak doğrudur Yani bu kelimeler bunu tarif etmek için kullanılıyor.
Mevcut araştırma ilerlemesinden yola çıkarak, bu YZ hala sadece bir kavram kanıtıdır.Araştırmacılar, diğer görevlerin yerine getirilmesi için kullanılmadan önce özel eğitime ihtiyaç duyduğunu söylüyor, ancak en azından insanların YZ düşüncesini keşfetme sürecinde küçük bir adım attığını gösteriyor.
AI'nın karar verme mantığını anlamak, hataları hızlı bir şekilde bulmak ve AI'nın yeteneğini geliştirmek için büyük önem taşıyor. Örneğin, Google Fotoğraflar uygulaması siyah bir kişiyi yanlışlıkla goril olarak işaretlediğinde, mühendislerin sorunun nerede olduğunu hızlı bir şekilde belirlemesi genellikle zordur. Karar verme sürecini anlayabilirseniz, işler çok daha kolay olacaktır.
Bu nedenle Georgia Institute of Technology'ye ek olarak birçok üniversite bu konuda araştırmalar başlatmıştır.
California Üniversitesi, Berkeley ve Max Planck Enformatik Enstitüsü, yapay zekayı verileri iki şekilde analiz etmek için eğiten "işaret etme ve gerekçelendirme" adlı başka bir araştırma yöntemi önerdiler. Sorular, karar için kullanılan verileri gözden geçirin.
(Resim: QZ)
Massachusetts Teknoloji Enstitüsü, insan türevini taklit etme sürecinden başlayarak, yapay zekanın bira derecelendirme web sitesinden insan yorum metnini (koku, renk vb.) Çıkarmasına izin verdi ve bunu birayı puanlamak ve sonuçları insan derecelendirmeleriyle karşılaştırmak için bir temel olarak kullandı. Yapay zekanın insanlara benzer bir türetme sürecine sahip olup olmadığını keşfetmek için kontrast oluşturun. (Şimdi, AI size sadece cevabı söylemekle kalmaz, aynı zamanda nedenini de açıklar)
Elbette bunlar sadece ön çalışmalar, AI'nın karmaşık karar verme sürecini anlamak için, insanların daha gidecek daha çok yolu var.
Resim: KNOAH
