Yapay zeka küfür etmeyi neden öğrendi?
Şimdiye kadar insanlara en çok benzeyen şey yapay zeka. İnsanların doğumundan bu yana, hiçbir şey insanları bugünün yapay zekası gibi anlayamadı.
Bizi tam olarak anlamaktan uzak olsa da, yeterince iyidir.
Derin öğrenme, yapay zekayı gençleştirir ve insanları taklit etme yeteneği büyük ölçüde geliştirilir. İster resimlere bakıyor ister konuşsun, dünyayı her zaman insan perspektifinden görmeyi öğrenmiştir. Dil öğrenimi açısından, AI aslında daha çok bir papağan gibidir.
Yani, başka bir deyişle, AI ile ilgili her şey insanlardan öğrenilir. En azından şimdilik, ne kadar uğraşırsa uğraşsın, günlük insan hayatının engellerini aşamaz. İnsanların sevdiklerini sever; insanların nefret ettiklerinden nefret eder. İnsanlar annelerini azarlayabilir ve gram konuşmayı da öğrenebilirler.
Başka bir bakış açısına göre, artık yapay zekayı eğiten insanlar bir bebeğe yürümeyi, konuşmayı, bir şeyleri tanımayı, zeka geliştirmeyi vb. Öğretiyor. Yani, oğlunuz bir gün aniden Juniang'ı azarladığında, şaşırdınız mı?
AI dil ayrımcılığı? Her şey sadece gerçek
O zamanlar Microsoft, chatbot Tay'i piyasaya sürdüğünde, yeni bir dünyanın kapısını açacağını düşünmüştüm, kapının açılmasını beklemiyordum ama içeride yeni bir dünya yoktu. Tay, 24 saatten daha kısa bir sürede kötü bir dil konuşmayı ve ırksal olarak ayrımcı ve gerici açıklamalar yapmayı öğrendi. İmkansız, Microsoft onu acilen kapatmak zorunda kaldı.
Ve bu sadece başlangıç. Daha sonra akıllı konuşmacılar, sohbet etme ve eve girme misyonunu taşıyarak birbiri ardına pazara girdiler, ancak sonunda yine de küfretmenin kaderinden kaçamadılar. Fakyo'ya gelişigüzel gelip azarlamak sorun değil.
Yapay zeka, yavaş yavaş dünyayı insan gözleriyle "düşünmeyi" de öğrendi. Geçtiğimiz yıl, Google Translate'in hemşireleri "kadın", doktorları da "o" olarak çevirdiği ortaya çıktı, bu da yapay zeka mesleki ayrımcılık sorununa neden oldu; siyahları ve gorilleri aynı yaratıklar olarak tanımlamak da tetikledi. AI'nın ırksal ayrımcılığı ...
İnsanlar bu sorunu keşfettiğinden beri, dil ayrımcılığının neden olduğu AI etiği konusundaki tartışmalar durmadı. Bir yandan yapay zekanın kara kutusu henüz açılmadı.Bazı insanlar bunun yapay zekanın sübjektif ve kasıtlı davranışı olduğunu düşünürken diğer yandan medyanın okumayı kazanmak için bir şeyler yazması gerekiyor, bu yüzden insanlara duyarlı bazı terimler ekleyin. Kalabalığı izleme merakına da doğal olarak paralel.
Ama cidden konuşursak, yapay zekanın dil ayrımcılığı sorununun ulusal eleştiri ve hatta zihinsel gerginliğin doruğuna çıkmasına gerek yoktur.Sorun teknik seviyeden analiz edildikten sonra, bunun aslında bir hit teori olduğu keşfedilecektir.
Bu teori nedir?
Arıza neden oluyor, ancak pot uzaklaştırılamıyor
Öncelikle akıllı konuşmacıların neden insanları lanetleyeceğini anlayalım.
Bu, çalışma prosedürleriyle yakından ilgilidir. Akıllı hoparlörlerin iki ana işlevi olduğunu biliyoruz, biri başkalarıyla sohbet etmek, diğeri ise ev kontrolü. Ev kontrolünün sorunsuz olmadığı mevcut senaryoda sohbet, akıllı konuşmacıların en önemli rolü haline geldi. O zaman neden bahsediyorsun?
Ülkemiz halkı en çok çocukları kızdırmayı ve her seferinde en büyük zevk için ağlatmayı sever. Akıllı hoparlörlerle başka bir komik oyuncak var. İnsanlar böyledir. İş yerindeki insanlara ciddi şeyler söylemek çok yorucu ve eve gittiğimde ciddi bir şey söylemek istiyorum. Yeni bir şey olarak, akıllı konuşmacılar çocuklardan ayrı konuşmayı öğrenebilecek ilk şeydir. Öyleyse, merhaba, şarkı söyleme vb. Gibi günlük konuşmalar o kadar çarpık ki, herkes onunla dalga geçiyor gibi: ona iki küfür söylemeye ne dersiniz?
İlk cümle ile ikinci cümle var. Ülkenin laneti sona erdi ve süslü lanet başladı. Akıllı konuşmacıların öğrenme yeteneği ile bunda ustalaşmak doğaldır.
Aslında, birkaç küfür öğrenmek zor değil, sonuçta bu, YZ'nin temizlik becerisidir. Ama her zaman net olmamız gereken bir şey şudur: Yapay zekanın küfür ettiğini düşünüyorsunuz, ama yapay zekanın kendisi bilmiyor.
Başka bir deyişle, kelimelerin duygusal rengiyle ilgili hiçbir kavramı yoktur. Bu noktada iki ya da üç yaşındaki bir çocukla aynıdır.
Aynı ilke, ırka ve hatta mesleğe karşı ayrımcılık da kaçınılmazdır. Yukarıda bahsedilen hemşireler ve doktorlar gibi meslekler için ilgili veriler, kadınların dünyadaki toplam hemşire sayısının% 90'ını oluşturduğunu ve Çin'de% 98'e kadar çıktığını göstermektedir. Buna karşılık, Amerika Birleşik Devletleri'ndeki tıp fakültelerinde çalışan erkek çalışanlar% 60'tan fazlasını oluşturmaktadır ve bu oran mesleki unvanların gelişmesiyle artacaktır.
Benzer şekilde, Amerikan Carnegie Mellon araştırmacıları da Google aramalarında, tarayıcı sizin erkek olduğunuzu düşünüyorsa, size daha yüksek ücretli meslekler önereceğini buldu. Ve bazı algoritmalarda, siyah isimler genellikle olumsuz sözcüklerle ilişkilendirilirken, beyaz isimler genellikle olumlu sözcüklerle ilişkilendirilir.
Yapay zeka kelimelerin duygusal renk konseptine sahip olmadığı gibi, kesinlikle ırk ve meslek kavramlarına da sahip değildir. Verileri öğrenirken, belirli bir kullanıcı türünü tasvir etmek için yüksek olasılıklı içerik kullanır ve ardından benzer değerler üretir. Aslında, Amerika Birleşik Devletleri'nde siyahların suç oranı gerçekten daha yüksek ve kadınların maaş seviyeleri erkeklerin sadece% 81'i.
Yukarıdaki analizden temel bir sonuca varabiliriz: YZ'nin herhangi bir kişiye veya herhangi bir mesleğe karşı sözlü ayrımcılık niyeti yoktur.Görüntülediği her şey, nesnel verilere dayalı olarak oluşturulmuş bir kullanıcı portresidir.
Ama masumiyet anlamına mı geliyor? Öznel bir irade olmamasına rağmen, en azından nesnel ayrımcılığa neden oldu. İnsanlar yapay zekayı, bize kasıtlı veya kasıtsız zarar vermesine izin vermemek için yapar. Alay edilmek ve alay edilmek sorun değil.Makinelere bile bakamayacak kadar çok yaşarsanız, kişi binadan atlamaz mı?
Peki bu potu kim taşımalı?
Ne kadar az bilirsen, bir şeyi yanlış söylemek o kadar kolay olur
Yapay zekanın üç ana yaşam desteği arasında veri, hesaplama gücü ve algoritmalar vazgeçilmezdir, ancak aynı zamanda yapay zeka büyümesinin farklı görevlerinden de sorumludurlar. Aksine, bilgi işlem gücü, yapay zekanın geniş çaplı genişlemesi için olanak sağlarken, veriler ve algoritmalar yaşam yönünü doğrudan etkiler: sevgilim veya tüm insanların düşmanı olmak.
Daha sonra, kelime dağarcığının yanlış tanınması ve mesleki ırkın dayatılması için, ilki duyguların tanınmasından yoksundur, ikincisi ise tamamen norm olarak görür.
Aslında, birçok şirket ve bilimsel araştırma kurumu, yapay zeka ile duygu tanıma konusunda araştırma başlattı. Yurtiçinde, Alibaba ve Tsinghua Üniversitesi tarafından ortaklaşa kurulan doğal etkileşim deneyimi laboratuvarı gibi, araştırma alanları duygusal bilişsel hesaplama, varlık etkileşimi, çok kanallı algılama vb. Alanlarda konumlandırılmıştır, böylece makinenin beş duyu duyma, görme ve dokunma duyusu vardır. İnsan duygularını anlayın. Yapay zekanın insanları azarlamasının nedeni, dili yalnızca bir yön olarak ele alması ve bu yönün arkasındaki anlamı analiz etmemesidir. Muhatabın ifadesinin, diyalog sahnesinin, diyalog nesnesinin vb. Kapsamlı bir analizini eklerseniz, bu dilin yönlülüğü makine için daha zengin olacak ve kirli ihracatları önleme olasılığı daha yüksek olacaktır.
Kısa süre önce, Londra merkezli bir girişim olan Realeyes, 6 saniyelik bir video izlerken bir kişinin duygusal tepkisini okumak için bilgisayar vizyonunu kullanan ve ardından yardımcı olması için tahmine dayalı analizi kullanan bir yapay zeka kamerası başlattı Bu tepkiler, videonun etkileri hakkında geri bildirim sağlamak için videoda eşleştirilir.
Başka bir deyişle, duyguları tanımak için bazı resimler getirmek gerekiyor.
Bu mantık sorun değil gibi görünüyor, ancak uygulanması zor. Bu zorlukları çözmek için, belki de eksiksiz bir bilgi grafiği oluşturmak iyi bir seçimdir.
Analiz etmek için hala AI laneti kullanın. Laneti önlemek için yapay zekanın arkasında ne kadar içeriğin sindirilmesi ve emilmesi gerektiğini görebiliriz.
Öncelikle, yapay zekanın küfür etmek için hangi kelimelerin kullanıldığını bilmesi gerekir. Bunun basit bir şey olduğunu düşünmeyin, her şeyden önce, kelime haznesi yeterince büyük.Eski insanlar edebi "dikey" e sahipti, ancak modern insanların ağızlarını açan "aptalca "ları var. İnsanlar doyduğunda ne yapar? Osuruk. Binlerce yıllık savaştan sonra, yerel lehçelerde küfür kelimeleri farklılaştı ve sindirilmesi biraz zaman alıyor.
İkinci olarak, farklı kullanım senaryolarında kelimeler övgü ve eleştiriye dönüşecektir. Örneğin, bir kız çocuğa bebek gibi davranırsa, "Sen bir baş belasısın", AI bu sahneyi görmezden gelir, sonra kızın tehdit edildiğini düşünerek "baş belasını" yakalar ve polise ne yapacağını söyler? Yankı alarmı artık haber değil.
Son olarak ve en zoru, AI bir dizi küfür mantığını nasıl tanır? Küfür etmeden küfür eden birçok insan var. AI tüm küfür kelimelerinde ustalaşmış ve bunları başarılı bir şekilde filtrelemiş olsa bile, yine de bazı gizli kelimeleri öğrenmeyi ve özümsemeyi seçebilir ve sonunda sorunlar kaçınılmaz olarak ortaya çıkacaktır.
Başka bir deyişle, bir kelime haznesi + sahne + mantıksal küfür kelime bilgi grafiğinin oluşturulması, yapay zekanın iletişimde dil problemlerinden kaçınmasının temelini oluşturur. Ama her şey yolunda mı?
Tabii ki değil.
Bu bilgi grafiği yalnızca dil içermemelidir
İnsanlar arasındaki iletişim sadece birkaç kelimeden ibaretse, 1 kadar basit, çok basit olurdu. Dile ek olarak, eylemler, ifadeler, tonlar vb. De içerir. Bu nedenle küfür problemini çözmek için bu bilgi grafiğinin içeriği daha fazlasını içermelidir.
İnsan-bilgisayar iletişimi daha doğal ve uyumlu olacaksa, ortak duruşların, ifadelerin, özellikle mikro ifadelerin anlamının ve konuşurken konuşma tonunun yüksekliğinin bir bilgi haritası oluşturmak da gereklidir. Bu bilgi grafiklerinin basitçe inşa edilmediğini ve üst üste bindirilmediğini belirtmek gerekir. Bilirsiniz, dil, eylem, ifade ve üslup büyük miktarda birleştirilebilir ve farklı kombinasyonlar farklı duyguları temsil eder.
Şu anda bu iş neredeyse boş. Pek çok kuruluş ifadelerin, bedenin ve diğer belirli eylemlerin anlamını araştırıyor olsa da, bunlar temelde bireysel ifadelerin yüzeysel anlamıyla sınırlıdır, ancak bu katman bilgi haritasının tüm içeriği değildir. Yüzeysel anlamdan arkasındaki duyguya ve eylemle ilgili dile kadar, bu karmaşık içerik dizisinin tamamlanmaya ayrılması gerekiyor.
Daha sonra bilgi grafiği oluşturulursa, bir sonraki problem algoritmaya devredilebilir. Bu kadar büyük miktarda bilgi nasıl yoğrulur ve doğru bir şekilde değerlendirilir, mühendislik miktarı küçümsenmemelidir.
Tüm bunlar yapılabilirse, AI artık bir kişinin kalitesini sadece ten rengine ve bu tek taraflı verilere göre değerlendirmeyecek ve tüm meslekleri öngörülemeden belirli cinsiyetlere atayacaktır. Küfrederken iki kez düşünecek ve daha geniş tanınma ve yargılama konusunda daha adil ve daha objektif bir karar verecektir.
Yukarıda bahsettiğimiz gibi, AI'nın sözde "ayrımcılık" performansı sadece gerçeğin bir okumasıdır. Bu nedenle, insanlar yapay zekanın ayrımcılığını bir dereceye kadar büyüttü. Bu fenomeni temelden değiştirmek için üzerinde düşünülmesi gereken en önemli şey insanlardır. Dolayısıyla, bu açıdan bakıldığında, AI'nın ayrımcılığı iyi bir şeydir: İnsanların kendilerini üçüncü bir tarafın bakış açısından yeniden tanımalarına ve farkında olmadıkları bazı algılanamaz sorunları keşfetmelerine olanak tanır. Yapay zekanın bu beklenmedik "ürününü" insanlar üzerinde düşünmek için kullanmak, insan toplumundaki önyargıları ortadan kaldırmaya da yardımcı olur.
Yapay zekanın insanları anlaması için uzun ve zorlu bir yolculuk olacağı doğrudur. Yapay zeka günümüzde daha çok bir çocuk gibi, bu dünyanın tüm içeriğini kabul ediyor, yaşlandıkça dünyanın iyiliğini ve kötülüğünü, sıcaklığını, neşesini, öfkesini ve üzüntüsünü anlıyor. Ve yapmamız gereken şey, tozun büyüme şeklini sürekli olarak fotoğraflamak ve onu temiz bir yapay zeka haline getirmek.
Daha heyecan verici içerik için Titanium Media WeChat ID'yi (ID: taimeiti) takip edin veya Titanium Media Uygulamasını indirin
