Endişe verici şey oldu, AI donanmasını göremiyorsunuz
Li Lin, Geng'den Derleme ve düzenleme
Qubit Üretildi | Genel Hesap QbitAI
İster Çin'de ister Amerika Birleşik Devletleri'nde, birçok kişi Dianping veya Yelp gibi restoranları veya otelleri seçerken çoğunlukla çevrimiçi incelemelere güveniyor.
Bir dereceye kadar, ağızdan ağıza, birçok şirketin can damarı ve hizmet ve ürün kalitesinin daimi bir kaydı haline geldi. Aynı zamanda, haksız veya yanlış yorumlar da şirketleri endişelendiriyor, bunlar öfkeli müşterilerden veya rakiplerden gelebilir.
Donanma tüm dünyada baş ağrısıdır ve gelecekte daha da acı verici olabilir:
Yapay Zeka (AI), otomatik olarak yanlış yorumlar yazmayı öğrendi.
Ağızdan ağıza yorum topluluğunun tamamı potansiyel ancak ciddi bir etkiyle karşı karşıyadır. Yapay zeka taşkınının yarattığı yanlış incelemeler, sonuçta tüm inceleme bilgilerinin güvenilirliğinde keskin bir düşüşe yol açacaktır. Teknolojik ilerleme, bu sefer topluma (endişe verici) etkiler getirdi.
Xu Zhiyuan'ın daha endişeli olup olmayacağını bilmiyorum.
Chicago Üniversitesi'nden bilgisayar bilimi profesörü Ben Zhao, "Bu, bir bütün olarak toplum için büyük bir tehdit. Yalnızca inceleme bilgilerine güvenen kullanıcıları hayal kırıklığına uğratmayacak, aynı zamanda gerçek ve yanlış hakkındaki insan inançlarını da sarsacak. Bence ikincisi daha da endişe verici," dedi. Y. Zhao) dedi.
Sahte
"Çevrimiçi İnceleme Sistemlerinde Otomatikleştirilmiş Kitle Kaynaklı Saldırılar ve Savunmalar", Zhao Yanbin ve Chicago Üniversitesi'ndeki diğer araştırmacılar tarafından yayınlanan bir makaledir. Araştırmaları, yapay zekanın karmaşık inceleme bilgileri oluşturmak için kullanılabileceğini gösteriyor. Bu yanlış yorumlar yalnızca makineler tarafından değil, aynı zamanda insan okuyucular tarafından bile tespit edilemez.
Bu makale, bu yılın sonlarına doğru en iyi bilgisayar güvenlik konferansı ACM CCS'de sunulacak.
Sözde karmaşık yorum bilgileri muhtemelen şu şekildedir: "Burayı beğendim. Kardeşimle gittim. Vejetaryen makarna sipariş ettik ve lezzetliydi. Bira iyiydi ve servis harikaydı. Burayı tavsiye et, harika Kahvaltı için iyi bir yer. Yer küçük ama iş büyük ".
İlk bakışta, bu inceleme tuhaf bir şey değil, bazı özel öneriler ve inandırıcı açıklamalar içeriyor.Son cümle biraz garip olsa da, bütün hala bir insan ifadesidir.
Aslında bu cümle, RNN (Tekrarlayan Sinir Ağı) adı verilen bir derin öğrenme tekniği tarafından oluşturulmuştur. Bu RNN ağı, binlerce gerçek çevrimiçi inceleme kullanılarak eğitilmiştir.
Araştırmacılar, AI tarafından üretilen incelemelerin "sahte ve doğru" olduğunu söyledi. 600 kullanıcıyı içeren bir anket, bu yanlış incelemelerin yalnızca insanların gözünden kaçmakla kalmayıp, aynı zamanda kullanıcılar tarafından da "yararlı" olarak kabul edildiğini gösterdi.
"Yararlı" daha da korkutucu bir şeydir: Yanlış incelemelerin insanları zaten etkileyebileceğini gösterir.
Anti-intihal yazılımı da bu yanlış incelemeler hakkında hiçbir şey yapamaz, çünkü bu incelemeler sadece mevcut incelemelerdeki kelimelerin yerini almak yerine kelimesi kelimesine üretilir. Anti-intihal yazılım tespiti kullanıyorsanız, yalnızca yanlış incelemeleri tespit etmek zor olmakla kalmaz, aynı zamanda çok sayıda gerçek incelemeyi "yaralayacaktır". RNN, mevcut incelemelerin bir kopyasından daha fazlasıdır.
İnsan donanması yüzleri terk edildi
İnsanlar tarafından yazılan yanlış incelemeler zaten gelişen bir yeraltı endüstrisidir. Paranız olduğu sürece, ürününüz için olumlu bir inceleme yazacak birini bulabilir ve ikincisi rakibiniz için olumsuz bir inceleme yazabilirsiniz.
Şimdi, geleneksel donanma endüstrisi de gelecekte yapay zeka ile değiştirilebilir.
ABD pazarında, yüksek kaliteli bir Yelp incelemesinin maliyeti 10 ABD doları olabilir. Ancak yapay zekanın yardımıyla, öngörülemeyen zihinlere sahip insanlar, bir kuruş karşılığında binlerce yorum üretebilir ve şüpheyi önlemek için bunları bir araya getirebilir.
İyi haber şu ki, yapay zekanın gerçek dünyada kötü niyetli yanlış incelemeler ürettiği bir durum yok.
Kötü haber ise böyle bir yapay zeka sistemi kurmanın çok uzun sürmemesi, gerekli donanım piyasada mevcut olması ve gerekli inceleme veri tabanına online olarak kolaylıkla ulaşılabilmesidir.
Hala karşı önlem var
Birisi bu tür sahte incelemelerin seri üretimine başlarsa, Dianping ve Yelp gibi web sitelerinin iyi bir hayatı olmayabilir. Sonuçta, işaretleri kullanıcıların gerçek yorumlarıdır. Her biri sahte olabilirse, kim yapacak? Onlara inanmaya devam edilsin mi?
Sırada Taobao, Jingdong, Amazon gibi e-ticaret şirketleri olacak ve Zhao Yanbin, ürünü satın alan kullanıcıları yorum yapmak için en azından sınırlayabileceklerini söylese de durum iyimser değil.
Ancak güzel haberler de var.
Araştırmacılar, bu tür yanlış incelemelerin engellenmesinin tamamen imkansız olmadığını söylüyorlar. İnsanlar bunların sahte olabileceğini düşünüyorlar, ancak makinelerin bunlara ille de bu şekilde bakması gerekmiyor. Karakterlerin dağılımını ve diğer özellikleri analiz etmek için bir bilgisayar kullanarak, doğru ve yanlış yorumlar arasında ince farklar olduğunu göreceklerdir.
Sahte incelemeler gerçek incelemelerden öğrenilir ve bu süreçte bilgilerin kaybolması kaçınılmazdır. Sahte incelemeler akıcılık ve güvenilirliğe odaklanır, ancak karakter dağılımı gibi kimsenin dikkat etmediği özellikler o kadar iyi değildir.
Araştırmacılar, "Eğitim sürecinde bilgi kaybı, oluşturulan metne aktarılacaktır" diye yazmıştı, "Bu nedenle, oluşturulan metin ile temel karakter dağılımındaki insan metni arasında istatistiksel olarak tespit edilebilir farklılıklar var. "
Elbette, saldırgan ayrıca algılamayı yanıltabilir, daha iyi bir donanıma geçebilir ve daha karmaşık bir sinir ağı oluşturabilir. Ancak bu tespitin önemi, en azından saldırı eşiğini yükseltmesi ve onlar için bazı engeller oluşturmasıdır.
Saldırının maliyeti belirli bir seviyeye ulaşırsa, bu kadar ısrarcı olmayan çoğu saldırgan durur. Zhao Yanbin, "Bu bir tür zaferdir, tüm güvenlik çalışmaları böyle, saldırı eşiğini yükseltir. Kararlı ve yetenekli saldırganları asla durduramazsınız." Dedi.
Yelp sözcüsü Rachel Youngblade, bir e-posta bildirisinde, "inceleme sistemlerinin aldatma yöntemleri gelişmeye devam ettikçe ve daha karmaşık hale geldikçe, Yelp gibi büyük kullanıcı inceleme sitelerinin içeriğin gerçekliğini sağladığını belirten araştırmayı takdir ettiklerini söyledi. Büyük zorluklarla yüzleşmek On yıldır Yelp her zaman içeriği koruyan sistemlere sahipti ve aldatma yöntemleri gittikçe daha karmaşık hale geldiğinden, sahte incelemeleri ve önyargılı ve yararsız içeriği belirlemek için bu sistemleri yinelemeye devam ediyoruz. Yazarlar Yelp sistemini "gerçek" in bir temsilcisi olarak kullanıyorlar ve etkinliğini kabul ediyorlar. Çok minnettarız. "
"Ancak, bu çalışmanın oluşturduğu şey yalnızca gerçek görünen bir inceleme metnidir. Yelp'in öneri yazılımı daha bütünsel bir yaklaşım kullanır. Metne ek olarak, bir inceleme önerilip önerilmeyeceğini belirlemek için birçok başka faktör de kullanır. Değeri yoktur ya da önyargılıdır, insanlar tarafından yapılmış olsa bile, bunu tavsiye etmiyoruz. "
İncelemeden daha fazlası
İncelemeler, metin oluşturma teknolojisini test etmek için ideal bir yerdir. Bu alanın açık bir yönü ve amacı, tek bir konusu, oldukça standart bir yapısı vardır ve uzun değildir. (Yanlış incelemeler ne kadar uzun olursa, sorunları bulmak o kadar kolay olur)
Ancak teknoloji burada bitmeyecek.
"Yani, çevrimiçi incelemelerle yeni başladık. Birinin restoranlar ve ürünler hakkında söylediklerine inanabiliyor musunuz? Ancak bu tür araştırmalar gelişmeye devam edecek."
"Daha büyük bir saldırıya doğru ilerleyecektir. Belki de blogdaki makalenin tamamı, belirli bir konuya göre bir robot tarafından tamamen otomatik olarak oluşturulmuştur. Şu anda, bilginin nereden geldiğini ve nasıl doğrulanacağını gerçekten düşünmeniz gerekiyor ... Birkaç yıl içinde hepimizin karşılaşacağı daha büyük bir zorluk. "
Zhao Yanbin, iletmek istediği mesajın "basit" olduğunu söyledi: "Umarım insanlar bu tür saldırılara dikkat ederek bunları gerçek ve acil tehditler olarak görürler." Yelp ve Amazon gibi sitelerdeki mühendisler nasıl direneceklerini düşünmeye başlamadıysa, Derhal düşünmeye başlamalarını istiyor.
Profesör, "sadece bu tür saldırılara karşı savunma yapabilecek bir sistem tasarlamak için değil, aynı zamanda daha fazla insanın" iyi AI "nın oluşturduğu tehditleri sıradan bir perspektiften görmesine izin vermek için daha fazla dikkat çekmeyi umuyoruz."
"Bence pek çok insan Singularity ve Skynet gibi göz alıcı AI tehditlerine dikkat ediyor, ancak bu çok iyi AI'lar, gösterici etkiyle daha birçok pratik tehdidi getirebilir ve bu sadece bir buzdağı. Bir köşe."
Şöyle ekledi: "Bu nedenle, güvenlik sektöründeki insanların bu tür sorunlara dikkat etmemiz için bana katılmasını umuyorum, böylece yetişmeyi umabiliriz. Bence yapay zeka inanılmaz bir hızda ve ivme ile gelişiyor. Hemen başlamazsak Nasıl direneceğini öğrenmek asla yetişmeyebilir. "
Profesör Yanbin Zhao, Chicago Üniversitesi
Doğru mu değil mi
Son olarak, bir test yapalım.
Bazıları sinir ağları tarafından oluşturulan yanlış incelemeler ve diğerleri gerçek insan incelemeleri olan altı durum vardır. Doğruyu yanlıştan anlayabilecek misin bir bak.
1. En sevdiğim İtalyan restoranı. Bu yemeği seviyorum, her şey harika. Kuşkonmazlı çiğ dana eti tavsiye ederim. İtibarın o kadar büyük olması üzücü ki, prime saatlerinde bir koltuk rezerve etmek gittikçe zorlaşıyor.
2. Bütün ailemiz bu restoranın büyük hayranlarıdır. Personel çok güzel ve yemek harika. Tavuk çok lezzetli ve sarımsak sosu mükemmel. Meyveli dondurma da çok lezzetli. şiddetle tavsiye edilir!
3. Her Noel geliyorum ve en çok spagettiyi seviyorum! Para için değer!
4. Çok iyi pizza, lazanya ve en iyi deniz taraklarından biri. Tatlılar büyük ve lezzetlidir.
5. Buradaki yemekler inanılmaz derecede lezzetli ve porsiyon çok büyük. Peynirli simit mükemmel yapılmış, taze ve lezzetlidir! Servis hızlı. Kuşkusuz en sevdiğimiz yer! Geri geleceğiz!
6. Buraya akşam yemeğine geldiğimden bu yana bir buçuk yıl geçti ve lezzetli olması dışında söyleyecek hiçbir şeyim yok. Her zaman pizza sipariş ediyorum ve İtalyan bifteği de çok iyi, bu beni etkiledi. Servis olağanüstü. Gördüğüm en iyi servis restoranı. şiddetle tavsiye edilir.
Hangi incelemelerde sorun olduğunu görüyor musunuz?
QbitAI resmi hesabı (QbitAI) diyalog arayüzünde, bir kelime ile cevap verin: "yanlış", kararınızın doğru olup olmadığını doğrulayabilirsiniz. Aynı zamanda, ilgili yazının indirme adresini de alacaksınız ~
- Bitiş -
Samimi işe alım
Qubit, editörleri / muhabirleri işe alıyor ve merkezi Pekin, Zhongguancun'da bulunuyor. Yetenekli ve hevesli öğrencilerin bize katılmasını dört gözle bekliyoruz! İlgili ayrıntılar için lütfen QbitAI diyalog arayüzünde "işe alım" kelimesini yanıtlayın.
Qubit QbitAI
' ' Yapay zeka teknolojisi ve ürünlerindeki yeni eğilimleri takip edin
