g u t x .com.tr İpek yolu - Çin'i anlamaya götürürüm

Taciz edici çağrının arkasında ne tür bir yapay zeka var?

Telefon görüşmelerini taciz ederek bombalanmış olmalısın ve diğer kişinin gerçek bir kişi olduğunu düşündün.

Metin Wang Yiwei

Tercüme Yazı işleri departmanı

Şekil İnternet

Hepimiz bu deneyimi yaşadık, bilinmeyen bir numara ile bir çağrı aldığınızda, aramayı kulağınıza koyun. Bu sırada telefonun diğer ucunda kayıtlı bir ses bir reklamı çalmaya başladı. Sabırsızlıkla içini çektin ve telefonu kapattın.

Çoğumuz gibi, 35 yaşındaki Yang da bu tür satış aramalarına alışıktır. Ancak geçen yıl, onu rahatsız değil, tedirgin hissetmesine neden olan başka bir tür çağrı almaya başladı. Telefondaki sesler kayıtlar gibiydi, ancak sorularına esnek bir şekilde Çince cevap verebilirlerdi.

Yang, birkaç yıldır yapay zeka alanında çalışmakta ve bu çağrıların insan sesini doğal olarak tanıyabilen, yorumlayabilen ve cevap verebilen yapay zeka odaklı ses robotları tarafından yapıldığını kısa sürede fark ettiğini söyledi. 2016'dan beri Çin'in ses robotları hızla gelişti. Yaklaşık bir yıl önce Çin, yapay zekayı "Made in China 2025" in önemli bir parçası olarak listeledi. Temel planı, emek yoğun bir üretim ekonomisinden yüksek teknoloji, hizmet odaklı ve tüketim odaklı bir ekonomiye geçiş yapmaktır. Ancak Yang, insan sesi gibi ses çıkaran robotlardan giderek daha fazla çağrı aldığında - bazen günde bir düzineden fazla - bu robotları kimin kontrol ettiğini ve telefon numarasını nasıl bildiklerini merak etmeye başladı. Ve onu nasıl bu kadar çok tanıyorlar. Yang, "Bazıları tam adımı bile biliyor. Onlarla ne kadar çok konuşursam o kadar çok çağrı alıyorum," dedi Yang ve "Bu gerçekten can sıkıcı."

Yang'ın deneyiminin de gördüğü gibi, Çin'de akıllı ses teknolojisi, insanların onu insan konuşmacılardan ayırmasının zor olduğu noktaya ulaştı. Geliştiriciler, robotların manuel çağrı merkezlerinde çalışanların yerini alabileceğini, telefonla pazarlama şirketlerinin maliyetlerini büyük ölçüde azaltabileceğini ve Çin'in daralan işgücü piyasasındaki boşlukları doldurabileceğini iddia ediyor. Ancak uzmanlar bu teknolojinin olgunluğunu ve sahipliğini sorguladı, avukatlar ise ses robotlarının mevcut uygulamasının Çin'in gizlilik yasalarını ihlal ettiğine inanıyor.

Geçtiğimiz birkaç yıl içinde, Çin'in akıllı konuşma teknolojisi, özellikle konuşma tanıma ve oluşturma teknolojisi önemli ölçüde yatırım aldı. China News tarafından Kasım 2018'de yayınlanan bir rapora göre 2016'dan 2017'ye kadar, Çin'in akıllı ses endüstrisinin büyüme oranı% 70 iken, küresel oran sadece% 30'du. Geçen yıl, Çin'in akıllı ses pazarı yaklaşık 15,9 milyar yuan (2,3 milyar ABD Doları) değerindeydi; karşılaştırıldığında, Zion Pazar Araştırması'ndan alınan verilere göre, küresel pazar 2017'de 6,2 milyar ABD Doları değerindeydi.

Çin'de birçok teknoloji şirketi, daha geniş teknoloji ürün portföylerine daha küçük ama kazançlı bir eklenti olarak ses robotları geliştiriyor. Bununla birlikte, bazı şirketler robotları iş modellerinin temel bir parçası haline getirmiştir. "Nanjing Silicon Intelligent Technology Co., Ltd." - Nanjing merkezli bir ses robotu geliştiricisinin geçen yıl toplam 100 milyon yuan geliri olduğu bildirildi. Şirketin ana robotu "Silicon Language" Çince, İngilizce ve Japonca olarak mevcuttur. Silikon tabanlı Akıllı Teknoloji, şirketin esas olarak "Silicon Language" teknolojisini ortalama 10.000 yuan fiyatla satış şirketlerine sattığını söyledi. Satış şirketi, tüketicilerle etkileşim kurmak için onları aramak da dahil olmak üzere "silikon dili" kullanır. Şimdiye kadar şirket, ürünü Çin ve denizaşırı ülkelerde 11.000 müşteriye sattı, ancak istekleri burada bitmiyor.

Silicon Intelligence'ın kurucusu Sima Huapeng, "Temelde Siri'nin telefon versiyonunu yapıyoruz." Jobs gibi Sima Huapeng de 20'li yaşlarının başındayken birkaç yazılım şirketi kurdu. Biri üniversitede kurulan şirket. 2017 yılında "Jobs'un akıllı ses teknolojisindeki devrimini miras almak için" silikon tabanlı bir akıllı şirket kurdu.

"Silikon dil" robotunun arkasındaki teknoloji sorulduğunda Sima Huapeng bir dizi teknik terim ağzından kaçırdı. Öncelikle konuşma başladığında, "Silikon Dili" müşterinin ne söylediğini algılayacak ve bunu metin olarak yazacaktır - buna "Otomatik Konuşma Tanıma" (ASR) denir. Daha sonra robot, çok sayıda kelime öbeği ve cümle içeren bir veri tabanına ("doğal dil anlama" adı verilen bir süreç) başvurarak metni anlar ve sonra ona tepki verir. Son olarak, "metinden konuşmaya" adı verilen bir mekanizmada, "silikon dili" yazılı yanıtlarını konuşmaya dönüştürür.

Sima Huapeng, "Silicon Language" in iletişimsel yeteneğinin insan seviyesine yakın olduğuna inanıyor. "Amacımız Turing testini geçmek." Diye ekledi. İngiliz matematikçi Alan Turing tarafından icat edilen "Turing Testi", bir makinenin akıllı davranış sergileme yeteneğinin insanlardan ayırt edilemez olup olmadığını tespit ediyor. Turing testinin eksiklikleri göz ardı edilemese de, yine de makinenin insanlar arasındaki ileri ve geri etkileşimi simüle eden iletişim yeteneğinin katı bir testi olarak kabul edilmektedir. Sima Huapeng, müşterilerin çoğunun "Siyu" yu 10 turluk soru-cevap diyalogunda bir robot olarak tanımlayamadığını söyledi.

Diğer ses robotu üreticileri de benzer cesur açıklamalar yaptı. Merkezi Hangzhou'da bulunan, logosu antenli ve iki küresel gözlü mavi bir robot olan bir şirket, web sitesinde ana robotu Biling'in Mandarin'in% 98'inden fazlasını tanıyabildiğini söyledi. Buna karşılık, Kanada'daki Waterloo Üniversitesi'ndeki araştırmacılar tarafından ortaklaşa geliştirilen bir İngilizce robotu olan EdgeSpeechNets ve bir teknoloji şirketi olan DarwinAI, geçen yıl% 97 konuşma tanıma oranına sahip olduğunu iddia etti. Darwin'in konuşma tanıma teknolojisi genel olarak dünyanın lideri olarak kabul edilir.

Hangzhou şirketinin iddiaları Çinli uzmanların robot üreticisini yanlış reklam yapmakla suçlamasına neden oldu. Zhejiang Hithink Flush Information Network Co.Ltd.'de proje yöneticisi olan Li Haoze, en azından şu anda bu seviyeye ulaşmanın imkansız olduğunu söyledi. Bir hisse senedi alım satım sitesi olan Fung Huashun da kendi akıllı ses hizmetini geliştiriyor. "Konuşma tanıma oranının% 95'i aştığını hiç duymadım. Normal şartlar altında, Mandarin'in% 85'ini tanıyabilmek oldukça iyi" dedi. "Kantonca kullanırsanız, bu yaklaşık% 50'dir."

Birçok Çinli ses robotu hala müşterileri ikna edemiyor. Telefona cevap veren birkaç kişi, Altıncı Ton'daki gazetecilere, bu robotların bugünün tarihi gibi görünüşte basit sorulara cevap vermekte başarısız olduğunu söyledi. Diğerleri, robotların lehçeler veya aksanlar gibi standart olmayan kelimeleri ayırt edemeyeceğine inanıyor. Orta Çin'in Hunan Eyaletinden 21 yaşındaki üniversite öğrencisi Tan Jiuding, "Standart dışı Mandarin dilinde bir kelime söylersem, beni anlayamaz" dedi.

Uzmanlar ayrıca küçük robot geliştiricilerin sattıkları teknolojiye sahip olup olmadığını da sorguluyor. Örneğin, silikon tabanlı istihbarat, "silikon dili" robotlarının tüm teknolojisine sahip olduğunu iddia ediyor, ancak gözlemciler, yalnızca 500 çalışanı olan bir şirketin robotlara uygulanan karmaşık ASR teknolojisi geliştirmesinin neredeyse imkansız olduğuna inanıyor. nın-nin. Hangzhounun en büyük sesli robot şirketinin bir distribütörü olan Bay Chen, "En iyi ASR geliştiricilerinin yılda en az 1 milyon yuan maaş alması gerekiyor, bu nedenle silikon tabanlı istihbaratın çok para hazırlaması gerekiyor," dedi (şirketi medyayla iletişim kurma yetkisi vermediği için anonimlik talep etti. Konuş), "Onlar gibi şirketler bu tür masrafları karşılayamaz."

Bay Chen, akıllı ses teknolojisinin yüksek maliyetinin Baidu, iFlytek ve Alibaba gibi büyük teknoloji şirketlerinin genellikle Çin'deki en rekabetçi şirketler olduğu anlamına geldiğine inanıyor. Aynı zamanda, küçük şirketler teknoloji devlerinden temel konuşma tanıma hizmetlerini satın alma ve bunları nihai ürünün bir parçası olarak yeniden paketleme eğilimindedir. Merkezi Çin'in doğusundaki Anhui Eyaletinde bulunan IFlytek, geçen yılın sonu itibariyle 920.000 geliştiricinin ses tanıma hizmetlerini satın alarak her gün 4.7 milyar çağrı ürettiğini tahmin ediyor. Şirket, görüşme sırasında oluşan etkileşimlerin oranını tahmin etmedi.

Silikon tabanlı zeka gibi diğer robotik şirketleri, robotlara devasa bir insan konuşması veritabanı sağlayan ve teknolojinin bunları kendi kendine nasıl kullanacağını öğrenmesine izin veren yapay zeka temelli bir teknoloji olan derin öğrenme (derin öğrenme) teknolojisini kullandıklarını iddia ediyor. . Ancak Chen, bunun aynı zamanda bir hile olduğunu söyledi: Derin öğrenme teknolojisinin gelişimi hala son derece pahalı olduğu için, robot şirketi, müşterilerden robotun söylediklerine tüm olası yanıtları içeren devasa ama yine de çok sınırlı bir akış şeması hazırladı. Her yanıt için yanıtı özelleştirin, içeriği kaydedin, bilgileri robota iletin ve nasıl yanıt verileceğine ilişkin talimatlar verin.

Hangzhou şirketinin kurucusu benzer bir sistemi kullandığını itiraf etti. Dedi ki: "Bu, robotun iyi çalışabileceği anlamına gelir, ancak işleri kendi yolunda düşünemez veya yargılayamaz."

Sima Huapeng'in ses robotlarının dönüştürücü gücüne olan güveni sarsılmaz. "Silikon Dili", bir insan çağrı merkezi operatöründen yaklaşık 25 kat daha verimli. Sima, "Günde 1.000 çağrı yapabiliyor, bu da bir insanınkinin 5 katı ve maliyeti bir çalışanı işe almanın maliyetinin sadece beşte biri." Çin'deki çağrı merkezi personelinin ortalama yıllık maaşının yaklaşık 50.000 yuan olduğunu varsayarak, robotların genellikle yılda yalnızca 10.000 yuan'a mal olduğunu ekledi.

Ancak silikon tabanlı zeka ve insan kaynakları sorunu, onların "düşük verimlilik" olduğunu düşündüklerinden çok daha fazlasıdır. Şirketin resmi web sitesi de onları mantıksız, duygusal açıdan dengesiz, hataya açık olarak tanımlıyor ve satış şirketinin müşteri kaybetmesine neden olabilir. Öte yandan şirket, robotların eğitime ihtiyacı olmadığını, işten asla şikayet etmediğini, verimli ve duygusuz çalıştığını söyledi. Sima Huapeng gülümseyerek "Şimdiye kadar robotumuz milyarlarca arama yapmış olabilir," dedi.

Robot geliştiricileri, teknolojilerini üçüncü taraf satış şirketlerine sattıktan sonra, nadiren bu teknolojilerin kullanımının yasal ve etik olup olmadığını kontrol ederler. Bu bir endişe kaynağıdır, çünkü ucuz akıllı ses teknolojisi pazarı sular altında bıraktıkça, gittikçe daha fazla şirket, tüketicileri sinir bozucu, istenmeyen çağrılarla bombardıman eden robotlar kullanıyor. Yalnızca geçen yılın Aralık ayında, Çin Sanayi ve Bilgi Teknolojileri Bakanlığı, "taciz edici aramalar" hakkında 86.000 kamuya açık şikayet aldı - bu rakam, 2017'de aynı dönemdeki rakamın üç katı. Bazı insanlar Sixth Tone'daki muhabirlere, son aylarda sigortadan seks oyuncaklarına kadar çeşitli ürünler satan çok sayıda otomatik çağrı aldıklarını söyledi. 31 yaşındaki Yang Shuchen, bize başka ses robotlarını satması için bir ses robotundan telefon aldığını söyledi.

Artan tüketici şikayetlerine yanıt vermek ve Çin'in tele-pazarlama endüstrisini daha iyi denetlemek için, Sanayi ve Bilgi Teknolojileri Bakanlığı Kasım 2018'de İnternet şirketlerinin pazarlama çağrılarını azaltmak için ilgili departmanlarla işbirliği yapmasını gerektiren bir talimat yayınladı. Bununla birlikte, Çin yasalarında hala resmi bir "taciz çağrısı" tanımı bulunmuyor, bu da kabul edilebilir ve kabul edilemez tele-pazarlama biçimleri arasındaki çizginin hala bulanık olduğu anlamına geliyor.

Hükümet, sektörü kontrol etmeye istekli olsa da, bazı Çinli avukatlar, üçüncü taraf tele-pazarlama şirketlerinin mevcut sesli robot teknolojisini kullanma şeklinin Çin'in gizlilik yasalarını ihlal ettiği konusunda endişelerini dile getirdiler. Robotların çoğu referans için her çağrıyı kaydeder, ancak müşterilere bu uygulamadan nadiren bahsedilir - aslında çok az kişi çağrının bir robot olduğunu bilir. Bu yılın Ocak ayında, Guangzhou merkezli Southern Weekend, sesli robot hizmetleri satın alan birçok şirketin bunları, sahibinin izni olmadan telefon numaralarını ve diğer bilgileri yasa dışı olarak toplayan web kazıma araçlarıyla birleştirdiğini bildirdi. Kişisel veri. Hatta bazıları sigorta şirketlerinden veya emlak şirketlerinden yasa dışı olarak iletişim bilgileri satın alır ve robota mümkün olduğunca çok kişisel bilgi sağlar. 15 Mart Dünya Tüketici Hakları Günü'nde Çin Merkezi Televizyonu (CCTV) 11 sesli robot üreticisini ifşa etti. Bu üreticiler ya müşterinin telefon numarası veritabanını paketin bir parçası olarak sattı ya da sakınmak için sattı Çağrı engelleyici için rastgele telefon numarası üreteci. CCTV raporundaki birkaç şirket, bu uygulamadan habersiz olduklarını söyleyerek bu iddialara itiraz etti.

Gizlilik koruması ve ağ güvenliği konusunda uzmanlaşmış bir avukat olan Meng Jie, telefonla pazarlama şirketleri tarafından ses robotlarının kullanımının, şirketlerin arama yapmadan önce kullanıcı edinmesini gerektiren Çin Siber Güvenlik Yasası'nın 41. Maddesini ihlal ettiğine inanıyor. Minimum veri toplama ilkesini kabul edin. Çin'in 2017 Kişisel Bilgi Güvenliği Ulusal Standartları, kişisel bilgileri alan şirketlerin bu bilgileri yalnızca doğrudan iş işlevleriyle ilgili ve gerekli amaçlarla kullanabilmesini gerektirir. Meng Jie şunları söyledi: "Bir robot şirketi, topladığı kişisel verileri başlangıçta belirtilen amaç dışında herhangi bir amaçla kullanırsa, tüketicinin Tüketici Yasası kapsamındaki bilgi hakkını da ihlal eder."

Sima Huapeng, Çin'deki popüler tele-pazarlamanın geliştiriciden değil satış şirketinden sorumlu olduğuna inanıyor. Ses robotlarının insanlardan çok daha fazla sayıda çağrıyı işleyebildiğini, farklı robotların insanları birden çok kez arama olasılığının daha yüksek olduğunu söyledi. Buna ek olarak, birçok şirketin telepazarlama hizmetlerini üçüncü taraf yüklenicilere dış kaynak sağladığını ve bu üçüncü taraf yüklenicilerin bazen sahtekarlık işlemleri yürüttüğünü ve bu da teknolojinin nasıl kullanıldığı üzerinde çok az kontrol sağladığını söyledi. Bize şunları söyledi: "Bu şirketlerin çoğu yalnızca 000 ila 999 arasında arama yapıyor." Ancak Sima, endüstrinin daha fazla denetime ihtiyacı olduğunu da kabul ediyor.

HKUST Xunfei, geçen yıl Kasım ayında ses robotlarının satışını kendi kendine düzenlemeye başladığını ve bu robotları tele pazarlama için kullanan tüm müşterilerle ilişkisini sonlandırmayı planladığını belirtti. Hangzhou'daki bir ses şirketi de benzer yönde ilerlediğini belirtti: "P2P kreditörlerine, şüpheli sağlık ürünleri tedarikçilerine ve kozmetik cerrahi şirketlerine ürün satmıyoruz. Ayrıca robotların çalışma saatlerini gece 9 ile sınırlıyoruz. 8 puan. "Bu kısıtlamaların şirketin geliri üzerindeki etkisi sorulduğunda, görüşülen kişi şirketin geçen yıl kar etmediğini itiraf etti.

Ancak şimdilik, "satış çağrıları" ile mücadeleye yönelik düzenlemelerin zayıf uygulamasının yükünü ilk çeken tüketiciler oluyor. Kızgın bir yapay zeka uzmanı olan Yang, "Hisse senedi satın almak istiyorum dersem, ertesi gün hisse senedi satmak için çok sayıda çağrı alacağım" dedi. "Bu ülkeden kaçmak istediğimi söylersem, göçmenlik hizmetleri sağlamak için beni geri arayacaklar.