Microsoft Asya Araştırma Başkan Yardımcısı Ming Zhou: Microsoft'un NLP İmparatorluğu
Xinzhiyuan Raporu
Microsoft için doğal dil işleme ne kadar önemlidir?
Microsoft'un yapay zeka ile ilgili önemli ürünlerinin neredeyse tamamı - üretkenliği ve iş süreçlerini yeniden şekillendirme perspektifinden, akıllı girdi, yardımlı yazma, makine çevirisi, akıllı müşteri hizmetleri vb; bulut platformundan Bot çerçevesi, bilişsel bilgi işlem ve bilgi vardır Grafikler, iş zekası; daha kişiselleştirilmiş bilgi işlem oluşturma ve üretkenliği yeniden şekillendirme perspektifinden, Bing arama, Microsoft Cortana, Microsoft Xiaobing, öneri sistemi vb. Vardır - bunların hepsi arkasındaki doğal dil işlemeyi yansıtır. Teknolojinin önemi.
5 Kasım 1998'de Microsoft Research Asia (MSRA) kuruldu. Doğal dil işleme, Enstitü'nün kuruluşundan bu yana başlatılan bir araştırma alanıdır. Şimdi 18 yıldan fazla bir süre geçti ve Microsoft Research Asia, bilimsel araştırma, ürünler, yetenek eğitimi ve okul-işletme işbirliğinde büyük ilerleme kaydetti.
Örneğin, bilimsel araştırma açısından, Microsoft Research Asia, en iyi konferanslardan ve dergilerden 200'den fazla makaleye katkıda bulundu ve bu alandaki en önemli ACL konferansına 100'den fazla uzun makale, kısa makale ve sunumla katkıda bulundu.
Yukarıdaki şekil, dünyada ACL makaleleri yayınlayan ana kuruluşları ve yazarları özetlemektedir.Uzun makalelerin istatistiklerine göre, Microsoft tüm büyük araştırma kuruluşları arasında ilk sırada yer almaktadır.
Yazarın bakış açısından, Microsoft Research Asia'nın başkan yardımcısı Zhou Ming Doktor, kendisi ve meslektaşları tarafından yayınlanan makaleler de yazarlar arasında birinci sırada yer alıyor. Aynı zamanda, çoğu Microsoft ürünlerinde kullanılan 100'den fazla patenti var.
Geçen yıl ACL'nin başkanlığına seçilen Dr. Zhou Ming, Çin Bilgisayar Derneği Doğal Dil Komitesi'nin direktörü olarak da görev yapıyor.
1999 yılında, Dr. Ming Zhou Microsoft Research Asia'ya katıldı ve kısa süre sonra doğal dil araştırma grubundan sorumlu olmaya başladı. Ekibi, Microsoft Giriş Yöntemi, İngilizce Sözlük (Bing Sözlüğü), Çince-İngilizce Çeviri, Microsoft Çince Kültür Serisi (Microsoft Couplets, Microsoft Crosswords, Microsoft Quatrains) ve diğer önemli ürün ve projeler gibi önemli ürün ve projeleri araştırmaya ve geliştirmeye yönlendirdi. Ying arama ve Windows gibi ürünlerde doğal dil teknolojisi önemli katkılar sağlamıştır. Son yıllarda Dr. Zhou Ming, araştırma ekibinin Microsoft ürün ekibiyle Microsoft Xiaoice (Çin), Rinna (Japonya) ve Zo (ABD) gibi sohbet robotu sistemleri geliştirmek için işbirliği yapmasına öncülük etti.
Dr. Zhou Ming, 120'den fazla önemli konferans ve dergi makalesi yayınladı (50'den fazla ACL makalesi dahil) ve 40'tan fazla uluslararası buluş patentine sahip. Uzun yıllar boyunca, Microsoft-Üniversite Ortak Laboratuvarı, Microsoft Staj Programı, Microsoft-Üniversite Ortak Eğitim Doktora Programı, Genç Öğretmen Yıldızları Eğitim Programı dahil olmak üzere Çin ve Asya-Pasifik bölgesindeki üniversitelerle işbirliği yapmak ve üniversiteler ve akademik kuruluşlarla işbirliği yapmak için Microsoft'u kullandı. Yaz okulları ve akademik konferansların düzenlenmesi, Çin ve Asya-Pasifik'te doğal dil işlemenin olağanüstü gelişimini teşvik etmeye olağanüstü katkılar sağlamıştır.
Birkaç gün önce, "Doğal Dil İşleme Son Teknoloji" temasıyla Microsoft Binası'nda düzenlenen doğal dil işleme son teknoloji paylaşım etkinliğinde Dr. Zhou Ming, Microsoft'un sinir ağı çevirisi, sohbet robotları ve okuduğunu anlama gibi alanlarda Microsoft'un NLP uzmanlığını paylaştı. Alan hakkında düşünerek, Xinzhiyuan ve diğer medya ile röportajları kabul etti.
Dilbilimsel zeka, yapay zekanın tacındaki mücevherdir
Paylaşım oturumunun ana içeriği üç bölüme ayrılmıştır: İlk bölüm kısaca doğal dil işleme teknolojisi ve tarihini ve geçtiğimiz 18 yıl içinde Microsoft Research Asia'da doğal dil işlemenin rolü ve gelişimini tanıtmaktadır; ikincisi ise tanıtmaktadır. MSRA'nın makine çevirisi, sohbet robotları, Çin kültürü ve okuduğunu anlama gibi dört alandaki en son ilerlemesi, bunlar şu anda çok sıcak konular; son olarak, Dr. Zhou Mingin mevcut sorunlar ve gelecek de dahil olmak üzere gelecek hakkındaki düşünceleri tanıtıldı Araştırma yönü nedir?
Doğal dil işleme, yani Doğa Dil İşleme, genellikle "NLP" olarak kısaltılır. Yapay zeka 61 yıllık gelişimin ardından inişler ve çıkışlar yaşadı.İki kış yaşadı.Bulut bilişim, büyük veri ve derin öğrenmenin iç içe geçmesiyle yapay zeka yeni bir baharı başlattı. Çeşitli ülkelerin hükümetleri, kuruluşları, okulları ve araştırma enstitüleri, yeni dalgada yeni bir lider noktayı işgal etmeyi umarak çok iddialı yapay zeka geliştirme planları başlattı. Geçmişle karşılaştırıldığında bu baharda yapay zekanın özellikleri nelerdir?
ilk, Veriler, eskisinden çok daha büyüktür. Geçmişte yapay zeka temelde bazı uzmanlardan veri girmesini ve bazı basit kurallar yazmasını istiyordu.Şimdi internet verileri de dahil olmak üzere çok büyük miktarda veri.
ikinci, Hesaplama yeteneği büyük ölçüde gelişmiştir. Bulut bilişimin temsil ettiği bilgi işlem gücü, insanların artık eğitim veya uygulama konusunda endişelenmelerine gerek kalmamasını sağlar. Önceki bilgisayarın çok sınırlı yetenekleri var.
üçüncü, Sözde derin öğrenme, noktadan noktaya ve uçtan-uca eğitimi gerçekleştirir. Yapmanız gereken şey, etiketli verilere hakim olmak ve bunları organize etmek, derin öğrenme çerçevesine koymak, otomatik olarak öğrenecek, tamamlamanız gereken görevleri tamamlamak için dersleri otomatik olarak çıkaracaktır. Bu, makine öğreniminin eşiğini büyük ölçüde düşürdü, yapay zeka sivil hale gelebilir ve birçok alan yapay zeka ile gerçekleştirilebilir.
Bir diğer önemli nokta, son iki dalgada eksik olan iniş sahnesi. Geçmişte bu sistem küçük oyunlar, küçük oyuncaklar veya küçük bir soru-cevap sistemi yapmak için kullanılıyordu. Yapay zeka için gerçek uygulama senaryoları var.Örneğin yüz milyonlarca netizenin kullandığı arama motorlarının arkasında birçok yapay zeka sistemi var; sürücüsüz arabalar algıdan bilişe kadar birçok yapay zeka teknolojisini kullanıyor. Bu sahnenin faydaları nelerdir? Başlangıçta teknoloji sınırlıydı ve yetenek sorunluydu ve giderek daha fazla insan bunu sadece bir ihtiyaç olarak kullandıkça, doğal olarak büyük geri bildirim sağlıyor ve tüm sistem sürekli olarak geliştirilebiliyor. Örneğin, arama motorları, arama motorlarını kullanan İnternet kullanıcıları aslında arama motoru eğitimine yardımcı oluyor.
Yapay zeka sistemi nedir? Yapay zeka, insan zekasını simüle etmek ve gerçekleştirmek için bilgisayarları kullanır ve insan zekası kabaca aşağıdaki seviyelere ayrılmıştır:
ilk olarak Sayısal zeka Hafıza ve hesaplama yeteneği, bu makine zaten insanı geride bıraktı.
İkincisi Algısal zeka , İşitme, görme ve dokunma dahil; son iki yılda, derin öğrenmenin başlamasıyla birlikte, konuşma tanıma ve görüntü tanımanın tanıma oranı büyük ölçüde iyileştirildi, bu nedenle bilgisayarlar algısal zeka düzeyinde oldukça iyi iş çıkardı.Bazı tipik test sorularında İnsanoğlunun ortalama seviyesine ulaşın veya aşın.
Üçüncüsü Bilişsel zeka , Dili anlama ve kullanma becerisi, bilgiye hakim olma ve bilgiyi kullanma becerisi ve dil ve bilgiye dayalı muhakeme yeteneği dahildir. Geçmişte bilişsel zeka temel olarak dil zekası, yani doğal dil işleme üzerine odaklanmıştı, basitçe cümle ve metinleri anlıyor, yardım arama motorlarını gerçekleştiriyor, sistemi taklit ediyor, bazı temel işlevleri sağlıyor ve bazı basit diyalog çevirileri sağlıyordu. Zhou Ming, dil zekasının yapay zekanın tacındaki mücevher olduğuna inanıyor.Dil zekası bir atılım yapabilirse, bilişsel zekaya ait bilgi ve akıl yürütme büyük ölçüde geliştirilecek, tüm yapay zeka sistemini teşvik edebilecek ve daha fazla senaryoya sahip olacak. İnebilir.
En yüksek seviye Yaratıcı zeka İnsanlar mevcut koşulları kullanırlar, biraz hayal gücünü kullanırlar ve hatta bazı varsayımlar, rüyalar kullanırlar, teoriler, yöntemler ve teknolojiler de dahil olmak üzere var olmayan bazı şeyleri hayal ederler, bunları deneyler yoluyla doğrularlar ve sonra daha fazla uygulamaya rehberlik edecek yeni teoriler önerirler ve son olarak Çok iyi işler veya ürünler üretin. Zeka yaratma açısından, yapay zeka hala nispeten boş. Algısal zekayı ve bilişsel zekayı, özellikle bilişsel zekayı daha da geliştirebilirse, yaratıcı zekaya doğru ilerleyebilir.
Doğal dil işleme, dil zekasını bünyesinde barındıran önemli bir teknolojidir.Doğal dili analiz etmeye, anlamaya veya üretmeye, insanlar ve makineler arasındaki doğal iletişimi gerçekleştirmeye yardımcı olan ve ayrıca insanlar arasındaki iletişime yardımcı olan önemli bir yapay zeka dalıdır.
Artık genel NLP teknolojisinin tamamı derin öğrenmeyle uygulanıyor
Dr. Zhou Ming, doğal dil işlemenin aşağıdaki yönleri içerdiğine inanmaktadır. Birincisi, NLP'nin temel teknolojisi , Kelime bölütleme, konuşma etiketlemenin bir parçası, bazı işlemler yapmak için anlambilimsel analiz gibi farklı doğal dil işleme seviyeleri. Diğer yeni teknolojileri veya uygulamaları daha sonra yapmak için temel teknolojiler kullanılmalıdır.
Orta kısım NLP çekirdek teknolojisi , Kelime haznesi, cümle, cümle ve metnin temsilini içerir. WordEmbedding dediğiniz şey, farklı dil birimlerinin temsilini incelemektir. Aynı zamanda makine çevirisi, sorgulama ve cevaplama, bilgi alma, bilgi çıkarma, sohbet ve diyalog, bilgi mühendisliği, dil oluşturma ve tavsiye sistemlerini içerir.
En sonunda" NLP + "Yapay zeka +" veya "İnternet +" kavramlarını taklit eden ", aslında, doğal dil işleme teknolojisi çeşitli uygulama sistemlerine ve dikey alanlara nüfuz ediyor. En ünlüleri arama motorları, akıllı müşteri hizmetleri, iş zekası ve sesli asistanlardır. Dikey alanlarda hukuk, tıbbi bakım, eğitim vb. Daha fazla uygulama vardır.
Tıpkı diğer yapay zeka disiplinleri gibi, doğal dil işleme de, bulut bilişim sağlama, uygulama ve eğitim temeli dahil olmak üzere eğitim için büyük veri dahil olmak üzere kişiselleştirilmiş hizmetler sağlamak için kullanıcı portreleri dahil birçok destekleyici teknolojiye ve veriye ihtiyaç duyar. Tesisler, eğitim becerileri sağlamak için makine öğrenimi ve derin öğrenmeyi içerir. Alan bilgisi ve sağduyu bilgisi gibi çeşitli bilgilerle desteklenmelidir. Yukarıdaki şekil yapay zekanın tüm yönlerini özetlemektedir.
Doğal dil işlemenin tarihsel gelişimi ile ilgili olarak yapay zekanın doğal dil işleme ile başladığı söylenebilir.Örneğin makine çevirisi, insanların yapay zeka yapmak için yaptığı ilk girişimdir. O zamanlar, yapay zekanın en yeni reformu olarak kabul edilen Rusça-İngilizce çeviri için altı kural ve 200'den fazla kelime kullanılıyordu. Daha sonra insanlar aslında kural tabanlı teknolojik gelişmeler olan birçok büyük ölçekli soru cevap sistemi, arama sistemleri, reklam sistemleri vb. İnsanlar, makine çevirisi kelime dağarcığı kuralları, dönüştürme kuralları, belirli kurallar vb. Gibi N kuralı yazar. Avantaj, hızlı bir şekilde başlatılabilmeleridir, ancak Kural yazmanın maliyeti çok yüksektir ve bir alanın kurallarını diğerine değiştirmek neredeyse yararsızdır.
1990'lara gelindiğinde, istatistiksel makine öğreniminin gelişmesiyle, insanlar bunu doğal dil işlemeye uyguladılar.Makine çevirisi kural tabanlıdan istatistik tabanlıya değişti. Bu ivme 2007 civarında devam etti. Derin öğrenmenin yükselişi, konuşma tanıma ve görüntü tanımada ortaya çıktı. 2007'den günümüze, derin öğrenmenin başlangıcı, olgunluğu ve büyük gelişimiyle ilişkilendirilebilir. Artık konuşma tanıma, görüntü tanıma, vb. Derin öğrenmeyi kullanmaya başlıyor ve doğal dil işlemede, esas olarak kelime gömme, sinir ağları, makine çevirisi, soru-cevap sistemleri ve diyalog sistemlerinde yansıtılıyor. Artık genel teknolojilerin tümü derin öğrenme kullanılarak uygulanmaktadır.
Sinir ağı makine çevirisi, kaynak dili kodlar ve dil bilgisi ile alan bilgisini sunar
Microsoft, kuruluşundan bu yana doğal dil işleme konusunda pek çok araştırma yapmış, daha sonra kural tabanlı, vaka tabanlı ve istatistiksel tabanlı çeviri yapmaya başlamıştır. 2007 yılında, Microsoft'un istatistiksel tabanlı çeviri sistemi ücretsiz dış hizmetler sağlamak için başlatılmıştır.
2012 yılında, Microsoft Asya Araştırma Enstitüsü, Genel Merkez Araştırma Enstitüsü ile işbirliği yaparak, konuşmanın bir kısmının Microsoft Research Asia'nın konuşma grubundaki meslektaşları tarafından yapıldığı ve çeviri kısmının doğal dil hesaplama grubu tarafından yapıldığı bir konuşma çeviri sistemi oluşturmak için işbirliği yaptı.
2012 yılında Tianjin'de düzenlenen 21. Yüzyıl Bilgisayar Konferansı'nda, o zamanlar Microsoft Research'ün lideri olan Dr. Rick Rashid, bu konuşma çeviri sistemini 3.000 dinleyiciye başarıyla gösterdi.Bu bir sansasyondu ve tüm dünyada, özellikle konuşma olmak üzere makine çevirisi olarak adlandırıldı. Çeviri alanında önemli bir kilometre taşı.
2015 yılında Microsoft, Microsoft'un konuşma teknolojisi ile çeviri teknolojisini entegre eden ve şimdi on dilde konuşmadan konuşmaya çeviri sağlayan Skype Translator'ı kamuya açıkladı.
Bu yıl Microsoft, her şeyden önce yeni adımlar attı Konuşma çevirisinde, sinir ağı makine çevirisi tamamen benimsenmiş ve Microsoft Translator Live Feature (canlı çeviri işlevi) adı verilen yeni bir çeviri işlevi genişletilmiştir.Konuşmalar ve toplantılar sırasında, konuşmacıyı otomatik olarak gerçek zamanlı olarak cep telefonuna veya masaüstüne aktaracaktır. Kelimeler birden çok dile çevrilmiştir.
Bu resim sinir ağı makine çevirisini özetliyor Kısacası, kodlama için genellikle uzun ve kısa süreli bellek LSTM kullanarak, kaynak dildeki cümleleri kodlamaktır. Kodlamanın sonucu, birçok gizli düğümün olmasıdır ve her gizli düğüm, cümlenin başlangıcından mevcut kelime hazinesine kadar cümlenin anlamsal bilgisini temsil eder. Bu gizli düğümlere dayanarak, farklı gizli düğümlerin çeviri hedef kelimesi üzerindeki etkilerini yansıtmak için bir dikkat modeli kullanılır. Böyle bir model aracılığıyla, hedef dil, cümlenin sonuna kadar kelime kelime üretilebilir. Ortada belirli bir aşamada birden fazla çeviri olabilir ve en iyi çeviri soldan sağa devam ederek burada saklanacaktır.
Buradaki en önemli teknoloji, kaynak dilin kodlanması yanında farklı kelimelerin çevirisini yansıtan ve farklı işlevleri olan dikkat modelleridir. Burada yine dil bilgisi tanıtılır. Çünkü kodlama yapılırken sadece kaynak dil ve hedef dil dizge olarak kabul edilir ve iç kelime haznesi ve kelime haznesi arasındaki değişiklik ilişkisi yaşanmaz.
Sözdizimsel bilgi, sinir ağı kodlama ve kod çözme işlemine dahil edilir ve daha iyi çeviri elde edilir. Yukarıdaki şekil, göstergelerin büyük ölçüde iyileştirildiğini göstermektedir.
Ayrıca Dr. Zhou Ming'in ekibi, birçok alanda bilgi grafikleri olduğunu da değerlendirdi. Dil anlama sürecini planlamak için bilgi grafiğini geleneksel sinir ağı makine çevirisine dahil edin. Varsayımlardan biri, herkesin dili farklı olsa da, bilgi grafiği alanında tutarlı olabilir, bilgi grafiği kodlamayı ve kod çözmeyi geliştirmek için kullanılır. Spesifik olarak, girdi cümlesi önce bilgi grafiğiyle eşleştirilir ve ardından kod çözme işlemi, çevirinin daha da iyileştirilmesi için bilgi grafiğine dayalı olarak geliştirilir.
Yukarıdaki çalışmaların her ikisi de bu alandaki en önemli konferans olan ACL'de yayınlandı ve birçok akademisyenden övgü aldı.
MSRA, Çin kültürünü tanıtmak için NLP ve Çin kültürünü akıllıca kullanıyor
Microsoft Research Asia, dünyada benzersiz olan Çin kültürüne kararlı bir şekilde girmek için doğal dil işleme teknolojisini, özellikle makine çevirisi deneyimini kullanır.
2004 yılında Dean Shen Xiangyang, MSRA'yı bir Microsoft beyiti yapmaya yönlendirdi: kullanıcı üst satıra girdi, bilgisayar otomatik olarak alt satırı ekledi, cümle çok düzgündü ve hatta yatay partiyi düzeltmek için daha da ileri gitti.
Bu sistem, o sırada bir mobil oyun yapmak için Sina ile işbirliği yaptı.Kullanıcılar, yukarı bağlantıyı kısa mesajlar yoluyla gönderebilir ve ardından aşağı bağlantıyı metin mesajları yoluyla alabilir. O zamanlar herkes bunun çok ilginç olduğunu düşünüyordu.
Microsoft beyiti, aynı zamanda, beyitin tüm sürecini simüle etmek için makine çevirisi teknolojisini kullanan dünyada ilk kez. Geçmişte bazı insanlar beyit oyunları oynadılar, ne tür kelimelerin ne tür kelimelerle eşleştirildiğini ve yüzleşme ve düzlüğün dil kurallarına uymasını sağlamak için birçok dil kuralları yazmak için kurallar kullandılar, ancak gerçek etki iyi değil. , Ve kimse kullanmıyor. MSRA, makine çevirisi teknolojisini Çin kültürüne akıllıca uygulayarak bu sorunu çözüyor.
Microsoft beyitine dayanarak, diğer Çin kültürlerini denemeye devam ettiler.
Örneğin, bir karakter bilmecesini tahmin etme ve bir karakter bilmecesi üretme sürecini simüle etmek için bir bilgisayar kullanmak ve kafiye şiirleri, dörtlükler ve Song Ci oluşturmak için yapay zeka teknolojisini kullanmak artık mümkün.
Son zamanlarda, Dr. Song Ruihua şiir yaratmak için sinir ağı teknolojisini kullanıyor. Bu çok yaratıcı bir şey: kullanıcılar bir fotoğraf gönderiyor, sistemin ilerlemesine izin veriyor ve sonra bir şiir, özgür bir şiir oluyor. Şiir yazmak kolay değil çünkü sanatsal anlayışı somutlaştırması gerekiyor. Bu dağ diyorsun, bu su, buna şiir denmiyor; şiir yüceltilmeli ve yoğunlaştırılmalı ve bu zamandaki duyguyu veya sahneyi yansıtmak için şiir dilini kullan, sahneden duyguya, duygudan sahneye, bu şiirdir.
Yaklaşık iki hafta önce Microsoft Xiaoice, büyük ilgi gören Microsoft Xiaoice şiir yazma becerilerini yayınladı.
MSRA, Çin kültürünü tanıtmak için yapay zeka ile Çin kültürünü ustaca birleştirmeye çalışıyor.
Platform olarak diyalog
"Platform Olarak Konuşma", İngilizce'de "Platform Olarak Konuşma (CaaP)" olarak adlandırılır. 2016 yılında, Microsoft CEO'su Satya konferansta CaaP konseptini önerdi ve yeni nesil grafik arayüzlerin diyalog olduğuna ve tüm yapay zeka ve bilgisayar ekipmanına yeni bir devrim getireceğine inanıyor.
Neden bu kavramdan bahsediliyor? Dr. Zhou Ming, iki neden olduğuna inanıyor:
İlk neden, herkesin başkalarıyla sohbet etmek için WeChat ve Facebook gibi sosyal araçları kullanmaya alışmasıdır. Microsoft, bu doğal dil iletişim sürecini günümüz insan-bilgisayar etkileşiminde sunmayı umuyor ve sesli iletişimin arkasında diyalog platformu var. İkinci neden, şu anda karşılaştığınız cihazların bazılarının çok küçük ekranlara sahip olması veya hatta hiç ekranının olmamasıdır, bu nedenle ses etkileşimi daha doğal ve sezgiseldir. Bu nedenle, sesli asistanların yardımı ile yapılması gereken doğal konuşma iletişimine ihtiyacımız var.
Sesli asistan, bir fincan kahve sipariş etmek, bilet satın almak vb. Gibi bazı özel işlevleri tamamlamak için birçok botu arayabilir. Tüm canlı varlıkların pek çok ihtiyacı vardır ve her ihtiyaç küçük bir bot olabilir ve birisi bu botu yapmalıdır. Microsoft şu anda bir platform olarak bir rol oynuyor ve geliştiricilerin yeteneklerini serbest bırakmalarını umarak, tüm dünyadaki geliştiricilerin, hatta sıradan öğrencilerin bile en sevdikleri botları geliştirerek ekolojik bir platform oluşturmasını umuyor. ortamı.
Bu ekolojiyi yansıtmak için insandan, zeki asistan aracılığıyla ve sonra Bot aracılığıyla nasıl başlanır? Microsoft CaaP yaparken aslında iki ana ürün stratejisi vardı.
İlki, insanların bilgisayarlarla iletişim kurmasını sağlamak için cep telefonları ve akıllı cihazlar aracılığıyla müdahale eden Xiaona'dır: İnsanlar emir verir, Xiaona görevi anlar ve yerine getirir. Xiaona, kişisel tedaviniz olarak aynı zamanda kişilik özelliklerinizi, tercihlerinizi, alışkanlıklarınızı da anlar ve ardından proaktif olarak size bazı samimi ipuçları verir. Örneğin, süt almak için bir yerlerden geçtiyseniz, bir dahaki sefere geçtiğinizde size hatırlatacak ve satın almak isteyip istemediğinizi soracaktır. Orijinal cep telefonundan Xbox ve Windows gibi tüm Microsoft ürünlerine kadar geçmişte pasif olmaktan şimdi aktif olmaya geçti. Şimdi, Xiaona'nın 140 milyondan fazla aktif kullanıcısı var ve milyarlarca cihaz üzerinden insanlarla iletişim kuruyor. Şimdi Xiaona, Çince dahil bir düzineden fazla dili kapsıyor. Xiaona hala gelişiyor ve arkasında Microsoft Research Asia dahil olmak üzere Microsoft Research'ün sunduğu birçok doğal dil teknolojisi var.
İkincisi Xiaoice. Bu yeni bir kavram ve çoğu insan ilk başta anlamıyor. Xiaobing ile sohbet eden insanların anlamı nedir? aslında Küçük konuşma da yapay zekanın bir parçası İnsanlarla tanıştığımızda konuşur, selamlaşır ve hatta saçma konuşuruz. Bunu zeka olmadan yapamayız. Aslında, dil zekasına ek olarak, bilgi ve zekaya sahip olmalı ve belirli birini anlamalıyız. Etki alanı bilgisi sohbet edilebilir. Bu nedenle Xiaobing, çeşitli dillerin bilgisini entegre etmeye ve açık dil içermeyen bir sohbet sürecini gerçekleştirmeye çalışıyor. Bu mesele dünyada nispeten yenilikçidir. Xiaoice şimdi üç dili kapsıyor: Çince, Japonca ve İngilizce ve yüz milyonlarca kullanıcı biriktirdi. Birçok kişi onunla sohbet etmekten hoşlanıyor ve ortalama sohbet sayısı 23 tura kadar çıkıyor. Bu, tüm sohbet botlarının çok ilerisindedir. Normal sohbet süresi yaklaşık 25 dakikadır. XiaoIce'in arkasındaki üç dildeki sohbet robotları da Microsoft Research Asia'dan geliyor.
Xiaoiceun gündelik sohbeti veya Xiaonanın görev yürütme teknolojisi, arkasındaki birim işleme motoru üç katmanlı bir teknolojiden başka bir şey değildir.
Seviye bir: Evrensel sohbet , İletişim becerilerinde, genel sohbet verilerinde, konu sohbet verilerinde ustalaşmanız ve ayrıca kullanıcı portrelerini bilmeniz ve kullanmanız gerekir.
İkinci kat: Bilgi servisi ve Soru-Cevap , Arama yeteneği, soru sorma ve SSS tablosunu toplama, düzenleme ve arama, bilgi grafiklerinden, belgelerden ve grafiklerden ilgili bilgileri bulma ve soruları cevaplama becerisine topluca Bilgi Botu diyoruz.
üçüncü kat: Görev odaklı diyalog Örneğin, kahve sipariş edin, çiçek sipariş edin ve tren bileti satın alın. Bu görev sabittir, durum da sabittir ve durum geçişi açıktır, böylece Bot'u birer birer elde etmek için kullanabilirsiniz. Bir zamanlama sisteminiz var ve kullanıcının niyetini biliyorsunuz ve ilgili görevi yerine getirmek için ilgili Botu çağırıyorsunuz. Kullandığı teknoloji, kullanıcı niyetlerinin anlaşılması, diyalog yönetimi, alan bilgisi, diyalog grafikleri vb.
Aslında, İnsanlar üç zekaya da sahiptir ve hangi zekayı ne zaman kullanacaklarını bilirler, çünkü en tepede bir zamanlama sistemi de vardır. Benimle sohbet ettiğinizde sizinle sohbet edeceğim; bana ciddi sorular sorarsanız, o zaman sorularınıza cevap vereceğim. Bir zamanlama sistemi aracılığıyla, insan-bilgisayar diyaloğu yaptığımızda, aslında kullanıcı sorularına göre farklı motorları çağırdığımız ve ardından farklı niyetlere göre farklı botları çağırdığımız düşünülebilir. Bu şekilde, insan-bilgisayar etkileşiminin sözde bir süreci bir bütün olarak gerçekleşmiş olur. Bunun arkasındaki teknoloji farklı araştırmacılar tarafından ayrı ayrı uygulanmakta ve daha sonra bir bütün olarak ürün grubu ile işbirliği yapılarak mükemmel bir ürün süreci gösterilmektedir.
Microsoft, herkesin yapay zekanın avantajlarından yararlanabilmesi ve geliştiricilerin kendi botlarını geliştirmesine izin vermesi için ilgili yetenekleri dünyaya sunmak istiyor. Peki ya geliştiricinin makinesi doğal dili anlamıyorsa? Bu, Bot Framework adlı bir araç ve platform aracılığıyla gerçekleştirilir.
Herhangi bir geliştirici, ihtiyacı olan Bot'u sadece birkaç satır kodla tamamlayabilir. İşte basit bir örnek: Bu kişi bir pizza botu yapmak istiyor. Bot çerçevesini kullanıyor ve basit bir pizza botu gerçekleştirmek için ilgili bilgiyi ve bu cümlelere karşılık gelen verileri bu satırlara dolduruyor. Bu tür bir geliştirme yeteneğine sahip olmayan birçok küçük işletme sahibi hayal edebilirsiniz, ancak bunlar birçok müşteriyi çekmek için birkaç basit işlemle küçük bir bot olabilir.
Birçok anahtar teknoloji var. Microsoft, kullanıcıların niyet anlama yetenekleri, varlık tanıma yetenekleri, diyalog yönetimi yetenekleri vb. Sağlayan LUIS (Language Understanding Intelligent Service) adlı bir platforma sahiptir. Örneğin, "beni manşetleri oku" cümlesiyle, sistem onun yüksek sesle okumak istediğini anlıyor ve içerik bugünün manşetleri. Başka bir örnek "5 dakika duraklat", sistem bunun bir duraklama anlamına geldiğini, duraklamanın ne kadar uzun olduğunu anlıyor Zaman? Bir parametre vardır: 5 dakika Bu nedenle, LUIS aracılığıyla, niyet ve önemli bilgiler çıkarılabilir ve Bot'un daha sonra okumasına izin verilebilir.
Microsoft'un sohbet diyalog teknolojisi de onları güçlendirmek için birçok şirket ile çalışıyor. Örneğin, Microsoft, Dunhuang Araştırma Enstitüsü ile işbirliği yapmaktadır. Dunhuang Akademisi verileri sağladı ve Microsoft motoru ekledi ve kısa süre sonra Dunhuang Akademisi için bir müşteri hizmetleri sistemi kurdu.Dunhuang Akademisi'nin resmi hesabının yardımıyla, kullanıcılar Dunhuang ile ilgili konularda onunla sohbet edebilir. Kullanıcılar, Dunhuang Akademisi'nin ne zaman açılacağı ve neyin lezzetli olduğu gibi sorular da sorabilir.Sohbetleri ve konuşmaları tek bir platformda entegre ederek resmi hesapta yapay zeka rolünü oynayabilir.
Ortalama insan okuduğunu anlama düzeyine ulaşmak veya aşmak için çalışın
Adından da anlaşılacağı gibi okuduğunu anlama, onu ne kadar iyi anladığınızı görmeniz için size bir makale vermektir. İnsanların zekası var ve çok zekiler. Bilgi biriktirmenin yanı sıra, bazı sağduyuyu da anlamalıyız. Okuma yeteneğinizin ve anlama yeteneğinizin spesifik testi, genellikle bir makale ve ardından sizin için bazı sorular vermektir. Gelebiliyorsanız, anladığınız anlamına gelir ve cevap veremezseniz, anlamadığınız anlamına gelir. Aynısı bilgisayar testi için de geçerlidir.
Okuduğunu anlamayı göstermek için size bir örnek verin. Bu geçidin ana fikri, içinden geçtiği ülkeler ve nihayet denize girdiği Ren Nehri'ni tanıtmaktır. Ren Nehri üzerindeki en büyük şehir Almanya'nın Köln şehridir. Orta ve Batı Avrupa'da yaklaşık 1230 kilometre ile Tuna'dan sonra en uzun ikinci nehirdir. Sonra sorduğumuz soru, Ren nehrinden hangi nehir daha uzun? Bu pasajı okumayı bitirdiğinizde, burada "sonra" nın ne anlama geldiğini anlamanız gerekir, böylece doğru yanıt Tuna olur. Bilgisayar bu soruyu yapmak zorundadır Aslında, birçok soruyu cevaplamadan önce dikkatlice analiz etmesi gerekir.
Okuduğunu anlamanın gelişimini desteklemek için Stanford Üniversitesi, halka da açık olan bir test sorusu geliştirdi. Hem eğitim bölümü, hem geliştirme bölümü, hem de test bölümü var. Katılan her ekip test sorularını alır ve kendi eğitimlerini yürütür. Kendi parametrelerinizi geliştirip ayarlayarak ve sonunda kendi sisteminizi göndererek, Stanford Üniversitesi puanlarınızı web sitesinde yayınlayacaktır.
Şu anda herkesin görebildiği şey, Google, Facebook ve Microsoft gibi şirketlerin yanı sıra Washington Üniversitesi ve New York Üniversitesi gibi ünlü üniversitelerden gelen 30'dan fazla ekip. Şangay Jiaotong Üniversitesi, Harbin Teknoloji Enstitüsü gibi yerli üniversiteler ve Bilim ve Teknoloji Üniversitesi iFlytek gibi şirketler de katıldı. Performansı değerlendirmek için iki kriter vardır. Biri, tüm yanıtların doğru puan aldığı tam bir eşleşmedir, diğeri ise yanıtın bir kısmının doğru olduğu ve puan alabileceğiniz kısmi bir eşleşmedir.
Mevcut sonuçlar bir bakışta anlaşılır.Microsoft Research Asia tarafından sunulan sonuçlar birinci sırada yer aldı ve şimdiye kadar geçen yılın Eylül ayından bu yana birinci sırada yer aldı. Diğer birçok katılımcı ekip çaresizce Microsoft Research Asia'nın durumunu sarsmaya çalıştı, her türlü beceriyi tüketti, ancak sonunda Microsoft Research Asia hala ilk sırada yer aldı.
Şu anda doğru manuel okuma oranı nedir? Yaklaşık% 82 yapabilir. Microsoft Research Asia'nın sonucu şu anda dünyada ilk sırada, yaklaşık% 76 ile insan seviyesinin yaklaşık 5 puan gerisinde.
Okuduğunu anlama gibi zor bir teknolojide, daha gidecek çok yol olduğunun açıkça farkına varmalıyız. Aslında, sağduyu bilgisinin kavranmasını, akıl yürütme yeteneğini ve tanıma ve bağlamı anlama sorunlarını içerir. Ancak, günlük sıkı çalışma ve ilerleme ile bir gün ortalama insan okuduğunu anlama düzeyine ulaşabileceğimizi veya aşabileceğimizden emin olun.
Bu ne işe yarar? Örneğin, müşteri hizmeti yapabilirsiniz. Bir web sitesi verildiğinde, kullanıcılar bazı sorular sorar Akıllı müşteri hizmetleri, web sitesini baştan sona okumak zorunda kalmadan yanıtı doğrudan bulabilir. Birçok uygulaması vardır.
Microsoft, makine okumasının gelişimini desteklemek için, Microsoft Bing aramasının özüne büyük katkıda bulunan ve aynı zamanda Microsoft'un özverili yardımını akademik topluluğa yansıtan MARCO adında yeni bir test sorusu başlattı. Bu veri seti henüz kullanıma sunulduğu için çok fazla ekip gönderilmedi.
Gelecekte NLP'nin altı geliştirme trendi ve altı araştırma yönü
Son olarak, Dr. Zhou Ming ayrıca doğal dil işlemenin mevcut sorunları ve gelecekteki araştırma yönleri hakkındaki düşüncelerini sundu. Birincisi, NLP'nin aşağıdaki gelişim trendlerine sahip olduğuna inanıyor:
"Önce, bence, Büyük veri, derin öğrenme ve bulut bilişimin üç ana unsurunun tanıtılmasıyla, sözde bilişsel zeka, özellikle de dil zekası, algısal zeka olarak önemli bir gelişime sahip olacak. Ayrıca doğal dil işlemenin, 60 yılı aşkın gelişim tarihinin en iyi dönemini, ön uygulamalardan arama ve sohbet robotlarına, bağlamın anlaşılmasına ve bilginin kavranmasına kadar en hızlı ilerleme dönemini başlattığını da söyleyebilirsiniz. , İşlem gücü büyük ölçüde geliştirildi. Spesifik olarak, konuşma dili makine çevirisinin kesinlikle tamamen popüler olacağını düşünüyorum. Yurtdışına giden herkes, hangi ülkede olursa olsun, telefonunu eline alıp ana dilinizi konuşur, yerel halkla iletişimde büyük sorunlar yaşanmaz ve bu, tıpkı bir arama yaptığınız gibi çok kolay bir süreçtir. Bu nedenle sözlü makine çevirisinin tamamen popüler olacağını düşünüyorum. Bu simültane çevirinin tamamen ortadan kaldırılabileceği anlamına gelmese de, bu profesyonel alandaki belgelerin çevirisinin tamamen çözülebileceği anlamına gelmez; ama bence büyük bir ilerleme olacak. "
"ikinci, Doğal dilde konuşmalar, sohbetler, sorular ve cevaplar ve diyaloglar pratik bir düzeye ulaştı. Bunun anlamı ne? Bu, ortak bir senaryoda bir görevin insan-makine diyaloğu süreciyle tamamlandığı anlamına gelir. Bu tamamen gerçekleştirilebilir ya da akıllı bir cihazla iletişim kurmak için ışıkları kapatmak, bilgisayarı açmak, ekran penceresini açmak gibi hiçbir sorun yoktur, aksanlı konuşma dahil olmak üzere tamamen anlaşılabilir. Ancak yine, bu herhangi bir konunun, herhangi bir görevin veya herhangi bir dil çeşidinin başarılabileceği anlamına gelmez. Hala bu hedefin uzağındayız ve aynı zamanda çok çalışıyoruz. "
"üçüncü, Akıllı müşteri hizmeti ile manuel müşteri hizmetinin mükemmel kombinasyonu, müşteri hizmetlerinin verimliliğini kesinlikle büyük ölçüde artıracaktır. Soru cevap ve basit görevler gibi birçok tekrarlayan müşteri hizmeti görevinin temelde yapay zeka ile çözülebileceğini düşünüyorum. Ancak karmaşık durumlar hala çözülemez. Dolayısıyla aslında çok iyi bir üretkenliği artırmak için yapay zeka ve insan zekasının mükemmel bir üretim hattı kombinasyonu, sorun değil. "
"dördüncü, Otomatik olarak beyitler yazın, şiirler yazın, basın bültenleri ve şarkılar yazın vs. Bence bugün hala yeni bir şey olabilir, ancak kesinlikle 5-10 yıl içinde popüler hale gelecektir. Hatta kullan. Örneğin, bir basın bülteni yazın ve size bazı veriler verin Bu basın bülteninin taslağı hemen yazılacaktır. Tek yapmanız gereken onu düzeltmek, ona yakıt eklemek ve farklı medya için kullanmaktır. "
"beşinci, Konuşma, sesli asistanlar, Nesnelerin İnterneti, akıllı donanım, akıllı evler vb. Açısından temelde insan-bilgisayar etkileşimini kullanan tüm uygulamaların kullanılabileceğini düşünüyorum. Ve yukarıdaki ürünlerden bazılarının tanıtımını yapın. "
" Son olarak, bilişsel zeka ve algısal zeka birlikte çalışır Hukuk, tıbbi teşhis, tıbbi konsültasyon, hukuki danışmanlık, yatırım ve finansman gibi birçok senaryoda bu alanlarda doğal dil işleme yaygın olarak kullanılacaktır. "
Dr. Zhou Ming aynı zamanda, iyi beklentilere ek olarak, doğal dil işlemede birçok çözülmemiş sorun olduğuna da işaret etti. Dr.Zhou Ming, daha önemli olduğunu düşündüğü birkaç araştırma yönünü listeler:
"ilk, Kullanıcı portreleri aracılığıyla kişiselleştirilmiş hizmetleri gerçekleştirin. Artık doğal dil işleme temelde çok çok az kullanıcı portreleri kullanıyor. Aslında, insanlar arasındaki diyalog aslında farklı insanlara farklı şeyler söylüyor, çünkü konuşan kişinin kişiliğini, özelliklerini ve bilgi düzeyini biliyoruz. Kullanıcıyı ve kullanıcının portresini biliyorum. O zaman olacak Ayarlandı. Şu anda bunu başarmaktan çok uzağız. "
"ikinci, Yorumlanabilir öğrenme yoluyla yapay zeka mekanizmasına ilişkin içgörü. Şimdi doğal dil işleme, uçtan uca eğitim yoluyla diğer yapay zeka ile aynıdır, ama aslında bu bir kara kutudur Ne olduğunu, hangisinin işe yaradığını, hangisinin çalışmadığını bilmiyorsunuz. Ayrıca neyin işe yaradığını ve neyin yanlış olduğunu anlamamıza yardımcı olabilecek yorumlanabilir bir yapay zeka olup olmadığını ve ardından sistemimizi hızla ayarlamak için düzeltmeler yapıp yapmadığımızı düşünüyoruz. Şu anda, bu soruna iyi bir çözüm yok, bazı görsel çalışmalar olmasına rağmen, nispeten yüzeyseldir ve en doğru yargıya ve izlemeye ulaşmamıştır. "
"üçüncü, Bilgi ve derin öğrenmenin birleşimiyle verimliliği artırın. Bilgi ve derin öğrenmenin sözde kombinasyonu, birçok durumda insan bilgisi gerektirebilir. Örneğin, müşteri hizmetlerinin bazı ortak süreçleri vardır. Peki sorunu nasıl çözebilirim? Öğrenme sürecini hızlandırmak ve öğrenmenin kalitesini iyileştirmek için bu bilginin verilerle akıllıca nasıl birleştirilebileceği de daha ilginç. "
"dördüncü, Transfer öğrenme yoluyla alan adaptasyonunu gerçekleştirin. Bilgisayar alanı gibi belirli bir profesyonel alanı çevirmek istiyorsak, mevcut çeviri araçları iyi sonuç vermeyebilir. Bu nedenle, makinenin konuşma uyarlamasında daha iyi kullanılabilecek transfer öğrenmesini gerçekleştirmesine yardımcı olmanın bir yolu olup olmadığını herkes araştırıyor. "
"beşinci, Pekiştirmeli öğrenme yoluyla kendi kendine evrimi gerçekleştirin. Bu, doğal dil sistemimiz piyasaya sürüldükten sonra, birçok kişinin onu kullandığı ve geri bildirim ve gösteri geri bildirimleri de dahil olmak üzere birçok kişiden geri bildirim aldığı ve ardından pekiştirmeli öğrenme yoluyla sistemi geliştirmeye devam ettiği anlamına gelir. Bu, sistemin kendi kendine evrimidir. "
"Son olarak, bunun da çok kritik olduğunu düşünüyorum. Denetimsiz öğrenme yoluyla etiketlenmemiş verilerden tam olarak yararlanın. Artık hepsi etiketli verilere güveniyor ve etiketli verileri kullanmanın bir yolu yok. Bununla birlikte, birçok senaryoda, açıklama verileri yeterli değildir ve manuel açıklama bulmak çok pahalıdır. Peki bu etiketlenmemiş veriler nasıl kullanılır? Bu, sözde denetimsiz öğrenme süreci veya yarı denetimli bir öğrenme süreci yoluyla genel öğrenme sürecini geliştirmek içindir. Bu, mevcut araştırmada da çok ilginç. "
Microsoft'un NLP teknolojisi daha ayrıntılı, daha uzun ve daha derin bir birikime sahip
Dr. Zhou Mingin açılış konuşmasının ardından Xin Zhiyuan, Dr. Zhouya bir soru sordu.
Xinzhiyuan : Merhaba Öğretmen Zhou, ben Xinzhiyuan'dan bir muhabirim Konuşmanız için teşekkür ederim İki sorum var. Her şeyden önce, akıllı ses asistanları yapan pek çok şirket var Microsoft'un teknolojisini benzersiz kılan nedir? Akıllı ses işlemenin başarısının anahtarı sizce nedir? PPT'de bir çizelgeleme sisteminden az önce bahsettiniz Zamanlama sistemine ayrıntılı bir giriş yapabilir misiniz?
Zhou Ming :Teşekkür ederim.
İlk soru, sesli asistanın yurtiçinde veya yurtdışında gerçekten çok şey yaptığıdır. Microsoft'un sesli asistanının başarıları esas olarak Xiaona'ya yansıyor. Xiaona'nın özellikleri şimdi neler? Aşağıdaki özelliklere sahip olduğunu düşünüyorum. İlk olarak, geleneksel zorunlu kullanıcı komutlar gönderir ve makine bunları iyi anlar ve uygular. İkinci olarak, Xiaona'nın eklediği şey, kullanıcının kişisel niteliklerini, alışkanlıklarını ve hobilerini anlamak için inisiyatif alması ve ardından hatırlatmak ve önermek için inisiyatif almasıdır. Bu bizim özelliğimizdir. Ek olarak, Xiaona dahili olarak birçok doğal dil teknolojisi kullanıyor ve bu da bizim gücümüz. Örneğin soru cevap, duygu tanıma, duygu analizi vb. Elbette birçok başka şirket de bu alanlarda kendi teknolojilerini uyguladı, ancak Microsoft Research bu alanda uzun süredir başı çekiyor.
İkinci soru, planlama sistemi ile ilgili. Bir diyalog sistemi olmak için bölmek ve fethetmek gerektiğini düşünüyorum. Yani, bazı takımları yalnızca Soru-Cevap yapması için ayırabilirsiniz, bazı takımlar sadece kısa konuşmalar yapar ve bazı takımlar sadece diyalog yapar; ancak bir zamanlama sistemine sahip olmanız gerekir. Bu, insan merkezine eşdeğerdir, belirli bir sorunu alır ve ardından onu belirli bir motora yönlendirir. İnsanlar konuşurken, küçük sohbetten ciddi soru ve cevaba geçebilir ve değişebilir. Şu anda, karşı tarafın ciddi bir soru cevap durumuna girdiğini hissetmeli ve motoru değiştirmelisiniz. Bu alandaki önemli teknoloji, kullanıcının amacını anlamak, şu üç şeyi anlamaktır: diyalog, küçük sohbet ve görev yürütme Yapmak istediğiniz şey budur ve bir yargıya varmanız gerekir. Yargılama bittikten sonra ilgili Botu arayın. Bunların hepsi doğal dille ilgili ... Uzun yıllardır niyet anlayışı ve dağıtımını yapıyoruz.
Xinzhiyuan : NLP, Microsoft'un diğer şirketlerden benzersiz öne çıkan teknolojisidir.Microsoft Research Asia bunda önemli bir rol oynadı, değil mi?
Zhou Ming : Öncelikle doğal dil işleme teknolojisindeki tüm büyük şirketler yapıyor, biz sadece daha detaylı, daha uzun süre ve daha derin birikim yapıyoruz. Temel bir teknoloji olarak, doğal dil işleme teknolojisi, niyet tanıma, sınıflandırma ve ifade dahil olmak üzere birçok özel uygulamada önemli bir rol oynar. Teknik bölümlerin çoğuna katıldık ve ayrıca genel merkezdeki meslektaşlarımızla çok sayıda işbirliğimiz var.
