Gerçekte insanlar tarafından gizlendiğini düşündüğünüz "sahte yapay zeka" AI teknolojisi!
Xinzhiyuan önerilir
Kaynak: Guardian Weekly
Derleme: Grace
Xin Zhiyuan Rehberi 4 Temmuz'da Baidunun AI Geliştiricileri Konferansı bir AI çağrısının videosunu yayınladı. Bazı kullanıcılar ilk başta bunu fark etmedi, ancak bazı kullanıcılar diğer tarafın bir robot olduğunu çabucak keşfetti. AI, insanlar gibi çalışabilir hale geldi. Ancak, kullandığınız bazı teknolojilerin aslında sahne arkasındaki insanlar tarafından manipüle edildiğini hiç düşündünüz mü? Bazı şirketlerin, yatırımcıların sırrı olarak insana güvenmek için uzmanların "Oz Büyücüsü teknolojisi" dedikleri şeyi kullandığı anlaşılıyor ...
Yapay zeka odaklı bir hizmet oluşturmak zordur. Aslında, bazı yeni başlayan şirketler, makinelerin insan gibi davranmasına izin vermek yerine, insanları robotlar gibi hareket ettirmek için daha ucuz ve daha kolay geliştirdiler.
ReadMe CEO'su Gregory Koberger "İnsanların bu işi yapmaları, birçok teknik ve iş geliştirme zorluğunu atlamanıza izin veriyor. Açıkçası, ölçeklenmeyecek, ancak erken bir şeyler oluşturmanıza ve zor kısımları atlamanıza izin veriyor," Çok fazla "sözde AI" ile karşılaştığını söylediğini, "bu temelde insan ve yapay zekanın bir prototipidir" dedi.
Bazı şirketler yapay zeka sistemlerini eğitmek için insanları kullanır; diğerleri ölçeklenebilir yapay zeka teknolojisine sahip olduklarını iddia ettiklerinde gizlice onlara güvenir.
ne? İnsanların sohbet robotu gibi davranmasına izin verilsin mi?
Sahte yapay zeka kullanımı, bu hafta Wall Street Journal'da Google'ın yüzlerce üçüncü taraf uygulama geliştiricisinin insanların gelen kutularına erişmesine izin verdiğini vurgulayan bir önceki makalede ortaya çıktı.
San Jose merkezli bir şirket olan Edison Software'de, yapay zeka mühendisleri, "akıllı yanıt" özelliğini geliştirmek için yüzlerce kullanıcının kişisel e-postalarına göz attı. Şirket, gizlilik politikasında, insanların kullanıcıların e-postalarını görüntüleyebileceğinden bahsetmedi.
"Wall Street Journal" makalesinde vurgulanan üçüncü taraflar, bunu ilk yapanlardan uzaktır. 2008'in başlarında, sesli postayı metin mesajlarına dönüştüren bir şirket olan Spinvox, işleri makine yerine denizaşırı çağrı merkezlerinde tamamlamak için insanları kullanmakla suçlandı.
Bloomberg, 2016 yılında, sohbet robotları için takvim planlama hizmetleri (X.ai ve Clara gibi) yapıyormuş gibi yaparak günde 12 saat harcayan insanların ikilemini vurguladı. Bu iş akıllara durgunluk veriyor ve çalışanlar yerini robotların almasını dört gözle beklediklerini söylüyor.
2017'de, kurumsal gider yönetimi uygulaması Expensify, bazı makbuzları yazıya dökmek için insanları kullandığını ve "akıllı tarama teknolojisi" tarafından işlendiğini iddia ettiğini kabul etti. Spesifik yöntem şudur: Makbuzun taranmış kopyası, Amazon'un düşük ücretli çalışanlar tarafından okunan ve yazıya dönüştürülen kitle kaynaklı işçilik aracına gönderilir.
Twitter'da "Türker" ve esnek ekonomi çalışanı savunucusu Rochelle LaPlante, "Expensify SmartScan kullanıcılarının, Mechanical Turk işçilerinin makbuzlarını alacaklarını bilip bilmediğini bilmek istiyorum," dedi. "Birinin Uber'ine bakıyorum Bir makbuz ve onu alacağınız yer. "
Yapay zekaya yoğun bir şekilde yatırım yapan Facebook bile Messenger M'sinin sanal asistanları olarak insanlara güveniyor.
Yapay zekayı gizlemek için insan gücünü kullanmalı mıyız?
Bazı durumlarda, insanlar AI sistemlerini eğitmek ve doğruluklarını artırmak için kullanılır. Scale adlı bir şirket, birçok insan çalışanına sürücüsüz arabalar ve diğer yapay zeka sistemleri için eğitim verileri sağlıyor. Örneğin, "ölçekleyici" kamera veya sensör geri bildirimine bakacak ve ardından çerçevedeki arabaları, yayaları ve bisikletlileri işaretleyecektir. Yeterli manuel kalibrasyonla, AI bu nesneleri kendileri tanımayı öğrenebilir.
Diğer durumlarda, şirket gerçekten gerçekleşene kadar sözde yapay zekaya güvenmeye devam edecek. Yatırımcılara ve kullanıcılara ölçeklenebilir yapay zeka teknolojisi geliştirdiklerini ve aynı zamanda gizlice insan zekasına güvendiklerini söylüyorlar.
Psikolog ve zihinsel sağlık destek sohbet robotu Woebot'un kurucusu Alison Darcy, bunu "Oz Büyücüsü'nün tasarım teknolojisi" olarak tanımladı.
"Bir şeyin nihai deneyimini simüle edebilirsiniz. Yapay zeka alanında, genellikle algoritmalardan ziyade perde arkasında insanlar vardır," dedi ve iyi bir yapay zeka sistemi kurmanın "çok büyük miktarda veri" gerektirdiğini sözlerine ekledi. Bazen tasarımcılar. Yatırım yapmadan önce yeterli hizmet talebi olup olmadığını bilmek ister.
Woebot gibi psikolojik destek hizmetleri için bu yöntemin uygun olmadığını söyledi.
"Psikologlar olarak ahlaki ilkeleri takip ediyoruz. İnsanları aldatmak çok açık ahlaki ilkelerden biridir."
Araştırmalar, insanların bir kişiden ziyade bir makineyle konuştuklarını düşündüklerinde, daha fazla bilgi ifşa etme eğiliminde olduklarını gösteriyor çünkü kendileri için akıl sağlığı yardımı almak utanç verici.
Güney Kaliforniya Üniversitesi'nden bir ekip bunu Ellie adlı sanal bir terapistle test etti. Travma sonrası stres bozukluğu olan gazilere, bir makineyi çalıştırırken semptomlarını sızdırmaları söylenenden daha büyük olasılıkla Ellie'nin bir yapay zeka sistemi olduğunu söylediler.
Diğerleri, şirketlerin hizmetlerinin nasıl işlediği konusunda her zaman şeffaf olması gerektiğine inanıyor.
Yapay zeka hizmetleri veriyormuş gibi davranan ancak aslında insan gücü kiralayan şirketler için "Bundan hoşlanmıyorum," diyen LaPlante, "Bu bana sahtekar ve aldatılmış geliyor. Kullandığım işten istediğim bunlar değil. Bir şey buldum.
"İşçilere gelince, perde arkasına itilmiş gibiyiz. Emeklerimin bir şirket tarafından kullanılmasından hoşlanmıyorum. Bunun yerine müşterilere olanları yalanlayacaklar."
Bu etik ikilem aynı zamanda yapay AI sistemlerine de yol açmıştır. Son bir örnek, tüyler ürpertici ve gerçekçi aramaları tamamlamak, randevular yapmak ve bazı rezervasyon görevlerini tamamlamak için "ums" ve "ers" i kullanabilen bir robot asistanı olan Google Duplex'tir.
İlk güçlü muhalefetin ardından Google, yapay zekasının konuştuğu kişiyi tanımlayacağını belirtti.
Darcy, "Demo sürümlerinde, düşük etkili konuşmalarda biraz aldatıcı geliyor" dedi. Bir restoranda masa rezervasyonu yapmak düşük riskli bir etkileşim gibi görünse de, aynı teknoloji yanlış ellerde daha manipülatif olabilir.
Örneğin, bir ünlünün veya politikacının sesini taklit eden gerçekçi bir telefon yapabilseniz ne olur?
Darcy, "Yapay zekanın zaten çok fazla korkusu var ve şeffaflık eksikliği olduğunda, diyaloga gerçekten yardımcı olmuyor." Dedi.
Bunun hakkında ne düşünüyorsun?
Topluluğa katıl
Xinzhiyuan AI teknolojisi + endüstri topluluğunun işe alımında, AI teknolojisi + endüstrisiyle ilgilenen öğrenciler küçük bir WeChat asistanı hesabı ekleyebilirler: aiera2015_3 Gruba katılın; incelemeyi geçtikten sonra sizi gruba katılmaya davet edeceğiz. Topluluğa katıldıktan sonra, grup açıklamalarını değiştirmeniz gerekir (isim-şirket-pozisyon; profesyonel grup incelemesi katıdır, lütfen anlayın).
