Li Feifei'nin Google'dan ayrılmasının ardında: Yapay zeka bilimi henüz çok gelişmemiş. Bir bilim insanı olarak kendimi alçakgönüllü hissediyorum
Kaynak: Sina Technology
Giriş: Bu yıl 11 Eylül'de Google Cloud AI departmanı başkanı Li Feifei, Stanford Üniversitesi'nden ayrılıp öğretmenlik yapmak için geri döndüğünü duyurdu. Yabancı medya "Wired" dergisi geçtiğimiz günlerde Li Feifei'nin ayrılışının arkasındaki hikayeyi anlatan bir makale yayınladı.
Aşağıda makalenin tam metni yer almaktadır:
Geçen yıl Haziran ayında bir dönem vardı, sabah 01:00 civarı Li Feifei, pijamalarıyla Washington D.C.'deki bir otel odasında oturmuş, birkaç saat sonra yapılacak bir konuşma yapıyordu. Yatmadan önce Li Feifei, belirtilen süre içinde en önemli noktaları hızlı bir şekilde açıklığa kavuşturmak için notlardan bir paragrafın tamamını sildi. Uyandığında 165 cm boyundaki yapay zeka uzmanı, her zamanki tişört ve kotlardan farklı olan botlar ve siyah lacivert örme etek giydi. Daha sonra ABD Kongre Binası'nın güneyindeki Rayburn Temsilciler Meclisi'ne bir Uber arabası aldı.
ABD Temsilciler Meclisi Bilim, Uzay ve Teknoloji Komitesi'nin toplantı odasına girmeden önce telefonunu aldı ve devasa ahşap kapının fotoğrafını çekti. ("Bir bilim insanı olarak komite hakkında garip hissediyorum." Dedi.) Sonra boş salona adım attı ve tanık kürsüsüne doğru yürüdü.
O sabahki duruşmanın teması "Yapay Zeka-Güçlü Güç Büyük Sorumluluk Getiriyor" idi. Katılımcılar arasında Devlet Sorumluluk Bürosu'nun baş bilim adamı Timothy Persons ve kar amacı gütmeyen ortak OpenAI kuruluşu vardı. Kurucu ve CTO Greg Brockman (Greg Brockman). Ancak olay yerinde konuşan tek kadın yalnızca Li Feifei idi ve yapay zeka (AI) alanında öncü bir başarı olarak tanımlanabilir. Bilgisayarların görüntüleri tanımasına yardımcı olabilecek bir veritabanı olan ImageNet'i oluşturan bir araştırmacı olarak, küçük bir bilim insanı grubunun parçasıdır. Bu grup, mutfak masasının etrafında bir daire oluşturacak kadar küçük olabilir, ancak yapay zeka konusunda son zamanlarda önemli gelişmeler Onlara kredi verin.
O yılın Haziran ayında Li Feifei, Google Cloud'da baş yapay zeka bilimcisi olarak görev yaptı ve Stanford yapay zeka laboratuvarının direktörlüğü görevinden ayrıldı. Ancak komitenin önüne çıktı çünkü aynı zamanda kadınları ve beyaz olmayan insanları işe alarak yapay zeka geliştiricileri haline getirmeye odaklanan kar amacı gütmeyen bir kuruluşun kurucu ortağıydı.
Bu hiç de şaşırtıcı değil, milletvekilleri aynı gün mesleki bilgilerini sordular. Şaşırtıcı olan konuşmasının içeriği: sevdiği alanın yarattığı ciddi tehlikeler.
Bir buluş ile etkisi arasındaki süre kısadır. ImageNet gibi yapay zeka araçlarının yardımıyla, bilgisayarlara belirli görevleri öğrenmeleri ve ardından herkesten daha hızlı hareket etmeleri öğretilebilir. Bu teknoloji olgunlaştıkça, verileri filtreleme, sınıflandırma ve analiz etme ve dünya ve toplum üzerinde etki sahibi olma yetkisi verilmektedir. Bu araçlar bir şekilde 60 yıldan fazla bir süredir var olmasına rağmen, son on yılda, onları insan yaşamının yörüngesini değiştirme görevini tamamlamak için kullanmaya başladık: bugün, yapay zeka hangi tedavilerin hastalar için uygun olduğunu ve kimin uygun olduğunu belirlemeye yardımcı oluyor. Hayat sigortası almak için bir kişinin cezaevinde ne kadar kalması gerektiği ve hangi işe başvuranlarla görüşme yapılır.
Elbette bu güçler tehlikeli olabilir. Amazon, AI işe alım yazılımını terk etmek zorunda kaldı çünkü yazılım, "kadın" kelimesini içeren özgeçmişleri cezalandırmayı öğrendi. Google'ın 2015'teki sancılı deneyimini kim unutabilir? O zamanlar, Google'ın fotoğraf tanıma yazılımı siyah resimleri yanlışlıkla goril olarak etiketliyordu. Microsoft'un yapay zeka sosyal sohbet robotu ırkçı tweetler göndermeye başladı. Ancak bu sorunlar açıklanabilir ve dolayısıyla tersine çevrilebilir. Li Feifei, yakın gelecekte hata düzeltmenin imkansız olduğu bir anla karşılaşacağımıza inanıyor, çünkü bu teknoloji hızla ve yaygın bir şekilde benimseniyor.
O sabah Li Feifei Rayburn Binasında ifade verdi çünkü sahasının yeniden kalibre edilmesi gerektiğine kesin olarak inanıyordu. Çoğunlukla erkeklerden oluşan seçkin ve güçlü yüksek teknoloji liderleri, yapay zekaya dayalı teknolojinin insan varoluşu için bir tehdit haline geleceği konusunda geleceğe dair uyardı. Ancak Li Feifei, bu endişelere çok fazla dikkat ve ilgi gösterildiğine inanıyor. Daha az dramatik ama daha önemli bir konuya odaklandı: Yapay zekanın insanların işlerini ve yaşam tarzlarını nasıl etkileyeceği. İnsan deneyimini kaçınılmaz olarak değiştirecek, ancak ille de daha iyi anlamına gelmiyor. Li Feifei, "Zamanımız var," dedi, "ancak şimdi harekete geçmeliyiz." Li Feifei, yapay zeka ve tasarımcılarının tasarımında köklü değişiklikler yaparsak, teknolojinin her zaman iyilik için dönüştürücü bir güç olacağına inanıyor. Aksi takdirde, birçok insanlık denklemden çıkarılacaktır.
Duruşmada, Li Feifei konuşan son kişi oldu. Gerginlik yüzünden bütün gece pratik yaptığına dair hiçbir kanıt yok, bu yüzden konuştu. Yapay zekada yapay şeyler var. Sesi arttı. "İnsanlardan ilham alıyor. İnsanlar tarafından yaratılıyor. En önemli şey, insanları etkileyebilmesidir. Bu güçlü bir araçtır. Biz daha yeni anlamaya başlıyoruz. Bu ağır bir sorumluluk." Etraftaki insanların yüzleri. Cidden, toplantıda hazır bulunan kadınlardan biri onunla aynı fikirde ve "Uh ... Uh" sesi çıkardı.
Stanford Üniversitesi AI Laboratuvarı, Segway platform mobil robot JackRabbot 1
Li Feifei, güneybatı sanayi şehri Chengdu'da büyüdü. Yalnız ve zeki bir çocuk ve aç bir bilgin. Ailesi biraz sıra dışı: evcil hayvan tutmayı teşvik etmeyen bir kültürde babası ona bir köpek yavrusu aldı. Anne entelektüel bir aileden geliyordu ve onu "Jane Eyre" okumaya teşvik etti. (Lee, "Bronte kardeşler arasında en çok Emily'yi seviyorum," dedi.). 12 yaşındayken babası Parsippany, New Jersey'e taşındı ve annesi onu birkaç yıldır görmemişti. 16 yaşında anne ve kızı da yurt dışına göç etti. Amerika Birleşik Devletleri'ndeki ikinci günde, Li Feifei'nin babası onu benzin istasyonuna götürdü ve tamirciye arabasını tamir etmesini söylemesini istedi. İngilizce konuşması zordu ama jestlerle Li Feifei sorunu açıklamanın bir yolunu buldu. İki yıl içinde Li Feifei, yalnızca temel İngilizce konuşan ebeveynler için tercüman ve rehber olarak hizmet verecek kadar dil öğrendi. "Ben ailemin ağzı ve kulağı olmalıyım" dedi.
Okulda da iyi performans gösterdi. Babam ikinci el ürünler için alışveriş yapmayı sever ve onun için bilimsel bir hesap makinesi bulur. Bunu matematik dersinde kullanır.Öğretmen, fonksiyon tuşlarından birinin bozuk olduğunu yanlış hesaplamasına işaret edene kadar değildi. Li Feifei, bir başka lise matematik öğretmeni olan Bob Sabella'yı, kendisini akademiye yönlendirdiği ve Amerikan rüyasının peşinden gitmeye başladığı için övdü. Parsippany Lisesi'nin ileri matematik dersleri yoktur, bu yüzden öğle yemeği molasında Li Feifei'yi öğretmek için bir ders kitabı derledi. Sabella ve eşi de ondan evlerinde oynamasını istediler ve onu tatil için Disney'e götürdüler, kuru temizlemeciyi açması için ona 20.000 dolar borç verdiler ve ebeveynlerinin çalıştırmasına izin verdiler. 1995'te burs kazandı ve Princeton Üniversitesi'nde okuyabildi. Bu arada, aile işini yürütmek için neredeyse her hafta sonu eve gitti.
Üniversitede Li Feifei'nin ilgi alanları çok geniştir. Fizik okudu ve bilgisayar bilimi ve mühendisliği okudu. 2000 yılında, Pasadena'daki California Institute of Technology'de nörobilim ve bilgisayar bilimi okurken doktora eğitimi aldı.
Görünüşte farklı alanlar arasındaki bağlantıları görmek ve kolaylaştırmak Li Feifei'yi ImageNet'i düşündürdü. Bilgisayarla görme meslektaşları, bilgisayarların görüntüleri algılamasına ve kodunu çözmesine yardımcı olan modeller üzerinde çalışıyorlar, ancak bu modellerin kapsamı sınırlı: Araştırmacıların köpekleri tanımak için bir algoritma ve kedileri tanımak için başka bir algoritma yazması gerekebilir. Li, sorunun model değil verilerden kaynaklandığından şüphelenmeye başladı. Bir çocuk ilk yıllarda görsel dünyayı deneyimleyerek yani sayısız nesne ve sahneyi gözlemleyerek izlemeyi öğrenirse, bir bilgisayarın da benzer şekilde çeşitli görüntüleri ve aralarındaki ilişkileri analiz ederek öğrenebileceğine inanıyor. . Li Feifei için bu tanıma büyük bir adım. "Bu, tüm dünyanın görsel konseptini düzenlemenin bir yolu." Dedi.
Ancak meslektaşlarını, her nesnenin olası her resmini devasa bir veri tabanında etiketlemenin makul olduğuna ikna etmesi zordur. Ek olarak, Li Feifei bu fikrin işe yaramasına karar verirse, etiketin genel bir kategoriden ("memeli" gibi) oldukça spesifik bir kategoriye ("Yıldız burunlu köstebek" gibi) yapıştırılması gerekir. 2007'de yardımcı doçent olarak Princeton'a dönen Li Feifei, ImageNet fikrinden bahsettiğinde, yardım edecek öğretim üyeleri bulmak zordu. Sonunda, bilgisayar mimarisinde uzmanlaşmış bir profesör, işbirlikçi olarak katılmayı kabul etti.
Bir sonraki meydan okuması devler inşa etmektir. Bu, birçok insanın sıkıcı fotoğrafları etiketleme işi için çok zaman harcayacağı anlamına gelir. Li Feifei, Princeton öğrencilerine saatte 10 dolar ödemeye çalıştı, ancak ilerleme yavaştı. Sonra bir öğrenci ona Amazon Mechanical Turk'ü duyup duymadığını sordu. Bu, makinelerin çözmesi zor veya imkansız olan sorunları çözmek için kitlelerin bilgeliğini kullanabilen tanınmış bir kitle kaynaklı platformdur. Birden çok işçiyi maliyetinin çok altında toplayabilir. Ancak işgücünün bir avuç Princeton öğrencisinden on binlerce görünmez kaşiflere genişlemesi, kendi zorluklarını ortaya çıkarıyor. Li Feifei, işçiler arasındaki olası önyargıyı düşünmek zorunda kaldı. "Online çalışanlar, amaçları en basit şekilde para kazanmak değil mi?" Dedi. 100 resim arasından panda seçmelerine izin verirseniz, dağınık olmalarını nasıl önleyebilirsiniz? "Bu nedenle, köpek olarak doğru bir şekilde tanımlanmış golden retriever fotoğrafları gibi bazı görüntüleri kontrol grubu olarak yerleştirdi ve takip etti. Türkler bu görüntüleri doğru şekilde etiketleyebilirlerse, dürüstçe çalışabilirler.
Li Feifei'nin ekibi 2009 yılında 3.2 milyon (daha sonra 15 milyona yükseldi) büyük ölçekli resim koleksiyonunun kullanım için yeterince kapsamlı olduğuna inandı ve bir makale yayınlarken aynı zamanda veritabanını yayınladılar. İlk başta bu proje çok az ilgi gördü. Ancak daha sonra ekibin bir fikri vardı: Ertesi yıl Avrupa'da düzenlenen bilgisayarla görme yarışmasının organizatörleriyle temasa geçtiler ve onlardan rakiplerinin algoritmalarını eğitmek için görüntü ağı veritabanlarını kullanmalarına izin vermelerini istediler. Bu, ImageNet'in büyük ölçekli görsel tanıma mücadelesidir.
Aynı sıralarda Li Feifei, Stanford Üniversitesi'ne yardımcı doçent olarak katıldı. O sırada robotikçi Silvio Savarese (Silvio Savarese) ile evlendi. Ama Michigan Üniversitesi'nde bir işi var ve çok uzakta. Li Feifei, "Silikon Vadisi'nin bizim için iki yerden ayrılma sorununu çözmenin daha kolay olduğunu biliyoruz" dedi. (Savarese, Stanford Üniversitesi'ne 2013 yılında katıldı.) "Aynı zamanda, Stanford Üniversitesi özel çünkü yapay zekanın doğum yerlerinden biri."
2012'de Toronto Üniversitesi araştırmacısı Geoffrey Hinton (Geoffrey Hinton), veritabanını derin sinir ağı adı verilen yapay bir zekayı eğitmek için kullanarak ImageNet yarışmasına katıldı. Nihai sonuç, önceki herhangi bir deneyden çok daha doğruydu ve kazandı. Li Feifei'nin Hinton'un ödülü kabul etmesini görmek gibi bir planı yoktu, doğum iznindeydi ve ödül töreni İtalya'nın Floransa kentinde yapıldı. Ancak tarihsel anın geldiğini fark etti. Böylece son dakikada bir bilet aldı ve gece yarısı uçuşunun orta koltuğuna oturdu. Hinton'un görüntü sinir ağı her şeyi değiştirdi. Yarışmanın son yılı olan 2017'ye kadar, bilgisayarın resimlerdeki nesneleri tanımlamadaki hata oranı 2012'de% 15 iken% 3'ün altına düştü. Bilgisayarlar, en az bir yöntemle gözlemlemede insanlardan daha iyidir.
ImageNet derin öğrenmeyi mümkün kılar.Bununla, insanlar otonom araçlarda, yüz tanımada ve nesneleri tanıyabilen (ve size terfi edip etmediklerini söyleyen) telefon kameralarında ilerleme kaydedebilir.
Hinton ödülü aldıktan kısa bir süre sonra Li Feifei hala doğum iznindeyken, meslektaşları arasında neden bu kadar az kadın olduğunu düşünmeye başladı. O anda, bunu şiddetle hissetti ve boşluğun genişlediğini ve bir sorun haline geldiğini gördü. Yapay zeka algoritmaları oluşturan çoğu bilim insanı erkektir ve genellikle benzer geçmişlere sahiptir. Kendi benzersiz dünya görüşlerini ve hatta öngörülebilir tehlikeleri dahil oldukları projelere yerleştirirler. Yapay zeka yaratıcılarının çoğu, "Terminator" ve "Blade Warrior" sahnelerinden esinlenen bilimkurgu hayalleri olan çocuklardır. Li Feifei, bu tür şeyler için endişelenmekte yanlış bir şey yok, diye düşündü, ancak bu fikirler, yapay zekanın riskli olabileceğine dair dar görüşten sapıyor.
Li Feifei'nin dediği gibi, derin öğrenme sistemleri önyargı ve çıktı önyargısı elde edebilir. Li Feifei, yapay zekayı çalıştıran algoritmalar tarafsız görünse de, bu algoritmaların sonuçlarını etkileyen veri ve uygulamaların olmadığını fark etti. Önemli olan onu kimin yarattığı ve yaratma amacıdır. O gün Capitol Hill'de Li Feifei, farklı geçmişlere sahip bir grup mühendis olmadan, haksız kredi başvurusu kararları almak için bir dizi önyargılı algoritma oluşturabileceğimize veya oluşturmak için sinir ağlarını yalnızca beyaz yüzler üzerinde eğitebileceğimize dikkat çekti. Siyah yüzlerde iyi performans göstermeyen bir model. "20 yıl içinde uyanırsak ve teknolojimizin, liderlerimizin ve uygulayıcılarımızın çeşitlilikten yoksun olduğunu görürsek, kıyamet günü resmim olacağını düşünüyorum" dedi.
Li Feifei, asıl görevin yapay zekanın gelişimini insan deneyimine yardımcı olmaya odaklamak olduğuna inanmaya başladı. Stanford Üniversitesi'ndeki projelerinden biri, YBÜ'ye yapay zeka getirmek ve hastane kaynaklı enfeksiyonlar gibi sorunları azaltmak için tıp fakültesi ile işbirliği yapmak. El yıkama istasyonlarını izleyebilen ve hastane personeli doğru miktarda fırçalamayı unuttuğunda hatırlatmalar yapabilen bir kamera sisteminin geliştirilmesini içerir. Bu tür disiplinler arası işbirliği alışılmadık bir durumdur. Tıp profesörü ve Stanford Klinik Mükemmellik Merkezi direktörü Arnold Milstein, "Bilgisayar bilimi alanından başka kimse bana ulaşmadı" dedi.
AI nasıl gelişmeli? Bu çalışma Li Feifei'ye umut verdi. Yapay zeka, insanların becerilerini basitçe değiştirmek için değil, desteklemek için kullanılabilir. Diğer disiplinlerden insanlar (veya hatta gerçek dünyadaki insanlar) bu projeye katılırsa, zaman alıcı görevleri otomatikleştirmek gibi insan yeteneklerini genişletmek için araçlar oluşturabilir ve YBÜ hemşirelerinin hastalarla daha fazla zaman geçirmelerine olanak tanıyabilirler. Birinin alışveriş deneyimini otomatikleştirmek ve kasiyerleri işten çıkarmak için yapay zeka oluşturun.
Yapay zekanın hızlı gelişimini göz önünde bulunduran Li Feifei, ekibinin personeli ayarlaması gerektiğine inanıyor - ne kadar erken olursa o kadar iyi.
Kadınların bilgisayar alanına girmesine yardımcı olun
Stanford Üniversitesi Yapay Zeka Laboratuvarında Li Feifei
Li Feifei matematiğe çok takıntılı ve bilgisayar alanına kadınların veya diğer beyaz olmayanların girmesine izin vermenin çok çaba gerektirdiğini biliyor. Ulusal Bilim Vakfı (Ulusal Bilim Vakfı) istatistiklerine göre, 2000 yılında kadınlar toplam yıllık bilgisayar lisans derecesinin yalnızca% 28'ini aldı ve 2015'te% 18'e düştü. Li Feifei'nin kendi laboratuvarında, yeterli sayıda renkli insan ve kadın araştırmacı tutmak da zordur. Li Feifei, laboratuvarının tipik bir yapay zeka laboratuvarından daha çeşitli olmasına rağmen erkeklerin hâkim olduğunu söyledi. Ayrıca şunları söyledi: "Yeterli kadın yok ve yeterli etnik azınlık yok ve laboratuvar rezervleri gibi sorunlar da var. AI konferanslarına katılan öğrenciler, katılımcıların% 90'ının aynı cinsiyetten olduğunu ve Afrikalı Amerikalıların sayısının da arttığını görecek. Beyaz erkeklerden çok daha az. "
Li Feifei, Olga Russakovsky'nin danışmanı olduğunda, neredeyse sektörden ayrılıyordu. Rusakowski, o zamanlar zaten bir bilgisayar bilimcisiydi. Her ikisi de Stanford'da matematik alanında lisans ve bilgisayar bilimleri alanında yüksek lisans derecesi aldı, ancak tezinde geride kaldı. Rusakowski laboratuvardaki tek kadın ve akranlarından kopuk hissediyor. Li Feifei Stanford'a geldiğinde durum değişti. Li Feifei, Rusakowski'nin bazı araştırma becerilerini öğrenmesine yardım etti. Rusakowski, Li Feifei'nin kendine güven verdiğini de söyledi. Şimdi Rusakowski, Princeton Üniversitesi Bilgisayar Bilimleri Bölümü'nde yardımcı doçent.
Dört yıl önce Rusakowski doktorasını bitirdi, Li Feifei'nin yapay zekayla ilgilenen kadınların katılabileceği bir yaz kampı kurmasına yardım edebileceğini umuyordu. Li Feifei kabul etti ve hemen ikinci sınıf lise öğrencilerini aramak için gönüllüleri çağırdılar. Sadece 24 yer olmasına rağmen bir ay içinde 200 başvuru alındı. İki yıl sonra, projeyi genişletti ve kar amacı gütmeyen AI4All kuruluşunu kurarak gençleri Stanford ve California Üniversitesi, Berkeley'e, kızlar, beyaz olmayanlar ve ekonomik koşulları kötü olan insanlar da dahil olmak üzere getirdiler.
AI4All, California, Oakland'da küçük bir ortak ofise sahiptir. Organizasyonun büyümesi nedeniyle, şimdi taşınmak üzere. AI4All artık 6 üniversitede yaz kamplarına sahip. Geçen yıl Carnegie Mellon Üniversitesi'nde bir yaz kampı düzenlediler, 20 yer için üye topladılar ve 900 başvuru aldılar. Bir AI4All öğrencisi, göz hastalıklarını tespit etmek için bilgisayarla görme teknolojisini kullanmak istedi ve başka bir kişi, 911 çağrılarını aciliyet sırasına göre sıralamak için bir program yazmak için AI kullandı.Ambulans zamanında ulaşamadığı için öğrencinin büyükannesi maalesef vefat etti. Açıkçası, kişisel bir perspektifin gelecekteki AI araçları üzerinde büyük bir etkisi olacak.
Google yolculuğu
Stanford Üniversitesi Yapay Zeka Laboratuvarı içinde, içinde Toyota İnsan Destek robotu içeren bir kutu
Stanford Yönetim Laboratuvarı'nda yaklaşık 3 yıl geçirdikten sonra Li Feifei, şirketin kurumsal bilgi işlem iş birimi olan Google Cloud'un baş bilim adamı olarak Google'a katılmak üzere 2016'da ayrıldı. Li Feifei, endüstrinin nasıl çalıştığını bilmek istiyor ve eğer müşterilerin endişelerine göre yeni araçlar kullanabilirse, araştırma kapsamını genişletebilir. Facebook, Google, Microsoft ve diğer şirketler de yapay zeka araştırmalarına büyük yatırımlar yaptılar ve yapay zekanın işletmelerin hızla gelişmesine yardımcı olabileceğini umuyorlar. Üniversitelerle karşılaştırıldığında, şirketler daha fazla ve daha iyi verilere sahiptir. Yapay zeka araştırmacıları için veri yakıttır.
Başlangıçta Li Feifei tutku ve canlılıkla doluydu. Şirketlerle konuşuyor ve bilimsel araştırmaları gerçeğe uyguluyor. Onun liderliği altında, departman halka yönelik yapay zeka araçlarını başlattı. Bu araç setiyle, herkes tek bir kod satırı yazmadan makine öğrenimi algoritmaları geliştirebilir. Yapay zeka araçlarını tıp ve sağlık alanında kullanılmak üzere optimize etmek için Çin'de bir laboratuvar kurdu. Davos'taki Dünya Ekonomik Forumu'nda devlet başkanları ve popüler sanatçılarla iletişim kuran bir konuşma yaptı.
Bununla birlikte, özel bir şirkette çalışmak, genellikle rahatsız edici olan yeni baskılar getirir. Li Feifei, geçtiğimiz bahar Google ile ABD Savunma Bakanlığı arasında Maven Projesi sözleşmesinin imzalanması nedeniyle eleştiri aldı. Esasen proje, video görüntülerini analiz etmek için AI araçlarını kullanmaktır.Hükümet, hedeflere saldırmak için dronları kontrol etmek için bu teknolojiyi kullanabilir. Google'ın açıklamasına göre, düşük çözünürlüklü hedefleri belirlemek için AI kullanabilirler ve hayat kurtarmak birincil görevdir. Birçok çalışan, şirketin kendi teknolojisini askeri dronlara uygulamasına karşı çıkıyor. O sırada, şirketin, Google'ın ve müteahhitlerin savaş teknolojisi geliştirmeyeceğine dair söz veren bir bildiri yayınlaması için 4.000 çalışan dilekçe verdi. Diğerleri protesto için istifa etti.
Li Feifei, işleme doğrudan dahil olmasa da, Maven projesinden sorumlu olan, çalıştığı departmandı. Li Feifei, şirketin garip bir duruma düşmeyeceğini ümit eden bir e-posta yazdı. Bu e-posta New York Times tarafından alındı ve medya raporları Li Feifei'yi ön plana çıkardı. Kafa karıştırıcı görünüyor çünkü Li Feifei, sektördeki etiğin cisimleşmiş hali gibi. Aslında, halk protestolarından önce, Li Feifei bu teknolojinin zararsız olduğunu düşünüyordu ve çalışanların tiksinti duyacağını asla düşünmemişti.
Neden böyle bir sorun var? Li Feifei hala biliyor, dedi: "Sorunun anahtarı olayın kendisi değil, zamandır. Girişimin sorumluluk duygusu, yapay zekanın yükselişi ve Silikon Vadisi diyaloğa katılmalı. Tüm bu faktörler iç içe geçmiş durumda ve Maven projesi bir buluşma noktası haline geldi. Google, "kötülük yapmadığını" ve konumunun yeterince net olmadığını söyledi.
Baskı altında, Google Maven sözleşmesini yenilemedi ve anlaşmazlık yavaş yavaş yatıştı. Bazı Google bilim adamları ve yöneticileri bir ekip oluşturdu ve Li Feifei de onlardan biriydi. Genel yönergeler yazdılar ve Google'ın topluma fayda sağlamak, araç sapmalarından kaçınmak ve araçların insanlara zarar vermesini önlemek için AI teknolojisini kullanacağına söz verdiler. Li Feifei her zaman Stanford'a dönmeye hazırlanıyordu, ancak rehberin geçtiğini görmek için gerekli hissetti. Li Feifei şunları söyledi: "Her kuruluş bir dizi davranış ilkesi oluşturmalı ve süreci değerlendirirken sorumlu olmalıdır. Bunun oldukça önemli olduğunu düşünüyorum. Benjamin Franklin bir keresinde anayasa tanıtıldığında mükemmel olmayabilir, ama gerçekten de öyle" demişti. Zamanın en iyisi. Herkesin farklı fikirleri olacak ve farklı gruplar konuşmaya devam edebilecek. "Li Feifei, rehberin yayınlandığı birkaç günün en mutlu günleri olduğunu söyledi. Li Feifei ayrıca: "Katılabilmek ve bazı katkılarda bulunabilmek benim için çok önemli" dedi.
AI etiği
Haziran ayında, Li Feifeinin Stanford kampüsündeki evini ziyaret ettim. O sırada, akşam saat 8'den hemen sonraydı. İletişim kurduğumuzda, kocası en küçük oğlunu ve kızını üst kata gönderdi ve ebeveynler geceyi kayınpederinin apartmanında geçirdi. Yemek odası bir oyun odası oldu, biz de oturma odasına oturup sohbet ettik. Her yerde aile üyelerinin fotoğrafları var ve rafta 1930'lardan kalma eski moda bir kırık telefon var. Ona sorduğumda, ailesinin göç ettiğini ve Li Feifei'nin babasının eski şeyler satmak için bit pazarına gitmeyi sevdiğini söyledi.
İletişim sırasında bilgi telefonun üzerine fırladı. Doktor Li Feifei'nin annesine ilaç yazdı ve ailesi ondan açıklamayı kendisine çevirmesini istedi. Li Feifei, Googleplex'te bir toplantıda olabilir veya Dünya Ekonomik Forumu'nda bir konuşma yapabilir veya bir kongre oturumuna katılabilir.Ebeveynlerinin yardıma ihtiyacı olursa ona mesaj gönderecektir. Düşüncelerini bölmeden hemen cevap verdi.
Li Feifei, hayatının büyük bir bölümünde aynı anda iki farklı şeye dikkat etmesi gerekiyor. Kendisi bir bilim adamı ve sanata derin bir bakış açısı var. Hem Amerikalı hem de Çinli. İnsanlarla ve ayrıca robotlarla çok ilgileniyor.
Temmuz sonunda Li Feifei beni aradı, o sırada ailesi geziye hazırlanıyor ve kızının ellerini yıkıyordu. Li Feifei bana sordu: "Shannon Vallor'un yaptığı açıklamayı gördünüz mü?" Vallor, Santa Clara Üniversitesi'nden, gelişen bilim ve teknolojinin felsefi ve etik konularında uzmanlaşmış bir filozof. Google Cloud'da etik danışmanı olarak çalışmak istediğini söyledi.
Bu konu için Li Feifei çok çaba sarf etti. Washington tanıklığında bir defasında Vollar'dan şu sözünü alıntıladı: "Gerçekten bağımsız makine değeri olmadan, makine değeri insan değeridir." Google'ın atanması emsalsizdir. Diğer şirketler de yapay zeka yazılımının kullanımı ve onu kimlerin kullanabileceği konusunda çitler oluşturmak için harekete geçti. Microsoft 2016'da bir iç etik komitesi kurdu.Microsoft ayrıca, etik kaygılar nedeniyle bazı potansiyel müşterilerle işbirliği yapmayı reddettiğini söyledi. AI teknolojisi nasıl kullanılır? Microsoft ayrıca belirli yüz tanıma uygulamalarını engellemek gibi kısıtlamalar getirmeye başladı.
Temmuz ayında konuştuğumuzda Li Feifei, Google'dan ayrıldığını ve iki yıllık tatilinin bitmek üzere olduğunu biliyordu. O zamanlar, birçok kişi Li Feifei'nin Maven Projesi anlaşmazlığı nedeniyle ayrılacağını düşünüyordu. Ancak Li Feifei, Stanford'a dönmesinin başlıca nedeninin akademik pozisyonundan vazgeçmek istememesi ve biraz da yorgun olması olduğunu söyledi. Li Feifei, Google'daki çalkantılı yazdan sonra, etik kuralların tünelin sonundaki bir ışık huzmesi gibi olduğunu da söyledi.
Li Feifei, Stanford'da yeni bir proje kurmaya heveslidir. Sonbaharda, Li Feifei ve John Etchemendy (Stanford Üniversitesi'nin eski Dekanı), yapay zeka ve insan araştırmalarını entegre etmek, sert bilimi, tasarım araştırmasını ve çok disiplinli araştırmayı bir araya getirmek için bir akademik merkez kuracaklarını duyurdu. Li Feifei, "Yeni bir bilim olarak, yapay zeka hümanistleri ve sosyal bilimcileri katılmaya çekmek için hiçbir zaman elinden gelenin en iyisini yapmadı." Uzun süredir herkes bu alanların yapay zeka için önemli olmadığına inanıyordu, ancak Li Feifei bunun oldukça kritik olduğuna inanıyor. .
Özünde Li Feifei bir iyimserdir. Haziran'daki duruşmaya katıldıktan sonra milletvekillerine şunları söyledi: "Yangınla mücadele ve doğal afet arama ve kurtarma gibi insanlar için tehlikeli ve zararlı olan işler hakkında derinlemesine düşünüyorum." Teknolojinin insanların tehlikeden olabildiğince kaçınmasına yardımcı olabileceğine inanıyor.
Tek bir organizasyonun tek bir programını tüm sektörü değiştirmek gerçekten zordur ve birçok kısıtlamaya tabidir. Buna rağmen Li Feifei, araştırmacıları etikçiler gibi düşünmelerini sağlamak için mümkün olduğunca eğitilmesi gerektiğine inanıyor.Araştırmacılar, farklı geçmişlere sahip, kendilerine rehberlik etmek için kar yerine ilkeleri kullanıyorlar.
Telefonda Li Feifei'ye şimdiye kadar gördüğümüz sorunlardan kaçınarak yapay zekanın tamamen farklı bir şekilde geliştirilebileceğini düşünüp düşünmediğini sordum. O cevapladı: "Hayal etmesi zor." Li Feifei ayrıca şunları söyledi: "Bilimsel ilerleme ve yenilik, sürekli hata düzeltme ve deneme yanılma gerektiren birkaç nesil süren sıkıcı çalışmalardan gelir. Önyargılarımızı tanımak biraz zaman aldı. 6 yıl çalıştım. , Ve sonra fark etti: 'Aman Tanrım, bir krizdeyiz. "
Amerika Birleşik Devletleri'ndeki Capitol Hill'deki duruşmaya katılırken, Li Feifei bir keresinde şöyle demişti: "Yapay zeka bilimi hala çok olgunlaşmamış. Bir bilim insanı olarak, alçakgönüllülüğümü hissediyorum. Bu bilim sadece 60 yaşında. Fizik ve kimya gibi bazı klasik bilimler uzun süredir var. , Biyoloji, bu bilimler insan hayatını daha iyi hale getirmek için her gün ilerliyor. Onlarla karşılaştırıldığında, yapay zekanın kendisini tanıması ve insanlara yardım etme potansiyelini bilmesi için uzun bir yol kat etmesi gerekiyor. Uygun kılavuzları kullanın Yapay zekanın gelişimine rehberlik etmek hayatı daha iyi hale getirebilir. Yönergeler olmadan teknoloji, zengin ve fakir arasındaki uçurumu daha da kötüleştirecek, tiksintiyi güçlendirecek ve önyargıyı daha da güçlendirecektir. Birkaç nesildir bunun üstesinden gelmek için çok çalışıyoruz. Bu tür bir önyargı. "Li Feifei, bizi mevcut dönemin icat ile etki arasında bir dönem olduğuna ikna etmeye çalıştı (icadın getirdiği etkiye atıfta bulunarak).
