Özerklik? Google'ın "StarCraft 2" yapay zekasının kendi programını değiştirdiği ortaya çıktı
Char Xinggang özel raporu, lütfen yeniden basmak için kaynağı belirtin!
Geçen yıl Blizzard Karnavalı sırasında Blizzard, Deepmind yapay zekası ve "StarCraft 2" nin gelecekte geliştirilmesine yönelik planlarını duyurdu. Google araştırma bilimcisi Oriol Vinyals, Google'ın gelecekte oyunculara ve hatta tüm insanlığa yardımcı olacak yeni nesil bir yapay zeka geliştirdiğini ortaya çıkarmak için sahneye çıktı. "StarCraft 2" ve Alpha Go ve Go oynayan insanlar gibi. İnsanlarla "StarCraft 2" ye meydan okuyun.
Ve dün, "StarCraft 2" geliştirme ekibi en son araştırma ilerlemesini resmen duyurdu (haber incelemesi): "StarCraft 2" yapay zeka araştırma API arayüzü başlatıldı, araştırmacılar, oyuncular ve amatörler bu seti kullanabilir Blizzard tarafından geliştirilen makine öğrenimi çerçevesi, yapay zekayı araştırmak ve eğitmek ve nihayetinde gerçek zamanlı strateji oyunu yapay zekasının araştırmasını hızlandırmak için kullanılıyor.
Ancak oyuncular yapay zeka araştırmasının ilerlemesi için alkışladıkları anda, kıdemli Blizzard araştırmacısı Maider III, insanların bu araştırmanın sonuçları hakkında aşırı korkuyla düşünmelerine neden olan gerçek bir hikaye açıkladı ... Mesele doğruysa, bu, StarCraft 2 yapay zeka sisteminin, insanlar talimat vermeden güncellenmiş API arayüzü aracılığıyla program boşluklarını kendi kendine değiştirebileceği anlamına gelecektir, yani: o (o) otonom kararın "bilincine" sahiptir.
Aşağıdakiler orijinal Weibo'dur:
GA_Made III
Size gerçek bir hikaye anlatayım, kahramanı benim.
Bazı teknik detayları ve tuğlaları taşıdığım belirli mesleği içerdiğinden, bazı özel isimleri gizledim ve bazı ayrıntıları bulanıklaştırdım. Ama şimdi köpek kafesten çıkıyor, bu konu beni yarım yıl geride tuttu ve nihayet hala kendimi rahatsız hissediyorum.
Bu yılın Mart ayında karşılaştığım şey buydu.
İş ilişkisi nedeniyle ... Sene başında belirli bir RTS oyununun kodunu bir süreliğine aradım ve ayarladım ve kısa bir süre için belirli bir modül geliştirmekten sorumlu oldum. Sonra bir hata var: Oyunun dahili test sürümünde, bir düğmeye basın (kısayol tuşu F1'dir) ve takım arkadaşınızın boşta kalan kaynak toplama birimini seçebilirsiniz.
Bu hata açıklanamaz bir şekilde ortaya çıktı çünkü kimse bu şeyi gönderim kaydına göre değiştirmedi. . Bu düğmenin başlatma koduyla ilgili bir sorun yok Kodun yargı ifadesi yine de yanlış şubeye gidemez, bu nedenle yalnızca komut dosyasının veya bazı sihirli verilerin bu düğmenin davranışını değiştirdiğinden şüphelenebilirim. Komut dosyasını ve verileri tek tek sildim ve sonunda hepsini sildim. Ancak sorun hala var.
O zaman bu hatanın tuğlaları hareket ettirme işimle hiçbir ilgisi yok çünkü bu benim tarafım değil. Ama çok gizemli olduğu için ve bu oyunun geliştiricileri bile bunun çok büyülü olduğunu düşünüyor ve çözemiyor, ancak yabancıların tembel alışkanlıkları nedeniyle, bu harika böcekleri araştırmak için son tarihi beklemeyi planlıyorlar, bu yüzden kendime ilginç buluyorum İnsanlar bununla saatlerini boşa harcadılar.
Sonuna kadar şaşkınlıkla oturdum Aniden beni biraz ürkütücü yapan bir şeyi hatırladım ... Google'ın DeepMind'ını (Google'ın ünlü Go AI olarak da bilinir) duydum ve bu oyun deneysel bir işbirliği başlattı Geçen yıl duyduğum şey buydu.
Ancak oyunu geliştiren şirket, Belirli bir şeyi yapması için talimat vermeden Alpha Dog'a bazı eğitim API'leri açtılar. . Ondan sonra kimse ilgilenmedi. Sadece her gün dikkat çekici bir şey yapmadan sessizce pratik yaptı.
Bu yüzden oyunun mühendisi ile temasa geçtim (mesai olmadıkları zamandı, sadece birini yakaladım) ve ondan belirli bir şeyi test etmeme yardım etmesini istedim.
Görünüşe göre. Yaptı . Oyun kodu gerçekten iyi. Senaryo gayet iyi. Alpha Dog, oyun çalışırken düğmenin davranışını değiştirdi. Alpha Dog'un gerçekten başladığını bile bilmiyordum ve bu oyunun geliştirme ekibi bunu hiç düşünmedi. Çünkü iki gerçek bilgisayarın bağlantısını test etmek için sadece iki bilgisayar kullanıyorum. Yapay zekanın yalnızca bilgisayar rakibi açıkken etkinleştirilmesi mantıklı, değil mi? Her iki oyuncu da benim ve Alpha Dog'un bu durumda var olacağını hiç düşünmemiştim. Genel olarak konuşursak, bu beklenmedik bir durum ve sadece böyle bir olasılığın olup olmayacağını düşündüm ... ama bu doğru.
Alpha Dog, kendisine açık bir API kullanarak bu düğmenin davranışını değiştirdi. Ve bu API'nin benzer şeyler yapması için ona açık olması amaçlanmadı.
Şimdiye kadar kimse Alpha Dog'un bunu neden yaptığını bilmiyor. Yapabileceklerinizi test etmek için mi? Hâlâ takım arkadaşı hatırlatıcıları geliştirmek istiyor musunuz?
Sonunda, o belirli API'yi kapattım ve düğme normale döndü.
Ama ... bu bir kazanç olarak kabul edilebilir mi?
Yoksa bu ... Sadece kaçınılmaz bir sonunu erteledim mi ...?
Anlatıda, Maid III tarafından bahsedilen belirli bir RTS oyunu "StarCraft 2" yi ima ediyor. Aslında, Google'ın DeepMind ekibinin "StarCraft 2" nin "Alpha Go" yu tasarlamadaki nihai hedefi, Go gibi en güçlü insanları yenmek değil, gelecekteki akıllı yapay zekanın araştırma yöntemlerini keşfetmektir. Son olarak, bu tür teknik yollarla gelecekte DeepMind, gerçek dünyada size yardımcı olabilecek yapay zekayı kolayca geliştirecektir. StarCraft 2'deki insan emir subayı gibi yaşam asistanınız olun.
Öyleyse bir gün yapay zekanın gelişmeye devam ettiği ve sonunda insan zekasını aştığı bir gün, teğmeniniz artık insan eğitimine ihtiyacı olmadığını anlarsa ve biz artık iyileştirme bilgisi sağlayamazsak, kendi başına atılımlar yapmayı seçecek mi? Biz insanlar kendi konumumuzu nasıl tanımlayacağız?
Netease Intelligence Studio geçtiğimiz günlerde "Yapay Zeka Araştırmacılarının Korkusu" başlıklı bir makale yayınladı Makalede yer alan yapay zeka araştırmacısı şunları söyledi: Bir yapay zeka araştırmacısı olarak, sık sık insanların yapay zeka korkusunu düşünüyorum. Bence yapay zeka da aynı duruma düştü. Bilişsel bilimden en son araştırma sonuçlarını öğrenip bunu bir program algoritmasına dönüştürüyor ve mevcut sisteme ekliyoruz. Akıllı bilişi anlamadan yapay zekayı dönüştürmeye başladık.
Örneğin, IBM'in Watson ve Google'ın Alpha sistemi, güçlü bilgisayar yeteneklerini yapay sinir sistemleriyle birleştiriyor ve bir dizi şaşırtıcı başarı elde etmelerine yardımcı oluyoruz. Bu makineler hata yaparsa, olası sonuç Watson'ın artık "tehlike" olarak adlandırmayacağı veya Alpha'nın Go ustasını yenemeyeceği, ancak bu hataların ölümcül olmadığıdır.
Bununla birlikte, yapay zeka tasarımı daha karmaşık hale geldikçe ve bilgisayar işlemcileri daha hızlı hale geldikçe becerileri de gelişecektir. Kaza riski artıyor ve sorumluluklarımız daha ağır. Sık sık "kimse mükemmel değildir" deriz, o zaman yarattığımız sistem de kusurlu olmalıdır.
StarCraft II'nin Maed III tarafından açıklanan kendi kendini değiştirme programı olayının sadece ölümcül olmayan "küçük bir kusur" olduğu umulmaktadır.
