Yapay Zeka Mutlu Eğitim Vizyonunu Getiriyor Yazan Chris Piech
İşte bu tehlikelerden nasıl kaçınıyoruz ve bu güçlü ama yine de gelişen teknolojinin faydalarını en üst düzeye çıkarıyoruz
Facebook CEO'su Mark Zuckerberg 2013'teki bir makalede, fırsatları ve ara bağlantıyı yaymak için dünyaya ücretsiz temel İnternet sağlamak için "kaba bir plan" yaptı. Ancak Birleşmiş Milletler İnsan Hakları Konseyi, Myanmar'da Facebook'un bu hedeflere ulaşma çabalarının, Rohingya soykırımı sırasında nefret söylemini hızlandırdığını, bölünmeyi teşvik ettiğini ve çevrimdışı şiddeti kışkırttığını bildirdi. Özgür ve temel İnternet, artık teknolojinin toplum üzerindeki etkisinin karmaşıklığının bir uyarısı haline geldi. Eğitim alanında bir yapay zeka araştırmacısı olan Chris ve bir bilim eğitmeni ve uluslararası ağ politikası öğrencisi olan Lisa için bu örnek onları durdurdu: Yapay zekanın eğitim alanında ne gibi beklenmedik sonuçları olabilir?
Pek çok insan, yüksek kaliteli eğitimin ölçeğini genişletme ihtiyacını çözmek için yapay zeka araçlarını kullanmayı umuyor ve bunun iyi nedenleri var. Çevrimiçi kursların getirdiği eğitim içeriğindeki artış, dijital cihazların popülerliği ve çağdaş yapay zekanın yeniden canlanması, büyük ölçekli kişiselleştirilmiş öğrenim için gerekli koşulları sağlıyor gibi görünüyor. Teknoloji, kazara zarar vermeden sosyal sorunları çözme konusunda zayıf bir sicile sahiptir. Hangi olumsuz etkileri öngörebiliriz? Yapay zeka araştırmacılarının amaçlarını bu istenmeyen sonuçları açıklamak için nasıl geliştirebiliriz?
On yıllardır, eğitimde yapay zekanın kutsal kâsesi, otomatik öğretmenlerin doğuşu olmuştur: Bu, öğrencilerin ilerlemesini izleyebilen, bildiklerini, onları neyin motive ettiğini anlayabilen ve en iyi ve uyarlanabilir olanı sağlayabilen bir algoritmadır. Öğrenme tecrübesi. Otomatik öğretmenlerin yardımıyla öğrenciler dünyanın herhangi bir yerinde evde çalışabilirler. Bununla birlikte, 2020 otomatik danışmanı bu idealden çok farklı görünüyor. Otomatik öğretmenlerle eğitim, öğrencileri genellikle öğrenenler için eğlenceli olmaktan ziyade algoritmalarla kolayca açıklanabilecek şekilde tasarlanmış problemlere maruz bırakır.
Mevcut algoritmalar motivasyonları yorumlayamaz ve uzun vadeli öğrenme kazanımları üretmekten uzaktır, bunun yerine öğrencilerin kısa vadeye katılmalarını sağlamaya odaklanırlar. Teknik zorluklar çok büyük: ideal bir otomatik eğitim sistemi oluşturmak, gerçek yapay zekayı gerçekleştirmek kadar zor olabilir. Araştırma topluluğu bunu bir meydan okuma olarak görüyor: Sadece teknik eksikliklerimizin üstesinden gelmemiz ve ütopik rüyayı gerçekleştirmemiz gerekiyor.
Ancak otomatik öğretmen ütopyası, savaşmaya değer bir rüya mıdır? Yapay zeka sistemlerinin (otomatik öğretmenler gibi) kullanımından kaynaklanan bazı tehlikeleri ortaya koyduk ve yapay zekanın eğitimde potansiyel faydalarının nasıl kullanılacağına dair araştırma yapılması çağrısında bulunduk. Riski azaltmak. Doğal zeka ile insanlarla çalışan iyi düşünülmüş yapay zeka sisteminin dünya çapında geniş bir öğrenci topluluğunu destekleyebileceğine inanıyoruz.
Yapay zekayı eğitime entegre etmenin üç tehlikesi
1. Sosyal duygusal bağlantıları ve becerileri yok edin.
Ezberci bilgi edinmeye ek olarak, öğrenciler sosyal duygusal becerilerin, insan rehberlerinin ve insan topluluklarının gelişimi dahil olmak üzere birçok başka nedenden dolayı okula giderler. İnsan öğretmenlerin ve geleneksel sınıfların tüm potansiyel eksiklikleri için, bu yapıların değiştirilmesinin bir bedeli vardır. Çoğumuz öğretmenlerden öğrendiklerimizi hatırlıyoruz ve onların rehberliği ve rehberliği, sorumlu oldukları öğretim konularının çok ötesine geçiyor. Yapay zeka bu etkileşimlerin yerini alacak mı?
Ek olarak, yalnızlık artıyor ve genç nesil, eski nesilden daha yalnız. Bir araştırma, çevrimdışı faaliyetlerde (yüz yüze sosyal etkileşim, spor aktiviteleri veya ev ödevi gibi) zaman harcayanlarla karşılaştırıldığında ergenlerde depresyonun belirli bir korelasyona sahip olduğunu buldu. Ekranı izlemek için harcanan zamanı azaltmak, empati düzeyini önemli ölçüde artırabilir. UNESCO, sosyal barış ve sürdürülebilir kalkınmayı sağlamak için sosyal ve duygusal yeteneklerin geliştirilmesini vurgulamak için eğitim hedeflerinin yönünü ayarlamayı düşünüyor.Çocukları ekran izlemeye zorlamak bu hedeflere zarar verebilir.
Bununla birlikte, yapay zeka sistemleri genellikle öğrencilerin çevrimiçi olarak geçirdikleri zamanı en üst düzeye çıkarmak için tasarlanmıştır. Bağımlılık yaratan teknolojiler geliştirmiş yöneticiler bile bu riskleri anlıyor çünkü pek çok insan "insan-bilgisayar etkileşimi eğlencesinin tadını çıkarmak" için çocuklarını pahalı özel okullara ekransız gönderirken, fakir öğrenciler bunu yapmaya zorlanıyor. Ucuz teknik çözümleri kabul edin. Ek olarak, yapay zeka tarafından yönlendirilen öğrenme modülleri, kendi kendini düzenleme yeteneği gibi önemli meta öğrenme becerilerini yok edebilir, çünkü öğrenciler dikkatlerini düzenleyen makinelerin çalışmasına adapte olabilir ve bunu yapma yeteneklerini geliştiremezler. . Benzer şekilde, öğrenciler gerçek dünyada anında geri bildirim veya rehberlik sağlamayan yaratıcı görevlere bağımsız olarak uyum sağlama becerilerini kaybedebilirler.
Aynı zamanda yapay zekanın sınıfta yol açtığı zarar aileleri ve toplulukları da kapsayabilir. Öğretmenler ve ebeveynler de dahil olmak üzere yetkililer, bu teknolojiler ne kadar "insanlık" gösterirse göstersin, tamamen dijital cihazlara nakledilen kurslara uyum sağlamayı zor bulabilir. Bu direnç, bazı insanların yapay zeka teknolojisinin en büyük potansiyel etkisini gördüğü yoksulluk içinde yaşayan geleneksel topluluklarda daha güçlü olabilir, çünkü çocuklarının ekranlarda vakit geçirmesine alışkın olmayan aileler insan rehberliğinden değişime direnebilir. Yapay zeka danışmanlarının trendi.
Bu araçların bilgiyi umduğumuz kadar geliştirmediği ortaya çıkarsa, o zaman bilgi edinimini artırmak ile insan liderliğindeki öğrenmeyi azaltmak arasındaki değiş tokuş özellikle olumsuzdur. Motivasyonun öğrenmede oynadığı önemli rol ve üstesinden gelmemiz gereken teknik zorluklar düşünüldüğünde, bu bariz bir olasılıktır.
2. Gücü artırmak için eğitimde yapay zekayı kötüye kullanmak.
Kötü niyetli aktörlerin şiddet konusunu öğretmek için yeni güçlü ve ilham verici eğitim araçlarını kullanacakları da dikkate alınmalıdır. Facebook'un yükselişi, bazı kuruluşların yıkıcı doğasını da büyütmüştür.Yeni etkili öğretim araçları, teröristlerin sabotajla ilgili eğitimin ölçeğini genişletmesine yardımcı olabilir. Ek olarak, yapay zeka eğitmenlerinde insan benzeri empatiyi geliştirme amacı, öğrencinin duygusal ve psikolojik durumuna ilişkin derinlemesine kişisel veri işlemeyi gerektirir. Zalim bir hükümet, iktidara zulmetmek ya da onu pekiştirmek için okuldaki vatandaşların psikolojik ve duygusal verilerini mi kullanacak yoksa zenginler yalnızca daha zengin mi olacak?
Savunucuları, AI eğitim araçlarının eğitimi küresel olarak evrenselleştirme potansiyelini öne sürmelerine rağmen, araştırmacılar bu araçların eşitsizliği nasıl devam ettirebileceğini veya şiddetlendirebileceğini düşünmelidir. Dijital araçlara sahip ayrıcalıklı gruplar, mevcut yapay zeka algoritmaları için eğitim verilerinin kaynağı haline geldi. Bir makine öğrenimi algoritması belirli bir veri kümesi (belki de Amerika Birleşik Devletleri'nden beyaz öğrencilerin aşırı ifade edildiği bir veri kümesi) üzerinde eğitildiğinde, sonuç diğer geçmişlerden gruplara karşı önyargılı olabilir, bu nedenle Etkisiz, hatta ayrımcı.
Ek olarak, merkezi bir model aracılığıyla eğitim ölçeğini genişletmek, öğretimin içeriğini belirleyen seslerin sayısını azaltacaktır. Öğretmenin aynı zamanda öğretenler için iyi bir öğrenme aracı olduğunu düşünürsek, o zaman kimin öğreteceğini seçmek kimin öğreneceğini seçmek olur. Evet, çok az ders kitabının olduğu topluluklarda yeni araçlar sağlamak bir tür bilgi sağlayacaktır. Bununla birlikte, merkezi hükümet tarafından savunulan kursların ölçeğinin genişletilmesi, homojen öğrenme hedeflerini güçlendirebilir ve yerel bilgi sağlayıcıların yeteneklerini zayıflatabilir. Tuskine Adam'ın dediği gibi: "Teknoloji dünyanın dört bir yanındaki topluluklara nüfuz ederken, neoliberal değerler de bu topluluklara nüfuz etti, böylece bu değerler, yerel Kültürel veya dini değerler tamamen uygunsa ikinci sıraya alınır. Yerel sesler dikkate alınmazsa, teknolojinin en büyük eğitim açığı olan, hatta yararsız olan topluluklarla hiçbir ilgisi olmayacak ve bu topluluklar teknolojiyi tamamen reddedebilir. Bu, düzeltmeye çalıştıkları eşitsizliği daha da kötüleştiriyor.
3. Çocuk haklarının ihlali: veri gizliliği ve ağ güvenliğinin olmaması.
Kişisel mahremiyeti ve tercihleri korurken, kişiselleştirilmiş öğrenme için büyük miktarda kişisel verinin nasıl kullanılacağı tehlikeli bir seviyeye yükseldi çünkü yapay zekanın hizmet hedefi, kişisel verileri toplamayı henüz kabul etmemiş genç öğrencilerdir ve anlayamayabilirler. Kişisel verileri paylaşma veya anonim yabancılarla çevrimiçi etkileşim kurma riski. Dünyanın her yerinden öğrencileri birbirine bağlayan bir platform, etkileşim düzeyini ayarlamak için zaman harcayanlar için bir ütopya değildir. Eski Facebook Baş Güvenlik Görevlisi Alex Stamos, "Her yerde çocuklarla çevrimiçi iletişim var ve çocukların istismarı her yerde." Dedi.
Kullanıcıların Lego yapıları oluşturmasına ve paylaşmasına olanak tanıyan bir Lego MMO (Devasa Çok Oyunculu Çevrimiçi Oyun). Bazı kullanıcılar, seks oyuncakları yapmak ve diğer oyuncularla paylaşmak için Lego bloklarını kullanmaya başladı. Şirket çalışanları, çocuk dostu markalarının lekelenmesini önleyecek kadar hızlı "kayışları tespit edemedikleri" için yakındı.
Lego'dan Roblox'a ve Fortnite'a kadar her platformda çeşitli türde çocuk istismarı yaşandı ve İnternet'e daha az aşina olan topluluklarda sömürü muhtemelen artacak. En az gelişmiş ülkeleri desteklemek için çevrimiçi eğitim vaadini gerçekleştirmek için araştırmacılar, çevrimiçi araçların yeni kullanıcılarının güvenliğini göz önünde bulundurmalıdır.
Daha iyi bir vizyona doğru
Riskin varlığı iyimserliğimizi ortadan kaldırmaya ihtiyaç duymaz; aksine, daha olgun hedefler geliştirmek için bir güç olabilir. Birçok insan daha iyi bir eğitim sistemini tarif eder. Yapay zeka araştırma topluluğunu ve eğitim politikası topluluğunu AiEd'in karşılaştığı bir dizi büyük zorluğu birlikte düşünmeye çağırıyoruz.Bu zorluklar eğitim hayallerimizi daha iyi karşılamalı ve riskleri daha iyi değerlendirmelidir. Altı tartışma hedefi belirledik ve halkı tartışmaya katılmaya davet ettik.
1 . Yapay zeka daha fazlasını destekler ( ile Daha yüksek kalite) insan öğrenme etkileşimi . Yapay zeka, öğretmenleri değiştirmek yerine görevleri otomatikleştirerek ve heyecan verici sorular geliştirerek eğitimcileri ve eğitim sistemlerini destekleyebilir. Öğretmenler ve araçlar birlikte çalışabilir: öğretmenler yapay zeka sisteminden yararlı önerileri filtreler, öğretmenlere not vermek ve öğrencileri izlemek için araçları kullanır.
2. Cesaret verici sorunlar yaratmak için yapay zeka . Yapay zeka, yerel ortamda ilginç soruların yaratılmasına ve yayılmasına da yardımcı olabilir. Makine öğrenimi, Rembrandt'ın çalışmalarına benzeyen resimler oluşturabilir. Çekici ve kişiselleştirilmiş etkinlikler oluşturmak için algoritmaları da kullanabiliriz. Bu tür bir entegrasyon, zengin bir öğretme ve öğrenme ekosistemi oluşturabilir ve sosyal ve duygusal etkileşim, teknolojinin yerini almak yerine desteklenecektir.
3. Düşük veri geri bildirimi. İlham veren açık uçlu görevler, keşif ve yaratma için fırsatlar sağlar. Yapay zeka, bu tür konularda geri bildirim sağlamak ve desteklemek için tasarlanmışsa, öğretmenlere yardımcı olabilir. Bununla birlikte, mevcut yöntemler, yapay zeka tarafından yönlendirilen açık çalışma hakkında anlamlı geri bildirimi desteklemek için büyük miktarda öğrenci verisi gerektirir. Çok fazla öğrenci verisi tüketmeden bunu yapmayı öğrenmemiz gerekiyor. Düşük verili yapay zeka umut verici görünüyor ve veri kötüye kullanımı riskini azaltabilir. Düşük veri pratiktir, çünkü çözümün milyonlarca öğrencinin algoritmalarımızı eğitmek için her bir ödevde kobay gibi davranmasını beklemesi gerekmez.
4. Süreci anlamak için yapay zeka kullanın. Yapay zeka şu anda modern dünyada gelişmek için gerekli olan yaratıcı, açık ve takım tabanlı öğrenmeyi desteklemek yerine ezberci, yapılandırılmış kursları öğretmede en etkilidir. Mevcut araştırmalar, yalnızca nihai ürünü değil, süreci ve öğrenme yeteneğini anlamaya odaklanmaktadır. Öğretmenler için, özellikle büyük sınıflarda, bir piyano öğretmeni öğrencinin elinin konumu hakkında geri bildirim sağlaması gibi, her öğrenciye yakından dikkat etmek imkansızdır. Yapay zeka araçları, süreci izlemek için öğretmenlerle birlikte çalışabilirken, öğretmen hala koçtur ve sosyal duygusal öğrenmeye izin veren okul ortamını parçalamaktan kaçınır. Yapay zeka ve yapay zekanın hibrit modeli, öğretmenlerin öğrencilerin öğrenme sürecini anlamalarına yardımcı olabilir ve öğretmenleri koçlara ve mentorlara teşvik edebilir.
5. AI, eğitim içeriğini çevirmek için kullanılır. İçeriğin katkısı, özellikle düşük kaynak dilleri için eşit değildir. Yapay zekanın bir dalı olarak, doğal dil işleme, çeviriyi desteklemek için iyi bir konumdadır, en çok ihtiyaç duyulan yerde kapsayıcı eğitim sağlanmasına yardımcı olabilir ve toplulukları, tamamen Batı tarafından empoze edilmek yerine eğitim teknolojisinin gelişimini sıfırdan inşa etmeye teşvik edebilir.
6. Yapay zekaya dayalı çocuk güvenliği risk tespiti. Ölçeklenebilir içerik inceleme araçları geliştirmek için çok fazla enerji harcanmalıdır, böylece çevrimiçi öğrenme alanı tüm öğrenciler (örneğin kötü niyetli resimlerden öğrenenler), özellikle çocuklar ve savunmasız ortamlarda olanlar için güvenli olur.
Yapay zeka, mutlu öğrenmeyi teşvik etmede büyük bir potansiyele sahiptir, ancak yalnızca tartışılan sorunlar uygun şekilde çözülürse. Yapay zeka araçlarının büyük ölçekli dağıtımını geliştiren eğitim politikası topluluğu ve araştırmacılar birlikte büyük bir sorumluluk taşıyor. Zararlı uygulamalar da dahil olmak üzere, teknolojimizin olası uygulama yelpazesini toplu olarak değerlendirmeliyiz. Halkı, bu yapay zeka zorlukları ve potansiyel zararlarının nasıl azaltılacağı ve insan refahının nasıl teşvik edileceği hakkındaki tartışmalara katılmaya davet ediyoruz.
Yapay zekayı eğitmek tamamen iyi bir şey gibi görünüyor; ancak tıp alanında olduğu gibi bu alanda da Hipokrat Yemini geçerlidir: Birincisi, başkalarına zarar verme.
