Amazon cinayet davasını çözdü, ancak akıllı ev cihazlarının arkasındaki kara deliği ortaya çıkardı
Resim kaynağı: Visual China
Hiç kimse Amazon'un bir cinayet davasına karışacağını ve davanın odağı olacağını düşünmedi.
Kasım 2015'te bir gündü. Kansas'ta 47 yaşındaki eski bir polis memuru olan Victor Collins, arkadaşı James Andrew Bates tarafından düzenlenen bir aile toplantısına katılırken Bates'in evindeki jakuzide öldü. İster kaza ister cinayet olsun, polisin araması gereken ilk cevap bu oldu.
Victor Collins öldüğünde ailede ne olduğunu nereden biliyorsun? Polis, Bates'in evinde bir Amazon Yankısı üzerinde gözlerini kesti.
Amazon Echo-Amazon'un yeni nesil akıllı ev kontrol merkezi, arka plan Amazon'un yapay zeka platformuna bağlanarak insan-makine diyaloğunu ve ses kontrolünü destekliyor. İnsanlar istedikleri zaman "Alexa" yı arayarak Amazon Echo'yu uyandırabilir ve klimayı açma, taksi çağırma, sinema gösterim zamanını sorgulama ve hatta anahtar kelimelere göre haber arama ve yayınlama gibi kontrol komutları verebilir.
Başka bir deyişle, Amazon Echo, günün 24 saati izleme durumunda olacak, herhangi bir zamanda sahip tarafından çıkarılan "Alexa" sesini yakalayacak ve takip eden komutları çalıştıracaktır.
Sonra, Bates'in evindeki Amazon Echo, Victor Collins'in öldüğünde evinin tüm seslerini de izleyebilmelidir. Tüm bu sesler Amazon Echo tarafından Amazon'un bulut bilişim platformuna yüklendi.
Kansas Eyalet Polisi derhal Amazon'a bir arama emri çıkardı ve Amazon'dan Bates'in Amazon Echo'dan yüklenen bulutta depolanan ses verilerini sağlamasını istedi.
Polis tarafından Amazon'a verilen arama emri
Dava daha sonra Amazon ile polis arasında veri sağlamaları gerekip gerekmediği konusunda görüldü. Davanın sonucu, şüpheli James Bates'in Amazon'a polise ses verisi sağlaması için gönüllü olarak yetki vermesidir.
Polis sonunda James Bates'e yönelik cinayet suçlamasını düşürdü.
Bu davadan sonra halk sadece şunu fark etti: Amazon'un Amazon Echo'unun bir ev gizlilik bilgisi toplayıcısı olduğu ortaya çıktı .
İster karı-kocaların siyaset, ekonomi, toplum ve hatta yemek hakkındaki tartışmaları, çocukları eğitmek için şaplak atmaları ve hatta karı-koca yatak odası eğlencesinin sesleri olsun, Amazon Echo tarafından sadakatle buluta yüklenir ve büyük veri çağında kişisel özellikler bulmacasının önemli bir parçası haline gelir. .
en önemlisi, Amazon, bu ses verilerinin ne kadar süre saklanacağından ve hangi ticari amaçlarla kullanılacağından hiç bahsetmedi.
Bildiğimiz gibi, akıllı ses cihazlarının standart çalışma modu şöyledir: genellikle açık ve sessizdir, kullanıcı komut anahtar kelimesini çağırdığında, akıllı ses cihazı uyanır ve komut anahtar kelimesinin arkasındaki özel talimatları yürütür.
Daha önce Amazon tarafından sağlanan bilgilere göre akıllı ses cihazı çalışırken, sadece komut anahtar sözcüğünden hemen sonra ses bilgisini kaydedecektir. Uyandırılmadığında sesli mesajlar kaydedilmeyecek ve buluta yüklenmeyecek.
Ancak Kansas vakası, Amazon'un müşterilerinin sesli mesajlarını kendi beyanına tam olarak uygun şekilde işlemediğini göstermektedir. Olay sırasında, Amazon'un akıllı ses cihazı uyandırılmadı, ancak sonunda Amazon'un bulutu, o gece James Bates'in evinden bazı sesli mesajları sakladı.
Amazon bu uyanık olmayan sesli mesajları neden saklıyor? Amazon bu konuda herhangi bir açıklama yapmasa da, bazı ipuçlarıyla gelecekteki dijital bulmacanın nasıl görüneceğini hala tahmin edebiliriz.
2014 Amazon'un sesli etkileşim analizi ve ilgili kişiselleştirilmiş tavsiye patentinde (patent numarası US14 / 447487) şu içerik vardır:
Laura ile görüşme sırasında Santa Barbara şehrinden, şaraptan, Orange County'den, plajlardan ve San Diego Hayvanat Bahçesinden bahsetmiştim. Sonraki kişiselleştirilmiş e-ticaret platformunda Amazon, sırasıyla "I" ve Laura için Santa Barbara haritaları ve seyahat rehberleri, plaj havluları ve San Diego Hayvanat Bahçesi paketleri önerecek.
Trend bilgilerini ses tanıma yoluyla elde etmenin bu yöntemine "Ses Algılama Algoritması" denir. Ses koklama sırasında müşterilerin tercihleri, hoşlanmadıkları ve ilgileri tek tek çıkarılacak, işaretlenecek ve arşivlenecektir.
Amazon sesli etkileşimli anahtar kelime analizi ve ilişkili kişiselleştirilmiş öneri
Hatta kişisel tercih bilgilerinin yanı sıra akıllı ev cihazları da müşterilerin beklemediği birçok gizli bilgiyi ses yoluyla elde edebiliyor. İlki duygudur. Her kişinin farklı duygusal hallerdeki sesi ve tonlaması farklıdır.Ses, konuşma hızı, nefes alma ve hatta ağlama gibi bilgileri çıkararak, sistem bir kişinin mevcut durumunu yargılayabilir.
Öksürük, hapşırık ve diğer bilgileri eklerseniz, sistem ayrıca müşterinin sağlık durumunu da belirleyebilir.
Sesli mesajlara ek olarak, tuvalet sifonu sesi ve koşu bandı etkinliklerinin sesi müşterilerin sağlığını değerlendirmek için kullanılabilir. TV'nin, oyun konsollarının ve diğer günlük aktivitelerin sesi gelince, sistemin müşterilerin günlük rutinlerini analiz etmesine ve yargılamasına da yardımcı olur.
Bunu görünce, Amazon ve Google'ın bu akıllı ses cihazlarının çok sayıda sağlam bilgi topladığını ve buna göre doğru müşteri portreleri ve analizleri yapabileceğini düşünüyor musunuz?
Aslında bu, büyük bulmacanın sadece bir parçası.
2015 yılında Google tarafından satın alındı "Gizlilik Analizi Kişiselleştirilmiş İçerik Akıllı Ev" Patent (Patent No. US14 / 447487) bu tür uygulama senaryolarını göstermektedir: Akıllı ev kamerası, başucu kitabının kapağını çıkarıyor ve onu "The Godfather" romanı olarak değerlendiriyor ve ardından müşterilere o gece Kanal 5'te yayınlanan aynı isimli filmi izlemelerini tavsiye ediyor.
Google resim tanıma kişiselleştirilmiş öneri
Bu kişiselleştirilmiş önerilerin alakasız olduğunu düşünüyor musunuz?
Aslında, video sesten çok daha fazla bilgi edinebildiği için, video içeriği yoluyla özel bilgileri elde etmek daha kolay ve daha kapsamlı olacaktır.
Her şeyden önce aile yapısı, cinsiyet, yaş, moda zevki, tarz, ruh hali, dil, favori aktivitelerin toplanması tabii ki çok kolay. Ayrıca yatak başındaki kitap, yatak odasındaki gitar veya basketbol ve hatta duvardaki ünlülerin başları veya giydiğiniz tişört tespit edilerek kayıt altına alınacaktır.
Dahası, iş bölümü, aile üyeleri arasındaki etkileşim ve hatta çeşitli toplu alımlar ve seyahat planlarının karar verme süreci çeşitli akıllı cihazlarla kaydedilir.
Belki siz ve eşiniz sohbet ederken aile arabasının küçük sorunlarından bahsettiniz ve gelecek yıl size bir yıl sonu ikramiyesi verileceğini ve bir tane almayı düşüneceğinizi umuyoruz. Arkasındaki akıllı ücretli reklamcılık sistemi, sizin ve eşinizin çeşitli web sayfaları, mobil uygulamaları ve TV reklam alanları için tüm otomobil üreticilerinin fiyatını açıkça belirledi.
Bazı okuyucular, Amazon ve Google'ın bu gizlilik bilgisi toplama patentleri için başvurmuş olmasına rağmen, bunun arka planda aktif olmayan durumda akıllı cihazlarda bilgi toplamaya ve depolamaya başladıklarını kanıtlamadığını söyleyebilir.
Ne yazık ki, bazı ipuçları bu üreticilerin sessizce hareket etmeye başladığını gösteriyor.
ABD'nin Portland şehrinde geceleri sohbet eden bir çift, görüşmenin bir kısmı evde Amazon Echo tarafından kaydedildi ve adres defterindeki bir arkadaşına ses dosyası olarak iletildi. Olay medya tarafından açıklandıktan sonra Amazon, şu açıklamayı yaptı:
Echo, sohbette "Alexa" uyandırma kelimesine çok benzeyen bir kelimeyle uyanır ve sonra "mesaj gönder" komutunu duymuş gibi görünür. Echo, "Kime gönderilecek?" Diye sordu. Bu noktada, bir kelime adres defterinde Bay A'nın ismine çok benziyor. Alexa sonra tekrar "Bay A'ya gönder" mi sordu? Sonra Alexa "evet" kelimesini tekrar duymuş gibiydi.
Ardından sesli görüşme Bay A.'ya gönderilir.
Bütün bunlar çok tesadüf, tesadüf çok inanılmaz. Ve tüm bu tesadüfler meydana gelse bile, Amazon Echo giriş komutunu iki kez yüksek sesle onayladığında (biri göndereni onaylamak için ve bir kez göndermeyi onaylamak için), müşteri hepsini duymadı, bu da açıklamak gerçekten zor.
Bu olaya ek olarak bu yıl medya, birçok müşterinin evlerinde bulunan Amazon akıllı hoparlörlerinin, bazen gecenin ortasında bile açıklanamaz kahkahalar çıkardığını, bu durumun herkesin akıllı hoparlörlerin arka plan işleyişini derinden sorgulamasına neden olduğunu bildirdi.
Kamusal alanlarda kamera + yüz tanıma, kamu güvenliğine ihtiyaç duyuyorsa, bazı kişisel gizlilik haklarının yerini kamu yararına bırakması gerekir. Ancak evin içindeki akıllı cihazları ve ilgili video / ses toplama, tanıma ve analiz sistemini arka planda getirirseniz, evinizin mahremiyetini gönüllü olarak üçüncü taraf bir ev akıllı cihaz şirketine devredersiniz.
Açığa çıkardığımız mahremiyet için ne elde edebiliriz? Kişiselleştirilmiş servis? Müşteri indirimi? Özel ödüller mi? Bu kadar. Kişisel mahremiyet ve güvenlik ile karşılaştırıldığında, bu avantajlardan ve kolaylıklardan gerçekten bahsetmeye değmez.
Akıllı ev cihazlarının kademeli olarak sıradan evlere girdiği gerçeğiyle karşı karşıya kalan yasalar, düzenlemeler ve hükümet denetimi, ilgili eşin mahremiyetini etkili bir şekilde koruyabilir mi?
Cevap hayır olabilir. Çünkü mevcut aşamada hükümet, gizlilik verilerini izlemek ve korumak için etkili araçlardan yoksundur.
Xinhua Haber Ajansı'nın Şubat 2018'de aktardığı habere göre,
"Şu anda karaborsa işlemleri, Çin'in veri işlemlerinin ana akışı olabilir. Eksik istatistiklere göre, yurt içi kişisel bilgi sızıntılarının sayısı yaklaşık 5,53 milyara ulaştı ve kişi başına ortalama 4 parça ilgili kişisel bilgi sızdırıldı. Bu bilgiler karaborsada defalarca tehlikeye atıldı. el."
Çevremizdeki herkes her gün spam mesajlar alıyor ve bu da mevcut zayıf hükümet denetimini yansıtıyor.
Kişisel mahremiyeti korumak için nispeten sert bir ortamda, çatlamış vakalarda bile, hükümetin cezaları genellikle daha hafiftir.
2017 yılında, Zhejiang Eyaletinde vatandaşların kişisel bilgilerinin ciddi bir şekilde ihlal edilmesi durumunda, 700 milyondan fazla vatandaş bilgisi sızdırıldı ve 80 milyondan fazla vatandaş bilgisi kaçakçılığı yapıldı. İlgili kişi için maksimum para cezası sadece 400.000 yuan idi.
1 Mayıs'ta Çin'in hızlı teslimat sektörüne ilişkin ilk idari düzenlemesi olan "Ekspres Teslimatla İlgili Geçici Düzenlemeler" de, satış, sızıntı veya yasadışı olarak ekspres hizmet sağlamaya yönelik maksimum para cezası yalnızca 100.000 yuan'dır. Yasalar ve düzenlemeler veya mevcut adli uygulamalar ne olursa olsun, hükümetin kişisel mahremiyeti koruması yeterli olmaktan uzaktır.
Bu nedenle kapılarımızı akıllı ev ekipmanı firmalarına açarken dikkatli olmalıyız.
Elbette bazı okuyucular, Amazon ve Google gibi büyük şirketlerin, devlet denetimi ilkelerine uygun olarak müşteri gizliliğini koruma yükümlülüğüne uyacağına inandığımı söyledi. Ancak günümüzün akıllı cihaz pazarında oyuncular yalnızca Amazon ve Google gibi büyük şirketler değil.
Strategy Analytics'in akıllı ses cihazları için küresel pazar verilerine göre, 2016'nın dördüncü çeyreğinde Amazon ve Google, pazar payının% 96,7'sini oluştururken, diğer üreticiler yalnızca% 3,3'lük bir paya sahipti. 2018'in ilk çeyreğinde Amazon ve Google'ın birleşik pazar payı yalnızca% 70'ti ve Ali, Apple ve Xiaomi gibi satıcılar ortaya çıktı.
Ayrıca, pazar payının yaklaşık% 14'ünü oluşturan başka üreticiler de var.
Şu anda Çinli müşterilerin karşılaştığı akıllı ses cihazlarının seçenekleri arasında Tencent, Baidu, Alibaba, JD ve Cheetah tarafından temsil edilen yazılım satıcıları, Xiaomi tarafından temsil edilen donanım satıcıları, Haier ve Suning tarafından temsil edilen ev aletleri üreticileri / distribütörleri ve Dışarı çıkın ve Himalaya tarafından temsil edilen start-up'lara sorun vb.
Şiddetli rekabette, akıllı ses cihazlarının bile yüz yuan'ın altında ürünleri var.
Böyle bir fiyata satılan ürünlerin kişisel gizlilik korumasının ihtiyaçlarını tam olarak karşılayabileceğinden şüpheliyim. Ve kişisel mahremiyetin korunmasını bu büyük ve küçük İnternet şirketlerinin gönüllülüğüne mi koyacaksınız? Çin'in İnternet endüstrisinin mevcut durumunda, bunun yeterli olmadığını düşünüyorum.
Tıbbi bilgi hizmetlerinde belirli bir arama motorunun performansından, belirli bir seyahat paylaşım şirketinin müşteri etiketlerini yönetme kolaylığına kadar, hepsi mevcut Çin İnternet endüstrisinin kullanıcıları gizlilik koruması konusunda güvence altına alamadığını gösteriyor.
Üreticilerin proaktif eylemlerine ek olarak, internet siyahı üretiminin kişisel mahremiyete yönelik tehdidi küçümsenemez.
Son zamanlarda, bir güvenlik yazılımı başlatan bir kodaman, şirketinin Tesla'nın herhangi bir yeni sürümünün uzaktan kumandasını ele geçirme yeteneğine sahip olduğunu kamuya açıkladı.
Ancak karaborsada yaygın olarak dolaşan, bu üreticinin logosunun bulunduğu ev kamerası videosudur. Teknik kusurlar, bilgisayar korsanlarının akıllı ev cihazlarını toplu olarak ele geçirmesine ve özel bilgileri taramak ve çıkarmak için AI sistemini kullanmasına neden olduktan sonra, bu cihazları kullanan ailelerin tüm özel bilgileri gün ışığında ifşa edilmeye eşdeğerdir.
Ancak ne yazık ki, Çinli kullanıcılar akıllı ses cihazları satın aldıklarında, temel dayanak hala işlevsellik ve fiyattır ve genellikle bunların arkasındaki kişisel gizlilik risklerini bilmiyorlar. Şu anda bile, medyada akıllı ev cihazlarının gizlilik risklerine ilişkin çok az ipucu var.
Aklı başında bir tüketici olarak, gizlilik koruması açısından akıllı bir ev üreticisini nasıl seçmelisiniz?
Çekirdek iki noktadır: güven ve şeffaflık.
- güven
Müşterilerin şirketin tavrı ve gizlilik verilerini koruma becerisine tam bir güven duyması için geçmiş iyi iş kayıtlarına dayanmaktadır. Bu tamamen şirketin kendi markasını oluşturma becerisine bağlıdır.
- Şeffaf
Özel verilerin kullanımının ve korunmasının tam olarak açıklanması işletmelerin ilke ve amacıdır. Basitçe söylemek gerekirse, şirketin ne tür müşteri verilerini, neden çıkarması gerektiğini, nasıl kullanacağını, verileri hangi üçüncü taraflarla paylaşacağını ve nasıl paylaşacağını vb. Açıkça çıkardığı anlamına gelir. Özel verilerin sızdırılması durumunda nasıl telafi edileceğini daha da netleştirir.
Akıllı ev cihazı şirketleri için, ABD'deki kâr amacı gütmeyen kuruluş EPIC (Elektronik Gizlilik Bilgi Merkezi) tarafından ABD Federal Ticaret Komisyonu'na (FTC) sunulan IoT cihazları için gizlilik koruma ilkelerine başvurabilirsiniz:
- Adil bilgi yönetimi uygulamalarını kullanın
- Gelişmiş gizlilik koruma teknolojisini kullanın
- Şirketlerin, müşterilerinin izlenmemeyi, profillenmemeyi ve izlenmemeyi seçme hakkına saygı duymasını istemek
- Şirketlerin yalnızca gerekli verileri toplamasını zorunlu kılın
- İşletmelerin IoT cihazlarının tasarım ve işletiminde şeffaflık ilkesini takip etmesini sağlayın
Son olarak, akıllı ev ekipmanının insan toplumu için yeni bir sorun olduğuna dikkat çekmek gerekiyor. Mümkün olduğunca ayrıntılı gizlilik koruma ve denetim kurallarını formüle ederken, hala çok karmaşık sorunlar vardır.
Sıklıkla karşılaştığımız bu karmaşık sorunlar, teknoloji veya düzeyden değil, kuralların kendisinden ve kuralların son kullanıcılara kabul edilmesinden kaynaklanmaktadır. Öfkeli bir kocanın karısını bir cinayet silahıyla tehdit ettiği ve onu öldürmekle tehdit ettiği bir senaryo hayal edelim .. Odadaki akıllı hoparlör / kamera otomatik olarak polisi aramalı mı?
Koca için, kesinlikle akıllı hoparlörün / kameranın otomatik olarak alarm vermesine izin vermek istemiyor.
Ya karısı? Cevap evet veya hayır olabilir. Bu, karının, kocanın tehdidinin doğruluğu konusundaki farkındalığına bağlıdır. Ancak her durumda, bu, ilgili taraflar için ve hatta arka plan AI sistemi için çok zor bir karar.
Şimdilik rahatlayabiliriz çünkü piyasadaki tüm akıllı hoparlörler / kameralar ve arka uç AI sistemleri, Amazon, Google veya yerli markalar olsun, henüz böyle bir işlev sağlamıyor. Ancak bir gün hükümet, ceza gözetimi ihtiyacı nedeniyle benzer işlevleri sağlamak için akıllı ev cihazlarına ihtiyaç duyarsa, bunun kabul edilebilir olduğunu düşünüyor musunuz?
Belki 2016 ilkbaharında, ölüm mahallinde, insan istese de istemese de dijital çağın büyük ağına düşmüştür ve kaçış yoktur.
[Titanium Media'nın yazarına giriş: Wen / ben ikinci kayınbiraderim, bu makale ilk olarak 25 Haziran'da yayınlanan Caijing'de yayınlandı]
Daha heyecan verici içerik için Titanium Media WeChat ID'yi (ID: taimeiti) takip edin veya Titanium Media Uygulamasını indirin
