Yüz tanıma sisteminin karanlık tarafı

İsminizi değiştirebilir ya da takma isim kullanabilirsiniz. Sosyal medya hesaplarınızı da silebilirsiniz. Ama yüzünüzü kolayca değiştiremezsiniz. Yüz tanıma sistemi birçok sorunu çözmemize yardımcı oluyor – ve aynı zamanda yeni sorunlar

İsminizi değiştirebilir ya da takma isim kullanabilirsiniz. Sosyal medya hesaplarınızı da silebilirsiniz. Ama yüzünüzü kolayca değiştiremezsiniz. Yüz tanıma sistemi birçok sorunu çözmemize yardımcı oluyor – ve aynı zamanda yeni sorunlar yaratıyor. Bu gönderide yüz tanıma sisteminin global boyutta yol açtığı tehditleri tartışacağız.


1. Global  boyutta gizlilik hakkını kaybetmek

FBI resmi olarak Gelecek Nesil Eyaletler Arası Tanımlama Fotoğraf Sistemi (NGI-IPS) geliştiriyor – bu veritabanı suçlanmış ve hüküm giymiş sivillerin ve mahkumların fotoğraflarını içeriyor. Güzel, değil mi?

Aslında pek değil! Mayıs ayında Amerikan Sayıştayı ilgili büroyu denetledi ve FBI’ın veritabanında daha önce hiçbir araştırmada adı geçmemiş kişilerin fotoğrafları dahil, 412 milyon fotoğraf buldu. Büronun yüz tanımlama konusuyla ilgilenmesi için: Yüz Analizi, Karşılaştırma ve Değer Biçme (FACE) Servisi bulunuyor.

Bu olayın ortaya çıkmasıyla beraber, FBI temsilcileri elde edilmiş ehliyet, pasaport ve vize fotoğraflarları yanı sıra şüphelilerin ve suçluların fotoğraflarında düzenlemeler yaptı. Bu veritabanı aynı zamanda yabancı milletten insanların fotoğraflarını da içeriyor – 100 milyon civarında olduğu tahmin ediliyor.

FBI aktif olarak araştırmaları sırasında yüz tanıma sistemini kullanıyor. Bu kullanımın yarattığı olumlu sonuçlar hakkında geçtiğimiz günlerde bir yazı paylaştık. Ama durum bundan çok daha karışık. Yüz tanıma sistemi henüz çok yeni ve çok hatalı, FBI’ın sistemlerinde de farklı bir durum yok: Irksal önyargılar var ve en iyi ihtimalle %80 – %85 başarı oranı var. Aynı zamanda FBI kasıtlı olarak yüz tanıma sisteminin gizlilik etki değerlendirmesine karşı olmasından dolayı, gerçek kullanım oranını gizliyor.

Şunu da belirtmekte fayda var: Rusya ve Moskova belediye meclisi kolluk kuvvetleri ilgili teknolojiyi denemek ve FaceN teknolojisi ile birleştirmeye hazırlanıyor (Bu sistemin geliştiricileri aynı zamanda FindFace’e de kod hazırlamıştı – FindFace de hatırlarsınız, insanların fotoğraflar ile diğer insanları aradığı bir uygulama). Bu yeni sistem Moskova’da bulunan binlerce kameraya bağlanacak.

Rus basınından Meduza’ya göre, ”Dünyanın hiçbir şehrinde buna benzer bir sistem yok. Algoritma sokaktaki insanlarla ile suçlu veritabanını karşılaştıracak, ama hepsi bu kadar de değil, aynı zamanda şehirde bulduğu insanlarlar ile onların sosyal medya hesaplarını eşleştirecek, bu da baya kişisel bilgi demek.
Şunu da belirtmemiz lazım, bu yılın başında Rus Senatosu fotoğrafları ve videoları yasal delil olarak kabul edeceğini bildirmişti.

2. Kolluk kuvvetleri tarafından kötüye kullanım
Yüz tanıma sistemi hatalar yapar. Bu sistemi kullanan insanlar da bu sistemi suistimal edebilir – bu bilinen bir gerçektir. Örneğin ağustos ayında, New York Times, San Diego polisi suçlu ve suçsuz insanların fotoğraflarını izin almadan topladığını belirtti.

San Diego’da yaşayan 27 yaşındaki Afro-Amerikan Aaron Harvey, polislerin kendisini önyargıları yüzünden tehdit ettiğini söyledi. Harvey şehrin suç oranının yüksek olduğu bir yerde yaşıyor. Belki de bu sebeple Harvey 50’den fazla defa durdurularak polis tarafından çete üyesi olmakla suçlandı. Polisin fotoğraflarını çekmesine izin vermediğinde de, polisin bu fotoğrafları izin verse de vermese de çekebileceğini söylediğini belirtti.

New York Times’a anlattığına göre “Polis bana dedi ki: ‘Yasal ya da yasadışı, bunu yapacağız’ ve beni arabadan dışarı çekti.”

2013’ün başlarında, Boston’daki yetkililer de yüz tanıma sistemi hakkında testler yaptılar. Sistem, insanların yüzlerini konserler ve açık hava etkinlikleri gibi yerlerde gizlice taradıkları kameralara bağlıydı. Test sürecinin sonunda, etik olmadığı gerekçesi ile iptal edilmişti. Boston sadece bir önek, global ölçekte durum çok daha farklı olabilir: Yüz tanıma sistemi hükümet birimleri tarafından sıklıkla kullanılan bir teknoloji.

3. Şirketler insanları izler
Şirketlerin sahip olduğu yüz veritabanları FBI’ın sahip olduğu yüz veritabanından daha büyüktür. Facebook, Instagram (ki o da Facebook’un), Google (Google+ dahil), VK gibi başı çeken sosyal medya mecraları ve bunlar gibi birçoğu kendilerine ait yüz tanıma çözümüne sahip ve sürekli olarak geliştirip iyileştiriyorlar.

Microsoft şimdi benzer bir teknolojiyi FamilyNotes uygulaması üzerinde çalışıyor. Bu uygulamaya eklenmesi düşünülen özellik, cihaz üzerindeki kamerayı kullanarak kullanıcıları ayırt etmeye yarayacak. Microsoft dünyanın en popüler sistemlerinden birini geliştiricisi, ve bu uygulama şirketin yüz verilerine ciddi boyutlarda katkıda bulunacak.

Facebook’un yüz tanıma sistemi dünyadaki en doğru sonuç gösteren sistemi. Şirket bu aracı 2012’de sessizce devreye soktu ve kullanıcıların büyük çoğunluğu için varsayılan olarak ayarladı. Daha sonra bu olay yüzünden düzinelerce dava ile uğraştı – sayı her geçen gün de artıyor, aynı şekilde Google’a da benzer davalar açılmaya başlandı. Sonuç olarak Facebook bazı bölgelerde bu özelliği kullanmayı bırakmak zorunda kaldı.

Şunu da belirtelim, Facebook bu konuda tek taraflı yaklaşımda bulunuyor: Örneğin, Facebook’un bilgi bankasında yüz tanıma sistemini nasıl kapatabileceğini belirten bir makale bulunmuyor, ki kapatmak için tek bir ayar değiştirmek de yetmiyor.

Eğer herhangi bir sosyal ağa üye değilseniz bile (ya da hiçbir sosyal medya mecrasına gerçek fotoğrafınızı yüklemiyorsanız) yüzünüz yine de sosyal mecranın veritabanına girebilir. Geçtiğimiz sene Şikago’da bir vatandaş Shutterfly isimli fotoğraf servisini, vatandaşın haberi olmadan kullandığı gerekçesiyle dava etti. Üçüncü bir şahıs (büyük ihtimalle bir arkadaşı) vatandaşın fotoğrafını yüklemiş ve kullanım sözleşmesini imzalamıştı.

4. Herkes sizi bulabilir
Herhangi biri tarafından erişilebilen herhangi bir yüz tanıma sistemi linç kanunu ya da yasa dışı şekilde adalet sağlamak isteyen insanlar için çok güçlü bir araç olabilir. Örneğin bu yıl, iki genç adam St. Petersburg şehrinde bir binanın lobisini ateşe verdiler. Kundakçılar işleri bittikten sonra aynı binanın asansöründe arbede çıkarttılar. Asansördeki kameralar ve çevre binaların kameralarından bu ikilinin ne kadar eğlendiğinin görüntüleri kaydedildi.

Yerel polisler dava başlatmayınca, yaktıkları binanın kiracıları olaya el attı: Videodan ekran görüntülerini alıp FindFace servisi kullanarak suçluların sosyal medya hesaplarını buldular.

Amatör dedektifler buldukları kanıtları polisle paylaştı, sonuç olarak bu genç suçlulara dava açıldı. Ren TV (Rus TV kanalı) haberine göre, mağdur olan kiracının elinde suçluların ‘holigan tanıdıklarına’ verebilecek kadar veri ve kanıtları var (Okudukları okullar ve iş adresleri dahil).

Fakat şehir sakinleri sabırlarını korudu ve polisten yardım istedi, çünkü tüm internet kullanıcıları aklı başında olmayabilir. Ve kötü insanlara karşı bir yerde istek varsa, bir çözümü de vardır. FindFace’in kötü şöhretini 2ch görsel platformunun kimliksiz kullanıcılarının trollüğü ile öğrenmiş olabilirsiniz. Platform kullanıcıları porno aktrislerinin sosyal medya hesaplarını bu site ile buldu, aktrislerin arkadaşlarına ve akrabalarına tanıdıklarının fotoğrafları ile hoş olmayan mesajlar gönderdiler.

Bu arada FindFace’in kurucusu olan Maxim Perlin bugünlerde insanların mahremiyetlerini korumaları için gerçekten para ödemeleri gerektiğini düşünüyor. Katıldığı bir röportajda, “Eğer insanlar kendi verilerinin FindFace veri tabanından silmek istiyorsa Premium hesap almalılar. Bu servisin de aylık ücreti 8$ civarı” dedi.

5. Güvenlik ile facia arasında ince biz çizgi vardır
Birçok güvenlik uzmanı şu konuda hemfikir: biometrikler parolaların yerini alacak ve dünyayı daha da güvenli bir hale getirecek. Yani gelecekte, sistemler göz taraması yapacak, parmak izi kontrol edecek ve hatta yüz taraması yaparak karışık semboller kombinasyonundan bizleri kurtaracak.

Microsoft zaten kullanıcıları suratlarıyla tanımlayan sistemi geliştiriyor. NEC ise online ödeme yöntemlerini daha güvenli hale getirmek için yüz tanıma sistemini geliştiriyor. MasterCard, ‘özçekim tanımlama sistemi’ üzerinde çalışıyor ki bu da kullanıcıların parola kullanmadan para gönderebilmesini sağlayacak.

Parmak izinin zayıf yanları hakkında daha önce yazmıştık. Şimdi de yüz tanıma sisteminin zayıflıklarından bahsedelim. Konu yine 3D yazıcılara geliyor: Günümüzde gerçek birinin suratını gerçekçi bir şekilde kopyalayabilirsiniz. Yeni tanımlama sistemlerinin geliştiricileri bu durumu göz önünde bulundurarak güvenlik yöntemlerini çok dikkatli oluşturmalılar.

Örneğin, MasterCard ve Google kullanıcıların göz kırpmasını istiyor – bu ufak hareket dolandırıcıların 3D yazıcı ile oluşturduğu suratlarla hatta fotoğraflarla güvenlik sistemlerini aşmalarını engelliyor. Fakat maalesef Google’ın bu çözümü de başarısız oldu – bu güvenlik sistemi basit hareketli animasyon fotoğraflarla aşıldı. MasterCard’ın da sistemi şu an geliştirilme aşamasında oluğu için henüz aynı şekilde aşılıp aşılmayacağını bilmiyoruz.

3d-printed-face

6.Yüzünüzü kimseyle paylaşmayın
Anaface isimli internet sitesini duymuş olabilirsiniz, bu site yüzünüzü analiz ederek çekicilik seviyenizi ölçüyor. Temel kriter olarak simetriyi kullanıyor – ki çok güvenilir bir kriter de değil, değil mi? Örneğin, Angelina Jolie’nin Anaface puanı 10 üzerinden 8,4. Sitenin tek sorunu doğruluk oranı değil.

İlk olarak, Anaface’in sahibi bu projeyi insanları estetik ameliyat için cesaretlendirme sebebiyle oluşturduğunu söyledi. En azından dürüstçe cevap verdi.

İki, internet sitesinin şartlar ve koşullar sözleşmesinin okunması gerçekten zor. Küçük bir pencerede açılan kullanıcı sözleşmesini onaylamak için küçücük yazılmış 7,000 kelimelik bir sözleşmede uzun süre aşağı iniyorsunuz. Bu da site kullanıcıların fotoğraflarının “özel olmayan, transfer edilebilir, kullanmak için telif gerekmeyen, sahiplik haklarından vazgeçen” şekilde siteye yüklemelerini sağlıyor. Daha basit bir dille: Servis sizin fotoğraflarınızı istediği gibi satabilir, size de para vermez.

Aynı zamanda kullanıcılar sadece kendi fotoğraflarını yükleyeceklerini taahhüt eder: “Başkalarının video, ses veya görüntülerini onların izinleri olmadan (eğer reşit değillerse ebeveynlerinin ya da yasal varislerinin) yayınlayamaz, yükleyemez veya teşhir edemezler.”
Şartlar ve koşullarda üstü kapalı olarak hesabı oluşturduktan sonra fotoğrafınızı kaldırma olasılığınızdan bahseder – ancak bunu yapamazsınız, çünkü Anaface fotoğraf silmenize izin vermiyor.

Kısaca, fotoğrafları herkes kullanabilir: hükümetler, firmalar hatta sıradan insanlar. Bugünlerde hemen hemen herkes yüz tanıma olaylarını suistimal edebilir – ve tek yapabileceğimiz şey bunlardan saklanmaya çalışmaktır.

İpuçları