"Bin Dokuz Yüz Seksen Dört" geleceğimiz mi olacak?

KÖŞE YAZILARI İnsanların davranışları, örneğin birbirine sarılması, sigara içmesi, kavga etmesi veya içki içmesi gibi belirli olayları tespit eden ve takip edilen kişinin gündelik hayatının akışına uygun olmayan “anormallikleri” otomatik olarak tespit eden yapay zeka destekli yazılımlarla çalışan kameraları bir düşünün. Her olayın analiz edilerek bir yerlerde depolanıp veya iletilmesini hâyal edin. Dünya nereye gidiyor değil mi? Bir önceki yazımda tüm elektronik cihazlarımızdaki sensör, kamera ve algoritmalarla tüm davranışlarımız izlenip, bizi reklam veren şirketlere nasıl bir ürün olarak pazarlandığımızdan dem vurmuştum. Kimisi için tüm bu süreçler rahatsızlık verici olmayabilir. Ama bu durumu bireysel ölçekten çıkarıp toplumsal ölçeğe çıkardığımızda karşımıza çıkan tablo hiç iç açıcı değil. Çünkü milyonlarca insanın verisi birleşince, o kadar insanın davranışını kökten değiştirmek de mümkün olabiliyor. Mahremiyetin ortadan kalkışı, şirketlerin ve bu şirketlerin yazılımlarını kullanan devletlerin yurttaşların tüm anını izleyebiliyor oluşu ciddi bir problem. Her ne kadar anti-sovyet ve anti-komünist bir anlatı olarak görülse de, ironiye bakın ki günümüzde birçok açıdan modern 'demokratik' hükümetler tarafından yönetim biçimleriyle deneyimlediğimiz, George Orwell’in ‘Bin Dokuz Yüz Seksen Dört’ romanında ‘oligarşik kolektivitizm’le olarak tanımlanabilecek diktatörlükler dünyasında olabilir miyiz? Kitapta ana karakter Winston, Okyanusya devletinde yaşamaktaydı. Devletin temel üç slogan biri “bilgi iktidardır” önermesiydi. Betimlediği dünyada bütün yurttaşlar ‘tele ekran’ adı verilen alet yardımıyla izlenmekteydi. Romandaki tele ekran hem verici hem alıcı işlevini görüyor, aynı anda hem yayın, hem kayıt yapabiliyordu. ‘Düşünce polisi’ bu alet sayesinde herkesin ne dediğini ve ne yaptığını sürekli izleyebiliyordu. Böylelikle yurttaşlar sürekli devletin takibi altında yaşar ve devletin istediği gibi davranıyordu. İnsanların davranışları, örneğin birbirine sarılması, sigara içmesi, kavga etmesi veya içki içmesi gibi belirli olayları tespit eden ve takip edilen kişinin gündelik hayatının akışına uygun olmayan “anormallikleri” otomatik olarak tespit eden yapay zeka destekli yazılımlarla çalışan kameraları bir düşünün. Hiç yabancı gelmedi değil mi? Günümüz dünyasında özellikle birçok dijital haklar eylemcilerinin ifşaları ve sızıntıları sayesinde aslında nasıl bir gözetim altında olduğumuzu görmekteyiz. Snowden, Wikileaks, Panama Papers gibi sızıntılarda bizzat devlet kurumları ve etkilileri arasındaki yazışmalar birçok ülkede yasadışı bir şekilde oluşturulmuş ve faaliyet yürüten gözetim mekanizmasını ayyuka çıkarırken, bu mekanizmaların ve teknolojilerin nasıl yurttaşlardan gizlendiğini ve şirketlerle yapılan korkunç anlaşmalar da ifşa edilmişti. İnsanların davranışları, örneğin birbirine sarılması, sigara içmesi, kavga etmesi veya içki içmesi gibi belirli olayları tespit eden ve takip edilen kişinin gündelik hayatının akışına uygun olmayan “anormallikleri” otomatik olarak tespit eden yapay zeka destekli yazılımlarla çalışan kameraları bir düşünün. Her olayın analiz edilerek bir yerlerde depolanıp veya iletilmesini hâyal edin. Dünya nereye gidiyor değil mi? Ders dinlerken öğrencilerin dersten verim alıp almadığını yüz ifadelerinden anlayan ve bunu okul müdürüne raporlanmasının yapıldığı bir dönemdeyiz. Kameraların başında insanlar değil, yapay zeka destekli yazılımlar mikrofon ve kameralarla bunları tespit edip analizlerini yapıyor. Sokaklarda kitlesel gözetleme için sadece yüz değil ‘yürüyüş tanıma’ yazılımı bile kullanılıyor. Bu yazılımla insanları vücut şekilleri ve yürüyüş biçimleriyle tanımlayan bir yapay zeka kullanılıyor. Yani artık sadece izleme yapılmıyor, yürüyüş şeklininiz kimliğinizin bir parçası ve yapay zeka destekli gözetim teknolojileri milyarlarca insandan sizi ayırt edebilecek kapasitede. Bazı mağazalar, optik tanıma sistemleri ile müşterilerin hareketlerini, hangi reyonda ne kadar durduklarını analiz edebiliyor. Bu analizler sonucunda pazarlama stratejileri geliştirebiliyor, hatta kameraların optik tanımlama sistemleri sayesinde, müşterilerin yüz ifadeleri de değerlendirilebiliyor. Aynı işi yapan açık hava panoları var. Yani mimikleriniz bile toplanarak bir veriye dönüştürülüp size daha fazla ürün satmak için kullanılıyor. Böylesine bir süreçte gözetim teknolojileri, yapay zeka ve algoritmalarla ilişkimizi nasıl kurgulayacağız? Bunu ciddi ciddi düşünmemiz gerekiyor.