Pazar günkü yazımda iki filmden ve Philosophy Now’daki bir makaleden hareketle yapay zekanın doğurabileceği etik sorunları tartışmaya, bu sorunları düşünmenin “lüks” olmadığını vurgulamaya çalışmıştım. O yazının ana konusu yapay zekaya sahip robotların bizler gibi duyguya, acı hissine sahip olmaları halinde ne gibi haklardan yararlanmaları gerektiği üstüneydi. Bilinçli bir makinayı sadece makine olarak mı görecektik. Yoksa bizlerin -teorik de olsa- yararlandığı haklardan yararlanmalarına müsaade mi edecektik.
Bu yazı ise hak arayışının ve anlayışının ötesinde. Çünkü duygusuz, duyarsız ama akıllı robotlar hakkında. Artık hayatımızın her alanına giren yapay zekalı yaratıklar giderek artan bir şekilde bizi kontrolleri altına alıyor. Gittiğimiz yerlerde gözlemleniyoruz, yüzümüz taranıyor ve tanımlanıyor. Telefonumuzdaki navigasyon uygulaması sabahları işyerimize, akşamları evimize kaç dakikada ulaşacağımızı bize sormadan söylüyor. Yakında yollarımızda şoförsüz arabalar göreceğiz. Kargolarımızı önceden programlanmış dronlar taşıyacak.
Ne yememiz gerektiğine de diyet programları karar verecek, sigorta şirketleri primlerini muhtemelen bu programlara uyumumuza göre belirleyecek. Hepimiz istemesek de bir şekilde spor yapmak, Fitbit, Steps gibi programların komutlarına uymak zorunda kalacağız. Akıllı saatler ve bileklikler şimdiden “kalk yürü”, “çok oturdun” demeye başladı bile. Zincir süper marketler yakında bu tür programlarla anlaşıp yememiz gerekenleri bize dronlarla göndermeye kalkarsa hiç şaşırmam. Ne de olsa benim kuşağım için teknoloji hiç olmadığı kadar hızlı ilerledi.
***
Hatırladığım ilk teknolojik alet dedemin lambalı radyosuydu, sonra transistörlüsü geldi, derken televizyonla tanıştık, üniversiteye gittiğimde bilgisayarı gördüm, ilk kişisel bilgisayarımı yirmili yaşlarımın ortalarında edindim, derken araba ve cep telefonları, son olarak da akıllı telefonlar piyasaya çıktı. Çok geçmeden akıllı telefonlar iyiden iyiye akıllanmaya, bana sağlıklı olmam, kısa yoldan gitmem, aradığım adresi bulmam için yapmam gerekenleri anlatmaya başladı. Şimdi sıra bir kez programlandıktan sonra kendi kendine düşünen ve eyleme geçen makinalarda.
Bu tür makinaların, programların hayatımızı kolaylaştırdığı doğru. Artık yollarda daha az kayboluyorum. Üstelik de kendimi daha güvende hissediyorum. Sokak başlarındaki kameralar suç oranlarının düşmesine, suçluların takip edilmesine yardımcı oluyor. Kameralar hırsızlığı ve bireysel şiddeti caydırma, terörü önleme potansiyeline sahip. Ama diğer yandan aynı kameralar ve programlar özgürlük alanımı daraltıyor, başkalarıyla paylaşmak istemeyeceğim özel hayatıma ilişkin bilgileri ticari meta haline dönüştürüyor.
Bilgisayarımın, cep telefonumun kameralarıyla beni izleyip izlemediğini bilmiyorum. Her an açık olan kameralar, parmak izime sahip sensörler, yazdığımı kaydeden arama motorları özel alan diye bir şey bırakmadı. Benzeri yazışmalarımız için de geçerli. Maillerimiz, sosyal medya hesaplarımız sürekli gözetim altında. Biliyorum diyeceksiniz ki bu bizim de tercihimiz, zaten her yaptığımızı, bulunduğumuz her yeri sosyal medya üstünden paylaşıyoruz. Haklısınız ancak birini bilerek isteyerek yapıyoruz, diğeri bize rağmen gerçekleşiyor.
***
Yine de akıllı sistemlerin yarattığı ve yaratacağı asıl sorun bireysel alanda değil. Bunları bir şekilde düzenlemek ve denetlemek mümkün. Ki zaten düzenleniyor ve denetleniyor da. Asıl sorun askeri teknolojide kullanılmalarında. Yapay zeka Foreign Affairs dergisinin son sayısında Paul Scharre ve Christian Brose’nin yazdığı iki ayrı makalede anlattıkları gibi askeri teknolojide yeni bir devrim yaratıyor, savaşın yapılma biçimini değiştiriyor. Brose ülkesi Amerika’nın bu alanda Çin’in, Rusya’nın gerisinde kaldığına, Scharre ise otonom programların yaratabileceği tehlikelere dikkat çekiyor.
Brose’nin iddiası eski teknoloji ürünü büyük çaplı savaş makinelerinin yakında atıl kalabileceği yönünde. O, ülkesine uçaklar ve uçak gemileri yerine daha küçük çaplı otonom sistemlere yatırım yapması gerektiği söylüyor. 2018 Kış Olimpiyatları sırasında Güney Kore’nin 1218 otonom dronu ışık gösterisi için kullanmasından hareketle İHA’ların uçak gemilerini hareketsiz bırakabileceğini iddia ediyor. Askeri uzman olmadığım ve teknolojik bilgim de bilgisayar kullanmayı geçmediğinden, Brose’un haklı olup olmadığı konusunda bir şey söylemem zor.
Fakat kendi kendine savaşabilen, düşmanı tanımlayıp saldırabilen sistemlerin savaş yapma, daha da önemlisi siyaset yapma biçimini değiştirebileceğini görebiliyorum. Bu yüzden de Türkiye’nin İHA’larda yaptığı atılımı yapay zekalı otonom sistemlerle de pekiştirmesi gerektiğini düşünüyorum. Okuduğum kadarıyla bu konuda çalışmalar var. Ama Scharre’nin makalesinden anladığım bunun uzun soluklu bir egzersiz olduğu ve dışarıdan müdahalelere açık bulunduğu yönünde. Belli ki sabırlı olmamız ve araştırmaya daha fazla kaynak ayırmamız, hepsinden önemlisi de geleceğin güvenlik mimarisini birlikte tartışmamız, tartışabilmemiz gerek. Mutlu ve huzurlu bir Bayram geçirmeniz dileğiyle…
