İngiliz hükümeti Alan Turing ve ekibinin Nazilerin Enigma şifresini kırdığı Bletchey Park’da uluslararası bir yapay zeka (YZ) güvenliği zirvesi (AI Safety Summit) düzenliyor. Zirve 1-2 Kasım tarihlerinde gerçekleşecek ve Fransa Devlet Başkanı Emnanuel Macron , ABD Başkan Yardımcısı Kamala Harris’in yanında Meta, Microsoft ve Google’ın yöneticileri bu etkinlikte yer alacak. Çin de zirveye bir delegasyon gönderiyor.
YZ konusunda en iddialı uluslararası zirve olma iddiası taşıyan bu buluşmanın hedefi, YZ teknolojileri güvenliğine yönelik uluslararası standartlar belirlemek için acil bir uzlaşma oluşturmak. Bu ne kadar mümkün olacak bilinmez ama sorunun acil çözüm beklediği açık
YZ’nın ötekileştirme, haksız rekabet, manipülasyon, kartelleşme gibi bugün yaşadığımız olumsuz etkilerinin yanında, öngörülemeyecek tehdit potansiyelleri de taşıyor. YZ’daki gelişmeler o denli hızlı bir şekilde yaşanıyor ki yakın bir gelecekte algoritmalar bugün tahayyül edemeyeceğimiz güce ve kabiliyetlere kavuşacak.
***
YZ’nın yol açabileceği felaket fantezileri artık bilim kurgu filmlerindeki gibi gerçek dışı hayaller değil, mümkün olabilecek gelişmeler. YZ’nın kurucu babalarından sayılan Yoshua Bingio, gelecek birkaç yıl içinde YZ sistemlerinin, tüm tedbirleri aşarak siber saldırılar gerçekleştirmesi, sadece kısıtlı önbilgiye sahip insanların YZ ile biyolojik ve kimyasal silahlar üretmesi, YZ aracılığı ile demokrasi ve finans pazarlanın alt üst olması gibi olası felaketlere yol açabileceğini ve bu senaryolara karşı şimdiden tedbir alınması gerektiğini söylüyor.
YZ’nın bir nükleer silah gibi insanlığı yok edecek potansiyel taşıdığını düşünün Center for AI Safety in San Francisco gibi kuruluşlar dahi var. Çoğu, YZ’nın kontrolsüz gelişimine dikkat çekmek için ortaya atılan felaket senaryolar bir yana yaşanan reel problemler var ve bunlara karşı uluslararası bir mücadele standardı geliştirmek artık kaçınılmaz.
YZ’nın barındırdığı birinci tehdit kontrol kaybı. Yani YZ kendi kendine algoritmalar geliştirip kontrolsüz bir şekilde gelişebilir. İkinci sorun devletler ve özel şahıs/kurumlar tarafından suiistimal edilebilme özelliği. Üçüncü büyük problem ise seçimler, savaşlar vs. hakkında yapılan manipülasyonlarla yol açabileceği toplumsal hasarlar. Bu muhtemel üç büyük tehlikeye karşı hiçbir devletin kendi başına çözümler üretmesi mümkün değil.
***
YZ’nın tıpkı klasik sektörler gibi tabi olduğu genel kabul gören kurallar yok. Örneğin ilaç sanayinde şirketler üretim masraflarının yüzde 97’sini hastaların güvenliği için harcıyor. YZ şirketlerinin ise kamuoyu güvenliği için yaptığı masraf yüzde 1-2 düzeyinde. Bingio bunun en az yüzde 30’lara çıkması gerektiğini söylüyor.
YZ hizmetleri aslında birkaç büyük internet devinin elinde. Klasik sektörlerle kıyaslandığında nerdeyse hiçbir ulusal ya da uluslararası yasaya tabi olmadan ürün ve hizmetlerini sunuyorlar. Büyük platformlarda algoritmaların nasıl çalıştığı konusunda kullanıcıların nerdeyse hiçbir fikri yok. Sunucular, kullanıcılar hakkında, engellemek dahil her türlü tasarrufa sahip ve kullanıcıların küçük harflerle ağır hukuk dilinde uzun uzadıya yazılmış kullanım şartlarını okuyup anlamaları mümkün değil.
Kullanıcıların nasıl çalıştığını bilmediği algoritmalar, örneğin sosyal medya platformlarının arkasındaki algoritmalar sosyolog, psikolog, gazeteci, hukukçu ya da pedagoglar tarafından değil yazılımcılar tarafından yapılıyor. Bu algoritmaların temelinde sosyal sorumluluk, hukuk, hoşgörü, adalet, özel alana saygı vs. gibi hasletler değil verimlilik düşüncesi yatıyor. Algoritmalar klasik sektörlerde olduğu kadar hukuki ve ahlaki kurallara uymak zorunda değil. Her gelen önleyici ve düzenleyici yasa yeni bir yazılım çalımı ile aşılıyor. Yani algoritmalarda vicdan yok.
İnsanlık YZ aracılığı ile birkaç büyük şirket ve yazılımcıların tasallutu altına girme tehdidi altında. İngiltere ve Teknoloji Bakanı Michelle Donelan’nın ifadesiyle ‘’YZ için yangın dedektörüne ihtiyacımız var.’’
