Karl Marx, “Hegel’in Hukuk Felsefesinin Eleştirisine Katkı” eserinde içinde yaşadığı dönemin dünyası için “kalpsiz bir dünya” ifadesini kullanır. Ona göre bu kalpsiz dünyanın kalbi, dindir. Zira sorunlu ekonomik ve toplumsal ilişkilerin -dönemin- dünyası “acımasızlığı, merhametsizliği, adaletsizliği, eşitsizliği ve yabancılaşmayı” barındıran bir dünyadır. Böylesi bir dünyada din, cemiyet tarafından insana teselli veren, yaşamasına anlam kazandıran bir vasıtadır. Makineleşen dünya, adeta “kalpsizleşen bir dünya” olmuştur. İnsanın manevi ve ahlâki hasletlerini yitirdiği dünya, salt olarak maddileşmiş, rasyonelleşmiş, üretken, nesneleştirici mekanik bir yapı edinmiştir.
Böyle bir dünyada ahlâk, manevi olandan sıyrılıp rasyonel ve pragmatik olana evrilir. Böyle bir evrilme neticesinde kadim etik anlayışları veya ahlâk kuramları yerini yeni etik veya ahlâk teorilerine bırakır. Zira nazari etik veya ahlâki düşünce, zamanın ruhuna, kültürel yapıya ve mevcut insan algısına veya ondan beklenilenlere göre biçim değiştiren bir aynadır. Klasik dünya görüşünün yıkıldığı, iyiliğin, kötülüğün, ahlâki olanın ve olmayanın birbirine karıştığı hiper-modern bir dünyada yaşıyoruz. İnsanın, beklentilerinin, arzularının ve hazlarının peşinde sürüklendiği bir zamanda insanın kendi dünyasını ve kaderini inşa edeceği mottosu perçinleşti. Ahlâkın evrensel olmadığı ve izafilikle tasvir edildiği iddiasının en radikal zamanlarını yaşamaktayız. Zira dijital ve enformasyon teknolojilerin hayata dahil olduğu süreçte postmodern yaşam biçimleri, muğlak, belirsiz, izafi yaklaşımlar ve görüşlerin kendilerine yer bulması daha da kolaylaşmıştır. Yaşantı dünyasındaki iyi-kötü, doğru-yanlış, fayda-vicdan gerçekliklerinin birbirine karışması dijital, sanal ve enformasyon düzleminde daha da üstel bir hâle gelmiştir. Oysa ahlâk, insanı insan yapan ve insanın kendi varlığına yönelik en derin ve özlü varoluştur.
Descartes insanı sadece bedenî veya maddi bir varlık olarak düşünmeyip insanın ruhî planını ihmal etmemişti. Yeniçağ’ın fizik-matematik eksenli dünyası makine dünyasını doğurmuştu. La-mettrie’ye “Makine-İnsan” adlı eserini yazdıran bir ortam doğdu. Sanayileşme-makineleşme çağı olan 19. yüzyılda insan için “homo-ekonomikus”, “homo-makinus” gibi sıfatlar kullanılmıştır. Tüm bu süreçler, insanın hem kendine (ruha) hem de maddeye (bedene) dair arayışının bir sonucuydu. İnsanın kendine dair olan kadim sorgusu, insanın elleriyle inşa ettiği yeni bir aracın (yapay zekânın) eşiğinde yeniden yankılanıyor. Bu yankılanma neticesinde insana “homo-robotikus, homo-sibernetikus, homo-dijitus” gibi sıfatlar verilmiştir.
İnsanlık daha önceki buluşlarından çok farklı bir buluşu gerçekleştirdi. Zira daha önce “düşünen bir varlık” inşa etmemişti. İnsanlık, robotları kullanıyordu fakat onlara “zihinsel” işlevleri yüklememişti. Adeta ilk defa zeki bir varlıkla yaşayan insanlık, insanın bedensel ve ruhi varoluş gerçekliğini değiştirecek bir eşikte duruyor. Zira yalnızca teknik bir buluş olmayan yapay zekâ, insanın ahlâki ve varoluşsal sorularını makinelere yönelttiği yeni bir eşiği temsil eden bir teknolojidir. Felsefi tartışmalar, “makine ahlâkı” ya da “yapay ahlâki etkenler” kavramları etrafında dönmeye başladı. Turing’in
“Makineler düşünebilir mi?” sorusu nano-teknoloji, biyo-teknoloji, enformasyon teknolojisi ve bilişsel bilim gibi alanların gelişmesi, internet ile yapay zekânın entegre olması ile daha ileri taşınmıştır.
Bu sorunun yerini artık yerini “makine/ler ahlâki bir karar verebilir mi?” sorusu almış durumda. Böyle bir soru, yapay zekânın sadece araç olarak kullanımı sorununu değil hukuki ve ahlâki boyutunun da mevzu edilmesini gerekli kılıyor.
Siyaset etiği, bilim etiği, çevre etiği gibi alanlara yeni bir etik alanı dahil oldu. Yalnızca algoritmaların teknik güvenliğini, hesaplanabilirliğini ve denetlenebilirliğini konu edinmeyen yapay zekâ etiği yapay zekânın insanla ilişkili olarak mahremiyet, irade özgürlüğü, sorumluluk konularını ele alır. Artık mesele, makinelerin düşünüp düşünmediği tartışması hatta ne kadar zeki oldukları olmayıp zekâ ile vicdan arasındaki uçurumun ne kadar derinleştiğidir. Zira bu tartışmanın kökleri Yeniçağ’da yatmaktadır. Klasik düşüncedeki ruh, hem tanrısal hem manevi olandan koparılarak salt olarak beynin bir işlevi olan zihin sürecine indirgenmiştir. Zihinsel işlevlerin, biyolojik (tıp) ve elektriksel (mühendislik) işi olup olmadığı tartışmaları insan zihni ile makine (yapay zekâlı sistemlerle) eşleşmesi, yapay zekâ ile sentetik biyolojinin birleşmesi tartışmalarını meydana getirmiştir. Yapay zekânın hesaplama hızı, veri merkezli yapısı ile DNA’nın çözümlenmesi ve düzenlenmesini içeren sentetik biyolojinin kesişmesi insanlık hayatında radikal süreci doğuracak görünüyor.
Bilim insanları, etik konularını çalışanlar, politika yapıcılar vs. biyo-teknoloji ile siber-teknoloji (yapay zekâ) kesişmesinin ne gibi sonuçlar doğuracağı üzerinde düşünmesi gerekir.
Zira sentetik biyoloji ile yapay zekâ teknolojilerinin sağlıklı ve güvenli biçimde ilerlemesi için böylesi bir sorumluluğa ihtiyaç var. Yapay zekânın tasarımı ve uygulanması süreçleri gittikçe karmaşıklaşması kontrolü, denetimi ve düzenlenmesini zorlaştıracak görünüyor. YZ ile sentetik biyolojinin kesişmesi, gelecekte büyük riskleri doğurabilir. Bu risklerin giderilmesi sadece bu alanı çalışan uzmanların giderebileceği sorunlar olmayıp BM gibi kurumların ve devletlerin kontrolünde ilerlemesiyle mümkündür. Uluslararası kurallar geliştirmek, bu çalışmaların risklerini azaltıp güvenliği artıracak önemli adımlar olabilir.
Yapay zekâya dair etik tartışmaların merkezinde, iki farklı düzlem olan “yapay zekânın etiği” ve “etik yapay zekâ” tartışmaları vardır. İlk tartışma algoritmaların nasıl düzenleneceği ve hangi ilkelere dayanacağı tartışmasıdır. Diğer tartışma ise, bizzat bu sistemlerin etik davranıp davranamayacağı meselesidir. Yani yapay zekâdan ahlâklı yaklaşımlar veya kararlar sergilemesini beklemeliyiz tartışması. Haliyle bu tartışmalar, bilinç sahibi olmadığı için yapay zekâlarla ilgili bir tartışma olmayıp insanlarla ilişkili tartışmalardır. Çünkü ahlâki ve vicdani yapısı olan yapay zekâ değil insandır. Ayrıca kodları yazan da, onları yorumlayan da hâlâ insandır. İnsanın düşüncesinin ve dilin sindiği bu makineler, insan gölgesinden kurtulabilmiş değildir, biçimsel olarak insanımsı gibi olabilir ama insan gibi değildir. İnsana dair asli hasletleri edinmesi de çok mümkün görünmüyor.
Yapay zekâ projesi, mevcut yapay zekâ tasarımcılarının da makineler düşünebilir mi? tartışmasını ortaya atan Turing’in aklına gelen proje değil. Zira yapay zekâ çalışmalarının kökeninde eski bir felsefi arzu olan düşünmeyi otomatikleştirme arzusu var. Bu arzunun temelinde mitolojideki Talos, yapay kadın Pandora ve robotik varlıkların tasarımcısı demirciler tanrısı Hephaistos’un hikâyeleri hatta Tepegöz anlatıları yok demek çok mümkün değil. Aristoteles’in akıl yürütme biçimlerinden Hobbes’un muhakeme-hesaplama analojisine, Descartes’ın mekanik zihin anlayışından Leibniz’in evrensel hesaplama fikrine kadar uzanan bu hat, insanın düşünceyi maddeleştirme düşünün bir tezahürüdür. Turing testinde bir makinenin insana benzemesi yeterliydi; bugün ise makinenin insanın yerine geçmesi tartışılıyor. Zira sadece yapay zekâ ile eşleşen robotik varlıklar değil, yapay zekâ ile eşleşen insan (tekillik teknolojisi) gerçekliği ile karşı karşıyayız.
Tekillik tartışmaları, etik alanı da aşan, sorunu epistemolojik süreçten ontolojik bir sürece dönüştürecek tartışmalardır. Eğer bir gün yapay zekâ kendi bilincine ulaşırsa, o bilincin ahlâki yükümlülüğü olacak mıdır? Bunun zor olduğunu bilen Ray Kurzweil, Elon Musk ve Sam Altman gibi bilimciler, bu sorunu teknolojik tekillik kavramıyla aşmak istemişlerdir. Ray Kurzweil’in tekillik teknolojisine dair olan 2045 öngörüsü, sadece teknolojik bir kehanet değil, insanın Tanrısal arzularıyla kendi sonunu yazma ihtimalinin de simgesidir aslında. Böylesi sert bir geçiş, yalnızca teknolojik kopuşu veya devrimsel bir süreci değil, aynı zamanda ahlâki bir devrimi veya kopuşu da meydana getirecek görünüyor.
Yapay zekâ çağında insanlığın karşı karşıya kaldığı sorunlar, yalnızca teorik olmayıp yaşamsal ve gündelik karakterdedir. Makine öğrenimiyle karar veren sistemler, kendi iç işleyişlerini çoğu zaman insanın kavrayışının ötesinde sürdürür. Bundan dolayı denetimi zorlaştırıcı bir riske de sahiptir. Bu sistemlerde kararların nasıl verildiği bilinemez hâle gelip şeffaflığın kaybolmasına yol açabilir. Yapay zekâ çalışmalarında “Tasarım Yoluyla Etik” yaklaşımı, etiğe sonradan eklenen bir parça değil, yazılımın ruhuna işlenmiş bir ilke olması gerektiği için kritik öneme sahiptir ancak yapay zekânın tek başına “etik bilinç” geliştirmesi şimdilik çok mümkün görünmüyor.
Algoritmik yapılar aynı zamanda kara kutudur. Âdeta kara kutu olan yapay zekâ, gerekçesizce yanıt veren ve iç işleyişi bilinmeyen algoritmik bir yapıdır. Bu yapıda girdilerin nasıl işlendiğini ve sonuçların nasıl üretildiğini anlamak oldukça zordur. Âdeta “kara kutu”yu andıran yapay zekâ, sadece teknik bir giz olmayıp aynı zamanda ruhi, manevi ve ahlâka dair olanlara karşı bir karanlıktır. Zira şeffaflığı örten bir yapıya sahip olan yapay zekâ, şeffaflığın kaybolmasına neden olarak hesap verebilirliği, adalet anlayışını ve sorumluluk duygusu unsurlarını bulanıklaştırır. “Genesis: Artificial Intelligence, Hope, and the Human Spirit” kitabında Kissinger, kararlarını nasıl aldığı bilinmeyen ve kararlarını açıklayamayan sistemlerin demokrasinin sessiz yıkıcıları hâline gelebileceğini iddia eder.
Dünya, verilerin belirlediği veya yönettiği bir dünya hâline gelmeye başladı. Verilerin etkin olduğu veya verilerle yönetilen dünya daha algoritmik bir yapı edinmeye başladı.
Böylesi bir dünya gittikçe kalpsizleşen bir dünya hâline gelebilir. Zira veriyle beslenen algoritmalar, önyargının da taşıyıcısıdır. Eğer veri dünyası, merhametsiz ve adaletsizse, algoritma da bu merhametsizliği ve adaletsizliği soğukkanlı biçimde yeniden üretir. Sadece insanın zekâsını taklit eden (şimdilik insanın vicdani, manevi ve ahlâki yönlerini taklit edemeyen) yapay zekâ sistemleri sadece insan zekâsını değil, insanın kör noktalarını da taklit eden bir yapıdır. İnsan zihninin taklidi olan yapay zekâ; “eurosantrik, etnosantrik, eril, agnostik” yapıya sahip Batılı düşünme biçimine sahip olduğu için “ötekileştirici” bir karaktere sahiptir. Batılı düşünme biçimlerinin başka milletlere karşı yapmış olduğu “ırk, cinsiyet, sınıf ya da inanç” temelli ayrımlar, makine yani algoritmik dille yeniden kodlanarak daha etkili ve yıkıcı hâle gelmektedir. Batılı düşünme ve uygulama biçimlerinin (sömürgecilik, köleleştirme veya kapitalizm) eski hataları, algoritmalar üzerinden yeni biçimlerde dolaşıma girmesi söz konusudur.
“Gizlilik, gözetim, denetim-kontrol ve mahremiyet” gibi meselelerin etik tartışmaların merkezine yerleştiği dijital çağda akıllı cihazların sadece çevreyi belirlediğini zannetmek hatadır. Zira insanın yaşam biçimlerini ve iç dünyamızı da haritalandıran akıllı sistemlerin dünyasında yaşamaktayız. Aslında insan, farkında olmadan kendi zihninin şifresini algoritmalara teslim etmektedir. Çin’deki sosyal kredi sistemleri (sertifikalar) ya da yüz tanıma teknolojileri, bir gözetim çağının soğuk nabzını tutuyor. Bentham’ın ve Foucault’un mekânsal panoptikonu dijital panoptikonlara dönmüş durumda. Harari’nin dediği gibi, “bilinçsiz ama zekî” sistemler, kişiyi kişiden daha iyi tanımaya başladığında, özgürlüğün, mahremiyetin, iradenin ve sorumluluğun yeniden tanımlanması gerekecek. Böylesi bir süreçte hem insan hem de insana ait hasletler yeniden tanımlanmak zorunda görünüyor.
Özerklik, özgür irade ve sorumluluk vb. tartışmalar içinde yaşadığımız dijital-sibernetik çağın etik sorunlarını ve çatışkılarını her geçen gün derinleştirmektedir. Yapay zekâlı sistemleri “kim kontrol ediyor?” veya ondan “kimin sorumlu?” olduğu soruları, insanın kendi yaratımıyla yani üretimiyle hesaplaşmasının en somut göstergesidir. Avrupa Komisyonu’nun “Güvenilir Yapay Zekâ” ilkeleri, ancak etik tasarımın özüne yerleştiğinde bildirilerin ötesine geçerek somut bir gerçekliğe dönüşebilir. Akıllı araçlar, otonom silahlar, sorumluluğu belirsizleştirirken, hukuk sistemleri dahi bu yeni varlık biçimlerine veya oluşlarına karşı nasıl yaklaşacaklarını bilememektedir. Yapay zekâya “elektronik kişilik” kazandırmayı öneren
Avrupa Parlamentosu, böylelikle robotların otonom kararlardan ve neden oldukları zararlardan mesul olacağını ifade etmiştir.
Bu öneri ve yaklaşımıyla Avrupa Parlamentosu, içinde bulunduğu çaresizliğin bir göstergesi olmuştur.
Yalnızca insanın ve düşünmenin değil emeğin de yeniden tanımlanmasına neden olan yapay zekâ, insan istihdamını gereksiz hâle getirebilir. İnsan emeğinin yerini algoritmalar aldıkça, sadece işsizlik ve gelir kaybına yol açmayacak, aynı zamanda insanın ve yaşamın anlamını yitirmesi söz konusu olacak görünüyor. İnsanın yaptığı işi makineye devrettiği bir çağda etik, artık sadece felsefi bir tartışma değil, varoluşsal bir hayatta kalma meselesi hâline gelmiştir. Zira makine; hesap yapabilir, denetleyebilir, ölçebilir, karar verebilir vs. işlemler yapabilir ama vicdan taşıyamaz. Vicdan, insanın kendi kırılganlığını bilmesinden doğan bir haslettir, makinenin ise böylesi kırılganlık içinde bulunma ihtimali yoktur. Bu yüzden, ahlâki ve vicdani sorumluluk, hâlâ insanın omzundadır, yani insanın yüklenmesi gereken emanettir.
Makinelerin ahlâki yargılarda bulunup bulunamayacağı dair tartışmalarda onların yalnızca simülasyon düzeyinde bir etik taklidi gerçekleştirebilecekleri iddia edilir.
Duygusal zekâ veya yapay zekâ denemelerinin yapay zekâyı daha insani kılacağı iddiaları, yalnızca bir yanılsamadır. Çünkü duygunun kökeni, bilinçte değil, varoluşun acısında saklıdır. Hawking’in uyarısıyla, kontrolsüz bir zekâ, insanlığın sonunu getirmezse bile, insanın ve hayatın anlamını değiştirebilir. Yapay zekânın aktifleştirildiği, insanın pasifleştirildiği dünyada “kalpsiz bir algoritma” ya da “kalpsiz bir zihin (yapay zekâ)” biçiminde yeniden anlam verilmeye çalışılan, âdeta yeniden canlandırılan bir dünya amacı söz konusudur. Böylesi bir canlandırma insan ruhunu daha da öteleme anlamına gelir. Zira yapay zekâ, insanın düşünme yetisini taklit eder ama merhameti, sezgiyi, vicdanı taklit edemeyecek teknolojik bir sistemdir. Marx’ın “kalpsiz dünya”sı nasıl ki kendi döneminin insanın yabancılaşmış kişiliğini ve emeğini temsil ediyorsa, günümüzde de yapay zekâ, benzer biçimde insanın yabancılaşmış zekâsını ve düşünmesini temsil etmektedir.
Yani “kalpsiz bir dünyadan kalpsiz bir algoritmaya” geçildiği süreçte, insanlığın “duygusuz” üretim düzeninden “duygusuz” dijital-sibernetik bir düzene doğru evrildiği bir sürece tanıklık ediyoruz. Emeğin yerini verinin, kalbin yerini kodun, vicdanın yerini algoritmaların aldığı bir çağın yani Çinlilerin bedduasına (tuhaf zamanlarda yaşayasın) rast geldik. Bugün geldiğimiz noktada, yapay zekâ ne tamamen dost ne de düşmandır. İnsanın birikiminin ve hafızasının bir neticesidir. Onu, insandan gayri üretim olarak düşünmek hata olur. İnsanın kendi ahlâk aynasında gördüğü yeni bir yansımadır. Zira her algoritma bir niyet taşırken her kod ise bir değer üretir. Yapay zekânın işleyiş biçimi hatta (varsa) etik yapısı, onu tasarlayan insanın düşünüşüne, dünya tasavvuruna, kişisel öyküsüne hatta kalp atışına bağlıdır. Kalpsiz bir dünyanın ürünü olan algoritmalar, dünyayı da insanı da kalpsiz bırakmaya teşnedir. Ve belki de asıl mesele, makinenin etik olup olmayışı değil; insanın, kendi yarattığı makineye rağmen etik kalıp kalamayacağıdır.
Dipnotlar:
[1] Prof. Dr. Ahmet Dağ, Uludağ Üniv. İlahiyat Fak. Felsefe Tarihi Böl.
Düşünceler, insanın yalıtılmış bir hal ve soyutlukla beraber edindiği kazanımlarmış gibi görünmektedir. Düşünen kişinin ise öylece durduğu ve düşünmekten öte bir adım atamadığı söylenmektedir. Aslında haksız değiller. Düşünme fiilinin kendisindeki o düşüş tonlaması hep bir insanın kendi içinde olan bir hali resmetmektedir.
Nitekim bu sapkın düşünce onu, kendisinin de borcu olduğu yaşlı bir tefeci kadını ve cinayeti gören yardımcı komşu kadını öldürmeye yöneltmiş, kendinden sonra gelecek bütün edebiyat tarihine indirilmiş haldeki baltasıyla bir cinayet işlemiş, ancak cinayeti işledikten sonra, her ne kadar kendisini bir Napolyon gibi görmeye çalışmışsa da vicdanı bu role itiraz etmiş, evvela işlemiş olduğu suçun cenderesinde dönmeye başlayıp vicdanıyla baş başa kaldığı her dakika boyunca da dayanılmaz bir gerilimin ortasında kalmıştır.
Daha önce toplumsal ilişkilerce belirlenen insan modeli, toplumsal ilişkilerin belirlediği, ahlakın belirlediği, dinin belirlediği ya da daha çok böyle pagan toplumlarında da olsa oradaki kabilevi töre ilişkilerinin belirlediği insan modeli Sanayi Devrimi ve hemen sonrasında 19. yüzyılda ise bu defa daha iktisadi içerikle tanınmaya başlanıyor. Burada şöyle bir tartışma ortaya çıkıyor: Acaba insan doğasını nasıl tanımlayabiliriz, bir insan doğası var mı, bu insan doğası gerçekten hani toplumsal ilişkiler tarafından mı belirleniyor yoksa ekonominin merkezde olduğu ve ekonominin diğer tüm toplumsal ilişkileri belirlediği bir insan doğası mı, bu insanı nasıl tanımlayabiliriz?
Kalpsiz Bir Dünyadan Kalpsiz Bir Algoritmaya
Karl Marx, “Hegel’in Hukuk Felsefesinin Eleştirisine Katkı” eserinde içinde yaşadığı dönemin dünyası için “kalpsiz bir dünya” ifadesini kullanır. Ona göre bu kalpsiz dünyanın kalbi, dindir. Zira sorunlu ekonomik ve toplumsal ilişkilerin -dönemin- dünyası “acımasızlığı, merhametsizliği, adaletsizliği, eşitsizliği ve yabancılaşmayı” barındıran bir dünyadır. Böylesi bir dünyada din, cemiyet tarafından insana teselli veren, yaşamasına anlam kazandıran bir vasıtadır. Makineleşen dünya, adeta “kalpsizleşen bir dünya” olmuştur. İnsanın manevi ve ahlâki hasletlerini yitirdiği dünya, salt olarak maddileşmiş, rasyonelleşmiş, üretken, nesneleştirici mekanik bir yapı edinmiştir.
Böyle bir dünyada ahlâk, manevi olandan sıyrılıp rasyonel ve pragmatik olana evrilir. Böyle bir evrilme neticesinde kadim etik anlayışları veya ahlâk kuramları yerini yeni etik veya ahlâk teorilerine bırakır. Zira nazari etik veya ahlâki düşünce, zamanın ruhuna, kültürel yapıya ve mevcut insan algısına veya ondan beklenilenlere göre biçim değiştiren bir aynadır. Klasik dünya görüşünün yıkıldığı, iyiliğin, kötülüğün, ahlâki olanın ve olmayanın birbirine karıştığı hiper-modern bir dünyada yaşıyoruz. İnsanın, beklentilerinin, arzularının ve hazlarının peşinde sürüklendiği bir zamanda insanın kendi dünyasını ve kaderini inşa edeceği mottosu perçinleşti. Ahlâkın evrensel olmadığı ve izafilikle tasvir edildiği iddiasının en radikal zamanlarını yaşamaktayız. Zira dijital ve enformasyon teknolojilerin hayata dahil olduğu süreçte postmodern yaşam biçimleri, muğlak, belirsiz, izafi yaklaşımlar ve görüşlerin kendilerine yer bulması daha da kolaylaşmıştır. Yaşantı dünyasındaki iyi-kötü, doğru-yanlış, fayda-vicdan gerçekliklerinin birbirine karışması dijital, sanal ve enformasyon düzleminde daha da üstel bir hâle gelmiştir. Oysa ahlâk, insanı insan yapan ve insanın kendi varlığına yönelik en derin ve özlü varoluştur.
Descartes insanı sadece bedenî veya maddi bir varlık olarak düşünmeyip insanın ruhî planını ihmal etmemişti. Yeniçağ’ın fizik-matematik eksenli dünyası makine dünyasını doğurmuştu. La-mettrie’ye “Makine-İnsan” adlı eserini yazdıran bir ortam doğdu. Sanayileşme-makineleşme çağı olan 19. yüzyılda insan için “homo-ekonomikus”, “homo-makinus” gibi sıfatlar kullanılmıştır. Tüm bu süreçler, insanın hem kendine (ruha) hem de maddeye (bedene) dair arayışının bir sonucuydu. İnsanın kendine dair olan kadim sorgusu, insanın elleriyle inşa ettiği yeni bir aracın (yapay zekânın) eşiğinde yeniden yankılanıyor. Bu yankılanma neticesinde insana “homo-robotikus, homo-sibernetikus, homo-dijitus” gibi sıfatlar verilmiştir.
İnsanlık daha önceki buluşlarından çok farklı bir buluşu gerçekleştirdi. Zira daha önce “düşünen bir varlık” inşa etmemişti. İnsanlık, robotları kullanıyordu fakat onlara “zihinsel” işlevleri yüklememişti. Adeta ilk defa zeki bir varlıkla yaşayan insanlık, insanın bedensel ve ruhi varoluş gerçekliğini değiştirecek bir eşikte duruyor. Zira yalnızca teknik bir buluş olmayan yapay zekâ, insanın ahlâki ve varoluşsal sorularını makinelere yönelttiği yeni bir eşiği temsil eden bir teknolojidir. Felsefi tartışmalar, “makine ahlâkı” ya da “yapay ahlâki etkenler” kavramları etrafında dönmeye başladı. Turing’in
Bu sorunun yerini artık yerini “makine/ler ahlâki bir karar verebilir mi?” sorusu almış durumda. Böyle bir soru, yapay zekânın sadece araç olarak kullanımı sorununu değil hukuki ve ahlâki boyutunun da mevzu edilmesini gerekli kılıyor.
Siyaset etiği, bilim etiği, çevre etiği gibi alanlara yeni bir etik alanı dahil oldu. Yalnızca algoritmaların teknik güvenliğini, hesaplanabilirliğini ve denetlenebilirliğini konu edinmeyen yapay zekâ etiği yapay zekânın insanla ilişkili olarak mahremiyet, irade özgürlüğü, sorumluluk konularını ele alır. Artık mesele, makinelerin düşünüp düşünmediği tartışması hatta ne kadar zeki oldukları olmayıp zekâ ile vicdan arasındaki uçurumun ne kadar derinleştiğidir. Zira bu tartışmanın kökleri Yeniçağ’da yatmaktadır. Klasik düşüncedeki ruh, hem tanrısal hem manevi olandan koparılarak salt olarak beynin bir işlevi olan zihin sürecine indirgenmiştir. Zihinsel işlevlerin, biyolojik (tıp) ve elektriksel (mühendislik) işi olup olmadığı tartışmaları insan zihni ile makine (yapay zekâlı sistemlerle) eşleşmesi, yapay zekâ ile sentetik biyolojinin birleşmesi tartışmalarını meydana getirmiştir. Yapay zekânın hesaplama hızı, veri merkezli yapısı ile DNA’nın çözümlenmesi ve düzenlenmesini içeren sentetik biyolojinin kesişmesi insanlık hayatında radikal süreci doğuracak görünüyor.
Zira sentetik biyoloji ile yapay zekâ teknolojilerinin sağlıklı ve güvenli biçimde ilerlemesi için böylesi bir sorumluluğa ihtiyaç var. Yapay zekânın tasarımı ve uygulanması süreçleri gittikçe karmaşıklaşması kontrolü, denetimi ve düzenlenmesini zorlaştıracak görünüyor. YZ ile sentetik biyolojinin kesişmesi, gelecekte büyük riskleri doğurabilir. Bu risklerin giderilmesi sadece bu alanı çalışan uzmanların giderebileceği sorunlar olmayıp BM gibi kurumların ve devletlerin kontrolünde ilerlemesiyle mümkündür. Uluslararası kurallar geliştirmek, bu çalışmaların risklerini azaltıp güvenliği artıracak önemli adımlar olabilir.
Yapay zekâya dair etik tartışmaların merkezinde, iki farklı düzlem olan “yapay zekânın etiği” ve “etik yapay zekâ” tartışmaları vardır. İlk tartışma algoritmaların nasıl düzenleneceği ve hangi ilkelere dayanacağı tartışmasıdır. Diğer tartışma ise, bizzat bu sistemlerin etik davranıp davranamayacağı meselesidir. Yani yapay zekâdan ahlâklı yaklaşımlar veya kararlar sergilemesini beklemeliyiz tartışması. Haliyle bu tartışmalar, bilinç sahibi olmadığı için yapay zekâlarla ilgili bir tartışma olmayıp insanlarla ilişkili tartışmalardır. Çünkü ahlâki ve vicdani yapısı olan yapay zekâ değil insandır. Ayrıca kodları yazan da, onları yorumlayan da hâlâ insandır. İnsanın düşüncesinin ve dilin sindiği bu makineler, insan gölgesinden kurtulabilmiş değildir, biçimsel olarak insanımsı gibi olabilir ama insan gibi değildir. İnsana dair asli hasletleri edinmesi de çok mümkün görünmüyor.
Yapay zekâ projesi, mevcut yapay zekâ tasarımcılarının da makineler düşünebilir mi? tartışmasını ortaya atan Turing’in aklına gelen proje değil. Zira yapay zekâ çalışmalarının kökeninde eski bir felsefi arzu olan düşünmeyi otomatikleştirme arzusu var. Bu arzunun temelinde mitolojideki Talos, yapay kadın Pandora ve robotik varlıkların tasarımcısı demirciler tanrısı Hephaistos’un hikâyeleri hatta Tepegöz anlatıları yok demek çok mümkün değil. Aristoteles’in akıl yürütme biçimlerinden Hobbes’un muhakeme-hesaplama analojisine, Descartes’ın mekanik zihin anlayışından Leibniz’in evrensel hesaplama fikrine kadar uzanan bu hat, insanın düşünceyi maddeleştirme düşünün bir tezahürüdür. Turing testinde bir makinenin insana benzemesi yeterliydi; bugün ise makinenin insanın yerine geçmesi tartışılıyor. Zira sadece yapay zekâ ile eşleşen robotik varlıklar değil, yapay zekâ ile eşleşen insan (tekillik teknolojisi) gerçekliği ile karşı karşıyayız.
Tekillik tartışmaları, etik alanı da aşan, sorunu epistemolojik süreçten ontolojik bir sürece dönüştürecek tartışmalardır. Eğer bir gün yapay zekâ kendi bilincine ulaşırsa, o bilincin ahlâki yükümlülüğü olacak mıdır? Bunun zor olduğunu bilen Ray Kurzweil, Elon Musk ve Sam Altman gibi bilimciler, bu sorunu teknolojik tekillik kavramıyla aşmak istemişlerdir. Ray Kurzweil’in tekillik teknolojisine dair olan 2045 öngörüsü, sadece teknolojik bir kehanet değil, insanın Tanrısal arzularıyla kendi sonunu yazma ihtimalinin de simgesidir aslında. Böylesi sert bir geçiş, yalnızca teknolojik kopuşu veya devrimsel bir süreci değil, aynı zamanda ahlâki bir devrimi veya kopuşu da meydana getirecek görünüyor.
Yapay zekâ çağında insanlığın karşı karşıya kaldığı sorunlar, yalnızca teorik olmayıp yaşamsal ve gündelik karakterdedir. Makine öğrenimiyle karar veren sistemler, kendi iç işleyişlerini çoğu zaman insanın kavrayışının ötesinde sürdürür. Bundan dolayı denetimi zorlaştırıcı bir riske de sahiptir. Bu sistemlerde kararların nasıl verildiği bilinemez hâle gelip şeffaflığın kaybolmasına yol açabilir. Yapay zekâ çalışmalarında “Tasarım Yoluyla Etik” yaklaşımı, etiğe sonradan eklenen bir parça değil, yazılımın ruhuna işlenmiş bir ilke olması gerektiği için kritik öneme sahiptir ancak yapay zekânın tek başına “etik bilinç” geliştirmesi şimdilik çok mümkün görünmüyor.
Algoritmik yapılar aynı zamanda kara kutudur. Âdeta kara kutu olan yapay zekâ, gerekçesizce yanıt veren ve iç işleyişi bilinmeyen algoritmik bir yapıdır. Bu yapıda girdilerin nasıl işlendiğini ve sonuçların nasıl üretildiğini anlamak oldukça zordur. Âdeta “kara kutu”yu andıran yapay zekâ, sadece teknik bir giz olmayıp aynı zamanda ruhi, manevi ve ahlâka dair olanlara karşı bir karanlıktır. Zira şeffaflığı örten bir yapıya sahip olan yapay zekâ, şeffaflığın kaybolmasına neden olarak hesap verebilirliği, adalet anlayışını ve sorumluluk duygusu unsurlarını bulanıklaştırır. “Genesis: Artificial Intelligence, Hope, and the Human Spirit” kitabında Kissinger, kararlarını nasıl aldığı bilinmeyen ve kararlarını açıklayamayan sistemlerin demokrasinin sessiz yıkıcıları hâline gelebileceğini iddia eder.
Böylesi bir dünya gittikçe kalpsizleşen bir dünya hâline gelebilir. Zira veriyle beslenen algoritmalar, önyargının da taşıyıcısıdır. Eğer veri dünyası, merhametsiz ve adaletsizse, algoritma da bu merhametsizliği ve adaletsizliği soğukkanlı biçimde yeniden üretir. Sadece insanın zekâsını taklit eden (şimdilik insanın vicdani, manevi ve ahlâki yönlerini taklit edemeyen) yapay zekâ sistemleri sadece insan zekâsını değil, insanın kör noktalarını da taklit eden bir yapıdır. İnsan zihninin taklidi olan yapay zekâ; “eurosantrik, etnosantrik, eril, agnostik” yapıya sahip Batılı düşünme biçimine sahip olduğu için “ötekileştirici” bir karaktere sahiptir. Batılı düşünme biçimlerinin başka milletlere karşı yapmış olduğu “ırk, cinsiyet, sınıf ya da inanç” temelli ayrımlar, makine yani algoritmik dille yeniden kodlanarak daha etkili ve yıkıcı hâle gelmektedir. Batılı düşünme ve uygulama biçimlerinin (sömürgecilik, köleleştirme veya kapitalizm) eski hataları, algoritmalar üzerinden yeni biçimlerde dolaşıma girmesi söz konusudur.
“Gizlilik, gözetim, denetim-kontrol ve mahremiyet” gibi meselelerin etik tartışmaların merkezine yerleştiği dijital çağda akıllı cihazların sadece çevreyi belirlediğini zannetmek hatadır. Zira insanın yaşam biçimlerini ve iç dünyamızı da haritalandıran akıllı sistemlerin dünyasında yaşamaktayız. Aslında insan, farkında olmadan kendi zihninin şifresini algoritmalara teslim etmektedir. Çin’deki sosyal kredi sistemleri (sertifikalar) ya da yüz tanıma teknolojileri, bir gözetim çağının soğuk nabzını tutuyor. Bentham’ın ve Foucault’un mekânsal panoptikonu dijital panoptikonlara dönmüş durumda. Harari’nin dediği gibi, “bilinçsiz ama zekî” sistemler, kişiyi kişiden daha iyi tanımaya başladığında, özgürlüğün, mahremiyetin, iradenin ve sorumluluğun yeniden tanımlanması gerekecek. Böylesi bir süreçte hem insan hem de insana ait hasletler yeniden tanımlanmak zorunda görünüyor.
Özerklik, özgür irade ve sorumluluk vb. tartışmalar içinde yaşadığımız dijital-sibernetik çağın etik sorunlarını ve çatışkılarını her geçen gün derinleştirmektedir. Yapay zekâlı sistemleri “kim kontrol ediyor?” veya ondan “kimin sorumlu?” olduğu soruları, insanın kendi yaratımıyla yani üretimiyle hesaplaşmasının en somut göstergesidir. Avrupa Komisyonu’nun “Güvenilir Yapay Zekâ” ilkeleri, ancak etik tasarımın özüne yerleştiğinde bildirilerin ötesine geçerek somut bir gerçekliğe dönüşebilir. Akıllı araçlar, otonom silahlar, sorumluluğu belirsizleştirirken, hukuk sistemleri dahi bu yeni varlık biçimlerine veya oluşlarına karşı nasıl yaklaşacaklarını bilememektedir. Yapay zekâya “elektronik kişilik” kazandırmayı öneren
Bu öneri ve yaklaşımıyla Avrupa Parlamentosu, içinde bulunduğu çaresizliğin bir göstergesi olmuştur.
Yalnızca insanın ve düşünmenin değil emeğin de yeniden tanımlanmasına neden olan yapay zekâ, insan istihdamını gereksiz hâle getirebilir. İnsan emeğinin yerini algoritmalar aldıkça, sadece işsizlik ve gelir kaybına yol açmayacak, aynı zamanda insanın ve yaşamın anlamını yitirmesi söz konusu olacak görünüyor. İnsanın yaptığı işi makineye devrettiği bir çağda etik, artık sadece felsefi bir tartışma değil, varoluşsal bir hayatta kalma meselesi hâline gelmiştir. Zira makine; hesap yapabilir, denetleyebilir, ölçebilir, karar verebilir vs. işlemler yapabilir ama vicdan taşıyamaz. Vicdan, insanın kendi kırılganlığını bilmesinden doğan bir haslettir, makinenin ise böylesi kırılganlık içinde bulunma ihtimali yoktur. Bu yüzden, ahlâki ve vicdani sorumluluk, hâlâ insanın omzundadır, yani insanın yüklenmesi gereken emanettir.
Duygusal zekâ veya yapay zekâ denemelerinin yapay zekâyı daha insani kılacağı iddiaları, yalnızca bir yanılsamadır. Çünkü duygunun kökeni, bilinçte değil, varoluşun acısında saklıdır. Hawking’in uyarısıyla, kontrolsüz bir zekâ, insanlığın sonunu getirmezse bile, insanın ve hayatın anlamını değiştirebilir. Yapay zekânın aktifleştirildiği, insanın pasifleştirildiği dünyada “kalpsiz bir algoritma” ya da “kalpsiz bir zihin (yapay zekâ)” biçiminde yeniden anlam verilmeye çalışılan, âdeta yeniden canlandırılan bir dünya amacı söz konusudur. Böylesi bir canlandırma insan ruhunu daha da öteleme anlamına gelir. Zira yapay zekâ, insanın düşünme yetisini taklit eder ama merhameti, sezgiyi, vicdanı taklit edemeyecek teknolojik bir sistemdir. Marx’ın “kalpsiz dünya”sı nasıl ki kendi döneminin insanın yabancılaşmış kişiliğini ve emeğini temsil ediyorsa, günümüzde de yapay zekâ, benzer biçimde insanın yabancılaşmış zekâsını ve düşünmesini temsil etmektedir.
Yani “kalpsiz bir dünyadan kalpsiz bir algoritmaya” geçildiği süreçte, insanlığın “duygusuz” üretim düzeninden “duygusuz” dijital-sibernetik bir düzene doğru evrildiği bir sürece tanıklık ediyoruz. Emeğin yerini verinin, kalbin yerini kodun, vicdanın yerini algoritmaların aldığı bir çağın yani Çinlilerin bedduasına (tuhaf zamanlarda yaşayasın) rast geldik. Bugün geldiğimiz noktada, yapay zekâ ne tamamen dost ne de düşmandır. İnsanın birikiminin ve hafızasının bir neticesidir. Onu, insandan gayri üretim olarak düşünmek hata olur. İnsanın kendi ahlâk aynasında gördüğü yeni bir yansımadır. Zira her algoritma bir niyet taşırken her kod ise bir değer üretir. Yapay zekânın işleyiş biçimi hatta (varsa) etik yapısı, onu tasarlayan insanın düşünüşüne, dünya tasavvuruna, kişisel öyküsüne hatta kalp atışına bağlıdır. Kalpsiz bir dünyanın ürünü olan algoritmalar, dünyayı da insanı da kalpsiz bırakmaya teşnedir. Ve belki de asıl mesele, makinenin etik olup olmayışı değil; insanın, kendi yarattığı makineye rağmen etik kalıp kalamayacağıdır.
Dipnotlar:
[1] Prof. Dr. Ahmet Dağ, Uludağ Üniv. İlahiyat Fak. Felsefe Tarihi Böl.
İlgili Yazılar
Düşünmeyi Erdeme Kavuşturmak Üzerine Bazı Uslamlamalar
Düşünceler, insanın yalıtılmış bir hal ve soyutlukla beraber edindiği kazanımlarmış gibi görünmektedir. Düşünen kişinin ise öylece durduğu ve düşünmekten öte bir adım atamadığı söylenmektedir. Aslında haksız değiller. Düşünme fiilinin kendisindeki o düşüş tonlaması hep bir insanın kendi içinde olan bir hali resmetmektedir.
Filistin Cephesinde Değişen Bir Şey Yok: İhanet, Drama, Cinayet, Kehanet ve Kıyamet
Yahudi Siyonizmi: Siyonizm, bedeni doğu, aklı batı, ruhu araf, kalbi sarı. Siyonizm, geçmişi Avrupa, bugünü Gazze, yarını Fırat. Siyonizm, dünü altın buzağı, şimdisi kızıl düve, sonrası kurban. Siyonizm, okuduğu Tevrat, anladığı Kâbil, anlamadığı 10 Emir. Siyonizm, adı Kudüs, sanı hırsız, cismi katil. Siyonizm, tutunduğu dünya, istikameti Gog ve Magog, menzilinde altın çağ. Siyonizm, Tanrı’yı ırkçı zanneden ve O’na sürekli şımaran.
Raskolnikov, Ahlâk, Adalet ve Günümüz: Suçun Vicdani Anatomisi
Nitekim bu sapkın düşünce onu, kendisinin de borcu olduğu yaşlı bir tefeci kadını ve cinayeti gören yardımcı komşu kadını öldürmeye yöneltmiş, kendinden sonra gelecek bütün edebiyat tarihine indirilmiş haldeki baltasıyla bir cinayet işlemiş, ancak cinayeti işledikten sonra, her ne kadar kendisini bir Napolyon gibi görmeye çalışmışsa da vicdanı bu role itiraz etmiş, evvela işlemiş olduğu suçun cenderesinde dönmeye başlayıp vicdanıyla baş başa kaldığı her dakika boyunca da dayanılmaz bir gerilimin ortasında kalmıştır.
Hayatın Merkezine Oturan Kaygı: Ekonomik Kaygılı İnsan Çağı
Daha önce toplumsal ilişkilerce belirlenen insan modeli, toplumsal ilişkilerin belirlediği, ahlakın belirlediği, dinin belirlediği ya da daha çok böyle pagan toplumlarında da olsa oradaki kabilevi töre ilişkilerinin belirlediği insan modeli Sanayi Devrimi ve hemen sonrasında 19. yüzyılda ise bu defa daha iktisadi içerikle tanınmaya başlanıyor. Burada şöyle bir tartışma ortaya çıkıyor: Acaba insan doğasını nasıl tanımlayabiliriz, bir insan doğası var mı, bu insan doğası gerçekten hani toplumsal ilişkiler tarafından mı belirleniyor yoksa ekonominin merkezde olduğu ve ekonominin diğer tüm toplumsal ilişkileri belirlediği bir insan doğası mı, bu insanı nasıl tanımlayabiliriz?