Teknolojinin yararlı mı yoksa zararlı mı olduğuna dair tartışmalar genellikle teknolojinin araçsal niteliği üzerinde bir uzlaşı ile sonlanır.
Taraflar haksız da değildir.
Nihayetinde teknolojik bir icat ya da ürün, onu faydalı şeyler için kullanırsanız iyi; kötü şeyler için kullanırsanız kötüdür.
Ateşin ya da tekerleğin bulunmasından bu yana aslında bu böyledir.
Müşterisinin soğuktan korunması için kışlık elbise diken terzinin elindeki makas iyi bir işe yaradığı için iyi, terzi onu müşterisinin sırtına sapladığında kötü bir işte kullanıldığı için kötüdür. Radyasyon atom bombasında kötü, kanser tedavisi için radyasyon onkolojisinde iyidir.
Ateşin ya da tekerleğin icadından bu yana değişmeyen bir başka gerçek daha vardır. Hangi teknolojik icat ya da ilerlemeyi alırsanız alın, bunun mutlaka birilerince kötü amaçlı kullanıldığını görürüz. Diğer bir deyişle kötüye kullanılmayan teknoloji yoktur.
Fakat ben bugün “iyi ve kötü yapay zekâ” konusuna biraz daha metafizik bir açıdan ve üç “model karakter” üzerinden yaklaşmak istiyorum; melek, şeytan ve firavun.
İnancımızın temelini oluşturan ayet ve hadisler bu üç “model karakter” hakkında bize bilgi verir.
Örneğin, Diyanet Vakfı Ansiklopedisi’nde aktarıldığı üzere melekler yiyip içmezler; görevleri icabı iri cüsseli, güçlü olabilirler ve bu güçlerini temsil eden kanatlara sahip bulunurlar. Ayrıca, insanların söz ve davranışlarını kaydeden “yazıcı melekler” yanında, “takipçiler”, “gözetleyiciler” ve “koruyucular” olarak adlandırılan melekler de mevcuttur.
Yapay zekâ ve yapay zekâ destekli robotlar da yiyip içmiyor; o yüzden mesela “karanlık fabrikalar” var. Karanlık fabrikalarda otomasyon ve robotik teknolojiler kullanılıyor. Üretimi robotlar yapıyor; dolayısıyla insanların ihtiyaç duyduğu aydınlatma, ısıtma ve soğutmaya gerek duyulmuyor.
Yapay zekânın kanatları olmasa da kanatları olan araçlara monte edilip onları daha iyi işler ve güvenli hâle getiriyor. Bulut teknolojileri ve büyük veri “yazılanları” kayıt altına almaya ve alınanları muhafaza etmeye yarıyor.
Sensörler, kameralar, kol saatleri hava durumundan trafik ve tansiyona kadar neredeyse her şeyi takip edip gözetliyor; bir afet ya da kalp krizinden sizi korumaya yardımcı oluyorlar.
Yapay zekâyı üreten ve kullananların “sorumlu” ya da “etik” yapay zekâ için “model karakter” olarak melekleri örnek almaları beklenir.
Malum, meleklerin temel niteliği kötülük yapma özelliklerinin olmaması. Fakat bu, bizim evrenimizde mümkün olmayan bir şey. Bizim evrenimizde iyilik ve kötülük superpoze durumda, yani her ikisi de aynı anda ve aynı yerde.
Şeytan, insan türüne düşmanlık ederek onları çeşitli hilelerle aldatır ve doğru yoldan çıkarmaya çalışır. İblis adı verilen şeytanların ilkinin en büyük özelliği ise kibirdir. Bilindiği üzere İblis topraktan yaratılan Hz. Âdem’e ateşten yaratıldığını ileri sürerek secde etmemiştir.
Şeytan, İblis olarak kibri temsil ettiği gibi, -almış olduğu tanrısal izinle kıyamete kadar insanoğluna- yanlışı doğru göstermenin ve insanları doğru yoldan saptırmanın da sembolüdür.
Bu çerçevede şeytana yakınlaşan yapay zekâ; insanları kötülük yapmaya teşvik eden, insanı doğru yoldan saptıran bir teknolojiye işaret eder.
Fakat yapay zekâyı ütopik bir geleceğin inşasında ana unsur olarak gören özellikle üretici bir grubun daha çok İblis’i model karakter olarak gördüğünü düşünmüşümdür. Bu grup için yapay zekâ, düşünme ve hesaplama gibi kapasiteleri kısıtlı insanoğluna karşı “İblisvari” (diyabolik) bir kibir aracıdır.
Yine de en kötü “model karakter” firavun olsa gerek.
Yaklaşık 4 bin 400 yıl öncesinden gelse ve esasen Mısır krallık sarayında oturanları ifade etse de firavun aslında insanoğlunun kötülük ve yanlışta İblis’in/şeytanın bile önüne geçmesini sembolize eder.
Eski Mısır inancında firavun tanrıdır!
Evet, meleklerin kötülük yapma yetenekleri yoktur ve bu yüzden iyi-kötü arasında tercih sadece cin ve insanlara verilmiştir. Fakat insan kötülükte (tercihini yine kötülükten yana kullanan bir cin olan) şeytanın ilerisine geçmiştir; insan, tanrılık iddiasında bulunmuştur!
“Teknolojik tekillik” (singularity) hedefi peşindeki yapay zekâcıları firavunu model karakter almış yapay zekâcılar olarak görüyorum. Onlar ‘tanrı’yı oynuyorlar.
Yapay zekâ alanındaki teknolojik gelişmelerin her gün artacağını, beyin-bilgisayar arayüzleriyle insan beyninin yapay zekâya bağlanacağını, yapay zekâ ve insanın birleşerek tekilleştiği post-hümanist bir anda hem insanın hem de medeniyetin kökten değişeceğini ileri sürüyorlar.
Hedefleri 2045. Onlara göre insan-makine bütünleşmesinin mümkün olacağı bu tarihte insan ömrü uzayacak hatta ölümsüzlük elde edilecek.
Teknolojik tekilliği savunanlara atfedilen şu söz gayet açıklayıcı olsa gerek: “Tanrı insanoğlunda malzemeden çaldı, biz daha iyisini yapacağız.”
Sanırım firavunu model karakter almış bir yapay zekâyı bu cümleden daha iyi hiçbir şey özetleyemez. Haksız mıyım?