Geçen haftaki yazımızda ‘Yaşamın Geleceği Enstitüsü’nden ve bu enstitünün 2023 yılı başlarında yayınladığı bir mektuptan bahsetmiştim.
Hatırlarsanız mektup, yapay zekânın ulaşmış olduğu ilerlemeden dolayı dünyanın varoluşsal bir tehdit altında olduğunu iddia ediyor, bu yüzden de büyük yapay zekâ deneylerinin altı aylığına durdurulmasını talep ediyordu.
Malum olduğu üzere, mektuba rağmen dünyada yapay zekâ çalışmalarına değil altı ay, altı dakika bile ara verilmedi.
Bunu, mektubun ana fikrini oluşturan ‘yapay zekânın varoluşsal risk yaratacak kadar geliştiği’ iddiasının karşılık bulmamasına bağlamıştık.
Fakat yazıyı, “bir oh çekip, ‘yapay zekâ insanlığı yok edecek bir tehdit oluşturmuyormuş’ diyecek durumda değiliz, mektubu başka açıdan tartışmamız gerek.” şeklinde sonlandırmıştık.
En sonda söyleyeceğimizi en başta söylemek gerekirse; yapay zekâyla ilgili gerçek sorun bu içerikteki bir mektubun yayınlanması ve yapay zekâya yön veren pek çok ismin bunun altına imza atması.
Hepimiz biliyoruz ki günümüzün yapay zekâsı, ağırlıklı olarak büyük teknoloji şirketlerinin üssü hâline gelen Amerika’daki Silikon Vadisi’nde üretiliyor.
Aslında enstitünün yayınladığı mektup Silikon Vadisi’nde kümelenmiş dolar zengini yapay zekâ girişimcileri, yatırımcıları, teknoloji uzmanları ve şirket sahiplerinin büyük bir kesimine hâkim olan söylemi yansıtıyor.
Bakmayın siz “Büyük tehlike altındayız.” demelerine; bu beyefendilerin (sanırım kahir ekseriyeti erkek olduğu için böyle hitap etmekte bir sorun yok) neredeyse tamamı, gördüğümüz her şeyden daha zeki bir ‘süper yapay zekâ’ geliştirme peşinde.
Hâlbuki standart mühendislik ilkeleri açısından, önü arkası tam olarak tanımlanmamış yapay zekâ sistemlerini güvenli bir şekilde inşa ve kontrol etmek mümkün değil; her ne kadar sözde tüm insanlığın hayrına olacak, güvenli ve sorumlu bir sistem için çalışıldığı söylense de…
O hâlde neden bu kadar insan böyle bir hedefin peşinde koşuyor? Neden kurulup kurulamayacağı, çok daha önemlisi, kurulması gerekip gerekmediği ciddi bir şekilde sorgulanmadan süper yapay zekâ sistemi kurmak için milyarlarca dolar harcanıyor?
Bazıları bu soruların cevaplarını Silikon Vadisi ileri gelenlerinin pek çoğunu motive eden ideolojilerde aramak gerektiğini söylüyor.
Onlara göre yapay zekâya yön verenlerin zihniyetini anlamak, bunun için neden milyarlarca dolar akıtıldığını ve mektubun neden yazıldığını anlamanın ayrılmaz bir parçası.
Silikon Vadisi teknoloji milyarderlerinin zihnini esas olarak iki düşünce şekillendiriyor.
Bunlardan birincisi, bildiğimiz insanın ötesine geçen, onu aşan, ondan daha üstün bedensel ve zihinsel özelliklere sahip bir post-insana ulaşma isteği; yani kısaca transhümanizm. İkincisi ise üstün teknolojinin evrenin her yerini kapladığı bir gelecek hayali…
Teknoloji milyarderleri için süper bir yapay zekâ inşa etmek, insanı yeniden yapılandırmanın, kesintisiz bir sağlığa hatta ölümsüzlüğe sahip olmanın, yıldızlara yayılmanın ve trilyonlarca insanla dolu bir evrende ‘insan sonrası’ yeni bir medeniyet yaratmanın en basit yolu.
İnsan tasavvuru açısından bakıldığında, bugün süper yapay zekâ inşa etmeye çalışanların fikirleri 19. yüzyıl öjeni hareketi içinde yer alanların fikirleriyle neredeyse birebir örtüşüyor.
En basit anlatımıyla öjeni, insan ırkının ıslah edilmesi düşüncesini savunuyor.
Post-insan yaratmaya çalışan günümüz öjeniklerinin eli eskilerinkinden daha güçlü. Onlar gibi, ‘akıllı’ evlilikler yoluyla birkaç nesilde gerçekleşecek bir süreci beklemelerine gerek kalmadı. Yapay zekâ destekli gen teknolojisi sayesinde tek bir nesilde hedefe ulaşmanın hayalini kurabiliyorlar.
Sanırım bu, 2020 Nobel Kimya ve 2024 Nobel Tıp ödüllerinin neden gen düzenleme yöntemi geliştiren bilim insanlarına, 2024 Nobel Fizik ödülü ile 2024 Nobel Kimya ödüllerinin de neden yapay zekâ çalışması yapanlara verildiğini daha iyi açıklıyor.
‘Modern bilim efendileri’, açıkça, genleri seçerek sadece tek bir nesilde çocukları dizayn etme potansiyeli taşıyan bilimsel çalışmaları ödüllendiriyorlar.
Gelecek tasavvuru açısından bakıldığında Silikon Vadisi milyarderleri, ister süper yapay zekâyı inşa ederek isterse insan-makine birleşimini sağlayarak ulaştıkları post-insan aracılığıyla gelecekte evreni dönüştürmeyi hedefliyorlar. O yüzden kafayı mevcut insanlara değil, muhayyel bir zamanda ortaya çıkacaklarına inandıkları gelecek insanlara takmış durumdalar.
Gördüğünüz gibi, klasik Amerikan bilim kurgu romanları okuyarak büyüyen ve ceplerindeki yarım trilyon doları bunun için harcayan teknolojik seçkinler sınıfının hayallerinin sınırı yok.
Mektup, süper yapay zekâya doğru ilerledikçe tüm planların geri tepmesi ihtimaliyle yazılmış gibi duruyor. Yani bir tür, “süper yapay zekâ aslında yaratıcılarına sırt çevirebilir, insanlığı ve beklediğimiz hayali geleceği yok edebilir mi” kaygısı. Fikirler gerçekçi değil, uçuk-kaçık olunca kaygılar da gerçekçi ve inanılır olmuyor.
Yapay zekânın esas sorunu, sektörde bu fikirlere sahip insanların hâkim olması ve milyarlarca doları bir yapay zekâ yutturmacasına yönlendirmesi.
Yapay zekânın günlük hayatımızda yanı başımızdaki gerçek risk ve zararları ikinci planda kalıyor.
Yapay zekânın yol açtığı emek sömürüsü, veri hırsızlıkları, sentetik/sahte bilgi ve görsellerle dolu yeni bir medyayı ortaya çıkarması gibi konular beyefendilerin felaket tellallığına kurban ediliyor.
Unutmayın, süper yapay zekâ peşinde koşan OpenAI, Kenyalı emekçilere saatte 2 dolardan daha az ödeme yapıyor.