Yapay zekâ artık yalnızca teknolojinin geleceğiyle ilgili bir tartışma değil. “Yapay zekâ insanlığı ele geçirebilir mi?”, “Kontrolü kaybedebilir miyiz?”, “Hatta insanlığın sonunu getirebilir mi?” soruları giderek daha fazla gündeme geliyor. Son günlerde teknoloji dünyasından gelen açıklamalar da bu tartışmayı yeniden alevlendirdi. Anthropic’ten ayrılan araştırmacı Jacob Coxon, yapay zekâ alanında çalışan insanların teknolojinin ilerleme hızından ciddi biçimde endişe duyduğunu söylerken, şirketin CEO’su Dario Amodei de yapay zekâ geliştirme hızının yavaşlatılması gerektiğini savundu. Amodei, güvenlik önlemlerinin teknolojiyle aynı hızda ilerlemesi için şirketlere ve hükümetlere zaman tanınması gerektiğini belirtti.
Tehlikeyi Anlatanlar, Teknolojiyi de Geliştiriyor
Burada benim açımdan asıl dikkat çekici nokta başka. Yapay zekânın oluşturabileceği büyük riskleri anlatanların önemli bir bölümü, aynı zamanda bu teknolojiyi geliştiren şirketlerin yöneticileri ve araştırmacıları... Bir başka ifadeyle, “Bu teknoloji çok tehlikeli olabilir” diyenlerle, daha güçlü yapay zekâ modellerini geliştirmek için milyarlarca dolarlık yatırımlar yapanlar büyük ölçüde aynı ekosistemin içerisinde. Bu durum elbette yapılan her güvenlik uyarısının samimiyetsiz olduğu anlamına gelmiyor. Gerçekten endişe duyan bilim insanları ve yöneticiler olabilir. Ancak ortada ciddi bir çelişki olduğu da açık: Bir taraftan yapay zekânın kontrol edilmesi gerektiği söyleniyor, diğer taraftan daha güçlü sistemler geliştirme yarışı devam ediyor.
Peki, Bu Korku Kimin İşine Yarıyor?
İşte burada tekelleşme meselesi ortaya çıkıyor. Yapay zekâ geliştirmek artık sadece iyi bir yazılımcıya sahip olmakla mümkün değil. Devasa veri merkezleri, çok güçlü çipler, büyük miktarda veri, yüksek hesaplama gücü ve milyarlarca dolarlık sermaye gerekiyor. Dolayısıyla “çok güçlü yapay zekâ tehlikelidir” diyerek bu alana ağır sınırlamalar getirilmesi, teorik olarak güvenliği artırabilir; ancak yanlış tasarlanan düzenlemeler aynı zamanda küçük şirketlerin ve bağımsız araştırmacıların yarışa girmesini de zorlaştırabilir. Böyle bir durumda teknolojiyi geliştirebilecek kaynaklara zaten sahip olan birkaç büyük şirketin ağırlığı daha da artabilir.
Buradan “Şirketler bütün bu korkuları sadece tekel oluşturmak için yayıyor” şeklinde kesin bir sonuç çıkarmak doğru olmaz. Bunun böyle olduğunu gösteren tek ve kesin bir kanıt bulunmadığı sürece bunu iddia olarak ortaya koymak gerekir. Fakat ortaya çıkabilecek sonuç açısından bu ihtimali tartışmak zorundayız. Çünkü yapay zekâ alanında güç; yalnızca algoritmayı geliştirenin değil, veriyi, çipi, hesaplama altyapısını ve dağıtım kanallarını kontrol edenin elinde toplanıyor. Teknolojinin güvenlik gerekçesiyle daha az sayıda aktörün kontrolüne girmesi, istemeden de olsa yeni bir teknoloji tekeli yaratabilir.
Yapay Zekâ Aynı Zamanda Bir Güç Yarışı
Üstelik mesele yalnızca şirketler arasında yaşanmıyor. Yapay zekâ artık ülkelerin ekonomik, askeri ve stratejik gücüyle de doğrudan bağlantılı. ABD ile Çin arasındaki teknoloji rekabeti bunun en açık örneklerinden biri. Anthropic de daha önce yapay zekâda Amerikan liderliği, çipler, veri merkezleri ve Çin'le rekabet konularını açık biçimde gündeme getirmişti.
Dolayısıyla bugün bir yandan “Yapay zekâ çok tehlikeli, daha dikkatli ilerlemeliyiz” denilirken, diğer yandan ülkeler ve şirketler bu yarışta geride kalmamak için yatırımlarını sürdürüyor. Bu bana göre yapay zekâ tartışmasının en önemli çelişkilerinden biri. Çünkü ortada yalnızca insanlığı tehdit edebilecek bir teknoloji yok; aynı zamanda ekonomik ve stratejik üstünlük sağlayabilecek son derece güçlü bir teknoloji var. Böyle bir güç söz konusu olduğunda, kimin geride kalacağı kadar kimin kontrolü elinde tutacağı da önem kazanıyor.
Asıl Korkmamız Gereken Şey Ne?
Yapay zekânın bir gün kendi başına karar verip insanlığı ortadan kaldıracağı senaryosu bugün için kesinleşmiş bir gerçek değil. Bunlar geleceğe ilişkin risk senaryoları. Fakat bu ihtimallerin yapay zekâ şirketlerinin içerisinden gelen araştırmacılar ve yöneticiler tarafından ciddi biçimde tartışılması da göz ardı edilmemeli. Üstelik risk yalnızca “yapay zekâ bilinç kazanacak mı?” sorusundan ibaret değil. Yapay zekânın siber saldırılarda, gözetimde, dezenformasyonda, silah geliştirmede veya kritik altyapılarda kötüye kullanılması gibi daha somut riskler de bulunuyor. Anthropic’in kendi yayımladığı araştırmalarda bile modellerin bazı istihbarat ve silah geliştirme görevlerinde kullanılabilecek yeteneklere ulaştığı belirtiliyor.
Bu nedenle benim açımdan asıl soru “Yapay zekâ insanlığın sonunu getirecek mi?” sorusundan biraz daha farklı. Asıl soru şu: Yapay zekânın kontrolü kimin elinde olacak? Eğer geleceğin en güçlü teknolojilerinden biri birkaç şirketin, birkaç ülkenin veya birkaç teknoloji grubunun kontrolünde toplanırsa, karşımıza yalnızca bir yapay zekâ problemi değil, aynı zamanda bir güç ve tekelleşme problemi çıkabilir. Yapay zekânın insanlığı ele geçirip geçirmeyeceğini bugün kesin olarak bilmiyoruz. Fakat yapay zekânın kontrolünün kimlerin elinde toplanacağı konusunda bugünden düşünmek zorundayız.
Çünkü belki de geleceğin en büyük mücadelesi, insan ile yapay zekâ arasında olmayacak. İnsanların yapay zekâ üzerindeki kontrolü ile yapay zekâyı kontrol eden insanların dünyadaki gücü arasında olacak. İşte asıl tartışılması gereken mesele de burada başlıyor.