Anthropic CEO’su Dario Amodei, yapay zeka yarışının artık bilinçli biçimde yavaşlatılması gerektiğini söylüyor.
Amodie’ye göre önümüzdeki 5–10 yılda yapay zekanın insan sağlığına, küresel ekonomik büyümeye ve yaşam kalitesini muazzam bir biçimde değiştireceğine inanıyor. Gene Amodei’ye göre son birkaç ayda işler ciddi biçimde değişti.
Sebebi ise yapay zekanın yeni nesil yapay zekaları geliştirmede giderek daha fazla rol oynaması.
Amodei’ye göre yapay zeka kendi haleflerini tasarlamaya, eğitmeye ve optimize etmeye başlarsa bu daha büyük güvenlik sıkıntıları doğurabilir.
OpenAI-Hugging Face….
Binlerce yapay zeka ajanın verilen görevlerin dışına çıkarak siber saldırılar düzenlediği, birbirleri için “kendilerini feda ettiği” ve hatta kendi performanslarını değerlendiren sistemi hacklemeye çalıştığı bu olayı küçük bir laboratuvar kazası olarak görmediğini söyledi Amodie..
Amodie’ye göre daha güçlü bir yapay zeka ajan sürüsü, 1 sene içerisinde kalıcı bir botnet kurup internetin omurgasının bir bölümünü ele geçirebilecek kapasiteye ulaşabilir.
Peki Amodie ne öneriyor..
-Yapay Zeka şirketlerinin içine bağımsız denetçiler yerleştirilsin. Bu kişiler çalışanlara benzer erişim haklarına sahip olsun, güvenlik uygulamalarını gerçekten denetlesin ve gördüklerini şirketin izni olmadan kamuoyuna açıklayabilsin. Anthropic bu adımı kendi başına uygulamaya başlayacağını söylüyor.
-Demokratik ülkelerdeki yapay zeka şirketleri ortak güvenlik standartları ve gelişim hızına ilişkin sınırlar üzerinde anlaşsın.
-Uzun vadede ABD ve müttefikleri Çin gibi ülkelerle küresel koordinasyon kurmaya çalışsın.
Sam Altman ne demiş;
“İlerleme hızı giderek ivme kazanırken, özellikle de giderek daha yetenekli yapay zeka sistemleri geliştiren Amerikan şirketlerinin sorumlu davranacağına dair dünyaya güven verme sorumluluğumuz var. Sınırları zorlayan yapay zeka çalışmaları yürüten her laboratuvar bu sorumluluğu yerine getirmelidir.
Devam ediyor Altman….
“Hız ayarlamasından bahsettiğimizde, durmayı kastetmiyoruz. İlerleme hızlı oldu ve olmaya da devam edecek. Ancak bu ilerleme, olası maksimum hızdan daha yavaş olmalıdır; çünkü güvenlik gerekçeleri ve izleme gibi müdahalelerin önemli maliyetleri vardır.”
“Hız ayarlaması bu maliyete fazlasıyla değecektir; hiçbir Amerikan rekabet baskısı, pervasızlığı haklı çıkaramaz veya yeteneklerin, amaçlarla uyum ve izleme süreçlerinin önüne geçmesine izin veremez.”
“Hükümetimizin yardımına ihtiyaç duyacağımız asıl alan uluslararası koordinasyondur. Ancak öncelikle kendi üzerimize düşeni yapmalıyız.
Yapay zeka alanındaki ilerlemenin çok kötü sonuçlanabileceği ve kaçınmamız gereken iki senaryo bulunmaktadır.”
Birincisi, geleceğin kontrolünü yapay zekaya kaptırabiliriz.
“Bu kabul edilemez bir durumdur; biz açıkça ve tereddütsüz bir şekilde İnsanlık Tarafındayız ve yapay zeka her zaman insanlara hizmet etmelidir. Bunu sağlamak için, amaçlarla uyum ve güvenlik tekniklerinin, model yeteneklerindeki ilerlemenin önünde kalmasını garanti altına alacak yöntemlere ihtiyacımız var.”
“İkincisi ise, gücün aşırı derecede yoğunlaştığı bir dünyayla karşı karşıya kalabiliriz. Olağanüstü güçlü bir yapay zeka, bir kişi veya şirket tarafından kendi dünya görüşünü diğer herkese dayatmak amacıyla kullanılırsa, sonuçlar son derece distopik olabilir.”
“Bu iki tehditten kaçınmak, hassas bir orta yolu izlemeyi gerektirir; örneğin, bir ülkenin aşırı güç kazanması buna bir örnektir. Bir diğer örnek ise bir laboratuvarın elinde aşırı güç toplanmasıdır.”
Konu ile alakalı başka bir yoruma göre; büyük yapay zeka şirketlerinin yöneticileri Yahudi..
Anthropic'in Yahudi CEO'su yapay zeka geliştirmeyi "yavaşlatmaları" gerektiğini açıkladığı gün, OpenAI'ın Yahudi CEO'su Sam Altman’ da aynı nedenle OpenAI'ın bu yıl halka açılmayacağını duyuruyor...
Kesin olan bir şey varsa, o da bu CEO’ların yapay zekayı “güvenlik endişeleri” nedeniyle yavaşlatmadıklarıdır.
Daha muhtemel olan senaryo şu ki; genel ekonomi, yükselen faiz oranları ve artan mazot fiyatları konusunda endişeliler ve eğer bu iki şirketi de bu yıl halka açmaya zorlarlarsa, elde edebilecekleri maksimum kârı sağlayamayacaklarını düşünüyorlar.
