Bu yasa, ABD'de ilk yapay zeka yasası olacaktı ve teknoloji şirketlerinden modellerini test etmelerini, çalışanlara ise muhbir koruması sağlamalarını gerektirecekti.
Bu karar, hızla gelişen ve çok az denetimle ilerleyen yerel yapay zeka endüstrisini kontrol altına alma çabalarına büyük bir darbe olarak nitelendiriliyor. Yasa, ABD'deki büyük ölçekli yapay zeka modelleri üzerindeki ilk düzenlemelerden bazılarını oluşturarak, ülke genelinde yapay zeka güvenlik düzenlemelerine öncülük etme yolunu açacaktı.
Demokrat vali Newsom, bu ayın başlarında, Salesforce’un düzenlediği Dreamforce konferansında Kaliforniya’nın yapay zekayı düzenlemede liderlik yapması gerektiğini belirtmiş, ancak önerinin "endüstri üzerinde soğutucu bir etki yaratabileceğini" söylemişti. Öneri, girişimlerden, teknoloji devlerinden ve bazı Demokrat milletvekillerinden yoğun tepki almıştı.
Alternatif Plan ve Yapay Zeka Endüstrisine Yönelik Endişeler
Newsom, eyaletin yapay zeka öncüleri arasında yer alan Fei-Fei Li gibi uzmanlarla işbirliği yaparak güçlü yapay zeka modellerine yönelik sınırlar geliştireceğini duyurdu. Tasarı, yapay zekanın yaratabileceği potansiyel riskleri azaltmayı amaçlıyor ve şirketlerin modellerini test etmesini, güvenlik protokollerini kamuya açıklamasını gerektiriyordu. Bu önlemler, örneğin eyaletin elektrik şebekesini devre dışı bırakma ya da kimyasal silah yapımına yardım gibi olasılıklara karşı alınacaktı.
Tasarıyı hazırlayan Demokrat eyalet senatörü Scott Wiener, vetonun "halkın güvenliği ve refahını etkileyen kararlar alan büyük şirketler üzerindeki denetimlere inanan herkes için bir geri adım" olduğunu ifade etti. Büyük yapay zeka laboratuvarlarının bu riskleri izleme ve azaltma taahhütlerini övdüğünü ancak bu taahhütlerin "kamu yararına nadiren işe yaradığını" belirtti.
Kaliforniya'nın yapay zeka yasa tasarısı, yapay zeka güvenliği konusunda önemli bir tartışma başlatmış durumda ve Wiener bu konudaki baskısını sürdüreceğini belirtiyor. Yasama meclisi bu yıl, yapay zekayı düzenlemek, sahte içeriklerle mücadele etmek ve çalışanları korumak amacıyla bir dizi yasa tasarısı geçirdi. Eyalet milletvekilleri, sosyal medya şirketlerini düzenleyemedikleri için edindikleri acı derslerden yola çıkarak bu yıl yapay zeka konusunda adımlar atılması gerektiğini vurguladılar.
Yapay Zeka Düzenlemesinin Geleceği
Öneriyi destekleyenler, Elon Musk ve Anthropic gibi isimler, tasarının büyük ölçekli yapay zeka modellerine şeffaflık ve hesap verebilirlik getirebileceğini savundu. Ancak eleştirmenler, bu yasanın Kaliforniya'da teknoloji sektörünü olumsuz etkileyerek yenilikleri engelleyebileceğini iddia etti.
Newsom’un veto kararı, birçok teknoloji devinin lobi çalışmalarıyla eyalette yapay zeka düzenlemelerini durdurma çabaları açısından bir zafer olarak değerlendiriliyor. Ancak bu durum, Kaliforniya'nın yapay zeka konusunda küresel bir lider olma statüsünü koruma çabasının da bir parçası olarak görülüyor.
Tatiana Rice, Kaliforniya’nın bu güvenlik önerisinin, diğer eyaletlerde de benzer düzenlemelerin oluşturulmasına ilham verebileceğini belirtti.
