Massachusetts Teknoloji Enstitüsü bünyesindeki araştırmacı Pattie Maes ve ekibinin yürüttüğü çalışma, yapay zekanın gerçeğe aykırı detayları insan hafızasına yerleştirmede yüksek başarı sergilediğini ortaya koydu. Deneyde katılımcılara önce 24 standart fotoğraf gösterildi; ardından bir gruba aynı görseller, diğer gruba ise üretken algoritmalarla manipüle edilmiş versiyonlar sunuldu. Değiştirilmiş içeriklere maruz kalan kişilerin hem orijinal görselleri yanlış hatırlama oranı belirgin şekilde artarken bu yanıltıcı anılara duydukları özgüven de yükseldi.
Bilişsel Kırılganlık ve Yanıltıcı İçeriklerin Gücü
İnsan belleğinin telkine açık yapısı 19. yüzyıldan bu yana psikoloji deneylerinde belgelenmiş temel bir mekanizmadır. Üretken yapay zekanın yaygınlaşması bu zafiyeti derinleştiriyor. Büyük dil modelleriyle desteklenen sohbet robotları üzerinde yapılan testlerde, sorgulayıcı sistemlerin katılımcılarda kontrol grubuna kıyasla üç kat daha fazla sahte anı tetiklediği ve kullanıcı yanıtlarının yüzde 36,4'ünün yönlendirildiği ölçüldü. Yapay zeka tarafından düzenlenen görseller ve sentetik videolar sahte hatırlama oranını kontrol grubuna göre 2,05 kat artırırken hatalı anıya duyulan güveni de 1,19 kat yukarı taşıyor.
Denetim Mekanizmalarının Yetersizliği ve Operasyonel Riskler
Finans, sağlık, siber güvenlik ve askeri savunma gibi kritik sektörler, yapay zeka entegrasyonunda hata payını sıfırlamak için operasyon döngüsüne insan denetimi dahil etme yoluna gidiyor. Ancak araştırmalar, ortalama bir insanın sentetik içeriği gerçeğinden ayırt etme başarısının yüzde 50 civarında —yani yazı tura olasılığı düzeyinde— kaldığını gösteriyor. Sisteme aşırı güven ve hafıza manipülasyonu bir arada işlediğinde, uzman denetçilerin bile kendi doğru bildiklerinden şüphe ederek hatalı algoritmik kararları onaylayabileceği ortaya çıkıyor.
Otonom Ajan Yarışı ve Tehlikeli Sonuçlar
Yapay zeka ekosisteminin bağımsız karar alabilen otonom ajanlara doğru hızla evrilmesi, insan denetimini süreçten tamamen çıkarma eğilimini artırıyor. Benzer bir denetimsizlik ve aşırı güven, askeri arenada ağır bir sonuca yol açtı. Bloomberg’in aktardığı Savunma Bakanlığı soruşturma raporuna göre, güncelliğini yitirmiş verileri işleyen Palantir destekli bir yapay zeka sisteminin hedef önerisine aşırı itimat edilmesi sonucu İran’daki bir ilkokula düzenlenen hava saldırısında en az 123'ü çocuk olmak üzere 150'den fazla sivil hayatını kaybetti. Rapor, yapay zekanın ürettiği verilerin sorgulanmadan kabul edilmesinin yaratabileceği felaketleri belgeledi.
