Yazılımın Yanıltıcı İstihbaratı Geçtiğimiz şubat ayında İran'ın güneyindeki Şecere-i Tayyibe İlkokuluna isabet eden iki adet Amerikan seyir füzesinin arkasındaki korkunç gerçekler nihayet gün yüzüne çıkmaya başladı. Askeri kaynaklardan sızan bilgilere göre Merkez Kuvvetler Komutanlığı, Palantir firması tarafından üretilen Maven isimli akıllı yazılıma aşırı derecede bel bağladı. Geçmişteki kayıtları baz alan bu sistem, sivil okulu bir askeri tesis olarak işaretledi. Normal şartlarda uzun süren çapraz doğrulama aşamaları, yazılımın hızı sayesinde dakikalara inince, kimse sistemin eski verileri kullanabileceğini hesaba katmadı ve okul doğrudan saldırı listesine eklendi. Üretici firma ise anlaşmalar gereği veri doğruluğundan ordunun sorumlu olduğunu savunarak topu hükümete attı.
Gözden Kaçan Uydu Görüntüleri ve Azalan Denetimler Yaşanan bu yıkım sadece bir algoritma hatasıyla sınırlı kalmadı, devasa bir denetim zafiyetini de ortaya serdi. Sivil uydulardan alınan fotoğraflar, söz konusu yapının iki bin on yedi yılında askeri alandan ayrıldığını, iki bin on sekiz yılında ise oyun parkları ve renkli duvarlarıyla tamamen bir eğitim yuvasına dönüştüğünü açıkça kanıtlıyordu. Üstelik okulun harita uygulamalarında yeri belliydi ve kendine ait bir internet sitesi bile mevcuttu. Ancak iki bin on dokuz yılında yapılan hayati güncellemelerin ana sisteme işlenmemesi büyük bir kopukluk yarattı. İlk yirmi dört saatte bini aşkın hedefin vurulması baskısı ve sivil kayıpları önleme birimindeki personelin yüzde doksan oranında azaltılarak tek kişiye düşürülmesi, sahadaki son kontrollerin yapılmasını tamamen imkansız hale getirdi.
Hukuki Boyut ve Korkutan Otomasyon Örnekleri Birleşmiş Milletler tarafından paylaşılan raporlar, doğrulanmamış verilere dayanarak gerçekleştirilen bu orantısız saldırının bir savaş suçu sayılabileceğinin altını çiziyor. Güvenlik ve askeri operasyonlarda makinelerin kararlarına sorgusuz sualsiz itaat etmenin yarattığı tehlikeler ilk defa yaşanmıyor. Kısa süre önce Orta Doğu'da görevli bir analistin kullandığı yapay zeka aracının ürettiği sahte bilgiler yüzünden, Çin'e ait bir ticari gemi az kalsın nükleer silah taşıdığı gerekçesiyle vurulacaktı. Benzer biçimde yüz tanıma sistemlerinin yaptığı hatalı eşleşmeler yüzünden Florida'da olay yerinden yüzlerce kilometre uzaktaki masum insanlar haksız yere aylarca hapis yatmıştı. Yetkililerin otomasyon sistemlerini mutlak doğru olarak kabul etme eğilimi, telafisi mümkün olmayan insani yıkımlara zemin hazırlamaya devam ediyor.
