Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, 10 Ekim 2026'da X hesabından yaptığı değerlendirmede yapay zekâ güvenliğine ilişkin önerilerini paylaştı. Nadella, süper zekâ sistemlerine birbirinin içine geçmiş kapalı kutular gibi davranılamayacağını, çıktıların doğrudan kabul ya da reddedilmesiyle yetinilemeyeceğini söyledi. Yapay zekânın güven mimarisinin baştan ele alınması gerektiğini savunan Nadella, modellerin süreç ortasında durdurulabilmesini sağlayan bağımsız kontrol mekanizmalarına ihtiyaç olduğunu belirtti.
Nadella’nın önerdiği güvenlik yaklaşımı ne?
Vizyonun merkezinde, modelin kendisi ile onu yöneten operasyonel çerçevenin net sınırlarla ayrılması var. Nadella’ya göre gelişmiş modeller deterministik olmayan yapıları nedeniyle geleneksel yazılımlar gibi tek bir kod satırına indirgenemiyor. Bu nedenle kontroller ve güvenlik önlemleri modelin dışına taşınmalı. Modeller, sisteme sızabilecek birer iç tehdit gibi değerlendirilmeli ve tasarım aşamasından itibaren kontrol altında tutulacak şekilde yapılandırılmalı. Nadella’ya göre en güvenilir süper zekâ sistemi, modele en çok güvenilen değil, modele duyulan güven ihtiyacını en aza indiren sistem olacak.
İnsan müdahalesi nasıl sağlanacak?
Önerilen yapı, modelin attığı her anlamlı adımın insanlar tarafından okunabilir ve müdahale edilemez kayıtlarla belgelenmesini öngörüyor. Nadella, yetkili bir operatörün görev sırasında modeli anında durdurma ya da tamamen kapatma yetkisine sahip olması gerektiğini söyledi. Bu “acil fren” mekanizmasıyla sistemlerin beklenmedik ya da tehlikeli eylemler gerçekleştirmesi hâlinde anlık insan müdahalesinin sağlanması hedefleniyor.
Sektörde kontrol kaybı tartışması nasıl şekilleniyor?
Daha önce OpenAI CEO’su Sam Altman, yapay zekâdan kaynaklanan bazı zararların tolere edilebileceğini ancak kontrol kaybı gibi büyük risklerin asla kabul edilemeyeceğini söylemişti. Nadella’nın acil fren çağrısı bu endişeyle örtüşüyor. Kaynak metne göre açıklamalar, önde gelen laboratuvarlarda modellerin öngörülemeyen davranışlar sergilediği olayların ardından geldi. Anthropic CEO’su Dario Amodei’nin de geçtiğimiz haftalarda sınır modellerin gelişim hızının yavaşlatılması ve bağımsız denetim çağrısı yaptığı aktarılıyor.
