Google'ın yapay zeka (AI) tarafından üretilen metinler için geliştirdiği watermarking (su izi) teknolojisi, artık herkesin kullanımına sunuldu. Google Deepmind tarafından geliştirilen SynthID adlı araç, firmanın yapay zeka laboratuvarında geliştirilen ve kısa süre önce açık kaynak haline getirilen bir teknoloji.
Bu araç, üretilen metinlere “istatistiksel bir imza” ekleyerek su izi bırakıyor. Bu imzalar, Nature dergisinde yayımlanan bir makaleye göre “insanlar tarafından algılanamaz”. Google'ın blogunda belirtildiği üzere, watermarking süreci, metin üretimini yavaşlatmaz ve çoğu zaman özel olan büyük dil modeline (LLM) erişim gerektirmez.
Sorumlu AI Geliştiriciliği İçin Bir Araç
Google Deepmind Araştırma Başkan Yardımcısı Pushmeet Kohli, MIT Technology Review'e verdiği demeçte, "Artık diğer AI geliştiricileri bu teknolojiyi kullanarak, kendi [LLM'lerinden] gelen metin çıktılarının tespit edilmesine yardımcı olabilir ve daha fazla geliştiricinin sorumlu bir şekilde AI oluşturmasına olanak tanıyabilir" dedi.
Şirket, bu watermarking aracını chatbot Gemini üzerinden test etti. Yaklaşık 20 milyon su izli ve su izsiz yanıt analiz edildi ve kaliteleri konusunda istatistiksel olarak anlamlı bir fark gözlenmedi.
Misinformasyon ve Yanlış Atıf Endişelerini Gidermek
SynthID şu anda Gemini ve Gemini Advanced üzerinde kullanılıyor. Blog yazısında belirtildiği üzere, bu watermarking teknolojisi “yanlış bilgi ve yanlış atıf sorunlarına katkıda bulunabileceği” endişesi nedeniyle kullanıma sunulmuş durumda. Watermarking, bu potansiyel etkileri hafifletmek için kullanılan bir teknik olarak öne çıkıyor.
Araştırmacılara göre bu teknik, bir metnin dil modeli veya insan tarafından mı oluşturulduğunu belirlemek için kullanılan, metnin çeşitliliğini analiz etmek gibi mevcut yöntemlere kıyasla “daha üstün bir tespit edilebilirlik” sağlıyor. Örneğin, GPTZero'nun kullandığı yöntemler yanlış pozitif ve negatif sonuçlara yol açabiliyor.
Ancak, SynthID-text yönteminin de kusursuz olmadığı ve metnin “tamamen yeniden yazılması veya başka bir dile çevrilmesi durumunda” tespit edilebilirlik oranının düştüğü belirtiliyor.
Görüntü ve Videolarda Dijital Su İzi
Deepmind, AI tarafından üretilen görüntü ve videoları da işaretlemek için her bir piksele veya videonun her karesine dijital su izi gömerek tespit edilebilir hale getiren araçlar geliştirdi. Bu su izi, kırpma, yeniden boyutlandırma, sıkıştırma ve filtre ekleme gibi yaygın görüntü ve video manipülasyonlarına dayanıklı olacak şekilde tasarlandı.