
Google DeepMind SynthID

Geçtiğimiz ay Beyaz Saray’da OpenAI, Google ve Meta üzere önde gelen yapay zeka şirketleri bir ortaya gelerek yapay zeka tarafından üretilen içeriğin berbata kullanılmasıyla çaba etmek gayesiyle filigran araçları geliştirmek için istekli olarak taahhütlerde bulunmuşlardı. Google’ın Mayıs ayındaki yıllık I/O konferansında CEO Sundar Pichai, şirketin modellerini en başından itibaren filigran ve öteki teknikleri içerecek biçimde oluşturduğunu söylemişti. Google DeepMind artık bu türlü bir aracı kullanıma alan birinci şirket oldu.
Normal filigranlar üzere değil
Normalde filigranlar, imgelerin üzerine görünür kaplamalar ya da meta bilgilerine bilgi eklenerek filigranlanır. Lakin Google DeepMind araştırma lider yardımcısı Pushmeet Kohli, bu prosedürün “kırılgan” olduğunu ve imajlar kırpıldığında, tekrar boyutlandırıldığında yahut düzenlendiğinde filigranın kaybolabileceğini belirtiyor.
SynthID, iki hudut ağı kullanılarak oluşturuluyor. Biri yepyeni imgeyi alıyor ve onunla neredeyse birebir görünen, lakin birtakım pikselleri ince bir halde değiştirilmiş öteki bir imaj üretiyor. Bu, insan gözüyle görülemeyen gömülü bir desen yaratıyor. İkinci hudut ağı bu deseni tespit edebiliyor ve imgede filigran olup olmadığını söylüyor. SynthID ayrıyeten imaj kırpılsa, düzenlense yahut tekrar boyutlandırılsa bile tespit edilebilecek.
Öte yandan benzeri teknikler halihazırda mevcut ve açık kaynaklı yapay zeka imaj üreticisi Stable Diffusion’da kullanılıyor. Meta da filigranlar üzerine araştırmalar yürütüyor, fakat şimdi halka açık bir filigranlama aracı piyasaya sürülmüş değil. Öte yandan Kohli, filigranların son tahlil olmadığını ve ekseriyetle bunların kırıldıklarını belirtiyor. DeepMind, bu aracı şimdilik test ediyor ve açıklarını bularak kapatmayı hedefliyor.