Google DeepMind, imajların yapay zeka ile üretilip üretilmediğini gösteren yeni bir filigran aracı geliştirdi. SynthID adı verilen araç, başlangıçta sırf Google Cloud’un makine tahsili platformu Vertex’te barındırılan Google’ın AI manzara oluşturucusu Imagen kullanıcıları tarafından kullanılabilecek.Google DeepMind SynthID
Imagen kullanıcıları istedikleri manzara oluşturabilecek ve akabinde filigran ekleyip eklemeyeceklerini seçebilecekler. Bunun, insanların yapay zeka tarafından üretilen içeriğin gerçekmiş üzere gösterildiğini anlamalarına ya da telif haklarının korunmasına yardımcı olması umuluyor. Geçtiğimiz yıl, üretken yapay zeka modellerinin artan popülaritesi, uydurma görüntüler ve fotoğrafları da beraberinde getirdi. Filigran -yapay zeka tarafından üretildiğini belirlemek için bir metin ya da manzaraya bir sinyal gizleme tekniği- bu tıp ziyanları engellemek için önerilen en tanınan fikirlerden biri haline geldi.Geçtiğimiz ay Beyaz Saray’da OpenAI, Google ve Meta üzere önde gelen yapay zeka şirketleri bir ortaya gelerek yapay zeka tarafından üretilen içeriğin berbata kullanılmasıyla çaba etmek gayesiyle filigran araçları geliştirmek için istekli olarak taahhütlerde bulunmuşlardı. Google’ın Mayıs ayındaki yıllık I/O konferansında CEO Sundar Pichai, şirketin modellerini en başından itibaren filigran ve öteki teknikleri içerecek biçimde oluşturduğunu söylemişti. Google DeepMind artık bu türlü bir aracı kullanıma alan birinci şirket oldu.
Normal filigranlar üzere değil
Normalde filigranlar, imgelerin üzerine görünür kaplamalar ya da meta bilgilerine bilgi eklenerek filigranlanır. Lakin Google DeepMind araştırma lider yardımcısı Pushmeet Kohli, bu prosedürün “kırılgan” olduğunu ve imajlar kırpıldığında, tekrar boyutlandırıldığında yahut düzenlendiğinde filigranın kaybolabileceğini belirtiyor.
SynthID, iki hudut ağı kullanılarak oluşturuluyor. Biri yepyeni imgeyi alıyor ve onunla neredeyse birebir görünen, lakin birtakım pikselleri ince bir halde değiştirilmiş öteki bir imaj üretiyor. Bu, insan gözüyle görülemeyen gömülü bir desen yaratıyor. İkinci hudut ağı bu deseni tespit edebiliyor ve imgede filigran olup olmadığını söylüyor. SynthID ayrıyeten imaj kırpılsa, düzenlense yahut tekrar boyutlandırılsa bile tespit edilebilecek.
Öte yandan benzeri teknikler halihazırda mevcut ve açık kaynaklı yapay zeka imaj üreticisi Stable Diffusion’da kullanılıyor. Meta da filigranlar üzerine araştırmalar yürütüyor, fakat şimdi halka açık bir filigranlama aracı piyasaya sürülmüş değil. Öte yandan Kohli, filigranların son tahlil olmadığını ve ekseriyetle bunların kırıldıklarını belirtiyor. DeepMind, bu aracı şimdilik test ediyor ve açıklarını bularak kapatmayı hedefliyor.
