MIT, yapay zeka ile düzenlenmiş fotoğrafların önüne geçiyor

MIT yeni yazılımı ile yapay zeka ile düzenlenmiş fotoğrafların önüne geçiyor.

OpenAI, yapay zeka yazılımı ChatGPT’yi piyasaya sürdüğü günden bu yana yapay zeka alanına olan ilgi artmış ve bir akım haline gelmişti. Yapay zeka yalnızca metin tabanlı olarak sorularınıza yanıt vermekle kalmıyor. Ayrıca verdiğiniz komutlarla gerçeğe çok yakın yüksek kalitede görseller de oluşturabilme yeteneğine sahip. Öyle ki insanlar yapay zekanın bu özelliğini sahtecilik için kullanmaya başlamışlar ve bir süre de olsa ortalığı karıştırmayı başarmışlardı. MIT ise bu karışıklığım önüne geçmek için önemli bir adım attı.

MIT yeni fotoğraf yazılımı PhotoGuard’ı sundu

Yapay zeka ile oluşturulan aşırı gerçekçi fotoğrafların kötüye kullanımını önlemek için fotoğraflardaki orijinal olan kısımları tespit eden bir yazılım korumasına ihtiyaç doğdu. MIT bu konudaki ilk adımı atarak, PhotoGuard isimli bir yazılım ile bu konuya bir çözüm getiriyor. Bu yazılım yapay zekanın fotoğrafları inandırıcı bir şekilde düzenlemesinin önüne geçiyor.

Trending

ABD, Yapay Zeka Güvenliği İçin Küresel İşbirliği Başlattı

MIT Bilgisayar Bilimleri ve Yapay Zeka Laboratuvarı (MIT CSAIL) araştırmacıları, çalışmalarını bir araştırma makalesi üzerinden yayınladı. PhotoGuard, bir fotoğraftaki bazı pixelleri değiştiriyor ve bu sayede yapay zekanın bu pixelleri görmesini engelliyor. Bu uygulama sayesinde içerisinde insan olan görsellerin düzenlenmesinin önüne geçilecek.

PhotoGuard tarafından korunan görseller kullanılarak sahte görüntüler oluşturulmaya çalışıldığında, yapay zeka piksel bozulmalarını algılamakta zorlanıyor. Bu özellik ile yapay zeka ile oluşturulan sahte görüntülerde, kullanıcılara görüntünün değiştiği bildirilen bazı bölümler olacak.

Yapay zeka ile oluşturulan sahte görselleri tespit etme yöntemleri

PhotoGuard uygulamasında sahte fotoğraf oluşturmaya çalışırken piksel bozulmaları görülüyor. Bu sayede kullanıcılar açık bir şekilde fotoğrafın sahte olduğunu anlıyor. Bu yönteme ek olarak yapay zeka ile oluşturulmuş sahte fotoğrafların tespit edilebilmesi için iki yöntem daha yer alıyor. Bu yöntemlerden biri “Kodlayıcı” isimli yöntem, bu yöntemle yapay zekanın görüntülerin bir bölümünü anlaması imkansız hale getiriliyor.

Bir diğeri ise “Difüzyon” yöntemiyle, bir görüntünün bölümleri yapay zeka için farklı bir görüntü olarak kamufle ediliyor. Bu sayede yapay zeka insan görselleri kullanarak kusursuz bir sahte fotoğraf üretemiyor.