Yapay zeka desteği ile kullanıcılara gerçekçi görüntüler oluşturma imkanı sunan Midjourney, kullanıcıların bu özelliği suistimal etmesiyle ücretsiz deneme sürümünü sonlandırma kararı aldı.
Birçok kullanıcının büyük bir ilgiyle kullandığı Midjourney ‘de kullanıcıların Papa ve Donald Trump’ın sahte görüntülerini oluşturması ücretsiz deneme sürümünün sonlandırılma kararına neden oldu.
Çeşitli alanlarda sık sık karşımıza çıkan yapay zeka, gün geçtikçe daha çok hayatımızın bir parçası haline gelmeye başladı. Yapay zeka, sağladığı hizmetlerle kullanıcının hayatını kolaylaştırsa da kötüye kullanımlar nedeniyle olumsuz yönleri de bulunuyor. Kullanıcıların mevcut bir görüntüdeki veya videodaki bir kişinin değiştirilmesiyle Deepfake’ler oluşturması ya da son derece gerçekçi görüntüler yaratması kötüye kullanımlar arasına giriyor.
Midjourney, son haftalarda yoğun bir ilgiyle karşılaştı. Kullanıcılar Midjourney yapay zekasını kullanarak modaya uygun bir mont giyen Papa Francis’in resmini ve Donald Trump’ın tutuklandığı bir sahnenin görüntülerini oluşturdu. Oluşturulan bu görsellerin gerçek olmadığı hemen tespit edildi ancak yanlış bilgi yaymak isteyen kişilerin Midjourney, OpenAI’nin DALL-E ve benzer uygulamaların kötüye kullanımına açık olması endişeye neden oldu.
Midjourney, içerikle ilgili politikalar oluşturmada sorun yaşıyor
Yapay zeka destekli görüntüler oluşturan Midjourney, olumsuzluklardan etkilenen platformlar arasında yerini aldı. Midjourney, içerikleriyle ilgili politikalar oluşturma konusunda sorun yaşadığını söyledi. 2022 yılında Holz, Discord kullanıcılarına ekibinin “dramayı en aza indirmek” istediğini ve Çin’de herhangi bir platformda alaycı bir dille eleştiri geçen içeriğe izin verilmemesinin önemli olduğunu söyledi ve Çinli lider Xi Jinping’in resimlerinin yasaklanmasını doğru buldu.
Midjourney’in kurucusu David Holz, kullanıcılarla bir sohbet gerçekleştirdi. Holz kullanıcılara, yapay zekanın normalden daha gerçekçi görüntüler oluşturması nedeniyle içerik politikalarını belirlemekte zorluk yaşadığını söyledi. Holz aynı zamanda kötüye kullanımı önlemek amacıyla Midjourney’in kötüye kullanımını tarayan bir yapay zeka denetimi geliştirmeyi hayal ettiğini belirtti.
Yapay zeka geliştiricileri kötüye kullanımı önlemek amacıyla bazı kurallara başvurdu. OpenAI, kötüye kullanımların önüne geçmek için devam eden siyasi olayların, komplo teorilerinin ve politikacıların tüm görüntülerini engelliyor. OpenAI aynı zamanda içeriklerinde şiddeti, nefreti ve cinselliği de yasaklıyor.
Yapay zeka desteğiyle oluşturulan yanıltıcı içeriklerin yanı sıra mevcuttaki görüntülerin düzenlenmesi de sorun haline gelebiliyor. Bu nedenle paylaşılan içeriklerin gerçek olup olmadığının kontrol edilmesi ve halka sunulması zor olacak gibi görünüyor. Yapay zeka kullanımına adapte olan birçok şirketin yanında yapay zekadan endişe duyan şirketler de yer alıyor. Yapay zeka konusunda şirketlerin izleyeceği yol bilgisi henüz mevcut değil.
Grafik Tasarım bölümünde öğrenci. İmza İnternet Teknolojileri'nde dijital çırak olarak eğitim alıyor.
Yorum Yok
Son Gönderiler
İlgili Yazılar
