Yapay zeka araştırmalarıyla öne çıkan OpenAI, popüler sohbet aracı ChatGPT’nin kötü amaçlarla kullanımını engellemeye yönelik kararlı adımlar atıyor. Şirket, yayımladığı bir raporda platformun artan popülerliğiyle birlikte, bazı kullanıcıların ChatGPT’yi yasa dışı veya etik dışı yollarla kullanmaya çalıştığını tespit ettiğini açıkladı. Buna paralel olarak, kod düzeltme ya da çeşitli yayın platformları için içerik hazırlama gibi amaçlarla kullanıldığı şüphesi bulunan onlarca hesabın kapatıldığı belirtildi.
400 Milyon Haftalık Etkin Kullanıcı
OpenAI, ChatGPT’nin haftalık 400 milyon aktif kullanıcıya ulaştığını duyurdu. Şirket, üç aydan kısa bir sürede bu sayıya 100 milyonluk bir artış eklenmesinin, hem kurumsal şirketler hem de bağımsız yazılım geliştiriciler tarafından platformun yoğun biçimde benimsendiğini gösterdiğini ifade ediyor. Ne var ki ücretsiz ve dünya çapında erişilebilir bu araç, kötü niyetli kullanım senaryolarına da kapı aralayabiliyor. OpenAI ise hizmet politikalarının, sahtekarlık veya dolandırıcılık amaçlı her türlü kullanımı kesin olarak yasakladığını vurguluyor.
Tespit Edilen Bazı Vaka Örnekleri
OpenAI, ChatGPT’nin yanlış kullanımına ilişkin çeşitli örnekler paylaştı. Bunlardan biri, sözde Çin kaynaklıymış gibi gösterilen ve Latin Amerika’da yayınlanan ABD karşıtı makaleleri yazan bir hesap. Diğer bir örnekte, Kuzey Kore kaynaklı olduğu düşünülen bir kullanıcının ChatGPT’den üretilmiş sahte özgeçmişlerle Batılı şirketlere iş başvurusu yapmaya çalıştığı görüldü. Ayrıca Kamboçya’dan geldiği tahmin edilen başka bir vaka da, çevrimiçi “romantik dolandırıcılık” şebekelerinde hedef kullanıcılarla etkileşime girmek için ChatGPT’den çeviri ve otomatik yorum oluşturma amacıyla yararlanıyordu.
OpenAI, bu vakalara ilişkin verileri Meta gibi sosyal platformlarla paylaştığını ifade etti. Böylelikle, X, Facebook veya Instagram gibi ağlarda potansiyel zarar verici faaliyetlerin daha erken tespit edilmesi amaçlanıyor. Şirket, ChatGPT’nin kullanıcı dostu yapısını korurken aynı zamanda kötüye kullanımla mücadeleye devam edeceğini belirtti.
Yorum Yok
