Microsoft’un yapay zeka aracı Copilot’a sessiz sedasız yeni bir güncelleme geldi. Yeni güncelleme sonrasında şiddet ve cinsel içeriklerin oluşturulması engellenmeye başlandı.
Microsoft’un geliştirdiği CoPilot adlı yapay zeka aracı için geçtiğimiz hafta önemli bir gelişme yaşanmıştı. Şirkette çalışan bir mühendis, Federal Ticaret Komisyonu’na (FTC) yazdığı bir talep ile yapay zekanın cinsellik, korsan içerikler ve şiddet gibi konularda güvensiz olmadığı belirtilmişti. Bu mühendisin talebinin ardından ise şimdi yeni bir engelleme geldi.
CoPilot’a Güvenlik Güncellemesi
CoPilot için yapılan güncelleme hakkında Microsoft hiçbir detay vermedi. Ancak yabancı basında ve uzman incelemelerinde güncelleme doğrulandı. Zira daha önceden şiddet ve cinsellik içerikli konutları yerine getiren CoPilot bu taleplere yanıt vermemeye başladı. Benzer içerikleri üretmeye çalışan kişiler herhangi bir sonuç alamadığı gibi durumun Microsoft ve CoPilot etik ilkelerini ihlal ettiğine yönelik mesajlar alıyor.
CoPilot Test Ediliyordu
CoPilot’taki ihlal ve sakıncalı durumlara karşı testler yapan isim Microsoft mühendisi Shane Jones olmuştu. CoPilot dışında rakip sistemleri de benzer yönleriyle inceleyen mühendis isim zaman zaman yaptığı açıklamalarıyla gündeme geliyordu. Microsoft şu anda bir açıklama yapmamış olsa da geçtiğimiz haftalarda “Güvenlik filtrelerimizi daha da güçlendirmek ve sistemin kötüye kullanımını azaltmak için sürekli izliyor, ayarlamalar yapıyor ve ek kontroller uyguluyoruz.” diyerek sistemin sürekli güncelleneceğinin mesajlarını vermişti. Bundan sonraki süreçte Microsoft bu tür amaçlar için yapay zekasının kullanılmasına izin vermeyecek.
Yazar, 10 yılı aşkın süredir editör ve içerik yazarı olarak çalışmaktadır.
Yorum Yok
