Şoke eden yapay zekâ raporu: Ünlülerin çocuklaştırılmış görsellerini üretiyorlar

0

BEĞENDİM

0

İnternet güvenliği alanında çalışan Internet Watch Foundation (İnternet Gözlem Vakfı), yapay zekâ modellerinin, ünlüleri gençleştirmek ve çocuk oyuncuların var olan fotoğraflarının cinsel görünmesini sağlamak için kullanıldığını ortaya çıkardı.

IWF’ye göre bu görüntülerin çoğu o kadar gerçekçi ki, eğitimli bir araştırmacı bile bunları gerçek fotoğraflardan ayırmakta zorluk çekebilir.

Yapay zekâ ile üretilen görseller arasında ünlü bir kadın şarkıcının çocuklaştırılmış sahte görselinin olduğu da belirtilirken yaklaşık 3 bin görselin bir ayda yayınladığı tespit edildi.

IWF’ye göre, pedofiller arasında, kamuoyunda bilinen çocuk istismarı kurbanlarının görüntülerini, yapay zekâ ile sahte olarak yeniden üretme trendinin tespit edildiğini söylüyor. Yalnızca bir dosyada, 9 – 10 yaşlarında istismara uğrayan bir çocuğun görüntüsü kullanılarak üretilmiş 501 görsel bulundu.

NASIL YAPILDIĞINI DETAYLARIYLA ANLATMIŞLAR

Klasörde ayrıca kurbanın yeni görüntülerinin nasıl oluşturulacağına ilişkin talimatlar da yer alıyor.

IWF’nin müdürü Susie Hargreaves şunları söyledi: “Geçmişte tecavüze uğrayan çocuklar artık yeni senaryolara dahil ediliyor çünkü bir yerlerde birileri bunu görmek istiyor. Sanki mağdurların, istismarların internetin karanlık bir köşesinde paylaşılıyor olabileceğini bilmeleri yeterli değilmiş gibi şimdi de yeni görüntülerle karşı karşıya kalma, kendilerinin daha önce hayal bile edilmeyen yeni ve korkunç şekillerde istismar edilme riskiyle karşı karşıyalar. Eğer bu tehdidin üstesinden gelemezsek, bu materyal interneti istila etme tehlikesiyle karşı karşıya kalacak.”

Araştırmacılar ayrıca iki yaşın altındaki bebeklere yönelik istismarı gösteren iki resim de keşfetti.

IWF ayrıca görüntülerin kalitesini öven ve daha fazlasının nasıl oluşturulabileceğini tartışan pedofililerin rahatsız edici yorumlarını da paylaştı.

IWF, bu görüntülerin oluşturulmasında hiçbir çocuğun fiziksel olarak istismar edilmediğini ancak mağdura ciddi olarak psikolojik zarar verdiğini ve bu tip davranışları normalleştirdiğini belirtti.