İngiltere’de hazırlanan rapor, pedofililerin yapay zekayla ünlülerin sahte çocukluk resimlerini üretmeye başladığını ortaya çıkardı. İnternet güvenliği alanında çalışmalar yapan Internet Watch Foundation, bu nitelikte görsellerin paylaşıldığını tespit etti.
Vakfın tespit ettiği içerikler arasında ünlü bir kadın müzisyenin sahte, çocuklaştırılmış imajı da yer alıyor. Görüntüler çoğunlukla karanlık ağ olarak bilinen, izlenmesi zor sanal ağlar aracılığıyla yayılıyor. Zaten çocuk olan aktrislerin fotoğrafları da çocuk istismarı görüntülerine dönüştürülebiliyor.
Pedofili içerik üreticileri de bu teknolojiyi kullanarak gerçek hayatta çocuk istismarına maruz kalan yüzlerce geçersiz görseli yeniden yaratıyor. İnternet Gözlem Vakfı’nın internetteki istismara ilişkin son raporu da pedofililerin yapay zeka teknolojisini kendi amaçları doğrultusunda giderek daha fazla kullandıklarını gösteriyor.
Yapay zeka teknolojisi, bilgisayarların genellikle insan zekası gerektiren bazı görevleri yerine getirmesine olanak tanır. Örneğin Stable Diffusion programı kelimelerle komutlar vererek istenilen herhangi bir görüntüyü tanımlamayı mümkün kılıyor ve daha sonra program bu görüntüleri oluşturuyor. BBC tarafından daha önce yapılan bir araştırma, Stable Diffusion’ın cinsel istismarın gerçeğe yakın görüntülerini üretmek için kullanıldığını ortaya çıkarmıştı.
TAŞINMASI VE YAYINLANMASI ASGARİ OLARAK DEĞERLENDİRİLİR
İngiltere’de bilgisayar tarafından tasarlanan ve çocuk istismarı içeren “sahte görüntü”, kanun önünde gerçek görüntü olarak değerlendiriliyor. Bu tür tıbbi ekipmanların taşınması, yayınlanması veya devredilmesi suçtur.
Raporu hazırlayan araştırmacılar, tek bir dark web sitesi üzerinde bir ay boyunca yaptıkları çalışmada, İngiltere’deki makalelerle karşılaştırıldığında suç sayılan 3 bine yakın yapay zeka ürünü görsel tespit etti. Uzmanlar, pedofililer arasında kamuoyunun bildiği çocuk istismarı mağdurlarının geçersiz görüntülerinin yapay zeka ile yeniden oluşturulması yönünde bir eğilimin tespit edildiğini söylüyor.
Yalnızca bir belgede, 9-10 yaşlarındaki bir çocuğun istismara uğradığı sahne kullanılarak üretilmiş 501 görsel bulundu. Teknolojiye hakim pedofillerin birbirleriyle benzer görseller üretebilmek için kısayolları paylaştığı da anlaşıldı.
Araştırmayı yapan kuruluş, ünlü isimlerin ‘çocuksulaştırılmış’ geçersiz görsellerinin bazı durumlarda son derece gerçekçi göründüğünü ve bunları ayırmanın zor olduğunu belirtiyor. Uzmanların incelediği sahte görsellerde çoğunlukla kadın müzisyenler ve kadın oyuncular yer alıyor. Raporda hangi ünlülerin hedef alındığı açıklanmıyor. Vakıf, bu araştırmanın İngiltere hükümetinin önümüzdeki ay yapay zeka konusunda düzenleyeceği zirvede gündeme gelmesini sağlamak amacıyla paylaşıldığını kaydetti.
RAPOR NELER İÇERİYOR?
İnternet Gözlem Vakfı araştırmacıları, bir ay içerisinde yapay zeka ile üretilmiş 11 bin 108 dijital görüntüyü inceledi. Bu görüntüler çocuk tacizcilerinin kullandığı dark web forumunda paylaşıldı. Çocuk istismarı kapsamına giren görsel sayısı ise 2 bin 978.
Suç kapsamına giren görsellerden 564’ü “A Kategorisi” olarak sınıflandırılarak en ağır hata kapsamına giriyor. 2.978 fotoğrafın yarıdan fazlası 7-10 yaş arası çocuklara ait hayali fotoğraflardan oluşuyor. 143 dijital görselde ise 3-6 yaş arası çocuklara ait sahte görseller ortaya çıktı. İki yaş altı çocukların fotoğraflarının iki dijital cihazda üretildiği belirlendi.
Haziran ayında Vakıf, yapay zeka kullanılarak üretilen çocuk istismarı görüntülerinin ulaştığı gerçekçilik düzeyi konusunda uyarıda bulunmuştu. Uzmanlar artık bu endişenin gerçek olduğunu açıklıyor. Vakfın yöneticisi Susie Hargreaves, “En kötü kabuslarımız gerçekleşti” diyerek durumun vahametini aktarıyor. “Bu yılın başlarında yapay zeka tarafından oluşturulan görüntülerin gerçek çocuk istismarı fotoğraflarından ayırt edilemeyeceği konusunda uyarmıştık. “Artık o noktayı geçtik.”
İnternet Gözlem Vakfı’nın raporu, yapay zeka görüntülerinin yan etkilerine de dikkat çekiyor. Üretilen bu içeriklerde aslında çocuklara zarar verilmese de pedofili davranışlar normalleştirilebiliyor. Bir diğer israf ise polisin mali kaynaklarının aslında var olmayan çocukları kurtarmak için kullanılmasıdır. Bu durum kolluk kuvvetleri açısından yeni ve karmaşık bir çaba anlamına gelmektedir. (BBC Türkçe)
