Stanford Üniversitesi İnternet Gözlemevi tarafından Pazartesi günü yayınlanan yeni bir rapora göre, yapay zeka tarafından oluşturulan yeni bir çocuk cinsel istismarı materyali, köhne teknoloji ve yasalar nedeniyle zaten geride tutulan yetkilileri bunaltma tehdidinde bulunuyor.
Geçtiğimiz yıl, yeni yapay zeka teknolojileri suçluların açık çocuk görselleri oluşturmasını kolaylaştırdı. Şimdi Stanford araştırmacıları, merkezi bir koordinasyon kurumu olarak hareket eden ve finansmanının çoğunu federal hükümetten alan kar amacı gütmeyen bir kuruluş olan Kayıp ve İstismara Uğrayan Çocuklar Ulusal Merkezi’nin, artan tehditle mücadele edecek kaynaklara sahip olmadığı konusunda uyarıyor.
Kuruluşun 1998 yılında oluşturulan CyberTipline’ı, çocukların cinsel istismarına ilişkin materyaller (CSAM) hakkındaki tüm çevrimiçi raporların federal takas merkezidir ve kolluk kuvvetleri tarafından suçları araştırmak için kullanılır. Ancak alınan ipuçlarının çoğu eksik veya yanlışlıklarla dolu. Küçük personeli de bu hacme ayak uydurmak için mücadele etti.
Shelby Grossman, “Önümüzdeki yıllarda CyberTipline’ın son derece gerçekçi görünen yapay zeka içeriğiyle dolup taşacağı neredeyse kesin; bu da kolluk kuvvetlerinin kurtarılması gereken gerçek çocukları tespit etmesini daha da zorlaştıracak” dedi. raporun yazarları.
Kayıp ve İstismara Uğrayan Çocuklar Ulusal Merkezi, yapay zeka ile oluşturulan cinsel istismar içeren görüntülere karşı yeni bir mücadelenin ön saflarında yer alıyor; yeni ortaya çıkan bir suç alanı, yasa yapıcılar ve kolluk kuvvetleri tarafından hâlâ tanımlanıyor. Halihazırda, okullarda dolaşan derin sahte yapay zeka tarafından üretilen çıplaklık salgınının ortasında, bazı yasa koyucular bu tür içeriklerin yasa dışı sayılmasını sağlamak için harekete geçiyor.
Araştırmacılar, AI tarafından oluşturulan CSAM görüntülerinin, gerçek çocukları içermesi veya gerçek çocukların görüntülerinin verileri eğitmek için kullanılması durumunda yasa dışı olduğunu söylüyor. Ancak raporun yazarlarından birine göre, gerçek görüntüler içermeyen, sentetik olarak üretilmiş olanlar ifade özgürlüğü olarak korunabilir.
