Polis, Baltimore bölgesindeki bir lise atletik direktörünün, okul müdürünün kimliğine bürünen ırkçı ve Yahudi karşıtı bir ses klibi üretmek için yapay zeka yazılımını kullanmasının ardından Perşembe günü tutuklandığını söyledi.
Pikesville Lisesi’nin atletik direktörü Dazhon Darien, müdür Eric Eiswert’i karalamak amacıyla – “kese kağıdından çıkmayı deneyemeyen nankör Siyah çocuklar” hakkında bir tirat da dahil olmak üzere – kaydı uydurdu. Baltimore İlçesi Polis Departmanı.
Ocak ayı ortasında Instagram’da yayınlanan sahte kayıt hızla yayıldı ve ülkenin 22. en büyük okul bölgesi olan ve 100.000’den fazla öğrenciye hizmet veren Baltimore County Devlet Okullarını rahatsız etti. Polis, bölge soruşturması sırasında yorum yapmayı reddeden Bay Eiswert’in güvenliğine yönelik tehditlerle dolu olduğunu söyledi. Okul bölgesi ayrıca kendisinin idari izne ayrıldığını söyledi.
Şimdi Bay Darien, okul faaliyetlerini aksatmak ve müdürü takip etmek de dahil olmak üzere suçlamalarla karşı karşıya bulunuyor.
Bay Eiswert, yorum talebini müdürlere yönelik bir ticaret grubu olan İdari ve Denetleyici Çalışanlar Konseyi’ne iletti, ancak bir muhabirden gelen çağrıya yanıt vermedi. Perşembe günü tahvil gönderen Bay Darien’a yorum yapması için hemen ulaşılamadı.
Baltimore County vakası, okullarda yapay zeka istismarının arttığının en son göstergesi. Çoğu durumda, ikna edici derecede gerçek görünebilen derin sahtekarlıklar veya dijital olarak değiştirilmiş video, ses veya görüntüler yer alıyor.
Geçen sonbahardan bu yana, Amerika Birleşik Devletleri’ndeki okullar, erkek öğrencilerin yapay zeka “çıplaklaştırma” uygulamalarını kullanarak, bazıları 12 yaşındaki ortaokul öğrencileri olan kadın sınıf arkadaşlarının sahte çıplak resimlerini oluşturduğu rahatsız edici deepfake olaylarını ele almak için çabalıyor. Baltimore County’deki deepfake ses olayı, ülke çapındaki okullar için başka bir yapay zeka riskine işaret ediyor; bu kez tecrübeli eğitimciler ve bölge liderleri için.
