Uzmanlar, yapay zeka tarafından üretilen görüntü, ses ve videonun sonbahar seçimlerini etkileyebileceği konusunda uyarırken, OpenAI, kendi popüler görüntü oluşturucusu DALL-E tarafından oluşturulan içeriği tespit etmek için tasarlanmış bir araç piyasaya sürüyor. Ancak önde gelen AI start-up’ı, bu aracın önümüzdeki aylarda ve yıllarda sözde deepfake’lerle mücadele etmek için ihtiyaç duyulanın yalnızca küçük bir kısmı olduğunu kabul ediyor.
Salı günü OpenAI, yeni deepfake dedektörünü küçük bir grup dezenformasyon araştırmacısıyla paylaşacağını, böylece aracı gerçek dünyadaki durumlarda test edebileceklerini ve geliştirilebilecek yolları belirlemelerine yardımcı olacağını söyledi.
Güvenlik ve politikaya odaklanan OpenAI araştırmacısı Sandhini Agarwal, “Bu, yeni araştırmaları başlatmak için” dedi. “Buna gerçekten ihtiyaç var.”
OpenAI, yeni dedektörünün, görüntü oluşturucunun en son sürümü olan DALL-E 3 tarafından oluşturulan görüntülerin yüzde 98,8’ini doğru bir şekilde tanımlayabildiğini söyledi. Ancak şirket, aracın Midjourney ve Stability gibi diğer popüler jeneratörler tarafından üretilen görüntüleri tespit etmek için tasarlanmadığını söyledi.
Bu tür deepfake dedektörleri olasılıklara göre hareket ettiğinden asla mükemmel olamaz. Diğer birçok şirket, kar amacı gütmeyen kuruluş ve akademik laboratuvar gibi OpenAI de sorunla başka yollarla mücadele etmek için çalışıyor.
Teknoloji devleri Google ve Meta gibi şirket de, dijital içerik için kimlik bilgileri geliştirme çabası olan İçerik Kanıtlanması ve Orijinallik Koalisyonu’nun (C2PA) yönetim komitesine katılıyor. C2PA standardı, görseller, videolar, ses klipleri ve diğer dosyalar için bunların ne zaman ve nasıl üretildiğini veya değiştirildiğini (AI dahil) gösteren bir tür “beslenme etiketidir”
OpenAI ayrıca, anında kolayca tanımlanabilmeleri için yapay zeka tarafından üretilen seslere “filigran” eklemenin yollarını geliştirdiğini de söyledi. Şirket, bu filigranların kaldırılmasını zorlaştırmayı umuyor.
OpenAI, Google ve Meta gibi şirketler tarafından desteklenen yapay zeka endüstrisi, ürünlerinin oluşturduğu içeriğin hesaba katılması konusunda giderek artan bir baskıyla karşı karşıya. Uzmanlar, sektöre, kullanıcıların yanıltıcı ve kötü amaçlı materyal üretmesini engelleme ve bunların kökenini ve dağıtımını takip etmenin yollarını sunma çağrısında bulunuyor.
Dünya çapında büyük seçimlerle dolu bir yılda, yapay zeka içeriğinin kökenini izlemenin yolları yönündeki çağrılar giderek daha umutsuz hale geliyor. Son aylarda ses ve görüntü, Slovakya, Tayvan ve Hindistan gibi yerlerde siyasi kampanyaları ve oy verme faaliyetlerini şimdiden etkiledi.
OpenAI’nin yeni deepfake dedektörü sorunun çözülmesine yardımcı olabilir, ancak çözmeyecektir. Bayan Agarwal’ın belirttiği gibi: Deepfake’lere karşı mücadelede “sihirli bir çözüm yoktur.”
