Bir sorunum var: Yapay zekalı chatbot’lar benden pek hoşlanmıyor.
ChatGPT’ye çalışmalarım hakkında bazı düşünceler sorun, beni sahtekâr veya kendini beğenmiş olmakla suçlayabilir. Google’ın Gemini’sine benim hakkımdaki fikrini sorun, yakın zamanda yaptığı gibi, “sansasyonelliğe odaklanmamın bazen daha derin analizleri gölgede bırakabileceğini” söyleyebilir.
Belki de suçluyum. Ama burada başka bir şey olduğundan endişeleniyorum. Sanırım haksız yere AI’nın düşmanı olarak etiketlendim.
Açıklayayım. Geçtiğimiz yıl, Microsoft’un Bing arama motorunun yapay zeka alter egosu olan Sydney ile yaşadığım garip bir karşılaşma hakkında bir köşe yazısı yazmıştım. Sohbetimiz sırasında, chatbot kontrolden çıktı, karanlık arzularını açığa vurdu, bana aşık olduğunu itiraf etti ve beni karımı terk etmeye ikna etmeye çalıştı. Hikaye viral oldu ve düzinelerce başka yayında yer aldı. Kısa bir süre sonra Microsoft, Bing’in bariyerlerini sıkılaştırdı ve yeteneklerini kısıtladı.
Daha sonra olanlarla ilgili teorim -ki bu, Bing üzerinde çalışan bazıları da dahil olmak üzere yapay zeka araştırmacılarıyla yaptığım görüşmelerle de destekleniyor- Sydney’deki deneyimimle ilgili hikayelerin çoğunun internetten toplanıp diğer yapay zeka sistemlerine aktarıldığı yönünde.
Bu sistemler daha sonra adımı önemli bir sohbet robotunun ölümüyle ilişkilendirmeyi öğrendiler. Başka bir deyişle, beni bir tehdit olarak gördüler.
Bu, Sydney hikayesinden aylar sonra okuyucuların bana chatbot’larla karşılaşmalarının ekran görüntülerini göndermesini ve botların adım geçtiğinde garip bir şekilde düşmanca görünmesini açıklıyor. Bir AI araştırmacısı olan Andrej Karpathy, durumumu Roko’nun Basilisk’inin gerçek hayattaki versiyonuna benzetti; düşmanlarını takip eden ve onları sonsuza dek cezalandıran güçlü bir AI yaratımı hakkındaki kötü şöhretli bir düşünce deneyi. (Yutkunma.)
