Araştırmacı, Google’ın ChatGPT, Bing Chat ve gibisi modellerle rekabet etmek maksadıyla halka açık yapay zeka sürümleri üzerindeki evvelki kısıtlamasından vazgeçerek birden çok etik probleme kapı açmasından kaygı duyuyor.
Yakın vadede Hinton, üretici yapay zekanın bir yanlış bilgi dalgasına yol açabileceğinden tasa ediyor. “Artık neyin gerçek olduğunu bilemeyebilirsiniz” diyor. Ayrıyeten, bunun yalnızca “zor işleri” ortadan kaldırmakla kalmayıp, kimi işleri büsbütün değiştirebileceğinden de kaygı ediyor. İleriye dönük olarak, bilim insanı hem büsbütün otonom silahların mümkünlüğü hem de AI modellerinin eğitim datalarından tuhaf davranışlar öğrenme eğilimi konusunda telaşlı. Bu meselelerden kimileri teorik olsa da Hinton, düzenlemeler yahut tesirli denetimler geliştirilmeden denetim edilemeyecek bir tırmanıştan korkuyor.
Yapay zekanın babası Geoffrey Hinton yeni olaylardan rahatsız!
Hinton, duruşunun geçen yıl Google, OpenAI ve başkalarının bazen insan zekasından üstün olduğuna inandığı yapay zeka sistemleri yaratmaya başlamasıyla değişmeye başladığını söylüyor. Araştırmacı, yapay zekanın sırf son beş yılda süratle geliştiğini ve önümüzdeki beş yıl içinde olabileceklerin “korkutucu” olduğunu öne sürüyor.
Google’ın baş bilim adamı Jeff Dean, Engadget’e yaptığı açıklamada, firmasının hala “sorumlu bir yaklaşıma” bağlı olduğunu ve “ortaya çıkan riskler” için tetikte olduğunu söyledi. Arama devi, şirketin üretici yapay zekanın rekabetçi tehdidi konusunda tasa duyduğu aylarca süren söylentilerin akabinde Mart ayında Bard sohbet robotunun kaba bir sürümünü yayınladı. O vakitten evvel, sanat odaklı Imagen üzere yapay zeka modellerini, zehirli içerik ve telif hakkı ihlalleri potansiyeli nedeniyle halka açık bir biçimde yayınlamayı reddetti.
