Yapay zekanın babası olarak bilinen Nobel ödüllü bilim insanı Geoffrey Hinton, insanlardan daha yetenekli yapay zeka sistemlerinin kontrolü ele geçirmesi konusunda yeni bir uyarıda bulundu.
Avrupa Birliği (AB) ülkelerinin devlet ve hükümet başkanları, 13 Kasım'da İrlanda'nın başkenti Dublin'de düzenlenen gayriresmi toplantıda ilk kez yapay zekayı ayrı bir stratejik gündem maddesi olarak ele aldı.
Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü'nü John Hopfield ile paylaşan Hinton da toplantının yapay zekanın toplumsal etkilerine ve güvenliğine ayrılan bölümüne katıldı.
3 YIL SONRA CİDDİ BİR DEĞİŞİM YAŞANABİLİR
Alignment Research Center'ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, 9-11 Kasım'da Kanada'nın Toronto kentinde düzenlenen Hinton Konferansları'nda, yapay zeka üzerinde insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü ifade etti.
Christiano, bu riskin önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek düzeyde olduğunu kaydetti.
Araştırmacının tarif ettiği senaryoda, sistemlerin kendi hedefleri doğrultusunda hareket ettiği ve insanların gerektiğinde bu davranışları durdurmakta yetersiz kaldığı belirtildi.
Hinton ise daha önce yapay zekanın insan zekasını aşmasının 10 yıl içinde mümkün olabileceğini söylediğini hatırlatarak, Christiano'nun bu riskin çok daha erken ortaya çıkabileceğine ilişkin değerlendirmesini kaygı verici bulduğunu belirtti. Hinton, bir sistemin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı sorunu üzerinde durdu.
