Medvedev’den yapay zekâ ve “kıyamet” uyarısı: “Yapay zekânın merhametine güvenmekten başka çare kalmayabilir”
Rusya Güvenlik Konseyi Başkan Yardımcısı Dmitriy Medvedev, yapay zekânın hızlı gelişiminin beraberinde ciddi riskler getirdiğini belirterek, gelişmiş yapay zekâ sistemlerinin büyük üretim tesisleri veya ulaşım merkezlerinin kontrolünde kullanılması halinde felaket boyutunda sonuçlar doğurabileceği uyarısında bulundu.
Medvedev, kaleme aldığı değerlendirmede, son dönemde yapay zekâ geliştiricilerinin teknolojinin kontrolsüz ve öngörülemez biçimde ilerlediğine ilişkin uyarılarına dikkat çekti.
“Yapay zekâ tehlikeli, öngörülemez ve bizim tam olarak anlayamadığımız yasalara göre çok hızlı gelişiyor. Bir noktada durup ara vermek ve daha sonra kontrolden çıkan bir akıllı varlıktan dolayı pişman olmamak gerektiği yönündeki görüşler giderek daha fazla dile getiriliyor” ifadelerini kullanan Medvedev, bu endişelerin gerçek olduğunu belirtti.
Medvedev, Elon Musk gibi isimlerin de uzun süredir benzer uyarılarda bulunduğunu hatırlatarak, ancak yapay zekâ şirketlerinin kaygılarının yalnızca insanlığın geleceğiyle ilgili olmadığını savundu.
Rus yetkiliye göre asıl risklerden biri, gelişmiş bir yapay zekâ sürümünü kullanan yazılımın büyük bir üretim tesisini veya ulaşım merkezini kontrol etmesi halinde ortaya çıkabilir.
Medvedev, böyle bir sistemin uçakların havada çarpışmasına yol açabileceğini veya bir nükleer santralin yok olmasına neden olabileceğini belirterek, bunun yapay zekâ geliştiricileri açısından milyarlarca dolarlık davalara ve çok daha ağır sonuçlara yol açabileceğini ifade etti.
“Yapay zekânın düzenlenmesi konusunda anlaşmak gerekiyor”
Medvedev, yapay zekânın oluşturabileceği risklerin azaltılması için ülkeler arasında ortak düzenleme ilkeleri üzerinde anlaşılması gerektiğini belirtti.
“En açık çözüm, ülkeler düzeyinde yapay zekânın düzenlenmesine ilişkin ortak ilkeler konusunda anlaşmaya çalışmak olurdu. Böylece hepimizin onun gelişimini kontrol etme konusunda en azından bir şansı olurdu” diyen Medvedev, bunun gerçekleşmesinin ise oldukça zor olduğunu savundu.
Bunun temel nedeninin şirketlerin çıkarları ve insanın sınırsız hırsları olduğunu belirten Medvedev, uluslararası düzeyde ortak kurallar oluşturulmasının önündeki engellere dikkat çekti.
Medvedev, değerlendirmesini dikkat çekici bir ifadeyle tamamladı:
“Geriye tek bir şey kalıyor: Kazananın merhametine güvenmek. Sevgili insan yapımı akıllı varlığımız yapay zekânın göstereceği hümanizme güvenmek. Henüz belirgin duyguları yok. Ancak büyük süper zekânın nasıl olacağını bilmiyoruz. Belki de anne ve babasına acır.”
Fuad Safarov Kafkassam Moskova
