İnsanlık tarihi boyunca savaş, teknolojinin sınırlarını zorladığı en vahşi laboratuvar olmuştur. Baruttan nükleer silahlara kadar her kırılma noktası, insanlığa yıkım gücünü artırma imkanı sunarken, aynı zamanda stratejik bir dehşet dengesi doğurmuştur. Ancak yapay zeka ve robotik devrimiyle birlikte askeri teknoloji, daha önce hiç karşılaşmadığı felsefi ve varoluşsal bir eşiğe gelmiştir: Karar alma yetkisinin insandan makineye devredilmesi. Karşı karşıya olduğumuz şey sadece daha hızlı veya daha ölümcül silahlar üretmek değil; savaşın doğasını, ahlakını ve en önemlisi kontrolünü tamamen kaybetme riskidir. Bu bağlamda asıl soru, teknolojinin bizi nereye götüreceği değil, “Henüz vakit varken hangi sınırları çizmeliyiz?” sorusudur.
Askeri stratejide hız, geleneksel olarak zaferin anahtarı kabul edilir. Ancak yapay zeka çağında hız, insan algısının ve biyolojik kapasitesinin ötesine geçmektedir. Sistemleri tasnif ederken insanın karar mekanizmasındaki yerine göre üç aşama tanımlanır: Döngüdeki (in-the-loop), döngü üstündeki (on-the-loop) ve döngü dışındaki (out-the-loop) insan.
Hipersonik füzelerin, siber saldırıların ve otonom dron sürülerinin mikro saniyeler içinde karar vermeyi zorunlu kıldığı bir savaş alanında, insanın döngüde kalması teknik olarak imkansızlaşmaktadır. İnsan, hız uğruna sistemin dışına itilerek döngü dışı (out-of-the-loop) bırakıldığında, savaş artık devletlerin politik iradelerinin bir uzantısı olmaktan çıkıp, algoritmaların kendi aralarındaki kontrolsüz etkileşimine dönüşecektir. Bu durum, hızın tiranlığı nedeniyle orduların mecburen kontrolü makinelere devrettiği distopik ama son derece gerçekçi bir geleceğe işaret etmektedir.
Makineler veri işleme, örüntü tanıma ve hatasız hesaplama konusunda insandan üstündür; fakat bağlamı anlama ve ahlaki muhakeme yeteneğinden yoksundur. Örneğin, 1983 yılında Sovyet erken uyarı sisteminin yanlış alarmını kendi sezgileri ve insani muhakemesiyle engelleyen Stanislav Petrov olmasaydı, dünya nükleer bir felaketi yaşayacaktı.
Bir yapay zeka, Cenevre Sözleşmesi’ni kodlar halinde ezbere bilebilir; ancak savaş alanındaki teslim olma niyetini, yaralı bir askerin acısını veya bir sivilin korkusunu hissedemez. Algoritmik mantık, beklenmedik durumlarda kuralları esnetme esnekliğine sahip değildir. Dolayısıyla, hedefin yok edilmesindeki verimlilik, ahlaki ve hukuki sorumluluğun yerini tutamaz. İnsanın muhakeme yeteneği, savaşın vahşetini tamamen engelleyemese de, onun tamamen barbarlaşmasını önleyen son emniyet supabıdır.
Sınırları çizmenin önündeki en büyük engel, modern otonom teknolojilerin doğasıdır. Nükleer silahların üretimi için uranyum zenginleştirme tesisleri gibi devasa, izlenebilir ve denetlenebilir altyapılar gerekirken; yapay zeka büyük oranda yazılıma dayalıdır. Ticari bir otonom araç yazılımı ile askeri bir kamikaze dronunun kod tabanı birbirine son derece yakındır.
Bu çift kullanımlı yapı, uluslararası denetimi ve silahsızlanma anlaşmalarını neredeyse imkansız kılmaktadır. Çin, ABD ve Rusya gibi küresel güçler, rakiplerinin gerisinde kalma korkusuyla (güvenlik ikilemi) otonom silahlanma yarışına hız vermektedir. Hiçbir aktörün ilk geri adımı atmaya cesaret edemediği bu denklemde, uluslararası hukuk ve etik normlar, teknolojinin hızının çok gerisinde kalmaktadır.
Bu gelişmeler sonrasında insanlığa yapılabilecek acil çağrı, teknolojiyi toptan reddeden teknoloji karşıtı bir yaklaşım değildir. Aksine, teknolojinin askeri kapasiteyi artırırken ahlaki sorumluluğu yok etmemesi için çekilmesi gereken kırmızı çizgileri belirleme çabasıdır.
Makinelerin lojistik, erken uyarı ve savunma sistemlerinde kullanımı kaçınılmaz olabilir; ancak öldürme kararının bir algoritmaya devredilmesi, insanlığın kendi öz saygısından ve geleceğinden vazgeçmesi anlamına gelir. Henüz algoritmalar dünyayı tamamen ele geçirmemiş ve kararlar hala insanlar tarafından alınıyorken, uluslararası toplum küresel bir konsensüs sağlamak zorundadır. Aksi takdirde, geleceğin savaşlarında kazanan hangi ordu olursa olsun, kaybeden kesinlikle insanlık olacaktır. Sınırları çizmek için elimizde kalan zaman, algoritmaların işlem hızından çok daha yavaştır; bu yüzden harekete geçmek için henüz vakit varken son şansımızdır.
NURİ CEM TABANLI
NURİ CEM TABANLI: Geleceğin Savaşlarında İnsan Kalabilmek: Otonom Silahlar ve Geri Sayımdaki Sınırlar
