Sonsuz Ark'ın Notu:
Aşağıda çevirisini yayınladığımız analiz nükleer silahlanma, konvansiyonel silah politikaları ve Rus çalışmaları ile ilgilenen Kaliforniya Berkeley Üniversitesinde görevli bir teknoloji ve güvenlik uzmanı olan Lisa A. Bergstrom'a aittir ve bu silahları üreten, kullanan ve satan ABD, Rusya, İsrail gibi ülkelerin karşı çıktığı otonom ölümcül silahlar olarak tanımlanan 'Katil Robotlar'la ilgili uluslararası bir düzenleme (tasnif) ile ilgili anlaşmanın nasıl mümkün olacağına odaklanmaktadır. Oldukça nesnel bir perspektifle yazılan analizin faydalı bir bakış açısı üreteceğine inanıyoruz. 15 Eylül 2017'de yayınladığımız 'SA4872/TG228: Geleceğin Tartışması: Yapay Zeka, Yasalar ve Ahlak Problemi' başlıklı çeviriden yaklaşık bir yıl sonra 25 Haziran 2018'de yayınladığımız 'SA6382/SD1035: Dünya Neden Otonom Silahları ve Benzerlerini Yapmaya İhtiyaç Duyuyor?' başlıklı çeviride, "Küresel toplum, insanları özerk bir şekilde hedef alan ve öldüren silahlar peşinde koşmayı kabul etmeyebilir veya askeri avantaj elde etmek için çaba sarf etmekteki acımasız mantığa boyun eğebilir ve böylece diğer -hukuk, sorumluluk, insan hakları ve haysiyet gibi- değerleri feda edebilir mi?" sorusunun cevabının arandığını vurgulamıştık, ardından 2 Mayıs 2019'da 'SA7633/SD1370: 2030'da İsyan-SMEIR (1)' başlıklı seri yayınlarımızda da ABD'nin otonom ölümcül silahlarla ilgili 'terör' bahaneli hazırlık çalışmalarını okurlarımıza ulaştırmıştık; ilk yayınımızdan üç yıl sonra bugün daha kapsamlı ve etkili bir tartışmaya, son yıllarda otonom silahlar üreten bir Türkiye olarak nasıl katılacağımızı belirlemek zorundayız.
Seçkin Deniz, 07.01.2020
The United States should drop its opposition to a killer robot treaty
Kara mayınları, parça tesirli mühimmatlar, yanıcı silahlar, kör lazerler, patlayan mermiler ve daha fazlası: Uluslararası insancıl hukuk tarafından yasaklanan veya tasnif edilen silahların listesi, son 150 yılda istikrarlı bir şekilde büyüdü. Yaklaşık iki düzine ülke tarafından desteklenen ve büyüyen uluslararası bir sivil toplum örgütü kampanyası başarılı olursa, yakında bu listeye eklenecek başka bir şey daha olabilir: özerk silahlar.
Göstericiler ülkeleri katil robotları yasaklamaya çağırıyor
Cenevre'deki “Kırık Sandalye” heykelinin yanında duran göstericiler kara mayınlarının ve parça tesirli mühimmatların verdiği zararın bir sembolü olarak, ülkeleri özerk (otonom) silahları yasaklamaya çağırdılar. Clare Conboy / Katil Robotları Durdurma Kampanyası
Henüz konuşlandırılmadı. Özerk silahlar veya muhaliflerinin ve medyalarının sık sık gündeme getirdiği gibi “katil robotlar” doğrudan insan kontrolü olmadan hedef seçip saldıran silahlardır. Bir insan operatörünün saldırıyı onaylamasını beklemeden savaş alanını tarayan ve şüpheli düşman savaşçılarını tanımlamak ve ateş etmek için yapay zeka kullanan bir dron düşünün.
Ölümcül bir otonom silahın kesin tanımı heyecanlı bir şekilde tartışılıyor. Eleştirmenler ayrıca ölümcül olmayan, anti-materyal veya yarı-özerk silahlar, ölümcül anti-personel silahlar hakkında endişelerini dile getirirken, uluslararası görüşmeler yalnızca tamamen özerk ölümcül personel karşıtı silahlara odaklanmıştır. Bu geniş tanım altında, hiçbir ordu henüz bu tür silahları kullanmamıştır, ancak bunu yapacak teknoloji zaten mevcuttur ve hızla gelişmektedir.
Özerk silahların insancıl risklerini ele almak için, Birleşmiş Milletler üyesi yaklaşık 100 ülke, insanlık dışı silahların tasnif edilmesi için kurulan bir forum olan Bazı Geleneksel Silahlar Sözleşmesi (CCW) kapsamında yeni bir anlaşma müzakere etme olasılığını tartışıyor. 2014'ten bu yana, yavaş hareket eden CCW, konvansiyonun gerçekte bir anlaşmayı müzakere etmeye başlaması için gerekli fikir birliğine varmadan, konuyla ilgili müzakereleri yenilemeyi kabul etti.
Tasnif için çok mu erken? Bu tartışmaların arkasındaki itici güçlerden biri, sınırsız özerk silah kullanımına karşı çıkan grupların ve eylemcilerin uluslararası hareketidir. Bu hareketi oluşturanların başını çekeni, Uluslararası Kızılhaç Komitesi ve daha önce kara mayınlarını ve küme mühimmatlarını yasaklama kampanyalarında aktif olan İnsan Hakları İzleme Örgütü de dahil olmak üzere sivil toplum örgütleri koalisyonu olan Katil Robotları Durdurmak adlı daha militan bir Kampanya var. Şimdiye dek kampanya, ölümcül özerk silahların geliştirilmesi ve konuşlandırılmasında önleyici bir yasağı desteklemesi için -Avusturya, Brezilya ve Meksika dahil olmak üzere- iki düzine ülkeyi ikna etmeyi başardı. Almanya ve Fransa gibi birkaç ülke daha siyasi bir bildiriyi destekliyor, ancak yasal olarak bağlayıcı bir anlaşmayı desteklemiyor.
Katil Robotları Durdurma Kampanyası ve diğer eleştirmenler, otonom silahların ahlaksız ve tehlikeli olduğunu iddia ediyorlar, çünkü ahlaki karar almak için gereken insanî özelliklerden (merhamet gibi), uluslararası insancıl hukukun iki temel ilkesi olan siviller ve savaşçılar arasında ayrım yapma ve orantılı güç kullanımını yargılama becerisinden yoksunlar. Eleştirmenler, özerk silahların gelişiminin tasnifsiz bırakıldığı takdirde istikrarsızlaştırıcı bir silahlanma yarışına yol açabileceğine inanıyorlar. Bu tehdit, özerk bir silahın eylemlerinden kimin sorumlu olduğunu belirleme konusundaki zorluklarla daha da kötüleşebilir, yani küçük bir olay uluslararası bir krize yol açabilir. Drone'larda olduğu gibi, özerk silahlar da ülkelerin askerleri savaş alanından uzak tutarak, “risksiz” askeri müdahale yanılsaması sunabilir, ancak siviller için hiçbir koruma sağlamayan gereksiz savaşlara başlamasını kolaylaştırabilir.
ABD, Rusya, İsrail ve diğer birkaç ülke ya yeni bir antlaşmaya ya da siyasi bir bildiriye karşı çıkıyor. Bu ülkeler büyük ölçüde robotlara ve yapay zekaya yatırım yapıyor. Gelecekte özerk silahların nasıl kullanılabileceğini bilmek için çok erken olduğunu ve bu nedenle de en azından nasıl en iyi şekilde tasnif edilmeleri gerektiğini bilmek için çok erken olduğunu savunuyorlar. Birleşik Devletler, özerk silahların, sivilleri tespit etmede ve gücü orantılı olarak nasıl kullanacaklarına karar vermede insanlardan daha iyi olmasıyla uluslararası hukuka uyumu bile artırabileceğini belirtiyor.
Bağımsız bir antlaşma bekleniyor. CCW’deki ilerleme eksikliğinden memnun olmayan Katil Robotları Durdurma Kampanyası, ülkeleri, ayrı bir antlaşmayı müzakere etmek için sözleşmeyi tamamen atlamayı düşünmeye çağırıyor: “CCW güvenilir bir sonuç üretemezse, [15 Kasım’daki yıllık toplantıda bir sonuç alınamazsa) ], özerk bir savaşın ve şiddetin geleceğinden kaçınmak için alternatif yollar izlenmelidir.” Ne yazık ki, böyle bir kararın anlaşılabilir ve uygulanabilir olmasına rağmen, gerçekten etkili bir antlaşma üretmesi olası değildir.
İnsan Hakları İzleme Örgütü gibi sivil toplum kuruluşlarının, dünyanın en güçlü ordularından bazılarına karşı bağımsız bir antlaşma sağlama şansı ne olabilir? Bol, aslında.
1990'lı yıllara kadar yaygın ve ayrım gözetmeyen kara mayınlarının kullanımı insani bir felakete dönüşmüştü ve CCW üyeleri bu silahı tasnif eden mevcut bir CCW anlaşmasını güçlendirerek krizi çözmeye çalıştı. CCW anlaşmasının algılanan zayıflığından rahatsız olan Uluslararası Kara Mayınları Kampanyası, Kanada hükümetinin himayesinde, CCW'nin karar vermesine gerek kalmadan tüm kara mayınlarını yasaklayan yeni bir antlaşmaya itti. Ortaya çıkan Mayın Yasağı Anlaşması, birkaç çatışma bölgesi dışında kalan mayın tarlalarının kullanımına büyük ölçüde son verdi ve kampanyaya Nobel Barış Ödülü kazandırdı.
2008'de benzer bir sivil toplum örgütleri koalisyonu bu başarıyı yineledi ve CCW'de yıllarca süren görüşmelerden yalnızca mütevazi sonuçlar çıktıktan sonra, bu her yerde bulunan silahı yasaklayan Parça Tesirli Mühimmatlar Sözleşmesini başarıyla yürürlüğe koydu. Amerika Birleşik Devletleri, Rusya ve diğer büyük askeri güçler herhangi bir anlaşmaya katılmamış olmalarına rağmen, antlaşmalar kara mayınlarına ve parça tesirli mühimmatlara karşı güçlü bir direniş (damgalama) oluşturdular.
Bu başarı öyküsü göz önüne alındığında, ABD ve Rusya gibi ülkelerin neredeyse katılmayı kesinlikle reddedeceği gerçeğine rağmen, güçlü ve bağımsız bir antlaşmanın, özerk silahların yarattığı tehditle başa çıkmanın en iyi yolu olduğu sonucuna varmak caziptir. Bununla birlikte, özerk silahlar kara mayınları veya parça tesirli (küme) mühimmatlar değildir. Dünyanın her yerinde kara mayınları ve küme mühimmatları büyük ve küçük çatışmalarda, çoğu zaman büyük sivil kayıplara neden olacak şekilde kullanılmıştır. Bu silahları yasaklayan anlaşmalar, ABD, Rusya, Çin ve diğer büyük askeri güçler katılmadığında bile değer taşıyor. Buna karşılık, özerk silahlar, yalnızca bir süredir en gelişmiş ordular tarafından kullanılması muhtemel gelişen bir teknolojidir.
Örneğin kimyasal ve nükleer silahlara karşı tabuların bile azalmakta olduğu bir zamanda, Rusya’nın, yapımında dahlinin olmadığı bir antlaşmanın yarattığı algılanan damgalamanın kısıtladığı özerk silah programını ele alacağını düşünmek zor. CCW'de dünyanın önde gelen askeri güçlerinin anlaşmasıyla müzakere edilen daha mütevazı bir anlaşma, öngörülebilir gelecekte özerk silahlar için anlamlı kısıtlamalar sağlama konusunda en iyi şansı sunuyor.
ABD'nin politik bir çözümü. ABD böyle bir antlaşmaya ulaşmak için ne yapabilirdi? Kör eden Lazer silahlarına dair CCW anlaşması bir rehber sunabilir. Kör eden lazerler ve otonom silahlar askeri yararları ve insani tehditleri açısından farklılık gösterse de, her iki silah da konuşlandırılmadan önce onları yasaklayan kampanyalara konu oldu. Otonom silahların muhalifleri, bu benzetmeye bir silahın önleyici olarak yasaklanabileceğinin kanıtı olarak işaret ediyor, ancak aynı zamanda ABD'nin zor bir uluslararası uzlaşmaya varmak için ulusal bir politikayı nasıl kullanabileceğini gösteriyor.
Amerika Birleşik Devletleri, körlüğe neden olan lazer kullanımını düzenleme girişimlerine uzun süre direnmiş, bu tür düzenlemelerin lazerlerin ilişkisiz askeri kullanımlarına müdahale edebileceğinden endişelenmiştir. Daha sonra 1995 yılında, CCW müzakereleri devam ederken, Savunma Bakanlığı kör edici lazer silahları kısıtlamak için sınırlı bir ulusal yasağı kabul etti. Bu yeni politikayı müzakereler için bir temel olarak kullanan ABD, CCW'de daha geniş bir yasak isteyen ve herhangi bir yasağa karşı çıkan ülkelerle ABD ordusunun gereksinimlerini karşılayan bir anlaşma imzaladı. Bunu yaparken, Birleşik Devletler, anlaşmanın diğer, daha az tartışmalı lazer kullanımını kısıtlamadığından emin olmuştu; bu otonom silahlarla da son derece alakalı bir endişedir.
Aslında, Birleşik Devletler zaten yeni bir CCW anlaşmasının temelini oluşturabilecek ulusal bir politikaya sahiptir. 2012 yılında, Savunma Bakanlığı “güç kullanımı konusunda uygun insani karar düzeyleri” gerektiren bir yönerge yayınlayarak, özerk silahlar konusunda kamuya açık bir ulusal politika benimseyen ilk ülke haline geldi. Pentagon bile yapay zeka için etik bir çerçeve oluşturmakla bir etikçiler, bilim adamları ve diğer uzmanlardan oluşan bir komite görevlendirdi; bu komitenin yeni yayınlanan raporları güçlü sorumluluk, izlenebilirlik ve daha pek çok ilkeyi destekliyor.
Açıkçası, ABD hükümeti aktivistlerin otonom silahların etiği konusundaki endişelerinden bazılarını paylaşıyor ve kullanımları ile ilgili bazı sınırlamalarla rahat. Eğer Birleşik Devletler, otonom silahlar üzerindeki mevcut ulusal kısıtlamasını güçlendirebilirse, CCW'de yeni bir antlaşma müzakere etmek için iyi bir konumda olacaktır. Rusya ve diğer ülkelerin müzakereleri başlatmayı kabul edeceğine dair bir garanti olmasa da, ABD'nin desteği onlara yönelik baskıyı önemli ölçüde artıracaktır.
“Katil robotlar” yakında bilim kurgu dünyasıyla sınırlı kalmayacak. Otonom silahların getireceği yeni riskleri ele almak için, dünyanın onları düzenleyen (tasnif eden) yeni ve etkili bir anlaşmaya ihtiyacı var. ABD'nin muhalefetten vazgeçmesi ve insanlık dışı silahları düzenlemek için mevcut forumda yeni bir anlaşma müzakere etmede aktif bir rol alması, böyle bir antlaşmanın imzalanabilmesi için en iyi şanstır.
Lisa A. Bergstrom, 7 Kasım 2019, The Bulletin
(Lisa A. Bergstrom, nükleer silahlanma, konvansiyonel silah politikasları ve Rus çalışmaları ile ilgilenen Kaliforniya Berkeley'de görevli bir teknoloji ve güvenlik uzmanıdır)
Seçkin Deniz, 07.01.2020, Sonsuz Ark, Çeviri, Çeviri ve Yansımalar
Sonsuz Ark'tan
- Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur.
- Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
- Sonsuz Ark yayınları Sonsuz Ark Manifestosu'na aykırı yayın yapan sitelerde yayınlanamaz.