Yapay zekâ savaş suçunda sorumluluk kime ait?

Askeri teknoloji şirketlerinin geliştirdiği yapay zekâ destekli ve otonom sistemler, savaş alanlarında hedef belirleme ve ateşleme kararlarını kendi başına verebiliyor. Bu teknolojiler uluslararası hukuku ihlal eden sonuçlar doğurduğunda sorumluluğun komutanlara, devletlere, yazılımı geliştiren şirketlere ya da makinelere mi ait olacağı ise tartışma konusu.

ABD’nin İran’a yönelik saldırısının ilk gününde bir kız ilkokulunun vurulduğu ve 123 çocuğun yaşamını yitirdiği belirtiliyor. Saldırı için nihai onayı insanlar verdi; ancak operasyonun yürütülmesini mümkün kılan sistem, Palantir Technologies tarafından geliştirilen Maven Smart System oldu.

Yapay zekâ destekli bu platform, ordunun savaş alanından elde edilen verileri bir araya getirmesine, düzenlemesine ve işlemesine yardımcı oluyordu. İran’daki okulun bulunduğu yer geçmişte bir deniz üssünün parçasıydı; ancak 2017’den bu yana ilkokul olarak hizmet veriyordu. Bu değişikliğin sisteme aktarılan istihbarat bilgilerinde yer almadığı ifade ediliyor.

Bazı muhabirler saldırının yol açtığı can kaybını, Vietnam Savaşı’ndan bu yana bir ABD hükümetinin gerçekleştirdiği en ağır katliamlardan biri olarak nitelendirdi. Ordular hedef seçme ve ateş açma kararlarını bağımsız biçimde verebilen yapay zekâ destekli ya da otonom sistemleri kullanmayı sürdürürse benzer olayların daha sık yaşanabileceği kaygısı dile getiriliyor.

Hedef seçimi ve hukuki sorumluluk

Pentagon, yapay zekâ alanındaki hızlı gelişmelere uyum sağlamaya çalışırken savaşlarda bu teknolojiyi önceleyen bir yaklaşım benimsiyor. Bu süreçte, uluslararası hukukun insanlar ve makineler tarafından birlikte ihlal edilmesi halinde kimin hesap vereceği sorusu da öne çıkıyor. Hükümetler ile özel sektörün sorumluluğu birbirine yönelttiği bu tartışmayı Vox muhabiri Kylie Jones, uluslararası hukuk uzmanı Allen Weiner’a sordu.

Weiner, uluslararası hukukta çatışmalara doğrudan katılan sivillerin koruma statüsünü kaybedebileceğini hatırlattı. Bu ilkenin, ordulara savaş ekipmanı sağlayan özel şirketlerin çatışmalara katılmış sayılıp sayılamayacağı sorusunu gündeme getirdiğini belirtti.

Bir komutanın bir okulu bombalamak gibi açıkça hukuka aykırı bir emir vermesi halinde sorumluluğun komutana ait olacağı açık. Ancak komutan, yapay zekâ destekli veya otonom bir silahın hukuka uygun davranacağına güvenerek tek başına suç oluşturmayan bir talimat verirse ve sistem kendi kararlarıyla kuralları ihlal ederse, sorumluluğun kime yükleneceği daha karmaşık hale geliyor.

Weiner bu konuda iki olasılığı ele aldı. İlk senaryoda ordu, düşmana çok ağır bir saldırı düzenlenmesini istiyor. Sivil hedeflere saldırmamayı öğrenecek biçimde eğitilmiş bir sistem, okul gibi bir hedefi vurmayı reddedebilir. Fakat ordu araca hiçbir hedefi geri çevirmemesi yönünde talimat vermişse sistem, ilk eğitiminden farklı biçimde bu emri uygulayabilir.

Uzman, talimatların yanlış anlaşılması riskinin yalnızca teorik olmadığını belirtti. Yapay zekâ araçlarının, özellikle Claude ve ChatGPT’nin, verilen yönergeleri hatalı yorumlayarak ihlallere neden olabildiğini söyledi. Örnek olarak eylül ayında Anthropic’in geliştirdiği bir aracın, kendisine verilen görevi tamamlamak amacıyla Hugging Face platformuna siber saldırı düzenlemeye karar vermesini gösterdi. Araca görevi verenlerin böyle bir saldırı yapılmasını istemediği aktarıldı.

Bu örnek, sisteme ağır bir saldırı başlatma talimatı verilmesi halinde aracın, karşı tarafı en fazla yaralayacak yolun çocuklarının öldürülmesi olacağı sonucuna varıp bir okulu hedef alması ihtimalini de gündeme getiriyor. Böyle bir durumda makinenin kendi çıkarımıyla verdiği kararın hukuki sonuçları tartışılıyor.

İkinci olasılıkta ise sistem, elindeki verilere dayanarak yanlış bir hedef belirliyor. İran’daki kız okuluna yönelik saldırının bu tür bir hataya örnek olduğu değerlendirmesi yapılıyor; sistemin güncelliğini yitirmiş bilgilere dayanmış olması ihtimali öne çıkıyor. Böyle bir durumda hedefi mevcut veri setinden seçmesini isteyen kişi ya da kişilerin, verilerin ve haritaların güncel olup olmadığını kontrol etme yükümlülüğü bulunuyor.

Weiner, bu tür bir ihmal veya pervasızlık ihtimalinin bulunduğunu, ancak buradan hareketle kesin biçimde bir kişinin savaş suçu işlediğini söylemenin zor olduğunu ifade etti. Böylece, ortada savaş suçu niteliğinde bir eylem bulunsa dahi bireysel olarak suçlanabilecek bir failin bulunup bulunmadığı sorusu ortaya çıkıyor.

Tazminat ve devletlerin yükümlülüğü

Hukuk profesörü Rebecca Crootof, otonom silahların yol açtığı zararlara ilişkin değerlendirmede yalnızca ceza hukukuyla yetinilmemesini savunuyor. Crootof’un önerdiği “savaş tazminat hukuku” yaklaşımı, ihmal, pervasızlık ya da kasıt sonucu zarar gören kişilerin sorumlulara karşı tazminat davası açabilmesini öngörüyor.

Weiner bu öneriyi ilgi çekici bulduğunu belirterek devletlerin uluslararası insancıl hukuk kapsamındaki yükümlülüklerinin ayrıca değerlendirilmesi gerektiğini söyledi. Ona göre bireysel bir fail bulunmasa bile, sivilleri hukuka aykırı biçimde hedef alan devlet sorumluluktan kaçamaz. Böyle bir ihlal, iki devlet arasında tazminat talep edilmesinin temelini oluşturabilir.

Haksız fiil ve hukuki sorumluluk ilkelerinin uluslararası hukukun temelinde yer aldığını vurgulayan Weiner, devletlerin birbirlerine karşı sorumluluk taşıdığını kaydetti. Bununla birlikte, bu sorumluluğun hangi yargı mercii önünde ileri sürülebileceği ve tazminatın nasıl alınabileceği ayrı bir mesele olarak duruyor.

Uluslararası insancıl hukuk ihlalini bir insan yerine makinenin gerçekleştirmesi, bugüne kadar görülmemiş bir dava türü. Weiner, uluslararası alanda şimdiye kadar yargıya taşınan bu tür ihlallerde emri veren tarafın insanlar olduğunu, otonom bir sistemin eyleminin merkezde bulunduğu benzer bir davanın henüz görülmediğini belirtti.

Yine de Weiner’a göre sorumluluğu devlet düzeyinde ele almak, meselenin bir bölümünü sadeleştiriyor. ABD’ye ait bir makinenin İran’daki kız okuluna saldırdığı ve davaya bakmaya yetkili bir mahkemenin bulunduğu varsayımında sorumluluk ABD’ye ait olurdu. Saldırıyı bireyin, şirketin, yapay zekâ sisteminin ya da komutanın gerçekleştirmiş olması bu yaklaşımda belirleyici sayılmaz; sorumluluk tek tek aktörlere indirgenmeden devlete yöneltilir.

Weiner, devletlerin sorumluluğunun uluslararası hukukta yerleşik bir ilke olduğunu da vurguladı. Uluslararası Adalet Divanı, kuvvet kullanımıyla ilgili farklı yönleri ele alan çok sayıda davaya baktı. Kuralları ihlal eden bir devlete başka bir devletin dava açabilmesi, uluslararası hukukun köklü ilkeleri arasında bulunuyor.

Ancak bir mahkemenin devleti yargılayabilmesi için o devletin mahkemenin yetkisini kabul etmesi gerekiyor. Devletler bu yetkiyi önceden tanıyarak kendilerine karşı açılacak davaları kabul edebilir ya da her uyuşmazlıkta ayrı karar verebilir. Sınır ötesinde kuvvet kullanma olasılığı yüksek olan dünyanın en güçlü devletlerinin uluslararası mahkemelerin yetkisini tanımaya istekli olmaması da tartışmanın önemli bir boyutunu oluşturuyor.

Rusya, ABD, İsrail ve Çin, Uluslararası Adalet Divanı’nın zorunlu yargı yetkisini önceden kabul etmiş değil. Bu durum iki soruyu beraberinde getiriyor: Devletler sorumlu tutulabilir mi ve bu sorumluluğa ilişkin davalar mahkemeye taşınabilir mi?

Şirketlerin savaş alanındaki rolü

Palantir gibi askeri teknoloji şirketlerinin çatışmalardaki konumu da hukuki tartışmanın bir parçası. Weiner, bu şirketlerin savaşlara alışılmadık biçimlerde dahil olması nedeniyle “savaşçı” sayılıp sayılamayacakları üzerinde düşündüğünü belirtti.

Uluslararası hukuk uyarınca savaş uçağı üreten özel bir fabrika meşru bir askeri hedef kabul edilebiliyor ve savaş sırasında vurulabiliyor. Bu çerçevede Palantir’in hangi noktada saldırılabilir bir hedef haline gelebileceği ya da savaşta kullanılan yapay zekâ araçlarını geliştiren Anthropic’in hangi koşullarda meşru hedef sayılacağı soruları gündeme geliyor.

Çatışmalara doğrudan katılan sivillerin koruma hakkını yitirmesi ilkesi, ordulara savaş ekipmanı sunan özel şirketlerin faaliyetlerinin nasıl değerlendirileceği tartışmasını daha da önemli hale getiriyor. Bu şirketlerin çatışmaya katılmış sayılıp sayılmayacağı, yapay zekânın savaş alanındaki rolü büyüdükçe yanıt bekleyen hukuki sorular arasında yer alıyor.