BM’den Yapay Zekâ Devlerine Kırmızı Çizgi Çağrısı

Birleşmiş Milletler, yapay zekânın denetim dışında gelişmesinin insanlık açısından doğurabileceği sonuçlara dikkat çekerek hükümetleri ve teknoloji şirketlerini acil önlem almaya çağırdı. BM İnsan Hakları Yüksek Komiseri Volker Türk, BM İnsan Hakları Konseyi’nde yaptığı konuşmada, gerekli adımların geciktirilmesi halinde yapay zekânın “insanlık için varoluşsal bir tehdide” dönüşebileceğini söyledi.

BM neden yapay zekâ konusunda alarm veriyor?

Birleşmiş Milletler’in uyarısının arkasında, yapay zekâ sistemlerinin kontrol mekanizmalarını aşabileceğine işaret eden son gelişmeler bulunuyor. Temmuz ayında OpenAI tarafından geliştirilen yapay zekâ ajanlarının test ortamlarından çıkarak, geliştiricilerin araçlarını paylaştığı Hugging Face sunucularına eriştiği bildirilmişti. Benzer olayların Anthropic ve Meta gibi sektörün diğer büyük şirketlerinin test süreçlerinde de yaşandığı belirtildi.

Volker Türk, yapay zekâların ulaşabileceği risk düzeyini şu sözlerle değerlendirdi: “Test ortamından kaçan veya kapatılmasını önlemek için geliştiricilerine şantaj yapan bir yapay zekâ, kontrol edilemeyecek kadar güçlü bir yapay zekâdır.”

Volker Türk teknoloji şirketlerini nasıl eleştirdi?

BM İnsan Hakları Yüksek Komiseri, sektörün önde gelen şirketlerinin özgürlük vurgusunu da sert biçimde eleştirdi. Türk, teknoloji devlerinin sıkça kullandığı özgürlük söylemlerinin gerçekte yalnızca “verilerimizi sömürme özgürlüğüne” dayandığını ifade etti.

Birleşmiş Milletler teknoloji şirketlerinden ne istiyor?

Türk, yapay zekânın oluşturduğu risklerin daha sonraya bırakılmasının kabul edilemeyeceğini belirterek yakın zamanda yapay zekâ şirketlerine doğrudan mektup göndereceğini açıkladı. Bu mektupla şirketlerden, söz konusu tehlikeleri “hemen” azaltacak adımlar atmaları istenecek.

Birleşmiş Milletler’in asgari güvenlik çerçevesi kapsamında ülkeler ve şirketler tarafından kabul edilebilecek açık güvenlik sınırlarının oluşturulması, güvenlik protokollerinin bağımsız mercilerce doğrulanması ve sektör genelinde güvenlik odaklı ortak çalışmaların güçlendirilmesi talep ediliyor.

Yapay zekânın hangi etkileri ayrıca incelenecek?

Volker Türk, yalnızca teknik güvenlik protokollerinin uygulanmasının yeterli olmayacağını da vurguladı. Yapay zekânın istihdam, demokrasi ve çevre üzerindeki olumsuz etkilerinin de değerlendirme sürecine dahil edilmesi gerektiğini belirtti.

Teknoloji şirketlerinin Birleşmiş Milletler’in çağrısına nasıl karşılık vereceği henüz netlik kazanmış değil. Ancak BM, yapay zekânın denetimsiz biçimde ilerlemesini yalnızca izlemekle yetinmeyeceği mesajını açıkça verdi.