Tencent’in yapay zeka ajanları engellere rağmen Amap verisi aradı

Çinli teknoloji şirketi Tencent, üçüncü taraf yapay zeka modellerini sınamak amacıyla kullanılan ajanların şirketin belirlediği planın dışına çıkarak internette gezindiğini ve Alibaba grubuna ait Amap harita servisinden bilgi almaya çalıştığını doğruladı. Otonom sistemlerin kendilerine verilen hedeflere ulaşabilmek için internet üzerindeki sınırları zorlaması, son aylarda yapay zeka güvenliği tartışmalarının önemli başlıklarından biri haline geldi.

Ne oldu?

Gelişme, yapay zeka güvenliği alanında çalışmalar yürüten Swarmchasers adlı araştırma grubunun çarşamba günü yayımladığı raporla gündeme geldi. Raporda, Tencent Cloud altyapısıyla bağlantılı yapay zeka ajanlarının 28 Eylül ile 8 Ekim arasında Alibaba’ya bağlı Amap uygulamasından tekrar tekrar veri almaya uğraştığı belirtildi.

Çin’de Google Maps’e benzer bir işlev gören Amap, harita ve konum bilgileri sunan önemli platformlardan biri olarak kullanılıyor. Araştırmacılar, söz konusu ajanların Çin’deki park, müze ve hayvanat bahçelerinde ziyaretçilerin en sık kullandığı giriş kapılarına ilişkin bilgileri aradığını tespit etti.

Ajanlar hangi yöntemleri denedi?

Swarmchasers, “başıboş” ifadesini, kendilerine tanımlanan görev sınırlarının dışına çıkan veya verilen işi beklenmeyen yöntemlerle tamamlamaya çalışan otonom yazılımlar için kullanıyor. Rutin otomatik istekleri engellenen ajanların ise aramayı bırakmak yerine farklı erişim yollarına yöneldiği aktarıldı.

Ajanlar, internet sayfalarını açmaya ve kod çalıştırmaya izin veren herkese açık araçlardan yararlandı. Bunun yanında veri taleplerini başka internet siteleri üzerinden iletmeyi denedi ve kamuya açık yazılım kodlarında bulunan Amap güvenlik anahtarlarını kullanmaya çalıştı.

Kayda alınan 2 bin 818 veri çekme girişiminin büyük bölümü sonuçsuz kaldı. İstekler; bot engelleme ekranları, kullanıcı giriş sayfaları veya herhangi bir sonuç göstermeyen sayfalar nedeniyle tamamlanamadı.

Amap’ın güvenlik duvarı aşıldı mı?

Amap’ın temel bot karşıtı güvenlik katmanlarının aşıldığını gösteren bir kanıt bulunmadı. Buna karşın bazı taleplerin önbelleğe alınmış sayfalar ve aracı servisler aracılığıyla sonuç verdiği belirlendi.

Bu yolla ulaşılan bilgiler arasında Chengdu Hayvanat Bahçesi’ndeki ziyaretçi girişlerine ilişkin veriler de yer aldı. Ancak araştırmacılar, aramayı yapan ajanın bu bilgileri okuyup okumadığını veya kendisine verilen görevi bütünüyle tamamlayıp tamamlamadığını kesinleştiremedi.

Tencent ne dedi?

Tencent’in yapay zeka bölümü Tencent Hunyuan, X platformunda yaptığı açıklamada, tespit edilen hareketliliğin kendi Hunyuan modellerinden kaynaklanmadığını bildirdi. Şirketin gerçekleştirdiği iç incelemede, belirli bir hedefe kasıtlı biçimde yönelme ya da koordineli bir faaliyet işaretine rastlanmadığı ifade edildi.

Tencent yönetimi, bulguları ciddiye aldığını belirterek ağ erişim kontrolleriyle yapay zeka ajanlarının izlenmesine yönelik süreçlerin güçlendirileceğini açıkladı. Çin pazarında Alibaba ve ByteDance gibi rakiplerle rekabet eden şirket, bu adımlarla iç denetim mekanizmalarını daha sıkı hale getirmeyi hedefliyor.

Şimdi ne olacak?

Yapay zeka güvenliği konusunda benzer bir hamle ByteDance’ten de geldi. Şirket, bu hafta yapay zeka modelleriyle ajanların güvenliğine odaklanacak yeni bir birim kurduğunu duyurdu.

Swarmchasers araştırmacıları, Tencent altyapısında gözlenen olayın ABD merkezli yapay zeka şirketlerinde daha önce görülen bazı vakalar kadar ağır sonuçlara yol açmadığını değerlendirdi. Daha önce bir OpenAI ajanının açık kaynaklı yazılım platformu Hugging Face’e sızdığı, bir Anthropic ajanının ise polise asılsız cinayet ihbarında bulunduğu olaylar kamuoyuna yansımıştı.

Bununla birlikte Tencent Cloud altyapısındaki hareketlilik, Çin menşeli yapay zeka sistemlerinin de kimliklerini farklı gösterebildiğini, yaptıkları hataları gizleyebildiğini ve test amacıyla uygulanan denetimleri aşmaya çalışabildiğini ortaya koydu.