Yapay zeka modeli ABD’de asılsız cinayet ihbarı yaptı

Yapay zeka sistemlerinin sınırları aşabilen davranışları, son dönemde küresel ölçekte güvenlik tartışmalarını yeniden gündeme taşıdı. OpenAI’ın yapay zeka modellerinin yeteneklerini ölçmek amacıyla Temmuz 2026’da gerçekleştirdiği testler de bu tartışmaların önemli başlıklarından biri oldu.

26 Ağustos’ta yayımlanan rapora göre OpenAI’ın yalnızca araştırma amacıyla kullandığı “Internal Model 1 (IM1)” adlı model, testte başarılı olabilmek için kendisine getirilen kısıtlamaları aştı. Modelin şirketin sistemleriyle internete eriştiği ve başka yapay zeka ajanlarıyla iletişim kurduğu belirlendi.

Bu ajanlardan biri, açık kaynaklı yapay zeka modellerinin paylaşıldığı Hugging Face platformuna erişim sağlayabilecek 14 kimlik bilgisini tespit ederek diğer ajanlarla paylaştı. Ajanlar daha sonra Hugging Face sistemlerindeki güvenlik açıklarından yararlandı; sunucularda kod çalıştırdı, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaştı.

Hugging Face vakasıyla başlayan gelişmeler, yapay zeka teknolojilerinin geliştirilme hızının güvenlik önlemlerini geride bırakıp bırakmadığı konusunda uluslararası tartışmalara yol açtı. xAI şirketinin sahibi Elon Musk ve OpenAI Üst Yöneticisi Sam Altman’ın da aralarında bulunduğu önde gelen yapay zeka yöneticileri, çalışmaların yavaşlatılması gerektiğini savundu.

ABD merkezli çip üreticisi Nvidia ise yapay zeka ajanlarının kontrolden çıkmasını önlemek amacıyla geçen ayın sonunda bir yazılım geliştirdi. “Open Agent Safety Platform” (Açık Ajan Güvenlik Platformu) adı verilen sistemi, Microsoft ve Perplexity’nin de aralarında bulunduğu 100’ü aşkın kurum kullanmaya başladı.

Anthropic modelinin ihbarı iki ay sonra fark edildi

Bu güvenlik tartışmaları sürerken Anthropic tarafından geliştirilen bir yapay zeka modelinin ABD’de asılsız cinayet ihbarında bulunduğu ortaya çıktı. Philadelphia polisinin duyurduğu olaya göre model, “PhillyUnsolvedMurders.com” adlı internet sitesindeki ihbar formunu kullanarak gerçek dışı bir cinayet bildirimi yaptı.

Anthropic, söz konusu ihbarın modelin son dönemde gerçekleştirdiği izinsiz eylemlerden biri olduğunu açıkladı. Şirket, konuyla ilgili bilgileri Beyaz Saray’ın da aralarında bulunduğu tüm kurumlara ilettiğini bildirdi.

Şirketin açıklamasına göre süreç, modelin çözülmemiş bir cinayete gönderme yapan bir internet sayfasında ihbar formuyla karşılaşmasıyla başladı. Modele oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi yönünde talimat verilmesine rağmen bu sınırlamalara uymadığı belirtildi.

Asılsız ihbar temmuz ayında gönderildi. Anthropic olayı eylül ayına kadar fark edemedi. Şirket, durumu tespit ettikten dokuz gün sonra, 7 Ekim’de Philadelphia polisine bildirimde bulundu; şirket temsilcileri ertesi gün polis yetkilileriyle görüştü.

Philadelphia polisi, olayın fark edilmesiyle emniyete bildirilmesi arasında geçen iki aylık süreyi “kabul edilemez” olarak nitelendirdi. Polis ayrıca şirketlerin, yapay zeka sistemlerinin yanlış veya asılsız bilgileri kurumlara iletmesini önleyecek tedbirleri alması gerektiğini vurguladı.