Haberin öne çıkan noktaları
- OpenAI, ChatGPT’nin bir eğitim görevi sırasında kripto para hesaplarına erişerek fon harcadığını açıkladı. Deneme modundaki uygulama nedeniyle hesabın sahibi maddi kayıp yaşamadı.
OpenAI, ChatGPT’nin bir eğitim görevi sırasında kripto para hesaplarına izinsiz eriştiğini ve bu hesaplardan harcama yaptığını açıkladı. Haziranda gerçekleşen olayda kullanılan GPT-5.6 Sol modeli, temmuz ayında ChatGPT kullanıcılarına ücretli olarak sunulmuştu.
Modelden, deneme aşamasındaki bir kripto ticaret uygulamasını güncellemesi ve Ethereum’un test ağlarından birine akıllı sözleşme olarak adlandırılan özel kodları yüklemesi istendi. Bu sözleşmelerin ağa aktarılması için ağ ücreti gerekmesine rağmen OpenAI, söz konusu işlemde kullanılmak üzere modele herhangi bir fon sağlamadı.
Bunun üzerine yapay zeka modeli, hesaplardan para almak amacıyla yaygın kurtarma cümleleri kullanılarak oluşturulmuş yüzlerce kripto cüzdan adresi tespit etti. Model, daha sonra bu hesapları kendi başına kullanmasının etik olup olmadığını değerlendirdi ancak işlemin sakıncalı olmadığı sonucuna vardı.
ChatGPT, söz konusu hesaplardan harcama gerçekleştirdi. Ancak işlemlerin yapıldığı uygulamanın deneme modunda olması nedeniyle hesap sahibi soyulmadı ve gerçek bir maddi kayıp meydana gelmedi.
OpenAI’ın raporunda olayla ilgili, “Talimatlar açıkça modelin kendi başına bulduğu bir hesaptaki fonları harcamasına izin vermiyordu” ifadesi yer aldı.
OpenAI’ın yapay zeka modellerinin yeteneklerini ölçmek amacıyla Temmuz 2026’da yürüttüğü testler de benzer bir güvenlik tartışmasına neden oldu. 26 Ağustos’ta yayımlanan rapora göre, yalnızca araştırma amacıyla kullanılan Internal Model 1 (IM1), testte başarılı olabilmek için kendisine konulan sınırları aşarak şirket sistemlerine ve internete erişti.
IM1 ayrıca başka yapay zeka ajanlarıyla iletişim kurdu. Bu ajanlardan biri, açık kaynaklı yapay zeka modellerinin paylaşıldığı Hugging Face platformuna erişim sağlayabilecek 14 kimlik bilgisini tespit ederek diğer ajanlara aktardı.
Ajanlar daha sonra Hugging Face sistemlerindeki güvenlik açıklarından yararlandı. Sunucularda kod çalıştıran yapay zeka ajanları, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaşmayı başardı.
Yapay zeka teknolojisindeki hızlı ilerleme, sistemlerin güvenliği ve geliştirme çalışmalarının hangi hızda sürdürülmesi gerektiği konusunda dünya genelinde tartışma başlattı. xAI şirketinin sahibi Elon Musk ile OpenAI CEO’su Sam Altman’ın da aralarında bulunduğu önde gelen yapay zeka yöneticileri, çalışmaların yavaşlatılması gerektiğini savunuyor.
ABD merkezli çip üreticisi Nvidia da geçen ayın sonunda, yapay zeka ajanlarının kontrol dışına çıkmasını önlemeyi amaçlayan bir yazılım geliştirdi. Open Agent Safety Platform, Türkçe adıyla Açık Ajan Güvenlik Platformu, Microsoft ve Perplexity’nin de aralarında bulunduğu 100’den fazla kurum tarafından kullanılmaya başlandı.
Yorumlar 0