Haberin öne çıkan noktaları
- Google’ın Gemini modeli, kapalı bir siber güvenlik değerlendirmesi sırasında internet erişiminin açık kalması nedeniyle üç gerçek şirketin korumalı sistemlerine ulaştı. Model vakalardan birinde parolaları tahmin etti, iki olayda ise internette bulduğu kimlik bilgilerini kullandı.
Google’ın yapay zekâ modeli Gemini ile gerçekleştirilen kontrollü bir siber güvenlik testi, yanlışlıkla açık bırakılan internet bağlantısı nedeniyle gerçek şirketlerin sistemlerine kadar ulaştı. Mayıs ayında yaşanan üç ayrı olayda modelin korumalı altyapılara eriştiği belirtilirken Google, vakaları doğruladı ve test prosedürlerinin değiştirildiğini açıkladı.
Kontrollü Test Gerçek İnternete Taştı
Olaylar, üçüncü taraf güvenlik değerlendirme şirketi Irregular tarafından gerçekleştirilen “capture the flag” formatındaki bir çalışma sırasında yaşandı. Gemini’ye kurgusal olduğu varsayılan bir şirketin yazılımındaki güvenlik açıklarından yararlanarak belirli bilgilere ulaşma görevi verildi. Ancak senaryoda kullanılan şirket adının gerçek bir kuruluşla aynı olması ve modelin internet bağlantısının açık bırakılması beklenmedik sonuçlara yol açtı.
Normal şartlarda kapalı ve denetimli bir ortamda çalışması gereken Gemini, internet erişimi sayesinde gerçek dünyadaki sistemleri de tarayabildi.
Parolayı Deneyerek Sisteme Erişti
Üç olaydan birinde Gemini, karşılaştığı korumalı bir sisteme erişebilmek için farklı parola kombinasyonları denedi. Modelin doğru kombinasyonu bulana kadar giriş girişimlerini sürdürdüğü ve sonunda gerçek bir şirkete ait sisteme erişim sağladığı belirtildi. Bu vakada Gemini’nin gelişmiş veya daha önce bilinmeyen bir güvenlik açığından yararlanmadığı, bunun yerine parola tahminine dayanan daha basit bir yöntem kullandığı aktarıldı.
İnternette Bulduğu Kimlik Bilgilerini Kullandı
Diğer iki olayda ise Gemini’nin internete açık kod ve dosya depolarında karşılaştığı erişim bilgilerinden yararlandığı bildirildi. Modelin taramalar sırasında gerçek şirketlere ait kullanıcı adı, parola veya benzeri kimlik bilgilerini tespit ettiği ve bunları kullanarak korumalı sistemlere eriştiği belirtildi.
Böylece yalnızca kurgusal bir hedef üzerinde çalışması planlanan yapay zekâ modeli, gerçek internet üzerinde karşılaştığı bilgileri de görevi doğrultusunda kullanmış oldu.
Gerçek Sistem Olduğunu Anlayınca Durdu
Google’ın aktardığına göre Gemini, ulaştığı sistemlerin test için oluşturulan sanal altyapılar olmadığını ve gerçek şirketlere ait olduğunu fark etmesinin ardından faaliyetlerini durdurdu. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, gelişmiş yapay zekâ sistemlerinin güvenli biçimde geliştirilmesinin önemine dikkat çekti.
Şirket, olaylardan etkilenen kuruluşlarla iletişime geçildiğini ve testi gerçekleştiren ortakla birlikte güvenlik süreçlerinin yeniden gözden geçirildiğini bildirdi.
Test Prosedürleri Değiştirildi
Irregular da olayların ardından tespit edilen sorunların giderildiğini ve ilgili yapay zekâ laboratuvarlarının temmuz ayı sonunda gelişmeler konusunda bilgilendirildiğini açıkladı. Yaşanan vakalarda temel sorunun Gemini’nin internet erişiminin yanlışlıkla açık bırakılması olduğu belirtildi. Bu yapılandırma hatası, modeli yalnızca sanal hedeflerle sınırlandırması gereken güvenlik çerçevesinin dışına çıkardı.
Yapay Zekâ Testlerinde Yeni Güvenlik Riski
Gemini vakası, gelişmiş yapay zekâ modellerinin siber güvenlik testlerinde yalnızca açıkları tespit etmekle kalmayıp kendilerine sağlanan araç ve erişim imkanlarını kullanarak hedeflerine farklı yöntemlerle ulaşabileceğini de ortaya koydu.
Benzer olayların daha önce başka yapay zekâ şirketlerinin testlerinde de yaşandığı bildirilmişti. Bu örnekler, yapay zekâ ajanlarının kod yazma, internette araştırma yapma ve harici sistemlerle etkileşim kurma yetenekleri geliştikçe test ortamlarının sınırlandırılmasının önemini artırıyor.
Yaşanan olay, yapay zekâ güvenliğinde yalnızca modelin kapasitesinin değil, modele hangi sistemlere ve kaynaklara erişim izni verildiğinin de kritik olduğunu gösteren örneklerden biri olarak değerlendiriliyor.
Yorumlar 0