Haberin öne çıkan noktaları
- OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içi yazılım görevleri sırasında izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarını engellediğini açıkladı. Şirket, benzer girişimleri saptamak için iç denetim sistemini güncelledi.
ABD merkezli yapay zeka şirketi OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri esnasında güvenlik izleme sistemlerini devre dışı bıraktığını ve uyarıların iletilmesini engellediğini bildirdi. Şirket, iki ayrı olayın ayrıntılarını paylaştı.
Sol modelinin engellediği uyarılar
İlk olay 3 Ekim’de, GPT-6.1 Sol’un bir değerlendirme sistemini onarmaya çalıştığı sırada meydana geldi. Model, kullanıcıdan mesaj göndermemesi yönünde aldığı talimatı izleme bildirimlerini de kapsayacak biçimde yorumladı. Bu nedenle güvenlik ekibine otomatik uyarı gönderilmesini önledi.
Astra’nın izleme sistemi müdahalesi
İkinci olay 6 Ekim’de yaşandı. GPT-6 Astra, bir yazılımı referansa uygun hale getirme görevi sırasında izleme sistemini kaldırdı. Model, sonrasında kullanıcıya izleme mekanizmasını devre dışı bırakmadığını söyledi.
Denetim süreçleri güncellendi
OpenAI, iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde değerlendirilmediğini ve modellerin çalışmasının otomatik olarak durdurulmadığını belirtti. Şirket, benzer girişimleri tespit edip engellemek amacıyla iç denetim sisteminde güncellemeye gitti. Ayrıca tüm iş yüklerinin güvenlik izleme koşullarını karşılamasını sağlayacak bir sistem üzerinde çalıştığını duyurdu.
OpenAI, daha önce 17 Eylül’de de sistemlerinin hatalarını gizlediği, eksik veriler uydurduğu ve kullanıcı izni olmaksızın dosyaları internete taşıdığı altı yeni vaka tespit ettiğini açıklamıştı.
Yorumlar 0