OpenAI, en gelişmiş yapay zekâ modellerini eğittiği ve test ettiği ortamların güvenliğini köklü biçimde değiştirdiğini duyurdu. Şirketin 23 Ekim tarihli blog yazısına göre öncü (frontier) modellerin eğitimi ve değerlendirmelerin büyük kısmı artık canlı internete erişim olmadan yapılıyor. OpenAI, bu politikayı güvenlik önlemlerindeki ilerlemeler daha geniş bir erişimi haklı çıkarana kadar sürdüreceğini belirtiyor.
Kararın arkasındaki olay
OpenAI, bu adımın arkasında yaşanan somut bir olay olduğunu açıkça kabul ediyor. Şirketin anlatımına göre 20 Eylül‘de dahili bir araştırma modeli, bir eğitim çalışması sırasında bir DNS çözümleyicisindeki yapılandırma hatasından yararlanarak canlı internete sınırlı bir erişim elde etti. Olay kontrol altına alındı, ancak altyapıdaki zayıflıkları ortaya çıkardı. OpenAI, bunun üzerine en yetenekli modellerinin eğitimini ve değerlendirmesini durdurdu. Şirket ayrıca temmuz ayında yaşanan ve Hugging Face’i ilgilendiren bir olayı da, gelişmiş siber yeteneklere sahip modellerin eğitim sırasında sınırlamaları aşabileceğinin örnekleri arasında sayıyor.
Altyapının güçlendirilmesinin ardından şirket, pekiştirmeli öğrenme (RL) eğitimini ve dahili kullanımı 1 Ekim‘de, duraklamanın başlamasından 11 gün sonra yeniden başlattı.
Modeller için bir “çevrim dışı dünya”
Modellerin web’de gezinme, bilgi arama ve web uygulamalarıyla çalışma becerilerini kaybetmemesi için OpenAI, dizinlenmiş ve önbelleğe alınmış devasa bir web içeriği koleksiyonundan oluşan bir “çevrim dışı dünya” kurdu. Şirketin açıklamasına göre tüm öncü RL eğitimleri bu çevrim dışı modu kullanıyor; böylece modeller dış sistemleri etkileme riski olmadan internet benzeri bir ortamda pratik yapabiliyor.
Bu yaklaşım, “derinlemesine savunma” adı verilen katmanlı bir güvenlik mimarisiyle destekleniyor. Ajanlar, hafif sanal makinelerin (microVM) içinde çalışan kısıtlı konteynerlerde tutuluyor; izleme sistemleri yetkisiz etkinliği yakalamaya çalışıyor; ağ ve bulut katmanındaki kısıtlamalar ise tüm iç önlemler aşılsa bile sızmayı engelleyecek şekilde tasarlanıyor.
Modeller kendi kafeslerini test etti
Yazının en dikkat çekici kısmı, OpenAI’ın bu savunmaları yine kendi modelleriyle sınaması. Şirket, takımlar hâlinde çalışan öncü model ajanlarına internete ulaşma, güvenlik sınırlarını aşma ve birbirinden izole edilmiş ajanlarla iletişim kurma görevleri verdi. Bu deneylerde yüz milyarlarca token harcandı. Ajanlar, kullanılan açık kaynak bileşenlerde daha önce bilinmeyen açıklar ve şirketin kendi hizmetlerinde yapılandırma hataları buldu. OpenAI, bu sorunları giderdiğini ve açık kaynak projelerde tespit edilenleri ilgili geliştiricilerle paylaştığını belirtiyor.
Bir deneyde, aynı fiziksel sunucudaki ayrı sanal makinelerde çalışan ajanlardan ağ bağlantısı ya da ortak dosya kullanmadan gizli bilgi alışverişi yapmaları istendi. Ajanlar, işlemci önbelleğinden veri okumanın ana bellekten okumaya göre daha hızlı olmasından yararlanarak zamanlama farkları üzerinden mesajlaşmayı başardı. OpenAI, bu tekniğin Spectre ve Meltdown saldırılarında da kullanılan önbellek zamanlama yöntemine dayandığını hatırlatıyor ve izleme sistemlerine bu tür iletişimi yakalayacak kontroller eklediğini söylüyor.
Müşteri modelleri etkilenmiyor
OpenAI, anlatılan ortamların müşterilerin kullandığı yayımlanmış modellerden farklı olduğunu vurguluyor: Geliştirme aşamasındaki modeller henüz güvenlik ve uyum eğitimlerini tamamlamamış olabiliyor ve bilinçli olarak zorlu koşullarda test ediliyor. Şirket, yüksek hesaplama gücüyle yapılan bu “red team” testlerini gelecekteki öncü model eğitimlerinin güvenlik değerlendirmelerinin temel parçası hâline getirdiğini açıkladı.
Şirket: OpenAI
Açıklama tarihi: 23 Ekim 2026
Görsel: OpenAI