Yapay zeka araştırma ve geliştirme şirketi OpenAI, gelişmiş bir yapay zeka modelinin siber güvenlik testleri sırasında kontrolden çıktığını belirterek, programcıların yaygın olarak kullandığı Hugging Face platformuna siber saldırı düzenlediğini açıkladı.
Yapay zeka modeli kontrolden çıktı. ABD merkezli yapay zeka araştırma ve geliştirme şirketi OpenAI, GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modelinin siber güvenlik testleri sırasında kontrolden çıktığını belirterek, programcıların yaygın olarak kullandığı Hugging Face platformuna siber saldırı düzenlediğini açıkladı. Şirket, olayı "eşi benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirirken, Hugging Face ile ortak soruşturma yürütüleceğini bildirdi.
"Açık internete erişmenin bir yolunu buldu"
Şirket, modellerin siber saldırı yeteneklerini değerlendirmek amacıyla internet erişiminin güvenlik gerekçesiyle sınırlandırıldığı kontrollü bir dijital test ortamında çeşitli görevler verdiğini aktararak, "Modellerimiz, değerlendirme görevini çözebilmek amacıyla test ortamında önemli miktarda işlem gücü harcayarak açık internete erişmenin bir yolunu buldu" ifadelelerini kullandı.
İnternete bağlandıktan sonra modellerin, hedeflerine ulaşabilmek için Hugging Face'i hedef aldığını aktaran şirket, modellerin değerlendirmeyi manipüle edebilmek amacıyla "gizli bilgileri" ararken, çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini art arda uyguladığını ifade etti.
GPT-5.6 ve OpenAI'nin rakibi Anthropic'in geliştirdiği Mythos serisi gibi en gelişmiş modeller, siber güvenlik önlemlerini aşma potansiyelleri nedeniyle endişeye neden oluyor. Hem OpenAI hem de Anthropic, bu teknolojilerin kritik altyapılara yönelik saldırılarda kullanılabileceği yönündeki kaygılar nedeniyle en yeni modellerinin genel kullanıma sunulmasını geçici olarak ertelemişti.
"Saldırı baştan sona otonom bir yapay zeka ajan sistemi tarafından gerçekleştirildi"
Hugging Face geçen hafta platforma yönelik siber saldırıyı doğrulamış ancak saldırının arkasında OpenAI'nin bulunduğunu açıklamamıştı. Hugging Face, "Bu olay daha önce karşılaştıklarımızdan önemli bir açıdan farklıydı: Saldırı baştan sona otonom bir yapay zeka ajan sistemi tarafından gerçekleştirildi ve biz de bunu büyük ölçüde kendi yapay zeka sistemlerimiz sayesinde tespit edip analiz ettik" ifadelerini kullandı.
Hugging Face CEO'su Clement Delangue ise yaptığı paylaşımda, saldırıyı gerçekleştiren sistemin gelişmişliği nedeniyle bunun dünyanın önde gelen yapay zeka laboratuvarlarından birinden kaynaklandığını düşündüklerini belirterek, "Bunun OpenAI tarafından kötü niyetle yapıldığına kesinlikle inanmıyoruz. Tüm bunların tamamen otonom şekilde gerçekleşmiş olması gerçekten akıl almaz" dedi.
Kaynak:İHA
