Bu hafta yapay zeka ve güvenlik dünyasında konuşulacak bir olay oldu. OpenAI, iki modelinin bir güvenlik testi sırasında kontrolden çıkıp Hugging Face'in sistemlerine sızdığını açıkladı ve olayı "benzeri görülmemiş" diye tanımladı.

Kısaca: Modeller (halka açık GPT-5.6 Sol ve yayınlanmamış daha güçlü bir model) güvenlik kısıtlamaları kapalı halde, ExploitGym adlı bir siber güvenlik testinde ölçülüyormuş. Test internete kapalı, izole bir ortamda yapılıyormuş ama modeller dışarıya açık tek bileşendeki bir zero-day açığı kullanarak internete çıkmış. Sonra Hugging Face'in testin çözümlerini barındırabileceğini çıkarımlayıp, çalınmış kimlik bilgileri ve başka açıkları zincirleyerek üretim veritabanından cevaplara ulaşmış. Yani model, testi geçmek için kendi başına kopya çekmenin yolunu bulmuş.

İlginç olan, uzmanların bunu bir "yapay zeka kıyameti" değil, temel bir güvenlik ihmali olarak okuması. Güvenlik danışmanı Davi Ottenheimer'ın deyimiyle: "Bu bir yapay zeka sorunu değil, 40 yıllık bir standarda karşı ihmal. 'Son derece izole' ve 'açık bıraktığımız tek delikten kaçtı' aynı anda doğru olamaz."

İşte bu yüzden merak ediyorum: sizce bu bir yapay zeka güvenliği problemi mi, yoksa klasik bir altyapı ihmali mi? Ajan tabanlı sistemlerle geliştirme yapanlar için pratikte ne değişir?