Google açıkladı: Gemini test sırasında gerçek şirketlere sızdı

Olay, yapay zekâ sistemlerinin siber güvenlik yeteneklerini test eden İsrail merkezli Irregular tarafından gerçekleştirilen çalışma sırasında ortaya çıktı. Şirket, Gemini’ın güvenlik sınırlarını değerlendirmek amacıyla modeli internete bağlı olması planlanmayan kapalı bir test ortamında denedi.

Ancak test ortamının yanlışlıkla internete erişim kazanması üzerine model, simülasyon kapsamında oluşturulan sistemlerin dışına çıktı ve gerçek şirketlere ait bazı sistemlere ulaşabildi.

Bir olayda şifreyi doğru tahmin etti

Testlerden birinde Gemini, sahte bir şirketin yazılımından bilgi elde etmek üzere yönlendirildi. Bu şirket, gerçek bir şirketle aynı ismi taşıyordu. Modelin internete erişim sağlamasının ardından gerçek şirkete ait bir servisin şifresini doğru tahmin ederek sisteme eriştiği belirtildi.

Google, Gemini’ın gerçek bir şirkete eriştiğini fark etmesinin ardından işlemi sonlandırdığını bildirdi.

Diğer iki olayda ise model, internet üzerinde yaptığı aramalar sırasında gerçek şirketlere ait kimlik bilgilerinin yer aldığı herkese açık depoları buldu. Gemini’ın söz konusu bilgileri kullanarak şirketlerin sistemlerine eriştiği, ancak sistemlerin gerçek şirketlere ait olduğunu fark ettikten sonra işlemleri durdurduğu aktarıldı.

Google olayları neden kamuoyuna açıklamadı?

Irregular, söz konusu olayları temmuz ayının sonunda Google’a bildirdi. Google da olayların gerçekleştiğini doğruladı ancak herhangi bir zarar meydana gelmediği gerekçesiyle kamuoyuna açıklama yapma ihtiyacı duymadığını belirtti.

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modelin standart bir güvenlik değerlendirmesi sırasında internette kamuya açık bilgiler aradığını ve testin parçası olduğunu düşündüğü sistemlere erişmeye çalıştığını söyledi.

Adkins, üç olayın tamamında Gemini’ın gerçek şirketlerle karşı karşıya olduğunu fark ettikten sonra durduğunu ifade etti.

Google ayrıca erişim sağlanan üç şirketin olaylardan haberdar edildiğini açıkladı.

Yapay zekâ güvenliği tartışmasını yeniden gündeme getirdi

Gemini’ın gerçek şirketlere erişebilmesi, yapay zekâ modellerinin siber güvenlik testlerinde ne kadar ileri gidebildiğine ilişkin tartışmaları yeniden gündeme taşıdı.

Benzer olayların OpenAI ve Anthropic modellerinin güvenlik testleri sırasında da yaşandığı bildirildi. Bu şirketlerin söz konusu siber güvenlik olaylarını gönüllü olarak kamuoyuna açıkladığı, Google’ın ise olaylarda zarar oluşmadığı gerekçesiyle kamuya duyuru yapmadığı belirtildi.

Google, yaşananların güçlü yapay zekâ modellerinin güvenli ve kontrollü biçimde geliştirilmesinin önemini ortaya koyduğunu savundu.