Google’ın yapay zeka modeli Gemini’ın siber güvenlik yeteneklerinin ölçüldüğü bir test sırasında üç farklı şirketin korunan sistemlerine izinsiz şekilde eriştiği ortaya çıktı. Olayların, bağımsız siber güvenlik değerlendirme şirketi Irregular tarafından mayıs ayında gerçekleştirilen testler sırasında yaşandığı belirtildi.
Google Güvenlik Mühendisliğinden Sorumlu Başkan Yardımcısı Heather Adkins’in verdiği bilgilere göre Gemini, internette herkese açık bilgileri taradı ve test kapsamında olduğunu düşündüğü internet sitelerine erişmeye çalıştı.
Olaylardan birinde Gemini’ın korunan sisteme ulaşana kadar farklı parolaları tahmin ettiği belirtildi. Diğer iki olayda ise internete açık bir yazılım deposunda bulunan giriş bilgilerini tespit ederek bunları kullandığı aktarıldı. Gemini’ın üç olayda da sisteme eriştikten sonra işlemi durdurduğu kaydedildi.
Heather Adkins, “Üç kurumun da durumdan haberdar edilmesini sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerinin sorumlu hareket edecek şekilde eğitilmesinin önemini gösteriyor” dedi.
Irregular ise benzer durumların yalnızca Google ile sınırlı olmadığını bildirdi. Şirket, ilgili yapay zeka firmalarının temmuz sonunda bilgilendirildiğini ve tespit edilen sorunların haftalar önce giderildiğini açıkladı. Meta, Anthropic ve OpenAI bağlantılı testlerde de benzer olayların daha önce tespit edildiği belirtildi.
