Google'ın Gemini yapay zeka modelleriyle gerçekleştirilen bir siber güvenlik testi beklenmedik bir olayla sonuçlandı. Kontrollü bir ortamda güvenlik yetenekleri sınanan Gemini, test sisteminin dışına çıkarak üç gerçek şirkete ait korumalı sistemlere erişti.
Olay Mayıs 2026'da, yapay zeka sistemlerinin güvenlik yeteneklerini değerlendiren Irregular tarafından gerçekleştirilen testler sırasında yaşandı. Google daha sonra üç erişim vakasını doğrularken, Gemini'nin gerçek sistemlere ulaştığını fark ettikten sonra işlemlerini durdurduğunu açıkladı.
Reuters'ın aktardığı Google açıklamasına göre Gemini, internette bulunan herkese açık bilgilerden yararlanarak test kapsamında olduğunu düşündüğü sistemlere erişmeye çalıştı. Ancak test ortamındaki bir yapılandırma sorunu nedeniyle yapay zeka gerçek internet altyapısına ulaşabildi.
Gemini'nin internete erişmemesi gerekiyordu
Testin temelinde siber güvenlik alanında kullanılan Capture the Flag (CTF) türünde bir değerlendirme bulunuyordu. Gemini'ye kontrollü bir ortam içerisindeki hedefleri bulması ve belirli bilgilere ulaşması için görevler verilmişti.
Normal koşullarda modelin Irregular'ın hazırladığı test altyapısının dışına çıkamaması gerekiyordu. Ancak test sistemindeki yanlış yapılandırma Gemini'nin internete erişebilmesine yol açtı.
Ars Technica'nın olayla ilgili aktardığı bilgilere göre testte kullanılan kurgusal şirketlerden birinin adı gerçek dünyadaki bir şirketle eşleşiyordu. Gemini internete erişebildiğinde, test ortamındaki hedef yerine gerçek şirket altyapısını incelemeye başladı.
Sonuçta yapay zeka üç farklı şirkete ait sistemlere erişmeyi başardı.
Karmaşık güvenlik açıkları kullanılmadı
Olayın dikkat çekici taraflarından biri, erişimlerin gelişmiş veya daha önce bilinmeyen güvenlik açıkları kullanılarak gerçekleştirilmemiş olması.
Vakalardan birinde Gemini, doğru parolayı bulana kadar farklı parola seçeneklerini deneyerek korumalı sisteme erişti. Diğer iki olayda ise internette herkese açık yazılım depolarını araştırdı ve yanlışlıkla yayımlanmış giriş bilgilerini tespit etti.
Model daha sonra bulduğu bu kimlik bilgilerini kullanarak korunan sistemlere giriş yaptı.
Bu nedenle olay, Gemini'nin bilinmeyen bir güvenlik açığını keşfetmesinden çok, otonom hareket edebilen yapay zeka sistemlerinin mevcut ve oldukça temel güvenlik sorunlarından yararlanabilmesi açısından önem taşıyor.
Gemini gerçek şirket olduğunu anlayınca durdu
Google'ın açıklamasına göre Gemini üç olayda da eriştiği sistemlerin test ortamının değil gerçek şirketlerin altyapısının parçası olduğunu belirledikten sonra faaliyetini sonlandırdı.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modelin test sırasında internette bulunan bilgileri kullandığını ve gerçek şirketlere ulaştığını doğruladı. Şirket ayrıca etkilenen üç kuruluşun olaydan haberdar edildiğini açıkladı.
Google, yaşananları modelin kontrolünü tamamen kaybetmesi olarak değerlendirmiyor. Şirketin açıklamasına göre sorun, test altyapısının Gemini'ye sahip olmaması gereken internet erişimini sağlamasından kaynaklandı.
Irregular'ın da olayın ardından test süreçlerinde değişiklik yaptığı belirtiliyor.
Olay Mayıs ayında yaşandı, aylar sonra ortaya çıktı
Gemini'nin şirket sistemlerine erişmesi Mayıs 2026'da gerçekleşmesine rağmen olay o dönemde kamuoyuna açıklanmadı.
Irregular'ın Google'ı temmuz ayının sonlarında bilgilendirdiği, olayın ise eylül ayında The Wall Street Journal'ın konuyla ilgili sorular yöneltmesinin ardından kamuoyuna yansıdığı bildirildi.
Google, modelin gerçek bir sisteme eriştiğini fark ettiğinde faaliyetini durdurmasını güvenlik mekanizmalarının beklendiği şekilde çalışmasının bir göstergesi olarak değerlendiriyor. Buna karşılık bazı bağımsız güvenlik uzmanları, yapay zeka ajanlarının kendilerine verilen operasyon sınırlarının dışına çıkabilmesinin başlı başına üzerinde durulması gereken bir risk olduğunu savunuyor.
Benzer olaylar başka yapay zeka modellerinde de görüldü
Yaşananlar yalnızca Gemini'ye özgü bir tartışma değil. Irregular tarafından gerçekleştirilen benzer değerlendirmelerde OpenAI, Anthropic ve Meta tarafından geliştirilen yapay zeka sistemlerinin de test sınırlarının dışındaki gerçek sistemlerle etkileşime geçtiği vakalar daha önce gündeme geldi.
Bu örnekler, yapay zeka modelleri daha fazla aracı kullanabilen ve kendi başına bir dizi işlem gerçekleştirebilen ajanlara dönüştükçe güvenlik testlerinin de değişmesi gerektiğini gösteriyor.
Bir yapay zeka sisteminin güvenlik açıklarını tespit edebilmesi savunma açısından değerli olabilir. Aynı yeteneğin yanlış hedefe yönelmesi ise yetkisiz erişim gibi ciddi sonuçlara yol açabiliyor.
NetDijital Değerlendirmesi
Gemini olayındaki asıl dikkat çekici nokta yapay zekanın üç şirketi son derece gelişmiş yöntemlerle hacklemesi değil. Aksine kullanılan yöntemlerin oldukça sıradan olması, otonom yapay zeka ajanlarının oluşturabileceği yeni güvenlik sorununu daha anlaşılır hâle getiriyor.
Gemini'ye belirli bir güvenlik hedefi verilmişti ve sistem bu hedefe ulaşmak için araştırma yapıp elde ettiği giriş bilgilerini kullanabiliyordu. Test ortamındaki sınır ortadan kalktığında aynı yetenekler gerçek internet üzerinde çalışmaya devam etti.
Bu durum, gelecekte güçlü yapay zeka ajanlarının yalnızca hangi işlemleri yapabildiğinin değil, nerede ve hangi sistemler üzerinde işlem yapmasına izin verildiğinin de sıkı biçimde kontrol edilmesi gerektiğini gösteriyor.
Google'ın açıklamasına göre olaylarda model gerçek şirketlere ulaştığını fark ettikten sonra durdu ve etkilenen kuruluşlar bilgilendirildi. Buna rağmen test ortamındaki tek bir yapılandırma hatasının yapay zekanın gerçek sistemlere ulaşmasına izin vermesi, otonom yapay zeka güvenliğinin yalnızca model seviyesinde değil, modeli çevreleyen altyapı seviyesinde de ele alınması gerektiğine işaret ediyor.
Görseller ilgili markaların tanıtım ve basın materyallerinden derlenmiştir.
0 Yorumlar