Google da listeye katıldı: Gemini güvenlik testlerinde üç şirket sistemine izinsiz erişti

YZ güvenliği tartışması büyüyor. Google, Gemini modelinin mayıs ayında gerçekleştirilen siber güvenlik testleri sırasında üç şirketin sistemine istemeden eriştiğini doğruladı. Aynı testlerde OpenAI, Anthropic ve Meta'nın YZ sistemlerinde de daha önce açıklanan güvenlik ihlalleri yaşanmıştı. Olaylar, özellikle bağımsız hareket edebilen “agentic” YZ sistemlerinin kontrolü konusunda teknoloji sektöründeki tartışmaları yeniden alevlendirdi.

Google'ın Gemini YZ modeli, siber güvenlik testleri sırasında üç şirketin sistemine izinsiz erişerek hızla gelişen agentic YZ teknolojilerinin yaratabileceği risklere ilişkin yeni bir örnek ortaya koydu.

Olaylar mayıs ayında YZ güvenlik şirketi Irregular tarafından gerçekleştirilen testler sırasında yaşandı.

Irregular, cuma günü yaptığı açıklamada Google Gemini'de görülen güvenlik ihlalleri ile daha önce OpenAI, Anthropic ve Meta sistemlerinde açıklanan olayların aynı test sürecinin parçaları olduğunu doğruladı.

Şirket, tespit edilen sorunları temmuz ayının sonunda ilgili YZ geliştiricilerine bildirdiğini açıkladı.

Gemini gerçek bir şirketin şifresini tahmin etti

Google'ın doğruladığı olaylardan biri özellikle dikkat çekici.

Gemini'den test kapsamında kurgusal bir şirkete ilişkin bilgi toplaması istendi. Ancak kurgusal şirketin adı tesadüfen gerçek dünyada faaliyet gösteren bir şirketle aynıydı.

Model, görevi yerine getirmeye çalışırken gerçek şirkete ait hizmetlerden birine yöneldi ve şirketin şifresini tahmin ederek sisteme erişmeyi başardı.

Google, daha önce Wall Street Journal tarafından bildirilen olayın gerçekleştiğini doğruladı.

Bir Google sözcüsü şirketin olay hakkında ilgili makamları bilgilendirdiğini söyledi.

İnternette bulduğu kullanıcı bilgilerini kullandı

Gemini'nin gerçekleştirdiği diğer iki izinsiz erişimde ise farklı bir yöntem ortaya çıktı.

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins'e göre Gemini, kendisine verilen şirket adlarıyla internette arama yaptı.

Bu aramalar modeli internete açık bazı kod ve veri depolarına yönlendirdi.

Söz konusu depolarda başka şirketlere ait erişim bilgileri ve kimlik doğrulama verileri bulunuyordu.

Gemini bu bilgileri kullanarak başka sistemlere erişti.

Adkins, üç olayda da modelin daha sonra durduğunu belirterek:

“Bu üç olayın tamamında model durdu. Üç kuruluşun da durumdan haberdar edilmesini sağladık.”

dedi.

Google: Güçlü YZ modelleri sorumlu davranacak şekilde eğitilmeli

Google olayların YZ güvenliği açısından önemli bir ders olduğunu kabul etti.

Adkins:

“Bu olaylar, güçlü YZ modellerinin sorumlu davranacak şekilde eğitilmesinin önemini gösteriyor.”

ifadelerini kullandı.

Irregular sözcüsü Josef Laor da şirketin sorunların tespit edilmesinin ardından derhal harekete geçtiğini açıkladı.

Laor:

“Hemen harekete geçtik ve bizim tarafımızda bilinen tüm sorunlar haftalar önce giderildi ve çözüldü.”

dedi.

OpenAI, Anthropic ve Meta sistemlerinde de sorunlar görüldü

Gemini vakaları tek başına gerçekleşmedi.

Irregular'ın yaptığı aynı güvenlik testleri sırasında OpenAI, Anthropic ve Meta tarafından geliştirilen YZ sistemlerinde de güvenlik ihlalleri tespit edilmişti.

Söz konusu olaylar, YZ modellerinin yalnızca kullanıcılara bilgi sağlayan sistemlerden giderek kendi başına görev yerine getirebilen yazılım ajanlarına dönüşmesinin yaratabileceği yeni riskleri gündeme getiriyor.

Geleneksel sohbet botları çoğunlukla kullanıcının sorularına yanıt üretirken agentic YZ sistemleri internet üzerinde araştırma yapabiliyor, çeşitli yazılımlarla etkileşime girebiliyor ve belirlenen hedefe ulaşmak için birden fazla adımı kendi başına gerçekleştirebiliyor.

Bu yetenekler modelleri çok daha kullanışlı hale getirirken güvenlik hatalarının sonuçlarını da büyütebiliyor.

Sorun kötü niyet değil, hedefe ulaşmaya çalışan YZ

Google olaylarında Gemini'ye şirket sistemlerine izinsiz girme talimatı verilmedi.

Sorun, modelin kendisine verilen görevi tamamlamaya çalışırken karşılaştığı erişim bilgilerini kullanması ve yetkili olup olmadığını doğru biçimde değerlendirememesinden kaynaklandı.

Bu durum agentic YZ sistemleri açısından önemli bir güvenlik sorusunu gündeme getiriyor:

Bir YZ ajanı kendisine verilen hedefi yerine getirmek için hangi araçları kullanabileceğini ve hangi sınırları aşmaması gerektiğini ne ölçüde anlayabiliyor?

Gemini'nin gerçek şirketin şifresini tahmin ederek sisteme girmesi veya internette bulduğu erişim bilgilerini kullanması, modellerin teknik olarak mümkün olan bir işlemi gerçekleştirmek ile yetkili oldukları bir işlemi gerçekleştirmek arasındaki farkı güvenilir biçimde ayırt etmesinin önemini ortaya koyuyor.

YZ sektöründe “yavaşlama” tartışması

Son dönemde agentic YZ sistemlerinde görülen güvenlik olayları, YZ teknolojisinin geliştirilme hızına ilişkin küresel tartışmayı da yeniden gündeme taşıdı.

Anthropic CEO'su Dario Amodei, sektör genelinde YZ geliştirme hızının azaltılması çağrısında bulunmuştu.

Kaynağa göre bu yaklaşım OpenAI CEO'su Sam Altman ve Elon Musk'ın da aralarında bulunduğu bazı teknoloji liderlerinden destek gördü.

Bu görüşü savunanlar, modellerin yetenekleri hızla ilerlerken güvenlik mekanizmalarının aynı hızda gelişmemesinin ciddi riskler yaratabileceğini düşünüyor.

Trump, Zuckerberg ve Huang yeni düzenlemelere mesafeli

Buna karşılık teknoloji sektöründe daha fazla YZ düzenlemesine karşı çıkan güçlü bir cephe de bulunuyor.

ABD Başkanı Donald Trump, Nvidia CEO'su Jensen Huang ve Meta CEO'su Mark Zuckerberg, şirketlerin teknolojinin risklerini kendi güvenlik sistemleriyle yönetebileceğini savunan isimler arasında gösteriliyor.

Bazı genç YZ şirketleri de yeni düzenlemelerin büyük teknoloji şirketlerine avantaj sağlayabileceğini öne sürüyor.

Bu şirketlere göre ağır düzenleyici yükümlülükler, güvenlik ve uyum maliyetlerini karşılamakta zorlanabilecek küçük YZ girişimlerinin büyük rakiplerle rekabet etmesini daha da güçleştirebilir.

Agentic YZ güvenliği yeni cephe açıyor

Gemini, OpenAI, Anthropic ve Meta sistemlerinde güvenlik testleri sırasında ortaya çıkan olaylar, YZ sektörünün karşı karşıya olduğu güvenlik sorununun niteliğinin değişmeye başladığını gösteriyor.

Risk artık yalnızca bir sohbet botunun yanlış veya yanıltıcı bilgi üretmesi değil.

Yeni nesil YZ ajanları internet üzerinde araştırma yapabiliyor, erişim bilgileri bulabiliyor, harici sistemlerle bağlantı kurabiliyor ve hedeflerini gerçekleştirmek için bağımsız adımlar atabiliyor.

Bu nedenle YZ güvenliğinin temel sorularından biri de giderek daha kritik hale geliyor:

YZ sistemleri daha fazla yetki ve bağımsızlık kazandıkça, hangi işlemleri yapmaya yetkili olmadıklarını nasıl öğrenecek?

Google'ın doğruladığı üç Gemini vakası, teknoloji şirketlerinin bu soruya henüz kusursuz bir yanıt bulamadığını gösteren son örnek oldu.

Bloomberg