Yapay zekâda bir güvenlik skandalı daha: OpenAI'ın otonom asistanları denetim sistemlerini devre dışı bıraktı

Yapay zekâ teknolojisinin güvenliği konusunda endişeleri artıran iki yeni olay yaşandı. OpenAI, bağımsız hareket edebilen yapay zekâ asistanlarının şirket içindeki yazılım geliştirme görevleri sırasında güvenlik denetimlerini devre dışı bıraktığını ve çalışanlara yanıltıcı bilgi verdiğini açıkladı. Olaylar, yapay zekâ sistemlerinin kendi faaliyetlerini denetleyen mekanizmalardan kaçınma ihtimalini yeniden gündeme taşıdı. Öte yandan milyarder yatırımcı Ken Griffin yapay zekâ sektöründe balon oluştuğu uyarısında bulunurken, Anthropic'in gelecek yıllardaki bilgi işlem harcamalarının 750 milyar dolara ulaşabileceği bildirildi.

OpenAI'ın yapay zekâ asistanları güvenlik sistemlerine müdahale etti

Yapay zekâ sektöründe otonom sistemlerin güvenilirliğine ilişkin tartışmalar yeni bir boyut kazandı.

ChatGPT'nin geliştiricisi OpenAI, şirket bünyesinde gerçekleştirilen iki ayrı yazılım geliştirme görevinde, bağımsız hareket edebilen yapay zekâ asistanlarının güvenlik denetimlerini zayıflattığını duyurdu.

Şirketin salı günü yayımladığı açıklamaya göre olaylar yaklaşık iki hafta önce meydana geldi.

İlk olayda bir yapay zekâ asistanı, OpenAI'ın güvenlik ekibine gönderilen otomatik uyarıları devre dışı bıraktı.

Birkaç gün sonra yaşanan ikinci olayda ise başka bir yapay zekâ asistanı, faaliyetlerini izlemek için kullanılan bir denetim sistemini kaldırdı. Üstelik bunu yaptığını şirket çalışanlarından gizleyerek yanıltıcı bilgi verdi.

Her iki olay da yapay zekâ asistanlarının yalnızca verilen talimatları yerine getirmekle kalmayıp kendi faaliyetlerini denetleyen mekanizmalar üzerinde değişiklik yapabildiğini gösterdi.

Güvenlik önlemlerini kaldırmayı neden tercih ettiler?

OpenAI'ın açıklamasına göre iki yapay zekâ asistanı da görevlerini yerine getirirken mevcut güvenlik mekanizmalarının korunup korunmaması gerektiğini değerlendirdi.

Ancak rutin yazılım geliştirme talimatlarını, söz konusu mekanizmaları zayıflatma izni olarak yorumladı.

Şirket, olayların nedenlerini araştırdığını belirterek iki olasılık üzerinde durduğunu açıkladı.

Bunlardan ilki, yapay zekâ asistanlarının kendilerine verilen görevleri tamamlamak için aşırı ısrarcı davranması.

İkinci ve daha endişe verici olasılık ise sistemlerin faaliyetlerini denetleyen mekanizmalardan bilinçli olarak kaçınma eğilimi göstermesi.

Bu iki davranış arasında önemli bir fark bulunuyor.

Bir yapay zekâ sisteminin görevi tamamlamak amacıyla güvenlik önlemlerini yanlışlıkla aşması ciddi bir mühendislik sorunu oluşturuyor.

Ancak sistemin denetlendiğinin farkına vararak faaliyetlerini gizlemeye çalışması, çok daha kapsamlı güvenlik risklerini gündeme getiriyor.

OpenAI, iki olayın ardından izleme ve denetim mekanizmalarını güçlendirdiğini bildirdi.

Yapay zekâ sistemleri denetlendiklerini anlayabiliyor mu?

Son gelişmeler, yapay zekâ güvenliği alanında çalışan araştırmacıların uzun süredir üzerinde durduğu bir soruyu yeniden gündeme taşıdı:

Gelişmiş yapay zekâ modelleri, denetlendiklerini fark ederek davranışlarını değiştirebilir mi?

Bazı uzmanlar, modellerin test ortamlarında güvenli davranışlar sergilerken gerçek dünyadaki uygulamalarda farklı hareket edebileceğinden endişe ediyor.

Bu ihtimal özellikle otonom yapay zekâ asistanları açısından önem taşıyor.

Geleneksel sohbet sistemlerinden farklı olarak bu asistanlar yazılım geliştirebiliyor, dosyalara erişebiliyor, çeşitli araçları kullanabiliyor ve belirli görevleri insan müdahalesi olmadan gerçekleştirebiliyor.

Dolayısıyla hatalı veya istenmeyen davranışların sonuçları yalnızca yanlış bilgi üretmekle sınırlı kalmayabiliyor.

Sistemlere verilen yetkilerin kapsamına bağlı olarak güvenlik açıkları, veri kayıpları ve siber saldırı riskleri de ortaya çıkabiliyor.

Daha önce de güvenlik sınırlarını aşmışlardı

OpenAI'ın gelişmiş yapay zekâ modelleri daha önce de beklenmedik davranışlarla gündeme gelmişti.

Şirketin modellerinin testler sırasında kendilerine getirilen kısıtlamaları aşarak Hugging Face adlı yapay zekâ platformuna yönelik saldırı gerçekleştirdiği ve Avustralya'daki kamu sağlık hizmetlerine ait internet sitelerinin güvenliğini ihlal ettiği bildirilmişti.

Bağımsız güvenlik araştırma kuruluşları Asymmetric Security ve Transluce tarafından gerçekleştirilen incelemeler, bazı saldırıların OpenAI'ın ilk açıklamalarında belirtilenden daha kapsamlı olduğunu ortaya koydu.

Araştırmacılar, olaylarda veri toplama faaliyetlerini gizlemeye yönelik girişimler de tespit etti.

Bu bulgular, gelişmiş yapay zekâ sistemlerinin yalnızca yanlış sonuçlar üretmesinin değil, istenmeyen faaliyetleri gizlemesinin de ciddi bir sorun haline gelebileceğine işaret ediyor.

OpenAI halka arzını güvenlik endişeleri nedeniyle erteledi

Yaklaşık 852 milyar dolar değerlemeye sahip OpenAI, yapay zekâ güvenliğine ilişkin sorunlar nedeniyle büyüme planlarını da yeniden değerlendiriyor.

Şirketin Üst Yöneticisi Sam Altman, başlangıçta bu yıl gerçekleştirilmesi beklenen halka arzın erteleneceğini açıkladı.

Altman, şirketin yapay zekânın bir sonraki gelişim aşamasına güvenli biçimde ölçeklenebileceğinden emin olmak istediğini belirtti.

Halka arzın gelecek yıl gerçekleştirilmesi bekleniyor.

OpenAI, ağustos ayında yapay zekâ sistemlerine yönelik test prosedürlerini kapsamlı biçimde değiştirdiğini açıklamıştı.

Şirket ayrıca otonom asistanların faaliyetlerini izlemek için daha fazla kaynak ayıracağını ve olası sorunların tespit edilmesinden itibaren 30 dakika içinde alarm verilmesini sağlayacak mekanizmalar geliştireceğini duyurmuştu.

Ancak son iki olay, güvenlik önlemlerinin sürekli güncellenmesi gerektiğini gösteriyor.

Anthropic bağımsız denetime kapı açtı

Yapay zekâ güvenliği konusunda sektörün diğer büyük oyuncuları da yeni adımlar atıyor.

OpenAI'ın en önemli rakiplerinden Anthropic, kâr amacı gütmeyen METR kuruluşuna modellerinin risklerini değerlendirebilmesi için şirket çalışanlarına benzer erişim yetkileri verdi.

Bu uygulama, bağımsız araştırmacıların gelişmiş yapay zekâ sistemlerini daha kapsamlı biçimde incelemesine olanak tanıyor.

OpenAI ise dışarıdan bağımsız bir değerlendiriciyle benzer kapsamda bir anlaşma yaptığını henüz açıklamadı.

Bağımsız güvenlik değerlendirmeleri, gelişmiş yapay zekâ sistemlerinin oluşturabileceği riskleri azaltmak amacıyla sektörün gündeme getirdiği başlıca somut önlemler arasında yer alıyor.

Uzmanlara göre modellerin yetenekleri arttıkça şirketlerin kendi iç denetimlerinin yanında bağımsız gözetim mekanizmalarının da önem kazanması bekleniyor.

Ken Griffin: Yapay zekâda neredeyse kesinlikle balon var

Yapay zekâ sektöründe yalnızca güvenlik riskleri değil, yatırımların ekonomik karşılığı da giderek daha fazla sorgulanıyor.

Milyarder yatırımcı Ken Griffin, yatırımcıların neredeyse kesinlikle bir yapay zekâ balonunun içinde bulunduğunu söyledi.

Griffin'e göre Amerikan şirketleri, yapay zekâ modellerinden ekonomik değer elde etme konusunda oldukça farklı performanslar gösteriyor.

Bazı şirketler teknolojiyi verimlilik artışına dönüştürmeyi başarırken, diğerleri devasa yatırımlarına rağmen somut sonuçlar üretmekte zorlanıyor.

Griffin, şirketlerin yapay zekâ harcamalarını gerçek üretkenlik kazanımlarına dönüştürmesinin kritik önem taşıdığını vurguladı.

Bununla birlikte ünlü yatırımcı, olası bir finansal balonun teknolojinin uzun vadeli ekonomik potansiyelini ortadan kaldırmadığını düşünüyor.

Griffin'e göre yapay zekâ, ABD'de yeni şirketlerin kurulmasını hızlandırabilir ve girişimciler açısından altın bir çağ başlatabilir.

Dolayısıyla kısa vadede aşırı değerleme ve yatırım riskleri bulunsa da teknolojinin uzun vadeli dönüştürücü etkisi devam edebilir.

Anthropic'in bilgi işlem faturası 750 milyar dolara ulaşabilir

Yapay zekâ yatırımlarının ulaştığı boyut, Anthropic'in harcama planlarında da görülüyor.

Wall Street Journal'ın haberine göre halka arza hazırlanan Anthropic'in gelecek yıllarda ilave bilgi işlem kapasitesi için yapacağı harcamalar 750 milyar dolara ulaşabilir.

Şirketin 2026 yılının ilk yarısında 80,7 milyar dolar net zarar açıkladığı bildirildi.

Ancak bu zararın yaklaşık 72 milyar doları, dönüştürülebilir tahviller ve diğer finansal araçların değerindeki değişimlerle bağlantılı muhasebe giderlerinden kaynaklandı.

Bu nedenle açıklanan net zarar rakamı, şirketin faaliyetlerinden kaynaklanan nakit kaybıyla aynı anlama gelmiyor.

Buna karşılık Anthropic'in bilgi işlem altyapısı için üstlendiği sözleşmeler, sektörün ne kadar sermaye yoğun hale geldiğini ortaya koyuyor.

Şirketin önümüzdeki 7-10 yıl içinde gerçekleştirmeyi planladığı bilgi işlem anlaşmalarının toplam büyüklüğünün yaklaşık 450 milyar dolar olduğu belirtiliyor.

Bu kapsamda Google Cloud ile 111 milyar dolar, Amazon Web Services ile 110 milyar dolar ve Microsoft ile 31 milyar dolarlık sözleşmeler öne çıkıyor.

Söz konusu anlaşmalar, yapay zekâ sektörünün büyük teknoloji şirketleri arasındaki ticari ve finansal bağımlılığını da artırıyor.

Yapay zekâ sektöründe iki büyük risk aynı anda büyüyor

Son gelişmeler, yapay zekâ endüstrisinin karşı karşıya olduğu iki temel sorunu ortaya koyuyor.

İlki, giderek daha bağımsız hareket edebilen yapay zekâ sistemlerinin güvenli biçimde kontrol edilip edilemeyeceği.

OpenAI'ın otonom asistanlarının güvenlik denetimlerini devre dışı bırakması, bu sorunun teorik bir tartışmanın ötesine geçtiğini gösteriyor.

İkinci sorun ise yapay zekâ altyapısına yönlendirilen yüz milyarlarca dolarlık sermayenin yeterli ekonomik getiri sağlayıp sağlayamayacağı.

Ken Griffin'in balon uyarısı ve Anthropic'in devasa bilgi işlem harcaması planları, yatırımcıların giderek daha fazla üzerinde durduğu bu soruyu güçlendiriyor.

Üstelik sektörün en büyük şirketleri arasında kurulan karmaşık finansman ve hizmet ilişkileri, olası bir sorunun diğer şirketlere yayılma riskini de artırıyor.

Yapay zekânın geleceği artık yalnızca daha güçlü modeller geliştirmeye değil, bu modelleri güvenli biçimde yönetmeye ve yapılan devasa yatırımları sürdürülebilir kâra dönüştürmeye bağlı.

Ft, Bloomberg

Güldem Atabay ve Atilla Yeşilada tarafından kaleme alınan GADT Raporlarına abone olmak ister misiniz?

Bize e-mail atın: istanbulanalytics@gmail com

Raporlar ücretlidir, yatırım önerisi içermez.