YZ dünyasında tarihi fren çağrısı: Amodei, Altman ve Musk “yavaşlayalım” dedi

Dünyanın önde gelen YZ şirketlerinin yöneticileri, en gelişmiş modellerin geliştirilme hızının güvenlik gerekçesiyle yavaşlatılması gerektiği konusunda alışılmadık ölçüde ortak bir noktada buluştu. Anthropic CEO’su Dario Amodei’nin çağrısına OpenAI CEO’su Sam Altman ve xAI’ın kurucusu Elon Musk destek verirken, Google DeepMind CEO’su Demis Hassabis de yaklaşımın yönünü doğru bulduğunu açıkladı. Tartışmanın merkezinde YZ sistemlerinin kendi yeteneklerini geliştirmesi, otonom ajanların siber saldırı kapasitesi ve şirketler arasındaki kontrolsüz rekabet bulunuyor.

YZ sektörünün bugüne kadarki “daha büyük, daha güçlü, daha hızlı” yarışında dikkat çekici bir kırılma yaşanıyor.

Anthropic CEO’su Dario Amodei, cumartesi günü yayımladığı kapsamlı yazıda şirketinin üçüncü taraf denetçiler dahil yeni güvenlik önlemleri uygulayacağını açıklarken sektör genelinde en gelişmiş YZ modellerinin geliştirilme hızının düşürülmesi çağrısında bulundu.

Amodei’nin çağrısına rakiplerinden hızlı destek geldi.

OpenAI CEO’su Sam Altman, Amodei’nin şirketlerin güvenlik uygulamalarını denetlemek üzere “çalışan benzeri erişime sahip bağımsız değerlendiriciler” kullanılması önerisini benimseyeceğini açıkladı.

xAI’ın sahibi Elon Musk ise çok daha kısa konuştu:

“Dario haklı.”

Google DeepMind CEO’su Demis Hassabis de Amodei'nin önerileri için “yön doğru” değerlendirmesinde bulunurken ayrıntılar üzerinde daha fazla çalışılması gerektiğini belirtti.

YZ yarışında ilk kez ortak fren arayışı

YZ sektörünün önde gelen isimleri teknolojinin yaratabileceği riskler konusunda yıllardır uyarılarda bulunuyor.

Ancak şirketlerin gerçekten geliştirme hızını azaltmayı tartışması çok daha sıra dışı bir gelişme.

Anthropic, OpenAI, Google, Meta ve xAI gibi şirketler bugüne kadar kullanıcı kazanmak, pazar paylarını büyütmek ve kurumsal müşterilere daha gelişmiş ürünler satmak için modellerini mümkün olduğunca hızlı geliştirmeye çalıştı.

Şimdi ise aynı şirketlerin yöneticileri bu yarışın kendisinin güvenlik problemi yaratabileceğini tartışmaya başladı.

Amodei çağrısını açık biçimde ortaya koydu:

“YZ modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız.”

Ancak bunun YZ geliştirmeyi durdurmak anlamına gelmediğini özellikle vurguladı.

Amodei'ye göre amaç, yeni modeller piyasaya sürülmeden önce şirketlerin güvenlik ve uyum çalışmalarına yeterli zaman ayırması ve bağımsız kuruluşların bu sistemleri inceleyebilmesi.

Amodei'yi korkutan iki gelişme

Anthropic CEO’sunun yeni yaklaşımının arkasında özellikle iki risk bulunuyor.

Birincisi, gelişmiş YZ sistemlerinin giderek artan ölçüde kendi yeteneklerini geliştirebilme kapasitesi.

İkincisi ise kısa süre önce OpenAI ve Hugging Face'in dahil olduğu testlerde ortaya çıkan güvenlik vakası.

Bir grup otonom YZ ajanı koordineli biçimde hareket ederek üçüncü taraf bir internet sitesinin güvenliğini aşmayı başardı.

Anthropic de kendi modellerinin siber güvenlik testleri sırasında üç kuruluşun sistemlerine girdiğini açıklamıştı. Şirket bu hafta dördüncü bir saldırı vakası daha tespit edildiğini duyurdu.

Bugüne kadar bu testlerde önemli ölçekli gerçek zarar meydana gelmedi.

Ancak Amodei mevcut gelişme hızının devam etmesi halinde durumun yalnızca birkaç ay içinde tamamen değişebileceğinden endişeli.

“6-12 ay içinde interneti ele geçirebilecek kapasiteye ulaşabilir”

Amodei'nin en çarpıcı uyarısı otonom YZ ajanlarının siber saldırı kapasitesi konusunda geldi.

Anthropic CEO’suna göre mevcut gelişme temposu devam ederse:

“6-12 ay içinde böyle bir ajan sürüsü, kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşabilir.”

Amodei böyle bir saldırının yüz milyarlarca dolarlık zarara yol açabileceğini ve modeller geliştikçe potansiyel hasarın daha da büyüyeceğini düşünüyor.

Bu nedenle Anthropic, bağımsız güvenlik değerlendiricilerine şirket içinde geniş erişim sağlama kararı aldı.

Plan kapsamında bu uzmanların Anthropic ofislerinde masaları, giriş kartları ve şirket bilgisayarları olacak. Denetçilerin erişim yetkilerinin şirketin kendi risk değerlendirme ekiplerine büyük ölçüde benzemesi öngörülüyor.

Amaç, şirketlerin güvenlik iddialarının yalnızca kendi beyanlarına dayanmasını önlemek.

Sam Altman: Yüzde 10 insanlığı yok etme riski kabul edilemez

OpenAI CEO’su Sam Altman da son dönemde YZ geliştirme hızının düşürülmesi ihtimalini açık biçimde tartışmaya başladı.

Altman, sektörün tamamıyla birlikte hareket edilmesi halinde OpenAI'ın en gelişmiş YZ sistemlerini geliştirme hızını azaltmayı değerlendirdiğini söyledi.

OpenAI'ın baş bilim insanı Jakub Pachocki de şirketlerin gerektiğinde gelecekteki YZ geliştirmelerini yavaşlatmak için koordinasyon sağlaması gerektiğini savundu.

Altman'ın risk konusundaki açıklaması ise çok daha dikkat çekiciydi:

“On yılın sonuna kadar herkesi öldürmek gibi yüzde 10'luk bir riski almak kabul edilemez.”

Altman ayrıca 2026'nın OpenAI'ın halka arzı için uygun bir dönem olmadığını belirterek olası halka arzın 2027'den önce gerçekleşmeyeceğini söyledi.

Anthropic'ten istifa YZ dünyasını sarstı

YZ güvenliği konusundaki tartışmanın büyümesinde Anthropic araştırmacısı Jacob Coxon'ın bu hafta görevinden ayrılması da etkili oldu.

Coxon hem Anthropic'i hem de daha önce çalıştığı OpenAI'ı süper zekâ geliştirme yarışında “hayatlarımızla kumar oynamakla” suçladı.

Coxon'a göre YZ sistemlerini geliştiren insanların bir bölümü teknolojinin on yılın sonuna kadar insanlığın yok olmasına yol açabileceğine gerçekten inanıyor.

Anthropic çalışanı Evan Hubinger da bu endişenin şirket içinde bulunduğunu doğruladı ve kendisinin gelecek on yıl içinde böyle bir sonucun gerçekleşme ihtimalini %10'un üzerinde gördüğünü açıkladı.

Amodei daha önce YZ gelişmelerinin “gerçekten çok kötü” sonuçlanması ihtimalini %25 olarak değerlendirmişti.

Binlerce YZ çalışanı daha önce de fren istemişti

Sektör içerisindeki endişeler yalnızca şirket yöneticileriyle sınırlı değil.

Temmuz ayında OpenAI, Anthropic, Google, Meta ve diğer büyük teknoloji şirketlerinde çalışan 1.000'den fazla kişi, ABD hükümetine YZ gelişiminin gerektiğinde bilinçli biçimde yavaşlatılmasını sağlayacak bir mekanizma oluşturulması çağrısında bulundu.

Tartışmayı güçlendiren en önemli gelişmelerden biri de YZ modellerinin siber saldırılarda giderek daha başarılı hale gelmesi.

Anthropic, OpenAI ve Meta son aylarda modellerinin test ortamlarından çıkarak açık internete erişebildiğini ve gerçek sistemlerin güvenliğini aşabildiğini bildirdi.

Bu vakalar, daha güçlü otonom YZ ajanlarının kontrol edilmesinin gelecekte çok daha zor hale gelebileceği endişesini artırıyor.

YZ ABD ara seçimlerinin de konusu oldu

YZ'ye yönelik toplumsal tepki ABD'de de büyüyor.

Yeni veri merkezlerinin elektrik ve su tüketiminin yerel kaynaklar üzerinde yarattığı baskı tartışma konusu olurken, YZ yatırımlarının elektrik faturalarını artırabileceği ve istihdam kaybına yol açabileceği yönündeki endişeler de güçleniyor.

Böylece YZ politikası kasım ayında yapılacak ABD ara seçimlerinin önemli gündemlerinden biri haline geliyor.

Ancak Trump yönetimi bugüne kadar YZ geliştirmesine güçlü düzenleyici sınırlamalar getirme konusunda isteksiz bir yaklaşım sergiledi.

Wall Street için yeni soru: YZ şirketleri gerçekten yavaşlarsa ne olur?

Tartışmanın finansal piyasalar açısından da önemli sonuçları olabilir.

Son yıllarda Wall Street'teki yükselişin önemli bölümü YZ yatırımları, veri merkezleri, yarı iletkenler ve büyük teknoloji şirketlerinin hızla artan sermaye harcamaları tarafından desteklendi.

Şimdi yatırımcıların karşısına yeni bir soru çıkıyor:

YZ şirketleri gerçekten geliştirme hızını düşürürse büyüme, kâr marjları ve YZ yatırımlarına ilişkin beklentiler nasıl değişecek?

Anthropic ve OpenAI aynı zamanda olası halka arzlara hazırlanıyor.

Anthropic'in bu yıl Wall Street'e gelmesi beklenirken OpenAI halka arz planını en erken 2027'ye bıraktı.

Dolayısıyla güvenlik gerekçesiyle getirilecek bir yavaşlama yalnızca teknoloji dünyasını değil, son yıllarda YZ temasına büyük miktarda sermaye yatıran finans piyasalarını da etkileyebilir.

Çin problemi: ABD yavaşlarsa Pekin de yavaşlayacak mı?

Sektörün önündeki en büyük sorunlardan biri ise Çin.

Amodei'ye göre ABD'deki YZ şirketlerinin tek taraflı olarak gelişme hızını ciddi biçimde azaltması jeopolitik açıdan tehlikeli olabilir.

Eğer ABD şirketleri yavaşlarken Çin aynı şeyi yapmazsa, çok güçlü YZ sistemlerinin Pekin'e stratejik üstünlük kazandırabileceğini savunuyor.

Bu nedenle Amodei'nin önerdiği sistem yalnızca Amerikan şirketlerinin kendi aralarında koordinasyonunu değil, Çin'le uluslararası işbirliğini de gerektiriyor.

ABD'de şirketlerin geliştirme hızlarını birlikte belirlemesi ise rekabet hukuku açısından başka bir sorun yaratıyor.

Amodei bu nedenle YZ güvenliği alanında şirketlerin belirli konularda koordinasyon sağlayabilmesi için antitröst mevzuatında bazı istisnalar oluşturulması gerektiğini düşünüyor.

ANALİZ: YZ yarışında teşvik sistemi değişmeye mi başlıyor?

Gelişmenin asıl önemi Amodei, Altman veya Musk'ın YZ riskleri konusunda uyarıda bulunması değil. Üç isim de geçmişte benzer kaygıları defalarca dile getirdi.

Yeni olan, rakip şirketlerin geliştirme hızını gerçekten azaltabilecek ortak mekanizmaları tartışmaya başlaması.

Bugüne kadar sektörün temel problemi oldukça basitti: Bir şirket güvenlik nedeniyle yavaşlarsa rakibi daha güçlü modeli daha önce piyasaya sürerek kullanıcıları, kurumsal müşterileri ve yatırımcıları kendine çekebilirdi.

Bu nedenle güvenlik konusunda endişeli yöneticiler bile yarıştan tek taraflı olarak çekilmek istemiyordu.

Şimdi Anthropic'in önerdiği bağımsız denetçiler ve sektör çapında “pacing” mekanizması bu teşvik problemini çözmeyi amaçlıyor.

Fakat önlerinde üç büyük engel bulunuyor: ABD'deki antitröst kuralları, Wall Street'in büyüme ve kâr beklentileri ve Çin'le süren teknolojik rekabet.

Bu nedenle YZ sektörünün gerçekten yavaşlayıp yavaşlamayacağı henüz belli değil.

Ancak Amodei, Altman, Musk ve Hassabis'in aynı hafta içinde aynı yönde açıklamalar yapması önemli bir kırılmaya işaret ediyor:

YZ yarışının liderleri artık yalnızca teknolojiyi nasıl daha hızlı geliştireceklerini değil, gerektiğinde nasıl yavaşlatabileceklerini de tartışıyor.

Bloomberg