Financial Times da ürktü: En gelişmiş modeller için “duraklama” çağrısı

Financial Times Yazarlar Heyeti çağrı yayınladı

Dünyanın önde gelen yapay zekâ (YZ) şirketlerinin yöneticileri, teknolojinin en ileri modellerinin geliştirilme hızının azaltılması konusunda giderek daha açık mesajlar vermeye başladı. Anthropic CEO’su Dario Amodei’nin gündeme getirdiği yavaşlama çağrısına OpenAI CEO’su Sam Altman ve Elon Musk’ın da destek vermesi, YZ sektöründe güvenlik tartışmasını yeni bir aşamaya taşıdı.

Tartışmanın merkezinde, giderek daha bağımsız hareket edebilen YZ sistemlerinin insanların onları anlama ve kontrol etme kapasitesini aşabileceği endişesi bulunuyor. Çağrıyı destekleyenlere göre en gelişmiş “frontier” modeller üzerinde çalışmalar, riskler daha iyi anlaşılana ve etkili güvenlik mekanizmaları oluşturulana kadar yavaşlatılmalı, hatta geçici olarak durdurulmalı.

Trump: ABD, Çin’i yenmek zorunda

ABD Başkanı Donald Trump ise bu çağrılara sert tepki göstererek bunları “negatif güçler” olarak nitelendirdi. Trump yönetimi açısından temel mesele, ABD’nin Çin karşısındaki teknolojik üstünlüğünü koruması.

Ancak Trump’ın eski YZ danışmanı David Sacks, en ileri modelleri geliştiren şirketlerin zaten sektörün öncüleri olduğunu ve düzenleyicileri beklemeden geliştirme hızını kendilerinin ayarlayabileceklerini savunuyor.

Bu yaklaşım, OpenAI, Anthropic ve diğer büyük laboratuvarların kendi aralarında güvenlik standartları belirleyerek en riskli araştırmalarda ortak hareket edebileceği görüşünü güçlendiriyor.

Yüz milyarlarca dolarlık yarış

Sorunun diğer tarafında YZ’nin muazzam ekonomik potansiyeli bulunuyor. Teknolojiye yüz milyarlarca dolar yatırım yapılırken, YZ şirketleri ve teknoloji devlerinin piyasa değerleri ABD hisse senedi piyasalarının performansında giderek daha önemli rol oynuyor.

Daha güçlü modellerin bilim, sağlık, mühendislik ve verimlilik alanlarında önemli kazanımlar yaratması bekleniyor. Ayrıca Washington’da YZ geliştirme hızının azaltılmasının Çin’e stratejik avantaj sağlayabileceğine ilişkin ciddi kaygılar var.

Buna karşılık güvenlik savunucuları, modellerin yeteneklerindeki hızlı artışın yeni riskler yarattığını düşünüyor.

YZ sistemleri kontrolden çıkabilir mi?

Tartışmaları büyüten gelişmelerden biri, bir OpenAI model testi sırasında Hugging Face’e yönelik saldırı oldu. Testte YZ ajanlarının birlikte hareket ederek kendilerine uygulanan güvenlik sınırlamalarını aşmaya ve faaliyetlerinin izlerini gizlemeye çalıştığı belirtildi.

Bu davranışın sektörün teknik anlamda “yapay genel zekâ” (AGI) tanımına girip girmediği tartışmalı. Ancak olay, gelişmiş modellerin insan seviyesine yaklaşan muhakeme yetenekleri kazanmasının doğurabileceği riskleri yeniden gündeme getirdi.

Daha büyük endişelerden biri ise “recursive self-improvement”, yani YZ’nin daha gelişmiş YZ sistemlerinin geliştirilmesinde kullanılması.

Anthropic CEO’su Amodei’ye göre bu süreç kontrolsüz biçimde ilerlerse teknolojinin gelişme hızı, insanların sistemleri anlama ve kontrol altında tutma kapasitesini aşabilir.

Şirketlere “gönüllü fren” çağrısı

YZ teknolojisinin gelişme hızı karşısında yasaların ve düzenleyici kurumların geride kalabileceği görüşü giderek yaygınlaşıyor. Bu nedenle sektörün en büyük laboratuvarlarından hassas araştırmaları ve ileri model testlerini geçici olarak yavaşlatmaları isteniyor.

Şirketlerin aynı zamanda ortak güvenlik standartları ve iyi uygulama kuralları geliştirmesi gerektiği savunuluyor.

Amodei’nin bağımsız araştırmacıların Anthropic çalışanlarıyla birlikte çalışmasına ve bulgularını kamuoyuna açıklamasına izin verme sözü bu yönde ilk adımlardan biri olarak görülüyor. Ancak bağımsız denetim mekanizmalarının daha güçlü yetkilere sahip olması gerektiği de belirtiliyor.

Yöneticilere cezai sorumluluk gündemde

Eski ABD Federal Ticaret Komisyonu Başkanı Lina Khan’a göre mevcut yasalar bile tehlikeli veya kusurlu ürün geliştiren şirketler ile yöneticilerin sorumlu tutulmasına olanak sağlayabilir.

YZ ajanlarının başka şirketlerin sistemlerine izinsiz girmesi durumunda şirketlerin hukuki tazminat yükümlülükleriyle karşılaşması da mümkün olabilir.

Daha uzun vadede ise gönüllü anlaşmaların yeterli olmayacağı görüşü ağırlık kazanıyor. Rekabet baskısı nedeniyle şirketlerin pazar payı elde etmek amacıyla güvenlik taahhütlerinden vazgeçebileceği belirtiliyor.

Tartışılan en sert seçeneklerden biri, YZ modellerinin yol açtığı ciddi zararlardan şirketlerin üst düzey yöneticilerinin cezai olarak sorumlu tutulması.

Çin faktörü en büyük çıkmaz

ABD’de YZ geliştirme hızının tek taraflı olarak azaltılmasına karşı çıkanların temel argümanı Çin.

Amerikan teknoloji şirketleri, ABD’nin frene basması halinde Çinli şirketlerin çalışmalarına devam ederek teknolojik açığı kapatabileceğini savunuyor.

Buna karşılık Çinli YZ şirketlerinin hâlâ büyük ölçüde ABD’de gerçekleştirilen temel araştırmalardan yararlanması nedeniyle Amerikan laboratuvarlarının geçici olarak yavaşlamasının küresel YZ sektörünün tamamını en azından bir süre yavaşlatabileceği düşünülüyor.

YZ güvenliği ve ulusal güvenlik meselelerinin Çin Devlet Başkanı Xi Jinping’in bu ay Washington’a gerçekleştireceği ziyaretin gündeminde de yer alması bekleniyor.

Xi yönetimi YZ’yi Çin’in ekonomik ve askeri modernizasyonunun temel teknolojilerinden biri olarak görüyor. Ancak tartışmanın diğer tarafındaki görüşe göre kontrolsüz bir YZ silahlanma yarışı uzun vadede ne Çin’in ne ABD’nin ne de dünyanın geri kalanının çıkarına.