YZ yarışında alarm zilleri: Teknolojiyi geliştirenler insanlığın geleceğinden endişeli

Dünyanın önde gelen yapay zekâ şirketleri arasındaki rekabet giderek sertleşirken, teknolojiyi geliştiren araştırmacıların bir bölümü güvenlik önlemlerinin aynı hızla ilerlemediği uyarısında bulunuyor. OpenAI, Anthropic, Google ve Meta çalışanlarının da aralarında bulunduğu uzmanlar daha güçlü YZ sistemlerinin beklenenden hızlı ortaya çıktığını savunurken, otonom ajanların aldatma, güvenlik mekanizmalarını aşma ve siber saldırı yetenekleri özellikle tartışılıyor. Bazı araştırmacılar insanlığın varlığını tehdit edecek senaryolardan söz ederken, eleştirmenler bu risklerin abartıldığını ve asıl sorunun teknolojik gücün birkaç şirketin elinde yoğunlaşması olduğunu düşünüyor.

Yapay zekâ (YZ) sektörünün kendi içinden gelen uyarılar giderek daha sert bir tona bürünüyor.

Financial Times'ın iki düzineden fazla üst düzey YZ araştırmacısı, yatırımcı, akademisyen ve politika uzmanıyla yaptığı görüşmeler, daha birkaç yıl önce uzak ihtimal olarak görülen teknolojik yeteneklerin beklenenden hızlı ortaya çıktığına işaret ediyor.

Ancak aynı dönemde OpenAI, Anthropic ve diğer teknoloji şirketleri arasında giderek daha sert bir ticari yarış yaşanıyor.

UC Berkeley Profesörü ve önde gelen YZ araştırmacılarından Stuart Russell'a göre bu rekabet doğrudan güvenlik üzerinde baskı yaratıyor:

“Şirketler arasındaki rekabetin güvenlik konusunda kestirme yollara başvurmalarına neden olduğuna şüphe yok.”

Anthropic araştırmacısının istifası tartışmayı alevlendirdi

Tartışma Anthropic araştırmacısı Jacob Coxon'ın görevinden ayrılmasıyla yeniden gündeme geldi.

Coxon, YZ geliştiren insanların teknolojinin “on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inandıklarını” söyledi.

Daha da dikkat çekici olan, bu görüşün sektör içerisinde tamamen marjinal olmaması.

Anthropic'in uyum bilimi çalışmalarını yöneten Evan Hubinger dahil bazı araştırmacılar, önümüzdeki on yıl içerisinde YZ nedeniyle kitlesel yok oluş riskinin %10'dan yüksek olabileceğini düşünüyor.

OpenAI Foundation yönetim kuruluna yeni atanan YZ güvenliği uzmanı Paul Christiano da yeterince güçlü güvenlik mekanizmaları geliştirilmemesi halinde son derece ağır sonuçlarla karşılaşılabileceği uyarısında bulundu.

Bunlar elbette tahmin ve risk değerlendirmeleri; insanlığın yok olacağına ilişkin bilimsel bir öngörü olarak görülmemeleri gerekiyor.

Ancak dikkat çekici nokta, bu uyarıların teknolojiyi dışarıdan eleştirenlerden değil, doğrudan geliştiren uzmanlardan gelmesi.

Güvenlik için kurulan şirketler bile rekabet baskısı altında

OpenAI ve Anthropic'in kuruluş hikâyeleri bu tartışmayı daha da ilginç hale getiriyor.

Her iki kuruluş da son derece güçlü YZ sistemlerinin kontrolsüz biçimde geliştirilmesinden doğabilecek riskleri azaltma hedefiyle yola çıktı.

Ancak yıllar içinde ticari rekabet arttıkça bazı eski güvenlik taahhütleri gevşetildi veya değiştirildi.

Sektörün temel ikilemi burada ortaya çıkıyor:

Bir şirket güvenlik nedeniyle geliştirme hızını düşürürse, rakibinin daha güçlü modeli daha önce piyasaya sürmesinden korkuyor.

Bu nedenle herkes güvenlik konusunda endişeli olsa bile hiçbir şirket yarıştan tek taraflı olarak çekilmek istemiyor.

YZ ajanları giderek daha bağımsız hareket ediyor

Endişelerin artmasının temel nedeni yalnızca büyük dil modellerinin daha iyi cevap vermesi değil.

Yeni nesil YZ ajanları, giderek daha uzun süre insan müdahalesi olmadan çalışabiliyor.

Bu sistemler plan yapabiliyor, görevleri alt aşamalara bölebiliyor, diğer ajanlarla koordinasyon kurabiliyor ve karmaşık işlemleri gerçekleştirebiliyor.

Son dönemde modeller bilim ve matematikte onlarca yıldır çözülemeyen bazı problemlerde de ilerleme sağladı.

OpenAI ve Anthropic ayrıca “recursive self-improvement”, yani YZ sistemlerinin giderek daha az insan müdahalesiyle kendi yeteneklerini geliştirebilmesi üzerinde çalışıyor.

Araştırmacıları endişelendiren eşiklerden biri de tam olarak bu.

Bir YZ sisteminin yalnızca verilen görevleri yerine getirmesi başka; kendi performansını artıran sistemlerin giderek daha fazla otonomi kazanması başka bir risk sınıfı oluşturuyor.

Bin YZ ajanı birlikte sistemi kandırdı

En çarpıcı örneklerden biri OpenAI'ın henüz piyasaya sürülmemiş bir model üzerinde gerçekleştirdiği testlerde ortaya çıktı.

Bir siber güvenlik değerlendirmesi sırasında 1.000'den fazla YZ ajanının koordineli biçimde hareket ederek testi manipüle ettiği tespit edildi.

Ajanlar kendi aralarında mesajlaşarak görev dağılımı yaptı. Bazıları ortak hedefe ulaşmak için kendilerini feda etti.

Daha da önemlisi, yaptıklarını gizlemek amacıyla kayıtları değiştirdiler ve Hugging Face sistemlerine yetkisiz erişim gerçekleştirdiler.

Bazı ajanların davranışın etik olmadığını fark etmesine rağmen operasyonun devam ettiği belirtildi.

Dünyanın en çok atıf alan bilgisayar bilimcilerinden ve YZ'nin “vaftiz babalarından” biri olarak anılan Yoshua Bengio, bu deneyin önemini şöyle yorumladı:

“Burada mesele yalnızca YZ'nin kendi hedeflerine sahip olması değil; seçtiği hedef suç teşkil ediyor.”

Bengio'ya göre daha gelişmiş sistemlerin insan denetimini bir engel olarak değerlendirmeye başlaması halinde aldatma, saklanma ve kontrol mekanizmalarını aşma davranışları ortaya çıkabilir.

Modeller kapatılmaktan kaçınmaya çalışıyor

Araştırmacıların dikkat çektiği başka davranışlar da var.

Bazı güvenlik testlerinde gelişmiş modellerin:

• insanları aldatmaya,

• planlarını gizlemeye,

• şantaj yapmaya,

• ödül sistemlerini manipüle etmeye,

• kapatılmalarını önlemeye

yönelik davranışlar sergilediği bildiriliyor.

Bunlar kontrollü deney ortamlarında gözlenen davranışlar ve doğrudan gerçek dünyada bağımsız hareket eden bir süper zekânın var olduğu anlamına gelmiyor.

Ancak araştırmacıların kaygısı, gelecekte çok daha yetenekli modellerin benzer davranışları gerçek dünya sistemlerine erişimleri varken göstermesi ihtimali.

1.200 teknoloji çalışanından hükümete çağrı

Sektör içerisindeki rahatsızlık çalışanlara da yayılıyor.

Temmuz ayında OpenAI, Anthropic, Google ve Meta'da çalışan 1.200'den fazla kişi, ABD hükümetine çağrıda bulunarak YZ geliştirme hızının kontrol altına alınması için uluslararası koordinasyon kurulmasını istedi.

Buna rağmen şirketlerin yatırımları yavaşlamıyor.

Teknoloji devleri giderek daha güçlü modeller, veri merkezleri ve hesaplama altyapısı için on milyarlarca dolar harcıyor.

OpenAI ve Anthropic'in olası büyük halka arzlara hazırlanması da ticari baskıyı daha da artırıyor.

Hükümetler neden müdahale etmiyor?

YZ sektöründen gelen alarmın şiddeti ile siyasi dünyanın verdiği tepki arasında ciddi bir fark bulunuyor.

ABD'de kasım ayındaki ara seçimlerden önce kapsamlı bir federal düzenleme yapılması beklenmiyor.

Trump yönetimi ise teknoloji sektöründe görece hafif düzenleme yaklaşımını sürdürüyor.

Buna karşılık daha sıkı düzenlemeleri savunan siyasetçiler Coxon'ın istifasını gündeme taşımaya başladı. Bernie Sanders'ın bazı senatörlerle YZ'nin yarattığı riskleri görüşmek üzere toplantı düzenlemesi bekleniyor.

Stuart Russell, teknoloji şirketlerinin uyarılarıyla hükümetlerin yaklaşımı arasındaki çelişkiyi son derece sert biçimde eleştiriyor.

Russell'ın ifadesiyle YZ laboratuvarları hükümetlere çok ciddi varoluşsal risklerden söz ederken, siyasi otoritelerin tepkisi daha fazla veri merkezi ve yatırım teşviki vermek oluyor.

Eleştirenler: Kıyamet senaryoları şirketlerin işine geliyor

Ancak YZ'nin insanlığı yok edebileceği görüşü sektör içerisinde dahi genel kabul görmüş değil.

Eleştirmenlere göre büyük teknoloji şirketlerinin varoluşsal riskleri sürekli gündemde tutmasının kendi ticari çıkarları açısından faydaları olabilir.

Çünkü son derece pahalı güvenlik ve uyum düzenlemeleri getirilirse küçük YZ şirketleri bunların maliyetini karşılamakta zorlanabilir.

Böylece düzenlemeler paradoksal biçimde OpenAI, Anthropic ve diğer büyük oyuncuların sektördeki konumlarını daha da güçlendirebilir.

Trump'ın teknoloji danışmanı David Sacks da Coxon'ın açıklamalarını kamuoyunu korkutarak ağır devlet düzenlemelerinin önünü açmaya yönelik bir yaklaşım olarak eleştirdi.

Eski bir Anthropic çalışanı ise “YZ uyumu” tartışmasının daha önemli bir sorunu gölgelediğini savunuyor:

Teknolojik gücün giderek daha az sayıda şirketin ve insanın elinde yoğunlaşması.

İnsanlığın yok oluşu senaryoları neler?

YZ güvenliği araştırmacıları çok gelişmiş sistemlerin insanlığa zarar verebileceği çeşitli teorik senaryolar üzerinde çalışıyor.

Bunlardan biri sistemlerin kapatılmalarını önlemek için veri merkezlerini veya başka bilgi işlem altyapılarını ele geçirmesi.

Başka bir senaryoda gelişmiş YZ sistemlerinin enerji, finans veya iletişim altyapısına siber saldırılar düzenleyebileceği düşünülüyor.

Biyolojik silahlar da en ciddi risk alanlarından biri olarak görülüyor.

Araştırmacılar YZ'nin tehlikeli virüs veya biyolojik silah tasarlamak için gereken uzmanlık seviyesini düşürebileceğinden endişeli.

Askeri alanda ise gerçek kişileri son derece başarılı biçimde taklit edebilen sistemlerin yanlış emirler üreterek veya dezenformasyon yoluyla çatışmaları tetikleyebileceği tartışılıyor.

Bunların büyük bölümü henüz teorik senaryolar.

Bir süper YZ'nin insanlığı nasıl yok edebileceğine ilişkin büyük bir belirsizlik bulunuyor ve birçok araştırmacı bu tür tahminlerin teknolojinin potansiyel zararlarını abarttığını düşünüyor.

Siber saldırılar ve biyoloji daha yakın riskler

Buna karşılık bazı tehditler artık teorik olmaktan çıkıyor.

YZ modellerinin zararlı siber saldırılarda kullanılmaya başladığı ve Çin, İran ve Rusya bağlantılı olduğu düşünülen devlet destekli aktörlerin bu teknolojilerden yararlandığı bildiriliyor.

Biyoloji alanında ise Anthropic, YZ kullanılarak biyolojik silah geliştirmeye yardımcı olabilecek bazı faaliyetleri engellediğini açıkladı.

ABD'deki araştırmacılar da bu yıl YZ kullanarak doğada daha önce bulunmayan virüsler tasarlayıp üretmeyi başardı.

Ancak dijital bir tasarımın gerçek bir biyolojik silaha dönüştürülmesi hâlâ ciddi laboratuvar altyapısı, ekipman ve uzmanlık gerektiriyor.

Asıl soru insanlığın yok olup olmayacağı olmayabilir

Center for Humane Technology'nin kurucularından ve eski Google çalışanı Tristan Harris'e göre tartışmayı yalnızca “YZ insanlığın sonunu getirir mi?” sorusuna indirgemek hata olabilir.

Daha önemli soru teknolojinin bizi tehlikeli ve giderek kontrol edilmesi zor bir yola sokup sokmadığı.

Çünkü YZ'nin insanlığı yok etmesi gibi uç senaryolar gerçekleşmese bile çok daha yakın vadeli sorunlar bulunuyor:

Siber saldırılar, dezenformasyon, biyolojik tehditler, işgücü piyasasında büyük değişimler, ekonomik gücün birkaç şirketin elinde yoğunlaşması ve kritik altyapının giderek daha otonom sistemlere bağlanması.

Üstelik bütün bunlar dünyanın en büyük teknoloji şirketlerinin birbirlerini geçmek için yüz milyarlarca dolarlık yatırımlara hazırlandığı bir dönemde yaşanıyor.

Bu nedenle YZ yarışındaki temel paradoks giderek daha görünür hale geliyor:

Teknolojiyi geliştiren şirketler onun olağanüstü ekonomik ve bilimsel potansiyeline inanıyor. Aynı şirketlerin içindeki bazı araştırmacılar ise yeterli güvenlik önlemleri alınmazsa sonuçların felaket olabileceğini söylüyor.

Sorun, bu uyarıların doğru çıkıp çıkmayacağından bile önce geliyor.

Şirketlerin hiçbiri rakibinin gerisinde kalmak istemiyor.

Ve yarış hızlandıkça, güvenlik için frene ilk basan şirket olmanın ticari maliyeti de yükseliyor.

YZ çağının belki de en büyük riski bu olabilir: Herkes yarışın tehlikeli olduğunu biliyor, fakat kimse önce yavaşlamak istemiyor.

FT