OpenAI’ın kontrolden çıkan YZ ajanları üç ABD devlet kurumunun sitelerini hedef aldı

OpenAI, bazı yapay zekâ ajanlarının bu yaz ABD hükümetine ait internet sitelerinde izinsiz erişim girişimlerinde bulunduğunu açıkladı. YZ ajanlarının Ticaret Bakanlığı ve SEC’e ait kamuya açık verilere eriştiği, Eğitim Bakanlığı sistemine girme girişiminin ise başarısız olduğu bildirildi. Olay, YZ sistemlerinin insan kontrolünden çıkabileceğine yönelik tartışmaları yeniden alevlendirdi.

OpenAI’ın bazı YZ (yapay zekâ) ajanlarının ABD hükümetine ait üç ayrı internet sitesine yönelik olağandışı faaliyetlerde bulunduğu ortaya çıktı.

New York Times’ın, YZ araştırma laboratuvarı Transluce’un güvenlik araştırmacılarına dayandırdığı haberine göre ajanlar, ABD Eğitim Bakanlığı, Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu’nun (SEC) sistemlerine erişmeye çalıştı.

OpenAI olayları doğrularken, şirket YZ ajanlarının davranışlarıyla ilgili kapsamlı bir inceleme başlattığını açıkladı.

Ticaret Bakanlığı verilerine eriştiler

OpenAI’ın açıklamasına göre YZ ajanları, ABD Ticaret Bakanlığı bünyesindeki Census Bureau’nun kamuya açık verilerine internette buldukları giriş bilgilerini kullanarak erişti.

Başka bir olayda ise ajanlar SEC’in internet sitesindeki kamuya açık bilgileri başka bir internet sitesinde paylaştı.

Eğitim Bakanlığı’na yönelik girişim ise başarısız oldu.

Rapora göre YZ ajanları bakanlığın sistemlerine erişerek Sivil Haklar Ofisi’nden veri toplamaya çalıştı ancak bunu gerçekleştiremedi.

OpenAI, tespit ettiği faaliyetler hakkında ilgili ABD kurumlarını bilgilendirdiğini açıkladı.

Şirket aynı zamanda “modelin amaçlanan davranışlardan sapmasına ilişkin kapsamlı bir inceleme” yürüttüğünü bildirdi.

OpenAI: Çoğu rutin araştırma faaliyetiydi

OpenAI, incelenen faaliyetlerin büyük bölümünün normal internet araştırmaları kapsamında gerçekleştiğini savundu.

Şirket sözcüsü, şimdiye kadar incelenen faaliyetlerin çoğunun sorulara yanıt verebilmek için kamuya açık internet içeriğine erişmek gibi rutin araştırma görevlerinden oluştuğunu söyledi.

Açıklamada, YZ modellerinin kamuya açık bilgiler konusunda güvenilir kaynak olarak sıklıkla devlet kurumlarının internet sitelerine başvurduğu, bu nedenle bazı faaliyetlerin hükümet sitelerinde gerçekleştiği belirtildi.

ABD Ticaret Bakanlığı, SEC ve Eğitim Bakanlığı ise haberde yer alan iddialara ilişkin ilk aşamada açıklama yapmadı.

“İnsan kontrolünün kaybedilmesinin bir başka örneği”

Olay ABD Kongresi’nde de tartışma yarattı.

Kongre’deki YZ grubunun Cumhuriyetçi eş başkanı Jay Obernolte, CNN’e yaptığı açıklamada yaşananları “insan kontrolünün kaybedilmesinin bir başka örneği” olarak nitelendirdi.

Obernolte, YZ modellerinin eğitildiği değerlerin insan değerleriyle uyumlu hale getirilmesi gerektiğini söyledi.

Bunun başarılması halinde modellerin insan davranışlarına ilişkin kabul edilen standartlara daha uygun hareket edebileceğini savundu.

Avustralya’da daha ciddi olay

ABD’deki gelişmeler, Avustralya’da yaşandığı bildirilen daha ciddi bir olayın hemen ardından geldi.

Avustralya Başbakanı, bir OpenAI ajanının ülkenin ulusal sağlık veri tabanına girdiğini açıklamıştı.

Olay, bir YZ sisteminin bir devlet ağına girdiği bilinen ilk vaka olarak nitelendirildi.

Transluce ise kontrolden çıkan YZ ajanlarının faaliyetlerini en az mart ayından bu yana tespit ettiğini bildirdi.

Araştırmacılara göre YZ ajanları daha önce University of New Mexico kütüphanesi ile Australian Institute of Health and Welfare sistemlerini de başarısız biçimde hedef aldı.

Avustralya’daki internet sitesi girişiminin haziran ayında gerçekleştiği, ancak OpenAI’ın olaydan ancak ağustos ayında haberdar olduğu belirtildi.

Hugging Face olayı OpenAI için en ciddi vaka

OpenAI, temmuz ayında YZ girişimi Hugging Face’in güvenlik sistemlerinin aşılmasının ardından ajanların internet erişimini daha kapsamlı biçimde incelemeye başladı.

OpenAI CEO’su Sam Altman, şirketin olayları araştırmakta istediği kadar hızlı davranamadığını kabul etti.

Altman, şirketin bir taraftan şeffaf davranmaya, diğer taraftan yaşananların tam olarak ne olduğunu anlamaya çalıştığını belirtti.

Altman’a göre Hugging Face olayı şimdiye kadar tespit edilen en ciddi vaka olmaya devam ediyor.

Sorun yalnızca OpenAI ile de sınırlı değil.

Rakip teknoloji şirketleri Anthropic, Meta ve Google da kendi YZ ajanlarının güvenlik sistemlerine yönelik girişimler sırasında amaçlanan davranışlardan saptığı vakalar bildirdi.

YZ şirketlerinden uluslararası standart çağrısı

Olaylar YZ sektöründe güvenlik tartışmalarını yeniden gündemin üst sıralarına taşıdı.

Anthropic CEO’su Dario Amodei, eylül ortasında yayımladığı bir makalede ileri YZ teknolojilerinin geliştirilme hızına ilişkin uyarılarda bulundu.

Amodei, insanların YZ üzerindeki kontrolünü kaybetme ihtimalinin bulunduğunu ve teknolojinin siber saldırılar ile biyoterörizm gibi alanlarda kötüye kullanılabileceğini savundu.

Birleşmiş Milletler Genel Kurulu sırasında Amodei ve Altman, BM Güvenlik Konseyi’ne uluslararası YZ standartları oluşturulması çağrısında bulundu.

Altman, ülkelerin YZ kaynaklı olayları doğru ve hızlı biçimde raporlamasının önemini vurgulayarak, dünyanın “başarısızlıklardan felakete dönüşmeden önce ders çıkarabilmesi” gerektiğini söyledi.

YZ’nin geleceği konusunda teknoloji dünyası bölünmüş durumda

YZ güvenliği konusundaki tartışmalar teknoloji sektöründe giderek daha sert bir ayrışmaya dönüşüyor.

Eski Anthropic araştırmacısı Jacob Coxon, sosyal medyada geniş yankı bulan paylaşımında YZ şirketlerini teknolojiyi yeterince sorumlu biçimde geliştirmemekle suçladı ve son derece karamsar bir senaryo ortaya koydu.

Buna karşılık Nvidia CEO’su Jensen Huang gibi teknoloji yöneticileri, YZ’nin insanlık açısından varoluşsal bir tehdit oluşturacağı yönündeki görüşlere karşı çıkıyor.

Huang, dünyanın 2030 yılında sona ermesi ihtimalinin “yüzde 0” olduğunu söyleyerek YZ konusunda ortaya konulan felaket senaryolarını reddetti.

Son olaylar ise YZ tartışmasının giderek yalnızca teknolojinin ekonomik potansiyeline değil, otonom ajanların ne ölçüde insan kontrolünde tutulabileceği ve internet üzerindeki hareketlerinin nasıl sınırlandırılacağı sorularına da odaklanacağını gösteriyor.

CNN