Yapay Zeka geliştiren teknoloji devlerinden öz denetim

Aralarında Microsoft, Amazon ve OpenAI’nin de bulunduğu büyük teknoloji şirketleri, Salı günü Seul Yapay Zeka Güvenlik Zirvesi’nde yapay zeka güvenliği konusunda dönüm noktası niteliğindeki uluslararası bir anlaşmada bir araya geldi.

Anlaşma ışığında, ABD, Çin, Kanada, İngiltere, Fransa, Güney Kore ve Birleşik Arap Emirlikleri dahil olmak üzere çeşitli ülkelerden şirketler, en gelişmiş yapay zeka modellerinin güvenli bir şekilde geliştirilmesini sağlamak için gönüllü taahhütlerde bulunacaklar.

Halihazırda yapmadıkları durumlarda, YZ modeli üreticileri, teknolojinin kötü aktörler tarafından kötüye kullanılmasını önlemek gibi, öncü modellerinin zorluklarını nasıl ölçeceklerini ortaya koyan güvenlik çerçeveleri yayınlamayı kabul ettiler.

Bu çerçeveler, teknoloji firmaları için “tahammül edilemez” olarak kabul edilecek öncü YZ sistemleri ile ilişkili risk türlerini tanımlayan “kırmızı çizgiler” içerecektir. Bu riskler, otomatik siber saldırılar ve biyolojik silah tehdidini içermekle birlikte bunlarla sınırlı değildir.

Bu tür aşırı koşullara yanıt vermek için şirketler, bu risklerin azaltılmasını garanti edemedikleri takdirde YZ modellerinin geliştirilmesini durduracak bir “kill switch” uygulamayı planladıklarını söylediler.

Birleşik Krallık Başbakanı Rishi Sunak Salı günü yaptığı açıklamada, “Dünyanın pek çok farklı bölgesinden bu kadar çok önde gelen YZ şirketinin YZ güvenliği konusunda aynı taahhütleri kabul etmesi dünyada bir ilk” dedi.

Sunak, “Bu taahhütler, dünyanın önde gelen YZ şirketlerinin güvenli YZ geliştirme planları konusunda şeffaflık ve hesap verebilirlik sağlamalarını garanti altına alıyor” dedi.

Salı günü yapılan anlaşma, geçtiğimiz Kasım ayında jeneratif YZ yazılımının geliştirilmesinde yer alan şirketler tarafından yapılan bir dizi taahhüdü genişletiyor.

Şirketler, 2025 yılı başlarında Fransa’da yapılması planlanan bir sonraki YZ zirvesi olan YZ Eylem Zirvesi öncesinde bu eşikleri yayınlamadan önce, uygun olduğunda kendi hükümetleri de dahil olmak üzere “güvenilir aktörlerden” girdi almayı kabul ettiler.

Salı günü üzerinde mutabık kalınan taahhütler yalnızca sınır modeller olarak adlandırılan modeller için geçerlidir. Bu terim, popüler ChatGPT AI sohbet robotuna güç veren OpenAI’nin GPT büyük dil modelleri ailesi gibi üretken AI sistemlerinin arkasındaki teknolojiyi ifade eder.

ChatGPT’nin Kasım 2022’de ilk kez dünyaya tanıtılmasından bu yana, düzenleyiciler ve teknoloji liderleri, insanlarla eşit veya onlardan daha iyi metin ve görsel içerik üretebilen gelişmiş yapay zeka sistemlerini çevreleyen riskler konusunda giderek daha fazla endişelenmeye başladılar.

Avrupa Birliği, Salı günü AB Konseyi tarafından onaylanan YZ Yasası’nın oluşturulmasıyla sınırsız YZ gelişimini kısıtlamaya çalıştı.

Ancak Birleşik Krallık, YZ için resmi yasalar önermedi, bunun yerine düzenleyicilerin mevcut yasaları teknolojiye uygulamasını gerektiren YZ düzenlemesine “hafif dokunuşlu” bir yaklaşımı tercih etti.

Hükümet kısa süre önce, gelecekte sınır modelleri için yasal düzenleme yapmayı düşüneceğini söyledi, ancak resmi yasaların getirilmesi için bir zaman çizelgesi taahhüt etmedi.

Kaynak: cnbc.com

Çeviri: Cem Çetingüç