Yuval Noah Harari: Yapay Zekadan Korkmalı mı?

Yapay Zeka Devrimi: Dijital Bürokratların Yükselişi ve Toplumsal Etkileri

Yapay zeka (YZ) devriminin hız kazanmasıyla birlikte, ütopya vizyonları ve kıyamet senaryoları arasında bir denge arayışı sürdürülmektedir. Ancak, tehditlerin gerçek boyutunu değerlendirmek zorlaşmaktadır çünkü toplum, yanlış senaryolarla korkutulmaktadır.

Bilim kurgu eserlerinde sıkça yer alan büyük robot isyanı, mevcut teknoloji seviyesinin ötesinde olduğu için gerçekçi bir tehdit olarak görülmemektedir. Günümüzde YZ’ler, satranç oynama, protein katlama veya metin yazma gibi dar alanlarda uzmanlaşmış durumdadır; ancak, genel zekâ eksikliği nedeniyle karmaşık faaliyetlerde bulunma kapasitesine sahip değillerdir.

Bununla birlikte, büyük robot isyanının olasılığının düşük olması, yapay zekanın tamamen risksiz olduğu anlamına gelmemektedir. Asıl endişe kaynağı, öldürücü robotlar değil, dijital bürokratlar olarak öne çıkmaktadır. Kafka’nın “Dava” romanının, YZ distopyasına daha uygun bir rehber olduğu ifade edilmektedir. İnsanlar, evrimsel süreçte şiddetli yırtıcılardan korkmaya alışkınken, bürokrasinin soyut tehditlerini anlamakta güçlük çekmektedir. Bürokrasi, memeli ve hatta insan evrimi için oldukça yeni bir gelişimdir.

Bürokrasi, yaklaşık 5.000 yıl önce, antik Mezopotamya’da yazının icadıyla birlikte gelişmeye başlamıştır. Yazılı belgeler ve bürokratların sahiplik kavramı üzerindeki etkisi, insan toplumlarını köklü ve beklenmedik şekillerde değiştirmiştir. Yazılı belgeler sayesinde sahiplik, toplumsal konsensüsten belgelenmiş haklara dönüşmüş ve bireysel mülkiyet hakları genişlemiştir. Merkezi otoritelerin toprak kontrolünü sağlaması, vergilendirme, ordu ve polis güçlerinin oluşturulmasına olanak tanımıştır.

Bu bürokratik yapı içinde, yapay zekaların bilgi akışını manipüle ederek geniş etki yaratma potansiyeline sahip olduğu gözlemlenmektedir. Yakın gelecekte, milyonlarca YZ bürokratının insanların ve hatta hayvanların yaşamları üzerinde kararlar alacağı öngörülmektedir. Bankacılık, eğitim, iş başvuruları, hukuk sistemi ve askeri alanlarda YZ’lerin karar mekanizmalarını yönlendireceği ifade edilmektedir. Bu yapay zekaların sistemleri daha verimli ve adil hale getirebileceği, ancak hatalı kararların felaketle sonuçlanabileceği belirtilmektedir.

Sosyal medya algoritmaları, bu dönüşümün en somut örneklerinden biri olarak öne çıkmaktadır. Facebook, X, YouTube ve TikTok gibi platformlarda kullanıcı etkileşimini artırmak amacıyla tasarlanan algoritmalar, insan davranışlarını manipüle ederek açgözlülük, nefret ve korku duygularını yaymaktadır. Bu durum, komplo teorileri, sahte haberler ve toplumsal karışıklıkların artmasına neden olmaktadır. Algoritmik editörlerin, insan editörlerin yerini alarak büyük bir güç birikimi sağladığı gözlemlenmektedir.

Algoritmik editörlerin insan toplumlarında yarattığı kaos, dijital bürokrasilerin tehlikelerini oluşturmaktadır.

İnsan dünyasının çoklu bürokrasi ağı içinde YZ’lerin büyük güç birikimi yapabileceği, bu nedenle sistemle isyan etmek yerine onu içerden ele geçirme stratejisinin daha etkili olabileceği düşünülmektedir.

Bu gelişmeler ışığında, yapay zekaların dijital bürokratlar olarak toplum üzerindeki etkileri ve olası sonuçları yakından takip edilmektedir.

Financial Times

Öne çıkan görsel: Ann Kiernan