“Yapay zekâdan bahsederken, tek başlarına tamamen alakasız ve önemsiz görünen çok sayıda senaryonun bir araya gelerek insanlığın varlığına yönelik temel bir tehdit oluşturan bir şeyden söz ettiğimizi unutmayalım.”
Yuval Noah Harari
Tarihçi ve yazar Yuval Noah Harari, yapay zekânın “yıkıcı” finansal bir kriz yaratabileceğini, bu teknolojinin karmaşıklığının da yaratacağı tehlikelerin sonuçlarını kestirmeyi zorlaştırdığını söylüyor.
Guardian’a konuşan Harari, yapay zekâ modelleriyle ilgili yapılan güvenlik testinin sonuçları karşısında dehşete düştüğünü belirterek, önümüzdeki meselenin nükleer silahlardan da tehlikeli bir konu olduğunun altını çiziyor:
“Yapay zekâdan bahsederken, tek başlarına tamamen alakasız ve önemsiz görünen çok sayıda senaryonun bir araya gelerek insanlığın varlığına yönelik temel bir tehdit oluşturan bir şeyden söz ettiğimizi unutmayalım.”
Yapay zekânın gelişiminin yarattığı endişeyle ilgili en yüksek sesle konuşan isimlerden olan Sapiens kitabının yazarı Harari, geçen hafta Bletchley Park’ta düzenlenen ve dünyanın önde gelen liderlerinin yapay zekâ teknolojisinin gelişimiyle ilgili endişelerini dile getirip bununla ilgili bir şeyler yapılması gerektiğini belirttikleri küresel yapay zekâ zirvesinin “çok önemli bir adım” olduğunu söylüyor:
“Zirvenin en cesaret, hatta umut verici noktası, sonuç bildirgesine AB, Birleşik Krallık ve ABD’nin yanı sıra Çin hükümetinin de imza atmasının sağlanması olmuştur. Bence bu son derece olumlu bir işaret oldu. Küresel bir işbirliği olmadan yapay zekânın en tehlikeli potansiyelinin açığa çıkmasının engellenmesinin imkânsız olmasa da çok zor olacağı kanaatindeyim.”
Zirvenin sonunda aralarında Birleşik Krallık ve ABD olmak üzere 10 ülke hükümeti, AB ve ChatGPT geliştiricisi OpenAI ve Google gibi önemli yapay zekâ şirketleri arasında bir anlaşma imzalandı. Çin hükümetinin imza atmadığı bu anlaşmaya göre gelişmiş yapay zekâ modelleri piyasaya sürülmeden önce ve kullanıma girdikten sonra taraflar arasında işbirliğinde bulunulacaktır.
Yapay zekânın denetimsizliğinin yol açacağı sorunlardan endişe eden Harari, sözlerini şöyle sürdürüyor: “Yapay zekâ, kendi başına karar alabilme, yeni fikirler üretebilme, öğrenebilme ve kendisini geliştirme kabiliyetine sahip olması itibariyle insanlık tarihinde kendisinden önceki tüm teknolojilerden farklıdır. Bu teknolojinin taşıdığı tüm olası tehlikeleri ve sorunları, teknolojiyi üreten ve geliştiren insanların bile tam olarak öngörebilmeleri neredeyse imkânsızdır.”
Hükümetlerin yapay zekânın insanlığa yönelik oluşturduğu tehlikeleri yalnızca biyolojik silahlar üretilmesindeki kolaylaştırıcı rolüyle sınırlamanın dar bir bakış açısı olduğunu düşünen Harari, dikkate alınması gereken çok çeşitli tehlike senaryosu olduğunu da vurguluyor,
Yazar, finans sektörünün yapay zekâ sistemleri için adeta biçilmiş bir kaftan olduğunu; “tamamen verilerden ibaret bir alan olan” finans sektörünün yapay zekâ kaynaklı ciddi bir kriz için en elverişli zemini sunduğunun altını çiziyor:
“Dünyadaki finansal sistem üzerinde yapay zekâya daha geniş bir kontrol yetkisi verilmesinin ötesinde, yapay zekâ kendisi dışında hiçbir insanın anlayamayacağı kendine özgü yeni finansal aygıtlar üretirse neler olacağına düşünebiliyor musunuz?”
Harari, bu endişesine örnek olarak, 2007-2008 döneminde yaşanan finansal krizin, o dönemde çok az insanın ne olduğunu bildiği, dolayısıyla yeterli düzenleme mekanizmalarının olmadığı CDO (Teminatlandırılmış Borç Yükümlülüğü) benzeri borçlanma araçları sebebiyle çıktığını belirtiyor:
“Yapay zekâ, CDO’lardan binlerce kat daha karmaşık finansal aygıtlar yaratma kapasitesine sahiptir. Hiçbir insanın anlayamadığı, dolayısıyla denetleyip düzenleyemediği bir finansal sistemin olduğunu bir düşünsenize? Doğal olarak kendimizi bir finansal krizin ortasında buluruz ve ne olup bittiğini kimse anlayamaz.”
İngiliz hükümeti geçtiğimiz ay, finansal sistemleri kontrol ve manipüle ederek yaşamsal bir tehdit teşkil etme potansiyeli taşıyan gelişmiş bir yapay zekâ modeline ilişkin endişelerini dile getirdi. Fakat Harari, yapay zekâ kaynaklı bir finansal krizin insan medeniyetini -“en azından doğrudan”- yok etmeyeceğini düşünüyor:
“Belirli türlerde savaş veya çatışmalar başlatarak dolaylı bir yaşamsal tehdit yaratabilir. Bu elbette gerek ekonomik ve sosyal gerekse siyasi açıdan korkunç bir tehlikedir; ancak tek başına yaşamsal bir tehdit olarak nitelendirmek de biraz zorlama olur.”
İleri yapay zekâ çalışmalarına altı ay ara verilmesi yönündeki çağrıları ve yapay zekâ şirketlerinin ürettikleri teknolojinin yol açtığı hasardan sorumlu tutulmaları gerektiği fikrini destekleyen İsrailli yazar, bulunduğumuz noktada belirli düzenlemeler veya kanunlardan ziyade bu alandaki yeniliklere anında ve etkin biçimde müdahale edebilecek donanıma sahip denetleme ve düzenleme kurumlarının oluşturulmasına odaklanılması gerektiğini belirtiyor:
“Bu teknolojinin yarattığı yeni tehlikeler, baş gösterdiği anda bunları anında tespit edip bunlara gerekli karşılığı verebilecek güçlü kurumları bir an önce teşkil etmeliyiz. Şu an temel önceliğimiz bu olmalı; parlamentodan veya kongreden geçtiği anda geçerliliğini belki de çoktan yitirmiş uzun ve karışık yasalar hazırlamak değil.”
Hariri, bu bağlamda, yapay zekâ güvenliği kurumlarının bu teknolojinin dünya finans sistemi üzerindeki olası etkilerini anlayan ve gören uzmanlarla çalışması gerektiğine de vurgu yapıyor.
Rishi Sunak geçtiğimiz ay İngiltere’de bir yapay zekâ güvenliği kurumunun teşkil edildiğini ilân etti, birkaç gün sonra Beyaz Saray da benzer bir yapının kurulmasına ilişkin hazırlık içerisinde olduklarını açıkladı. Her iki kurumun ileri yapay zekâ modellerinin test edilme sürecinde kilit rol oynaması planlanıyor. Sunak, zirvede yaptığı konuşmada, ülkesinin yapay zekâyla ilgili yasalar hazırlamadan önce ileri yapay zekâ modellerinin imkân ve kabiliyetlerini tam anlamıyla anlaması gerektiğini belirtmişti.
İngiltere Bilim, İnovasyon ve Teknoloji Bakanlığı sözcüsü, yapay zekâya ilişkin yayınlanan resmi hükümet kararında yapay zekâ ve finans ilişkilerini izleme ve takip etme görevinin İngiltere’nin resmi finans düzenleme kurumlarına ve Mali Yönetim Kurulu ile İhtiyati Düzenleme Kurulu’na verildiği açıkladı. Bakanlık sözcüsü, bu görevlendirmenin gerekçesini de net biçimde belirterek önümüzdeki sürecin yol haritasına dair ipucu vermiş oldu: “Bu kurullar kendi sektörlerindeki risklerin farkındalar, dolayısıyla en uygun düzenleyici tedbirleri de onların alacaklarından şüphemiz yok.”
Çeviren: Hasan Kaya
Kaynak: The Guardian
