Yapay zekâ sektörünün önde gelen şirketlerinden Anthropic’te çalışan araştırmacı Jacob Coxon, görevinden ayrıldığını açıklarken teknoloji dünyasında tartışma yaratacak uyarılarda bulundu. Coxon, X hesabından yaptığı paylaşımda son üç yılını OpenAI ve Anthropic’te yapay zekâ modellerinin temel eğitim süreçleri üzerinde çalışarak geçirdiğini belirtti.
Araştırmacı, iki şirketin de yapay zekânın geleceği konusunda yeterince sorumlu davranmadığını savunarak, “Kendini geliştirebilen süper zekâya doğru yarışıyor ve hayatlarımızla kumar oynuyorlar” ifadelerini kullandı.
Business Insider’a göre Coxon, 2023’ten Temmuz 2026’ya kadar OpenAI’ın teknik ekibinde görev yaptı ve GPT-4o üzerinde yapılan çalışmalara da katıldı. Ardından Anthropic’e araştırmacı olarak geçti.
Coxon, istifasını duyurduğu yedi paylaşımlık mesaj dizisinde yapay zekânın ulaşabileceği kapasiteye ilişkin oldukça sert bir tablo çizdi.
Gelecekteki sistemlerin yalnızca daha iyi chatbotlar olmayacağını savunan Coxon; bu modellerin siber saldırılarda insanları aşabilecek, bilimsel alanlarda hızlı ilerleme sağlayabilecek ve gerçek dünyada kaynak ve güç elde edebilecek seviyeye ulaşabileceğini ileri sürdü.
Araştırmacı, yapay zekâdaki ilerlemenin yavaşlamadığına dikkat çekerek teknoloji şirketlerinde çalışanlara “Bu teknolojinin gücünü hafife almayın” çağrısında bulundu.
Coxon’un en dikkat çekici iddiası ise yapay zekâ laboratuvarlarının içindeki risk algısına ilişkin oldu.
Coxon, yapay zekâyı geliştiren bazı kişilerin, kontrol edilemeyen sistemlerin bu on yılın sonuna kadar insanlık için ölümcül sonuçlar doğurabileceğine gerçekten inandığını öne sürdü.
Bunun bir pazarlama yöntemi olmadığını savunan Coxon, kamuoyu önünde daha ölçülü ifadeler kullanan bazı üst düzey isimlerin özel görüşmelerde çok daha kaygılı konuştuğunu iddia etti.
Anthropic’te yapay zekâ uyum ve güvenlik çalışmalarında görev yapan Evan Hubinger de Coxon’un paylaşımına verdiği yanıtta benzer kaygılar taşıdığını söyledi. Hubinger, önümüzdeki on yıl içerisinde yapay zekânın insanlığın yok oluşuna yol açması ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü belirtti.
Coxon, yapay zekâ yarışının mevcut biçimini “kibirli bir kumar” olarak nitelendirdi.
Kendini geliştirebilecek süper zekânın oluşturulması gibi insanlığın tamamını ilgilendiren bir kararın birkaç özel şirketin yöneticileri ve araştırmacıları tarafından alınmaması gerektiğini savundu.
Araştırmacı, böylesine büyük bir riskin “özel bir şirketin Slack kanalından başlatılmaması gerektiğini” söyledi.
Coxon tümüyle karamsar olmadığını ve şirketler arasında koordinasyon sağlanabileceğine inandığını da belirtti.
ABD’deki büyük yapay zekâ laboratuvarları arasında modellerin geliştirilme hızını sınırlayacak anlaşmalar yapılabileceğini savunan araştırmacı, küresel bir yarışın engellenmesi için daha sert önlemlere ihtiyaç duyulabileceğini söyledi.
Coxon’a göre bu önlemler arasında, gerektiğinde daha güçlü yapay zekâ modelleri geliştirilmesine geçici yasak getirilmesi de bulunabilir.
Coxon mesaj dizisinin sonunda yapay zekâ laboratuvarlarında görev yapan meslektaşlarına da seslendi.
Araştırmacılardan önümüzdeki birkaç yıl içerisinde karşılaşabilecekleri kararları şimdiden düşünmelerini isteyen Coxon, süper zeki bir sistemin nasıl çalıştığı tam olarak anlaşılmadan bu sistemleri daha da güçlendirecek eğitim süreçlerinin başlatılmasının doğru olup olmadığını sorguladı.
Coxon, sektörde çalışanların “nasıl olsa biri yapacak” düşüncesiyle hareket etmek yerine farklı koşullar ve güvenlik mekanizmaları talep etmeleri gerektiğini savundu.
