Anthropic Araştırmacısı İstifa Etti: “Hayatımızla Kumar Oynanıyor”

ABD merkezli yapay zekâ şirketi Anthropic’te çalışan araştırmacı Jacob Coxon, sektörün gelişim yönüne ilişkin ciddi güvenlik endişelerini gerekçe göstererek görevinden ayrıldı. Daha önce OpenAI’da da çalışan 27 yaşındaki İngiliz araştırmacı, önde gelen yapay zekâ şirketlerinin kendini geliştirebilen süper zekâ sistemlerine doğru kontrolsüz biçimde ilerlediğini savunarak, “Hayatımızla kumar oynanıyor” ifadelerini kullandı.

Coxon, son üç yılda OpenAI ve Anthropic’te büyük yapay zekâ modellerinin temel eğitim aşaması olan ön eğitim araştırmaları üzerinde çalıştığını belirtti. X hesabından yayımladığı istifa açıklamasında her iki şirketin de yapay zekânın oluşturabileceği riskler karşısında yeterince sorumlu hareket etmediğini ileri sürdü.

“İşler Kontrolden Çıkabilir” Uyarısı

Coxon’un temel endişesi, mevcut yapay zekâ sistemlerinden ziyade gelecekte ortaya çıkabileceğini düşündüğü kendi yeteneklerini hızla geliştirebilen süper zekâ sistemleri. Araştırmacıya göre böyle sistemler insanlardan daha güçlü yazılım geliştirme ve siber saldırı yetenekleri kazanabilir, bilimsel alanlarda hızlı ilerleme sağlayabilir ve gerçek dünyadaki kaynaklara erişebilecek kapasiteye ulaşabilir.

Coxon, yapay zekâ geliştiren bazı kişilerin teknolojinin bu on yılın sonuna kadar insanlık açısından varoluşsal bir risk yaratabileceğini gerçekten düşündüğünü söyledi. En hızlı gelişim senaryolarında ciddi kontrol sorunlarının 2027 sonu gibi erken bir tarihte ortaya çıkabileceğini öne sürdü.

Bu değerlendirmeler Coxon’un kişisel risk tahminlerini yansıtıyor. Kendini sürekli geliştirerek insan kontrolünü aşan bir süper zekâ sisteminin ortaya çıkıp çıkmayacağı veya bunun ne zaman gerçekleşebileceği konusunda bilim dünyasında kesin bir görüş birliği bulunmuyor.

Anthropic’teki Güvenlik Araştırmacısından da Destek

Coxon’un açıklamalarının ardından Anthropic’te Alignment Science ekibinin başında bulunan Evan Hubinger de tartışmaya katıldı. Hubinger, gelecekteki süper zekâ sistemlerinin insanlık için çok ciddi risk oluşturabileceği yönündeki endişelere katıldığını belirtti.

Hubinger, yapay zekânın önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalini kişisel olarak yüzde 10’un üzerinde değerlendirdiğini açıkladı. Anthropic’in riskleri azaltmaya çalıştığını belirten araştırmacı, buna karşılık süper zekânın insan değerleriyle güvenli biçimde uyumlu hale getirilmesine yönelik henüz kesin bir çözüm bulunmadığını da söyledi.

Hubinger ayrıca bugün yaygın şekilde kullanılan mevcut yapay zekâ modellerinden kaynaklanan doğrudan riskin düşük olduğunu, asıl endişesinin gelecekte kendini tekrar tekrar geliştirebilen çok daha güçlü sistemlerden kaynaklandığını vurguladı.

Coxon: Anthropic de Yarışın İçinde

Coxon, Anthropic’e geçerken şirketi yapay zekâ güvenliği konusunda OpenAI’a kıyasla daha temkinli gördüğünü ancak zaman içinde bu görüşünün değiştiğini anlattı.

Araştırmacıya göre Anthropic çalışanları olası risklerin farkında olsa da şirket, başka kuruluşların daha hızlı ilerleyeceği düşüncesiyle yarıştan çekilmiyor. Coxon, insanlık açısından bu kadar büyük sonuçlar doğurabilecek kararların yalnızca özel şirketlerin kendi iç değerlendirmelerine bırakılmaması gerektiğini savundu.

Yapay Zekâ Şirketlerine Yavaşlama Çağrısı

Coxon, yapay zekâ araştırmacılarından mevcut yarışın kaçınılmaz olduğunu kabul etmek yerine geliştirme koşullarının değiştirilmesini talep etmelerini istedi. Şirketler arasında teknolojinin geliştirilme hızını sınırlayan anlaşmalar veya belirli yeteneklerin geçici olarak geliştirilmemesi gibi seçeneklerin tartışılması gerektiğini belirtti.

Yapay zekâ sektöründe benzer tartışmalar son yıllarda giderek büyüyor. Bir grup araştırmacı çok güçlü ve otonom sistemlerin kontrol kaybı gibi uzun vadeli risklerine odaklanırken, başka uzmanlar yanlış bilgi, iş gücü üzerindeki etkiler, ayrımcılık, gözetim ve siber güvenlik gibi halihazırda ortaya çıkan sorunların öncelikli olduğunu savunuyor.

Anthropic Yapay Zekâ Güvenliğiyle Öne Çıkıyor

Claude yapay zekâ modellerini geliştiren Anthropic, kuruluşundan bu yana güvenlik ve yapay zekâ sistemlerinin insan amaçlarıyla uyumlu hale getirilmesini temel çalışma alanlarından biri olarak öne çıkarıyor.

Buna rağmen Coxon’un istifası ve şirket içinde güvenlik üzerine çalışan Hubinger’in açıklamaları, yapay zekâ sektöründe gelişim hızı ile güvenlik önlemleri arasındaki dengenin nasıl kurulacağına ilişkin tartışmayı yeniden gündeme taşıdı. Tartışmanın merkezinde ise gelecekte insan yeteneklerini büyük ölçüde aşabilecek sistemlerin geliştirilmesinde şirketlerin ne kadar hızlı ilerlemesi gerektiği sorusu bulunuyor.