DeepMind bünyesinde çalışan araştırmacı Neel Nanda, yapay zekanın insanlığın yok oluşuna yol açma ihtimalinin en az yüzde 10 olduğuna inandığını belirtti.
Nanda bu oranı “saçma derecede yüksek” olarak niteledi.
OpenAI araştırmacısı Juan Felipe Ceron Uribe ise öncü laboratuvarların adeta gözleri bağlı bir yarış yürüttüğünü savundu.
Uribe, sürecin kansere çare bulmakla, tüm istihdamı kaybetmek veya herkesin ölmesiyle sonuçlanması ihtimallerinin tahminlere kaldığını söyledi.
Bunun yanı sıra Anthropic şirketinin halka arz sürecinde potansiyel yatırımcıları gelişmiş yapay zekanın insanlık için “felaket veya varoluşsal riskler” yaratabileceği yönünde uyarmayı planladığı bildirildi.
Araştırmacılar, modellerin insan müdahalesi olmadan sürekli öğrenip yeni yetenekler kazandığı döngüsel öz gelişim kapasitesine ulaşması karşısında dünyanın hazır olmadığını savunuyor.
Eski OpenAI araştırmacısı Rosie Campbell, şirket içindeki sürekli yeniden yapılanmaların sorunu büyüttüğünü kaydetti.
Campbell, 2024 yılında ayrılmadan önce kurumun giderek içine kapandığını ve teknolojinin yönünü şekillendirmenin zorlaştığını ifade etti.
Yöneticiler kaygıları gidermeye çalışsa da ABD Başkanı Donald Trump yönetimi, Çin karşısında teknolojik üstünlüğün korunması için sektöre siyasi baskı uyguluyor.
Anthropic CEO’su Dario Amodei sektörün yavaşlaması çağrısı yaptı. OpenAI CEO’su Sam Altman da bu görüşe katılıyor. Sektörün önde gelen araştırmacıları, döngüsel öz gelişim modellerinin denetlenmesi için siyasetçilere çağrıda bulunan ortak bir makale yayımladı.
Bunun yanı sıra iki şirket müşteri kazanma rekabeti kapsamında yeni modeller sunmayı sürdürdü. OpenAI daha güçlü başka bir modeli piyasaya sürmeyi ertelediğini duyurdu.
Araştırmacı Geoffrey Irving, şirketlerin bu durumu yalnızca bir eşgüdüm sorunu gibi sunarak sorumluluğu büyüttüğünü ve isterlerse tek taraflı olarak durabileceklerini söyledi.
Eski OpenAI yöneticisi Daniel Kokotajlo da laboratuvarlardaki üst düzey isimlerin kendilerini “iyi taraf” olarak gördüklerini ve durmaları halinde tablonun daha kötü olacağına inandıklarını aktardı.
Bu haber için yorumlar kapalıdır.