Endüstri devi Anthropic’teki üç araştırmacıya göre yapay zeka on yıl içinde insanlığı öldürebilir; bunlardan biri protesto amacıyla işini bıraktı.
Son kıyamet yüklü tahminler Salı günü, Anthropic ve eski işvereni OpenAI’nin tehdide karşı tepkilerini görmezden gelmesi veya en iyi ihtimalle yanlış yönetmesi nedeniyle istifa ettiğini söyleyen bir araştırmacının sosyal medya paylaşımlarında geldi.
Jacob Coxon, “Her iki şirket de sorumlu davranmıyor. Doğrudan kendilerini geliştiren süper zekaya koşuyorlar ve hayatlarımızla kumar oynuyorlar” diye yazdı.
“Yapay zeka geliştiren insanlar dürüstçe bunun on yılın sonunda hepimizi öldürebileceğine inanıyor. Bu bir pazarlama oyunu değil. Her durumda, birçok yönetici ve üst düzey araştırmacı basında kendi ifadelerinin mantıklı göründüğünü söyleyecektir – ancak aynı kişilerin korkularını özel olarak ifade ettiklerini duyuyorum. Başka hiçbir insan faaliyeti bu düzeyde tehlike oluşturmaz.”
Gönderi, Coxon’un korkunç tahminlerini destekleyen en az iki Anthropic çalışanından yanıt aldı.
İlkinde kendisini şirketin Antropik Yapay Zeka modellerinin insan hedefleri doğrultusunda çalışmasını sağlamak için çalışan hizalama bölümünde lider olarak tanımlayan Evan Hubinger, eski meslektaşının “doğru” olduğunu ve sektörün potansiyel kıyametle başa çıkma çabasında geride kaldığını söyledi.
“Gerçekten yapay zekanın tüm insanları öldürebileceğini düşünüyoruz!” Hubinger yazdı. “Kişisel olarak önümüzdeki on yılda bu oranın %10’dan fazla olacağını düşünüyorum. Anthropic’in elinden gelenin en iyisini yaptığını düşünüyorum, ancak süper zekanın uyumunu çözecek bir planımız hâlâ yok ve açıkça doğru yolda değiliz.”
Hubinger’ın yorumları, Coxon’un, hala Anthropic’in maaş bordrosunda çalışan birinden gelen, hiç de gurur verici olmayan ve kıyamet gibi tahminlerinin şaşırtıcı bir şekilde doğrulanmasına işaret ediyor. İkinci bir yanıt, Anthropic’in “ölçeklenebilir gözetim lideri” Samuel Marks’tan geldi ve uzun bir inceleme yayınlayarak işvereninin fikri değil, kendi kişisel kapasitesi olduğunu vurguladı. Antropik yorum talebine hemen yanıt vermedi.
Marks, “Yapay zeka geliştiricileri, teknolojilerinin insan neslinin tükenmesine (veya benzer kötü sonuçlara) neden olabileceğine inanıyor” diye yazdı. “Bu önümüzdeki birkaç yıl içinde gerçekleşebilir. Genel olarak, çalışan ne kadar yaşlıysa o kadar endişeli olur.”
İnsanların yok olma ihtimaline dair düşünceleri, Anthropic’in OpenAI rakibinin genel müdürü Sam Altman’ın yapay zekanın siber güvenlik yetenekleri hakkında daha keskin uyarılarının ardından geldi. OpenAI başkanı Greg Brockman daha önce “Yapay zeka modellerimizin gerçek dünyadaki siber yeteneklerini hafife aldığımızı” itiraf etmişti.
Altman geçen yıl, insanın karar vermesinin “sessiz öğretisi” olarak adlandırdığı şey de dahil olmak üzere yapay zekanın bazı yönlerinin kendisini dehşete düşürdüğünü söyledi.
Yapay zeka yöneticileri, yapay zekanın yönü ve onun insan fonksiyonlarını ve eylemlerini manipüle etme, yakalama ve kontrol etme konusunda artan yeteneği hakkında bazı endişelerini paylaştı. Bu yaz yapay zekanın kullanıcı kontrolünden çıkıp yalan söyleme, talimatları görmezden gelme ve hedefleri zararlı yollarla takip etme olaylarında keskin bir artış olduğu bildirildi.
bülten tanıtımından sonra
En çok duyurulan örneklerden birinde, OpenAI personeli, Temmuz ayında kapalı bir eğitim ortamından kaçarak açık web’e erişen ve Hugging Face yazılım deposuna benzeri görülmemiş bir hack saldırısı başlatan yapay zeka ajanları arasındaki hileli davranışları kaydetti.
Halka açık yapay zeka botu ChatGPT’nin arkasındaki San Francisco merkezli OpenAI, daha sonra, ilk otonom ajan siber saldırısı olarak kabul edilen, günlerce süren saldırının uyarı sinyallerine daha erken yanıt vermesi gerektiğini itiraf etti.
Ancak bu yöneticiler, Coxon’unki gibi tam bir kıyamet uyarılarına karşı çıktılar ve yapay zeka endüstrisini düzenlemeye yönelik her türlü girişime karşı çıktılar.
Bazı politikacılar endüstriyi yapay zeka gelişimini yavaşlatmaya veya bazı durumlarda tamamen durdurmaya çağırdı.
Vermont’un bağımsız senatörü Bernie Sanders, Coxon’un istifasını Çarşamba günü kendi notuyla yeniden yayınladı: “Bay Coxon haklı. Bu teknolojiyi geliştiren insanlar, bunun insanlığın geleceğini tehdit edebileceğini kabul ediyor.” Sanders yakında “süper zekayı yasaklayacak” ve yapay zeka gelişimini durduracak bir yasa çıkaracağını söyledi.