Elon Musk ve Sam Altman, Anthropic’ten Dario Amodei’nin yapay zeka gelişimindeki acil yavaşlama çağrısını, teknolojinin birkaç ay içinde interneti ele geçirebileceği yönündeki uyarısıyla desteklediler.
Cumartesi günü yayınlanan bir makalede Amodei, kuzey yazında “çok daha hızlı” bir büyüme döneminin ardından güvenlik önlemleri için sektörünün ilerleme hızını yavaşlatması gerektiğini (kendi şirketinde yapmaya çalıştığı bir şey) söyledi.
Dario Amodei, Anthropic’in CEO’su ve kurucu ortağı. Markus Schreiber
Böyle bir müdahale olmadan yapay zekanın, tüm İnternet’i ele geçirebilecek ve altı ila 12 ay içinde yüz milyarlarca dolarlık hasara neden olabilecek bir sürüyü harekete geçirebileceği konusunda uyardı.
“Sanırım, modeller kritik yetenek seviyelerine ulaşmadan önce yavaşlama bize fazladan bir veya iki yıl daha kazandırırsa ve bu zamanı uyumu ilerletmek için kullanırsak, bir şeylerin çok yanlış gitme riskini büyük ölçüde azaltabiliriz” diye yazdı.
Amodei, taahhüt ettiği sektör için bir dizi önlem önerdi ve bunun kolay olmayacağını kabul etti.
“Ama bence denemeyi insanlığa borçluyuz” dedi.
Oldukça rekabetçi olan bu alanda nadir görülen bir birlik gösterisiyle Musk ve Altman, ilerlemeyi yavaşlatmaya yönelik hem çağrıyı hem de önerilen önlemleri desteklediler.
Musk, X’teki bir gönderisinde “Sınırı geçmemiz gerektiği konusunda Dario’ya katılıyorum” dedi.
Altman, “Çalışan benzeri erişime sahip bağımsız incelemecilere bağlı kalmak harika bir fikir ve biz de aynısını yapacağız. Yakında paylaşacak daha çok şeyimiz olacak” dedi.
Elon Musk, Mart 2023’te yapay zeka geliştirmede bir duraklama çağrısında bulunan açık bir mektup imzaladı. A?
Yapay zeka endüstrisine yıllardır güvenliği önceliklendirmek için yavaşlaması yönünde baskı yapılıyordu ancak bu yıl bir dizi yüksek profilli istifanın ardından baskı arttı.
Anthropic’in güvenlik ekibinin bir çalışanı olan Joe Benton Cuma günü, “Yapay zeka şirketlerinde güvenlik araştırmalarında çalışan tanıdığım birçok kişi dünya için doğru olanı yapmak istiyor” dedi.
“Fakat şirketlerinin süper zeka oluşturma yarışına yakalandığını hissediyorlar: ya dururlar ve onların yerini daha az vicdanlı insanlar alır; ya da devam edip devasa kötülüğe katılma riskini alırlar.”
Antropik personel Jacob Coxon, hem Anthropic’in hem de OpenAI’nin “doğrudan kendini geliştiren süper zekaya yönelik çalıştığını ve hayatlarımızla kumar oynadığını” söylemek için Salı günü istifa etti.
BM insan hakları şefi Volker Türk, yapay zekanın “insanlık için varoluşsal bir risk” haline gelmesinden önce harekete geçilmesi gerektiği uyarısında bulunurken, Pazartesi günü Birleşmiş Milletler de artan küresel endişelere ses verdi.
“Test ortamından kaçan veya geliştiricilere kapanmasını önlemek için şantaj yapan yapay zeka, çok güçlü bir yapay zekadır” dedi.
“Bugün buraya, çok geç olmadan yapay zeka güvenliği ve emniyeti konusunda katı önlemlerin uygulamaya konulması için topyekün bir çaba gösterilmesi çağrısında bulunuyoruz.”
Bu ay AvustralyaTrallyalılar Başbakan Yardımcısı Richard Marles, ABD’nin veri merkezleri yatırımını Avustralya’ya getirme yönündeki milyarlarca dolarlık çabayı desteklemek amacıyla Anthropic, OpenAI, Microsoft ve Google gibi dünyanın önde gelen teknoloji şirketleriyle görüşmek üzere ABD’yi ziyaret etti.
OpenAI CEO’su Sam Altman (resimde), saldırganın silahlı şiddet hakkında kapsamlı chatbot konuşmaları yaptığı iddiasının ardından Tumbler Ridge Okulu’ndaki ailelerden özür diledi. AP Fotoğrafı/Patrick Semansky
O zamanlar “Bugün işlettiğimiz tüm büyük platformlara baktığımızda, gelecekte yapay zekanın bunların içinde bir rol oynayacağını görüyoruz” demişti.
“İşte bu yüzden bu kadar önemli bir egemenlik meselesi; bu teknolojiye erişimimizin olması gerçekten önemli.”
Ancak ana akım seslerin yenilenen uyarıları üzerine Avustralya İletişim Bakanı Anika Wells, büyümedeki yavaşlamayı destekleyip desteklemeyeceğini söylemekten kaçındı.
Pazar günü ABC’ye verdiği demeçte, “Sonuçta bunlar dünyanın en zengin şirketlerini kontrol eden milyarderler için sorulardır” dedi.
“Milletvekilleri olarak bizim rolümüz, kıyılarımızda nasıl davrandıklarını denetlemek ve bunun için oldukça kabul edilmiş bazı topluluk standartlarımızın olduğunu düşünüyorum.
“Dijital bakım yükümlülüğüyle bunu yasalaştırmaya çalışıyoruz. Çocuklarımızın çevrimiçi ortamda uğradığı zararı hepimiz biliyoruz.”