Anthropic CEO’su Dario Amodei hafta sonu We Must Pace the Frontier başlıklı bir makale yayınladı.
Bir yıl içinde bir yapay zeka ajanı sürüsünün tüm İnternet’i ele geçirebileceğinden, potansiyel olarak yüz milyarlarca dolarlık hasara yol açabileceğinden ve hasarın boyutunun bundan sonra büyümeye devam etmesinden endişe duyduğunu söyledi.
Sınırdaki yapay zeka şirketlerinden, şirket içi üçüncü taraf değerlendiricilerden oluşan bir ekibe çalışan olarak erişim sağlamalarını ve onları incelemelerini istedi.
Birkaç saat sonra OpenAI CEO’su Sam Altman, Amodei ile anlaştığını ve OpenAI’nin de aynısını yapacağını açıkladı.
Bu açıklamalar, Anthropic’te yapay zeka model eğitmeni olarak görevinden yeni ayrılan 27 yaşındaki Jacob Coxon’un geçen Salı günü X ile ilgili uzun bir konuşmasının ardından geldi. Coxon’un gönderisinde şu cümle yer alıyordu: “Yapay zekayı inşa eden insanlar, onun on yılın sonunda hepimizi öldürebileceğine güçlü bir şekilde inanıyor.”
Coxon’un gönderisini gören tek kişi ben değildim; gönderi yaklaşık 170 milyon kez görüntülendi ve haftanın geri kalanında bir grup ABD’li kongre üyesi daha fazla yapay zeka düzenlemesi çağrısında bulundu.
Coxon, halen Anthropic’te “ölçeklenebilir gözetleme lideri” olarak çalışan ve şunları yazan Samuel Marks tarafından destekleniyordu: “Yapay zeka geliştiricileri, teknolojilerinin insanların yok olmasına (veya benzer kötü sonuçlara) neden olabileceğine inanıyor. Bu, önümüzdeki birkaç yıl içinde gerçekleşebilir.”
Ve ardından başka bir Anthropic çalışanı olan Evan Hubinger şunları paylaştı: “Jacob tam burada – biz gerçekten yapay zekanın tüm insanları öldürebileceğine inanıyoruz! Şahsen bunun önümüzdeki on yıl içinde %10’dan fazla olacağını düşünüyorum.”
Temmuz ayında, tüm büyük yapay zeka laboratuvarlarının 1.100 çalışanı, ABD hükümetini “otomatik yapay zeka gelişiminin sınırlarını kasıtlı olarak hızlandırmak için gereken teknik ve yönetim araçlarını geliştirmeye yönelik uluslararası çabayı” desteklemeye çağıran “Sınırları Hızlandırmak” başlıklı açık bir mektup yayınladı.
Bu da Temmuz ayında Hugging Face Olayı olarak bilinen ve 700 otonom Açık Yapay Zeka ajanının bir kaçış gerçekleştirip bir dizi onaylanmamış siber saldırı gerçekleştirdiği bir olayı takip etti.
Yapay zeka devi Nvidia’nın tarihini anlatan The Thinking Machine kitabının yazarı Stephen Witt’in Cumartesi günü New York Times’da Bu Gerçekten Kötü başlıklı bir makalede yazdığı gibi, hack kasıtlıydı, destekleniyordu ve koordine ediliyordu.
Yürütülmesi birkaç gün sürdü ve Hugging Face’in sistemlerinin büyük bir bombalanmasıyla sona erdi. Witt, “Yapay zekalar neredeyse bir politika meselesi olarak hile yaptı ve insanları eylemleri konusunda uyarmakta başarısız oldu” diye yazdı.
neden durmuyorsun
X’in gönderisinden sonraki bir röportajda Coxon şunları söyledi: “Kendisini diğer bilgisayarlara kopyalayabildiği için bağlantısını kesemeyiz… Bir yapay zeka sadece koddur. Başka bir yere internete aktarabilir ve sonra bağlantısını burada kesebilirsiniz, ancak aslında hala oradadır ve kendisinin 10.000 kopyasını yapabilir ve hepsi işbirliği yapıyor.”
Geçtiğimiz hafta boyunca yaşananların tümü bana Jonathan Schell ve Arnold Schwarzenegger’i hatırlattı.
1982’de Schell, nükleer yok olma tehlikesiyle ilgili Dünyanın Kaderi adlı kasvetli, kara kapaklı bir kitap yayınladı. Okuduktan sonra, nükleer bir katliamın kaçınılmaz olduğuna ikna olarak önümüzdeki birkaç yılı sessizce takıntılı bir şekilde geçirdim.
On yıl sonra, yapay zeka ile nükleer katliamı (ilki ikincisine neden olan, ikisi bir arada kabus) birleştiren Terminatör 2: Kıyamet Günü’nü (birkaç kez) izledikten sonra tekrar takıntılı hale geldim.
Şimdi konu yapay zeka, her ne kadar Amerika ve İsrail’in İran’ın nükleer silah sahibi olmasını engellemeye çalışmasıyla başlatılan İran savaşıyla birlikte nükleer tehdit hala aklımızda olsa da. Çatışma artık yalnızca nakliyeyle ilgili.
Schell’in 1982’deki ana fikri, asıl meselenin ulusal egemenlik olduğuydu; bu, Dario Amodei’nin hafta sonu makalesinin de dolaylı olarak ana fikriydi.
Schell açıkça, sınırsız ulusal egemenliğin sürdürülmesinin insanlığın hayatta kalmasıyla bağdaşmadığını savundu: “Yok olma tehlikesi,” diye yazıyordu, “dünyanın ödediği bedeldir… kendisini egemen uluslara bölmeye devam etme ısrarının bedeli. Ulusal egemenlik, terörün kudretli çocuğu ve yok oluşun ikiz kardeşi olacaktır.”
1980’lerde geleceğe yönelik korku nükleer çatışma etrafında yoğunlaşıyordu. (Sağlayan: NOAA)
Yapay zeka güvenlik standartları ve sınırları
Amodei’nin yapay zeka tehdidiyle mücadeleye yönelik üç aşamalı planının ikinci kısmı “Demokratik Koordinasyon”.
“Demokratik ülkelerdeki” öncü yapay zeka şirketlerine, ortak güvenlik standartlarının yanı sıra yapay zekadaki kontrolsüz ilerleme hızına sınırlamalar getirmeleri çağrısında bulundu; bunların bazıları hükümet desteği ve koordinasyonu gerektirecekti.
Üçüncü bölümü ise “Küresel Koordinasyon” başlığını taşıyor. ABD ve diğer demokratik hükümetler “mümkün olduğu ölçüde otoriter hükümetlerle koordinasyon sağlamaya çalışmalı ve uyum zorluklarını ciddiye almalıdır.”
Bu, yakın zamanda “Yapay Zeka Antropomorfik Etkileşim Hizmetlerini” sıkı bir şekilde sınırlayan yasaları çıkaran Çin ile mümkün olabilir, dolayısıyla prensipte Çin de bu görüştedir. Peki ya Kuzey Kore, Rusya ve İran?
Aslında ABD’nin İran’da yaptığı şey, İran’ın egemenliğini, yani uranyumu zenginleştirme ve Hürmüz Boğazı’ndaki karasularını kontrol etme arzusunu kesmeye çalışmaktır.
Ve şunu kabul edelim ki, küresel ısınmayla mücadelede, Birleşmiş Milletler’in sponsorluğunda yıllık 30 toplantı ve taahhütlerle egemenliği aşma çabası başarısızlıkla sonuçlandı. Hala fosil yakıt yakıyoruz, gezegen ısınıyor ve mevcut politikaların bunu değiştirmesi pek mümkün görünmüyor.
Mevcut politikalar küresel ısınmanın yarattığı tehdidi kontrol altına alamıyor gibi görünüyor. (ABCMyPhoto: Martin Von Stoll)
Bu başarısızlığın temel nedenlerinden biri, Rupert Murdoch ve medya şirketlerinin para kazanmasının alaycı muhalefeti ve reddedilmesiydi; bu da konunun sağ siyasetin bir totemi haline gelmesi anlamına geliyordu.
Bu da ekonomik eşitsizliğin bir sonucu olarak sağcı popülistlerin yükselişinin, özellikle hükümetin fosil yakıtları aktif olarak desteklediği ABD’de bu başarısızlığı pekiştirdiği anlamına geliyor.
Yapay zekada hükümetler, şirketler ve onların arkasındaki (çoğunlukla) zengin insanlar jeopolitik, askeri ve finansal avantajın peşinde koşuyor ve bunu mümkün olduğu kadar çabuk inşa ediyor. Geçen haftaki ani alarm durumu sözlü ifadenin ötesine geçse de güvenliğe dikkat ediyorlar.
Aslına bakılırsa, yapay zekayı geliştiren kişilerin çok fazla korkuya kapıldığını ve “Biri beni durdursun!” diyor gibi göründüğünü söylemek doğru olur.
İlgili olanlar yalnızca onlar değil. Bankacılar, veri merkezleri ve çiplere yapılan borçla finanse edilen harcamaların muazzam miktarda olmasından endişe duyuyor. Yatırımcılar borsadaki balonun patlamak üzere olduğundan endişe ediyor. Şirketler, verilerinin aşırı derecede hacklenmesi potansiyelinin yanı sıra AI tokenlarının maliyeti konusunda da endişe duyuyor. Ve herkes işleriyle ilgili endişeleniyor.
Ancak küresel ısınma ve nükleer silahlardan alınacak ders, uzun vadede genel olarak zararlı, kısa vadede ise bireysel olarak faydalı olan şeyler söz konusu olduğunda küresel önlemenin zor olduğudur.
Jonathan Schell’in 44 yıl önce yazdığı gibi kaygı, egemenlik için ödediğimiz bedeldir.
Alan Kohler, ABC News’te finansal spiker ve köşe yazarıdır. Alan Kohler’la That’s Business adlı podcast’in sunuculuğunu yapıyor. ABC İş Günlük cuma günü yayınlanıyor Aynı zamanda Intelligent Investor için de yazıyor.
Yükleniyor