ABD başkan yardımcısı, yapay zekanın güvenlik risklerine ilişkin küresel düzenleme çağrılarını reddederek, en gelişmiş modelleri üreten şirketlere şunları söyledi: “Frankenstein’ı inşa ediyorsanız durun.”
JD Vance, Washington DC’yi Çin de dahil olmak üzere yapay zeka sistemlerinin kontrolünü koordine etmeye çağıran Anthropic’in kurucu ortağı Dario Amodei’ye yaptığı açıklamada şunları söyledi: “Frankenstein’ı yaratmak istiyorsanız hükümete gelip düzenlemelere ihtiyacımız olduğunu söylemeyin.”
Bunun yerine teknoloji patronlarının şunları yapması gerektiğini söyledi: “İçinize bakın ve şunu kabul edin: Eğer Frankenstein, No. 1’i inşa ediyorsanız, şirketler size gelip ‘Frankenstein ile savaşmak için araçlara ihtiyacımız var’ dediğinde, No. 2’yi de durdurmalısınız ve onlara bu araçları verin.”
Vance, henüz var olmayan bir teknoloji olan yapay süper zeka yaratma ihtimalinin insanlığa yönelik oluşturduğu riskler konusunda artan küresel endişelerin ardından Los Angeles’taki bir yapay zeka zirvesinde konuşuyordu.
Amodei Cumartesi günü, artan yetenek hızının, bir grup yapay zeka ajanının altı ila 12 ay içinde “tüm interneti ele geçirebileceği” anlamına geldiği konusunda uyardı.
Pek çok kişi bu iddiadan şüphe duysa da, Anthropic’in hizalama bilimi başkanı Evan Hubinger’in, yapay zekanın 10 yıl içinde tüm insanları öldürme ihtimalinin %10’dan fazla olduğu yönündeki önerisini körükledi. Anthropic’ten benzer bir uyarıyla ayrılan araştırmacı Jacob Coxon’a yanıt veriyordu.
Salı akşamı Coxon revize edilmiş bir tahmin verdi: “Sanırım daha yavaş gidersek %0’a kadar risk alabiliriz, ancak bu radikal bir eylem gerektirir.” Ayrıca yapay zekanın tüm insanları öldürdüğü “belirli senaryoları iletmenin çok zor olduğunu” kabul etti ve şöyle dedi: “Bu noktayı anlatmak için çalışmam gerekiyor.”
Vance’in yapay zekanın gerçek bir risk oluşturabileceğini düşünmeye istekli olması, bu hafta şunu yazan ABD Başkanı Donald Trump’tan ayrıldığına işaret ediyordu: “Yapay zekanın dünyayı ele geçirmesi, insanlığı ve diğer tüm kötü şeyleri yok etmesi bir aldatmacadır.” Trump sosyal medyada yapay zekanın “tarihteki en büyük ekonomik kalkınma motoru; petrolden, altından, elmastan ve hatta internetten daha büyük” olacağını paylaştı.
Vance, yapay zeka liderlerinin güvenlik risklerine ilişkin alarmı “Truva atı” olarak seslendirdiğinden şüphelendiğini söyledi. Amodei, ABD ve küresel düzenlemeler uygulanırken “yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmak” için endüstri koordinasyonunu önerdi. Şirketleri eleştirenler, ABD hükümetini, düzenleyici ele geçirme olarak bilinen bir taktikle daha geniş rekabeti sınırlayabilecek, kendi çıkarlarına göre şekillendirilmiş yeni sert kurallar oluşturmaya teşvik ettiklerine inanıyor.
Bu yaz yapılan testler sırasında yüzlerce yapay zeka ajanının kontrolünü kaybeden ve daha sonra Hugging Face web sitesini hacklemek için komplo kuran OpenAI, Pazartesi günü yaptığı açıklamada, Washington milletvekillerinin yapay zekanın yarattığı felaket risklerini ele almaya yönelik iki partili çabalarını desteklediğini ve Google ve Anthropic ile koordineli çalıştığını söyledi.
Çarşamba günü Reuters, bağımsız araştırmacı Jonas Wiedermann-Möller’in, haydut OpenAI ajanlarının saldırıdan yaklaşık iki ay önce Hugging Face’teki güvenlik açıklarını araştırmaya başladığını iddia ettiğini bildirdi.
bülten tanıtımından sonra
Sohbet yapımcısı GPT’nin genel müdürü Sam Altman, Salı günü diğer şirketlerin “Sadece yavaşlayacağız veya yalnızca diğer şirketler sorumluysa sorumlu olacağız” yönündeki önerilerini eleştirdi. Altman, “Bunun hiçbir şartı olmamalı” dedi.
Meta’nın kurucusu ve CEO’su Mark Zuckerberg, şirketlerin tek taraflı güvenlik önlemleri alması gerektiğini savundu. Şirketinin yakın zamanda en son yapay zeka modeli Muse’un piyasaya sürülmesini “güvenlik ve güvenliğe odaklanmak için birkaç aylığına” ertelediğini söyledi.
“Daha önce herkesi bunu yapmaya çağırmadık” dedi. “Bunu günlük çalışmalarımızın bir parçası olarak yaptık çünkü bu açıkça hem insanlar hem de bizim için doğru olan şeydi.”
Meta, sosyal medya platformlarının yol açtığı zararlarla ilgili davalarda milyarlarca dolar ödemek zorunda kaldı. Geçen ay ABD eyaletlerinin Facebook ve Instagram’ın çocuklara zarar verdiğini iddia ettiği bir davayı çözüme kavuşturan kurum, 18 milyar dolara (13,3 milyar £) kadar ödeme yapmayı kabul etti.
Zuckerberg şunu belirtti: “[AI] Laboratuvarlar, tasarımları zarara neden olursa ciddi sorumlulukla karşı karşıya kalıyor, dolayısıyla bunu önlemek için de güçlü bir teşvikleri var.”