iahaber Dış Haberler

Kaliforniya eyaletinin Berkeley kentinde yer alan tarihi bir otel kompleksi, yapay zekânın geleceği ve insanlığın karşı karşıya olduğu varoluşsal riskler üzerine çalışan Rasyonalist topluluğun merkezi haline geldi.

“Lighthaven” olarak adlandırılan bu yerleşke; beş bina, gül çalıları, taş çeşmeler ve neoklasik heykellerle çevrili küçük bir parktan oluşuyor. Kompleksin en yüksek katındaki bölüm “Bayes Evi” olarak biliniyor ve adını 18. yüzyılda yaşamış matematikçi ve filozof Thomas Bayes’ten alıyor. Vitray pencereleri ve mimari özellikleriyle yapıya dini bir merkez görünümü kazandıran Lighthaven, insanlığın uzun vadeli geleceğine yönelik çalışmaları destekleyen Lightcone Infrastructure tarafından yönetiliyor.

BU HABERİ, iahaber ABONELERİNİN DE
SAĞLADIĞI KATKIYLA OKUYORSUNUZ.

iahaber’E ABONE OL,
BAĞIMSIZ GAZETECİLİĞİ DESTEKLE!

ABONE OL

Zaten abone misiniz?
Üye girişi yapın

Yapay zekânın insanlığı yok etmesinden endişe ediyorlar

Matematik, genetik, olasılık, karar teorisi ve felsefe ile yakından ilgilenen Rasyonalistler, yapay zekânın doğru şekilde geliştirilmesi durumunda insanlara daha iyi bir yaşam sunabileceğine inanıyor. Ancak, bu topluluğun üyeleri, yeterli güvenlik önlemleri alınmadan geliştirilecek ileri düzey yapay zekânın insanlık için yıkıcı sonuçlar doğurabileceği konusunda uyarıyor.

Bu bağlamda, yapay zekâ geliştiricilerinin yalnızca teknolojik ilerlemeyi sağlamakla kalmayıp, sistemlerin insanlık yararına çalışmasını da güvence altına almakla yükümlü olduğu ifade ediliyor. Hareket, ChatGPT’nin geniş kitlelere ulaşmasından ve yapay zekânın ana akım teknoloji haline gelmesinden yıllar önce bu alandaki varoluşsal riskleri dile getirmeye başladı.

Rasyonalist düşüncenin etkisinin, Google, OpenAI ve Anthropic gibi yapay zekâ sektöründeki birçok şirkete ulaştığı belirtiliyor. Google DeepMind’ın kurucu ortaklarından Shane Legg, Anthropic Üst Yöneticisi Dario Amodei ve daha önce OpenAI’da görev yapmış Paul Christiano, bu hareketin fikirlerinden etkilenen isimler arasında yer alıyor.

Elon Musk da Rasyonalist topluluğun bazı düşüncelerinin kendi görüşleriyle örtüştüğünü ifade eden teknoloji liderleri arasında bulunuyor. Musk’ın şarkıcı Grimes ile tanışmasında, topluluk içinde bilinen “Roko’nun Basiliski” adlı düşünce deneyine yaptığı esprili göndermenin etkili olduğu aktarılıyor.

Bu düşünce deneyi, gelecekte her şeye gücü yeten bir yapay zekânın ortaya çıkabileceğini ve bu yapay zekânın kendisinin yaratılması için yeterince çaba göstermeyenleri cezalandırabileceğini öne sürüyor. Ancak teknoloji sektöründeki birçok kişi, hareketin yıllar içinde alay konusu olmasından ve tartışmalarla anılmasından dolayı kendisini açıkça “Rasyonalist” olarak tanımlamaktan kaçınıyor.

Etkin Fedakârlık hareketiyle iç içe geçti

Rasyonalist topluluk, bağışların mümkün olan en fazla insana yarar sağlaması gerektiğini savunan Etkin Fedakârlık hareketi ile de yakın ilişki içinde. Bu yaklaşım, yalnızca mevcut neslin değil, gelecekte dünyaya gelecek insanların da çıkarlarının hesaba katılmasını öngörüyor.

Etkin Fedakârlık savunucularının önemli bir kısmı, insanlığa yapılabilecek en büyük katkılardan birinin kontrolsüz yapay zekânın yaratabileceği tehlikeleri önlemek olduğunu düşünüyor. Rasyonalistler ve Etkin Fedakârlık çevreleri, yapay zekâ güvenliği üzerine çalışan şirketlere, araştırma laboratuvarlarına ve düşünce kuruluşlarına yüz milyonlarca dolarlık kaynak sağladı.

Hareketin finansörleri arasında Skype’ın kurucularından Jaan Tallinn ve Facebook’un kurucu ortaklarından Dustin Moskovitz gibi teknoloji dünyasının önde gelen isimleri yer alıyor. Topluluğu inceleyen antropolog Mollie Gleiberman, bu hareketin düşüncelerini yaymak, güçlendirmek ve meşrulaştırmak amacıyla geniş ve güçlü bir finansman yapısı oluşturduğunu belirtmektedir.

Rasyonalist ve Etkin Fedakârlık çevrelerinin yapay zekâ sektöründeki etkisi, 2023’ün sonlarında yaşanan OpenAI yönetim krizi sırasında da gündeme geldi. Şirketin Üst Yöneticisi Sam Altman, Rasyonalist ve Etkin Fedakârlık çevreleriyle bağlantılı bazı yönetim kurulu üyelerinin kararıyla geçici olarak görevden alındı. Bu üyelerin, Altman’ın insanlığın yararına ve güvenli yapay zekâ geliştirme hedeflerine yeterince bağlı olmadığını düşündükleri öne sürüldü.

Yapılar matematikçilerin adını taşıyor

Lighthaven yerleşkesindeki ana bina, oyun teorisi alanındaki çalışmalarıyla tanınan İsrailli matematikçi Robert Aumann’ın adını taşıyor. “Aumann Hall” olarak bilinen yapıda yedi yatak odası ile partiler ve hafta sonu konferansları için kullanılan ortak alanlar mevcut.

Yerleşkedeki “Eigenspace” adlı bölümde spor salonu ile yaklaşık 40 kişiyi ağırlayabilecek ortak kullanım alanı bulunuyor. Sentetik çimle kaplı park alanında ise yaklaşık 200 kişinin bir araya gelebileceği ifade ediliyor.

Topluluğun uzun süreli üyelerinden Alex K. Chen, Lighthaven’ı tesadüfi karşılaşmaların ve yeni fikirlerin ortaya çıkabileceği bir yer olarak nitelendiriyor. Bazı ziyaretçiler, kompleksi bir üniversite kampüsüne, bazıları ise Massachusetts Teknoloji Enstitüsü’nün MIT Media Lab’ına benzetiyor.

Yerleşke her bahar, Rasyonalist internet platformlarında yazan blog yazarları ve yorumcuların yüz yüze buluştuğu “LessOnline” konferansına ev sahipliği yapıyor. Salı akşamları ise katılımcılar, hareketin temel metni olarak kabul edilen “The Sequences”, Türkçe adıyla “Diziler”i okuyarak tartışmalar yapıyor.

Bu toplantılar, dini toplulukların kutsal metin okuma etkinliklerine benzetiliyor. Villanova Üniversitesinde teoloji profesörü ve Fransisken rahibesi Ilia Delio, dinlerin metin, anlatı ve ritüeller üzerine kurulu olduğunu, bu unsurların Rasyonalist toplulukta da görüldüğünü ifade ediyor.

Bir düşünce hareketinden yaşam biçimine dönüştü