Kapsamlı araştırmaların[1] gösterdiği ve en iyi YZ laboratuvarlarının kabul ettiği üzere, insanla rekabet edebilecek zekaya sahip YZ sistemleri toplum ve insanlık için büyük riskler oluşturabilir.[2] Yaygın olarak onaylanan Asilomar YZ İlkelerinde belirtildiği üzere, Gelişmiş YZ dünyadaki yaşam tarihinde derin bir değişimi temsil edebilir ve buna uygun özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda YZ laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini görmesine rağmen, bu düzeyde bir planlama ve yönetim gerçekleşmiyor.
Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor[3] ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı bilgilerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Eninde sonunda sayıca üstün, akıllı, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler mi geliştirmeliyiz? Uygarlığımızın kontrolünü kaybetme riskini göze almalı mıyız? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. Güçlü YZ sistemleri ancak etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. Bu güven iyi gerekçelendirilmeli ve bir sistemin potansiyel etkilerinin büyüklüğü ile artmalıdır. OpenAI’nin yapay genel zeka ile ilgili son açıklaması, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce bağımsız inceleme almak ve en gelişmiş çabalar için yeni modeller oluşturmak için kullanılan bilgi işlemin büyüme oranını sınırlamayı kabul etmek önemli olabilir” diyor. Biz de aynı fikirdeyiz. O nokta şimdi.
Bu nedenle, tüm YZ laboratuvarlarını GPT-4’ten daha güçlü YZ sistemlerinin eğitimini en az 6 ay süreyle derhal durdurmaya çağırıyoruz. Bu duraklama kamuya açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde hayata geçirilemezse, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.
YZ laboratuvarları ve bağımsız uzmanlar, bu duraklamayı, bağımsız dış uzmanlar tarafından titizlikle denetlenen ve gözetilen gelişmiş YZ tasarımı ve geliştirmesi için bir dizi ortak güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için kullanmalıdır. Bu protokoller, kendilerine bağlı sistemlerin makul bir şüphenin ötesinde güvenli olmasını sağlamalıdır.[4] Bu, genel olarak YZ geliştirmeye ara verilmesi anlamına gelmez, sadece ortaya çıkan yeteneklere sahip daha büyük öngörülemez kara kutu modellerine yönelik tehlikeli yarıştan geri adım atılması anlamına gelir.
YZ araştırma ve geliştirme çalışmaları, günümüzün güçlü, son teknoloji ürünü sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır.
Buna paralel olarak, YZ geliştiricileri, sağlam YZ yönetişim sistemlerinin geliştirilmesini önemli ölçüde hızlandırmak için politika yapıcılarla birlikte çalışmalıdır. Bunlar asgari olarak şunları içermelidir: YZ’ye adanmış yeni ve yetenekli düzenleyici otoriteler; yüksek yetenekli YZ sistemlerinin ve büyük hesaplama kapasitesi havuzlarının gözetimi ve takibi; gerçeği sentetikten ayırt etmeye ve model sızıntılarını izlemeye yardımcı olacak provenans ve filigran sistemleri; sağlam bir denetim ve sertifikasyon ekosistemi; YZ kaynaklı zarar için sorumluluk; teknik YZ güvenlik araştırmaları için sağlam kamu finansmanı; ve YZ’nin neden olacağı dramatik ekonomik ve politik aksaklıklarla (özellikle demokrasiye) başa çıkmak için iyi kaynaklara sahip kurumlar.
İnsanlık YZ ile gelişen bir geleceğin tadını çıkarabilir. Güçlü YZ sistemleri yaratmayı başardıktan sonra, şimdi ödülleri topladığımız, bu sistemleri herkesin açık yararı için tasarladığımız ve topluma uyum sağlama şansı verdiğimiz bir “YZ yazının” tadını çıkarabiliriz. Toplum, toplum üzerinde potansiyel olarak yıkıcı etkileri olan diğer teknolojilere ara verdi.[5] Biz de burada bunu yapabiliriz. Uzun bir YZ yazının tadını çıkaralım, hazırlıksız bir şekilde sonbahara girmeyelim.
Deeply tarafından çevirisi yapılmıştır.