Son bir yıl içinde teknoloji ve internet dünyası yeni bir çağa giriş yaptı. Bir insanın da ötesinde istediğiniz her şeye erişebilen sohbet botları, yazdığınız metni ‘gerçeğinden’ bile gerçekçi halde görselleştiren görsel araçları… Yalnızca bir yılda çıkan bu araçlarla birçok kesimde işleyiş değişmeye başladı.
Yapay zekâdaki bu süratli ve denetimsiz gözüken gelişme, uzman isimleri de ikiye böldü. Kimisi bu teknolojilerin gelişimini desteklerken, kimisi ise riskler nedeniyle kaygı duymaya başladı. Bu tasalar, yapay zekâ geliştiricilerine karşı hazırlanan bir mektupta lisana getirildi. Mektuba Elon Musk ve Steve Wozniak üzere isimler de imza attı.
“Yapay zekâ sistemlerinin geliştirilmesi durdurulsun”
Endişeleri anlamak için mektubun tamamını okumakta yarar var:
Kapsamlı araştırmaların gösterdiği ve üst seviye yapay zekâ laboratuvarlarının onayladığı üzere, beşerle rekabet edecek zekâya sahip yapay zeka sistemleri, toplum ve insanlık için büyük riskler oluşturabilir. Geniş çapta onaylanan Asilomar Yapay Zekâ Unsurlarında belirtildiği üzere, Gelişmiş Yapay Zekâ, Dünya üzerindeki ömür tarihinde derin bir değişikliği temsil edebilir ve orantılı itina ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda yapay zekâ laboratuvarlarının hiç kimsenin – yaratıcılarının bile – anlayamayacağı, varsayım edemeyeceği yahut sağlam bir biçimde denetim edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için denetimden çıkmış bir yarışa kilitlendiğini görmesine karşın, bu seviyede bir planlama ve idare gerçekleşmiyor.
Çağdaş yapay zekâ sistemleri artık genel vazifelerde beşerlerle rekabet edebilir hale geliyor[3] ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına müsaade vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, akılca üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin denetimini kaybetme riskine girmeli miyiz? Bu tıp kararlar seçilmemiş teknoloji önderlerine devredilmemelidir. Güçlü yapay zekâ sistemleri, sadece tesirlerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. Bu itimat uygun bir halde gerekçelendirilmeli ve bir sistemin potansiyel tesirlerinin büyüklüğü ile artmalıdır. OpenAI’nin yapay genel zekâ ile ilgili son açıklaması, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan evvel bağımsız inceleme almak kıymetli olabilir ve en gelişmiş gayretler için, yeni modeller oluşturmak için kullanılan bilgi sürecin büyüme oranını sınırlamayı kabul etmek değerli olabilir.” Katılıyoruz. O nokta bugün.
Bu nedenle, tüm yapay zekâ laboratuvarlarını GPT-4’ten daha güçlü yapay zekâ sistemlerinin eğitimine en az 6 ay orta vermeye çağırıyoruz. Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Bu türlü bir duraklama süratli bir formda yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.
Yapay zekâ laboratuvarları ve bağımsız uzmanlar, bağımsız dış uzmanlar tarafından titizlikle denetlenen gelişmiş yapay zekâ tasarımı ve geliştirmeye yönelik bir dizi paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için bu duraklamayı kullanmalıdır. Bu protokoller, bunlara bağlı sistemlerin makul bir kuşkunun ötesinde inançlı olmasını sağlamalıdır. Bu, genel olarak yapay zekâ geliştirmede bir duraklama manasına gelmez, sırf tehlikeli yarıştan, ortaya çıkan yeteneklere sahip, her zamankinden daha büyük, öngörülemeyen kara kutu modellerine geri adım atmak manasına gelir.
Yapay zekâ araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha yanlışsız, inançlı, yorumlanabilir, şeffaf, sağlam, uyumlu, sağlam ve sadık hale getirmeye yine odaklanmalıdır.
Buna paralel olarak, yapay zekâ geliştiricileri, sağlam yapay zekâ yönetişim sistemlerinin gelişimini kıymetli ölçüde hızlandırmak için siyaset yapıcılarla birlikte çalışmalıdır. Bunlar en azından şunları içermelidir: Yapay zekaya adanmış yeni ve yetenekli düzenleyici makamlar; son derece yetenekli yapay zekâ sistemlerinin ve büyük hesaplama yeteneği havuzlarının nezareti ve takibi; gerçek ile sentetik olanı ayırt etmeye ve model çıktılarını izlemeye yardımcı olmak için kaynak ve filigran sistemleri; sağlam bir kontrol ve belgelendirme ekosistemi; yapay zekâ kaynaklı ziyan sorumluluğu; teknik yapay zekâ güvenlik araştırması için güçlü kamu finansmanı; yapay zekânın neden olacağı dramatik ekonomik ve politik kesintilerle (özellikle demokraside) başa çıkmak için uygun kaynaklara sahip kurumlar.
İnsanlık yapay zekâ ile gelişen bir geleceğin tadını çıkarabilir. Güçlü yapay zekâ sistemleri oluşturmayı başardıktan sonra, artık mükafatları topladığımız, bu sistemleri herkesin açık faydası için tasarladığımız ve topluma ahenk sağlama bahtı verdiğimiz bir “Yapay zekâ yazının” tadını çıkarabiliriz. Toplum, toplum üzerinde potansiyel olarak yıkıcı tesirleri olan öteki teknolojilere orta verdi. Bunu burada yapabiliriz. Uzun bir yapay zekâ yazının tadını çıkaralım, hazırlıksız bir biçimde sonbahara koşmayalım.
Mektuba imza atanlar ortasında büyük isimler var:
An prestijiyle daldan 1125 destekçiye kavuşan mektuba imza atan isimler ortasında şunlar da yer alıyor:
- Elon Musk (SpaceX, Tesla ve Twitter CEO’su)
- Steve Wozniak (Apple Kurucu Ortağı)
- Evan Sharp (Pinterest Kurucusu)
- Emad Mostaque (Stability AI CEO’su)
- Zachary Kenton (Google bünyesindeki DeepMind’ın Kıdemli Araştırmacısı)
Mektuba ve tüm destekleyenlere ulaşmak için bu temasa tıklayabilirsiniz.
Kaynak: WebTekno
