Her gün ismini daha fazla duyduğumuz üretken yapay zekâ araçları, hepimizi şaşırtan gelişimiyle tüm teknoloji dünyasını ele geçirmişti. Lakin bu modellerin, ziyanlı içeriklerden data güvenliği konusuna kadar taşıdığı çeşitli riskler konusunda büyük telaşlar vardı.
İşte bu mevzuda kıymetli bir atak, teknoloji devlerinden geldi. Yapay zekâ alanında önde gelen Microsoft, OpenAI, Google ve Antrhopic; “Frontier Model Forum” ismini verdikleri bir küme kurdu.
Grup, üretken yapay zekânın inançlı ve sorumlu gelişimini sağlamayı hedefleyecek
Dört şirketten oluşan küme, üretken yapay zekâ modellerinin inançlı ve sorumlu bir formda gelişmesinden emin olmak istiyor. Öncelik verilecek modellerin ise, “mevcut en gelişmiş modellerde mevcut olan yetenekleri aşan ve çeşitli misyonları gerçekleştirebilen büyük akine tahsil modelleri” olacağı belirtiliyor.
Şirketler tarafından paylaşılan blog gönderilerinde, yeni güvenlik kümesinin dört ana gayesi olacağı belirtildi. Bu maksatlar, şu biçimde sıralandı:
- Modellerin sorumlu bir biçimde geliştirilmesini teşvik etmek, riskleri en aza indirmek, yetenekler ve güvenliğin bağımsız, standartlaştırılan değerlendirmelerini sağlamak için yapay zekâ güvenlik araştırmasını geliştirmek.
- İnsanların teknolojinin tabiatını, yeteneklerini, sınırlamalarını ve tesirini anlamasına yardımcı olarak modellerin sorumlu bir formda geliştirilmesi ve dağıtılması için en düzgün uygulamaları belirlemek.
- Güvenlik riskleri hakkında bilgi paylaşmak için siyaset oluşturanlar, akademisyenler, sivil toplum ve şirketlerle iş birliği yapmak.
- İklim değişikliğinin hafifletilmesi, kanserin erken teşhisi ve önlenmesi ve siber tehditlerle gayret üzere toplumun en büyük problemlerinin üstesinden gelinmesine yardımcı olabilecek uygulamalar geliştirme eforlarına dayanak olmak.
Frontier Model Forum, yapay zekâ konusunda teklifler sunacak, şirketler ve hükümetlerle bilgiler paylaşabilecek bir müşavere şurası kurarak çalışmalarına başlayacak. Ayrıyeten kümenin teknoloji dünyasını bir ortaya getirmek istediğini de belirtelim. Açıklamada, yapay zekâ güvenliği konusunda adım atmaya çalışan öbür şirketlere kapılarının açık olduğu belirtiliyor.
Kaynak: WebTekno
