Yavaş yavaş hayatımızın her alanında varlığını hissettiren yapay zeka, her vakit yararlı işler için kullanılmıyor. Bunun en net örneklerinden bir tanesi deepfake. Bir bireye ilişkin manzara ve seslerin istenildiği üzere değiştirilmesine imkan tanıyan teknoloji, bilhassa de ünlü isimlerin taklit manzaralarını oluşturmak için kullanılıyor.
Yaşanan son gelişmeler, kabahat olarak bile kabul edilmeye başlayan deepfake teknolojisinin değişerek hayatımızın içerisinde kalmaya devam edeceğini gözler önüne seriyor. Çünkü Türkiye’de erişime kapalı olan 4chan isimli platform kullanıcıları, dünyaca ünlü isimlerin seslerini kullanarak geçersiz içerikler üretmeye başladılar. Oluşturulan geçersiz içeriklerde, ElevenLabs isimli bir takım tarafından geliştirilen ses klonlama yapay zekasından faydalanılmıştı…
Emma Watson ve Joe Rogan üzere isimlerin geçersiz konuşmaları oluşturuldu!
4chan kullanıcılarının gaye aldıkları isimler, dünyaca ünlü oyuncu Emma Watson, ünlü komedyen Joe Rogan ve ABD’de ünlü bir köşe muharriri olan Ben Sharpio idi. Kim oldukları bilinmeyen anonim kullanıcılar, Emma Watson’a Adolf Hitler tarafından kaleme alınan “Kavgam” isimli romandan bir kısım okuturken, Ben Sharpio ise ABD’li politikacı Alexandria Ocasio-Cortez hakkında ırkçı cümleler kurdurmuşlardı. Üstelik düzmece seslendirmeler bunlardan ibaret değildi. Homofobik, transofobik ve şiddet ile ilgili açıklamalar da paylaşılmıştı.
Henüz beta kademede olan ElevenLabs, bahisle ilgili açıklama yaptı!
4chan’deki paylaşımlardan haberdar olan ElevenLabs grubu, şimdi beta evrede olan yapay zeka ile ilgili açıklamada bulundu. Ses klonlamaya yarayan yapay zekaya gösterilen ilgiden dolayı şad olunduğunu tabir eden yetkililer, kötüye kullanımların farkında olduklarını ve bununla ilgili yeni güvenlik özellikleri üzerinde çalışacaklarını açıkladılar. Lakin bu çalışmaların ne kadar tesirli olacağı henüz bilinmiyor.
Deepfake teknolojisi, Birleşik Krallık’ta kabahat kabul ediliyor!
Kaynak: WebTekno
