Yavaş yavaş hayatımızın her alanında varlığını hissettiren yapay zeka, her vakit yararlı işler için kullanılmıyor. Bunun en net örneklerinden bir tanesi deepfake. Bir şahsa ilişkin manzara ve seslerin istenildiği üzere değiştirilmesine imkan tanıyan teknoloji, bilhassa de ünlü isimlerin taklit imgelerini oluşturmak için kullanılıyor.
Yaşanan son gelişmeler, hata olarak bile kabul edilmeye başlayan deepfake teknolojisinin değişerek hayatımızın içerisinde kalmaya devam edeceğini gözler önüne seriyor. Çünkü Türkiye’de erişime kapalı olan 4chan isimli platform kullanıcıları, dünyaca ünlü isimlerin seslerini kullanarak düzmece içerikler üretmeye başladılar. Oluşturulan geçersiz içeriklerde, ElevenLabs isimli bir grup tarafından geliştirilen ses klonlama yapay zekasından faydalanılmıştı…
Emma Watson ve Joe Rogan üzere isimlerin düzmece konuşmaları oluşturuldu!
4chan kullanıcılarının amaç aldıkları isimler, dünyaca ünlü oyuncu Emma Watson, ünlü komedyen Joe Rogan ve ABD’de ünlü bir köşe müellifi olan Ben Sharpio idi. Kim oldukları bilinmeyen anonim kullanıcılar, Emma Watson’a Adolf Hitler tarafından kaleme alınan “Kavgam” isimli romandan bir kısım okuturken, Ben Sharpio ise ABD’li politikacı Alexandria Ocasio-Cortez hakkında ırkçı cümleler kurdurmuşlardı. Üstelik geçersiz seslendirmeler bunlardan ibaret değildi. Homofobik, transofobik ve şiddet ile ilgili açıklamalar da paylaşılmıştı.
Henüz beta etapta olan ElevenLabs, hususla ilgili açıklama yaptı!
4chan’deki paylaşımlardan haberdar olan ElevenLabs grubu, şimdi beta evrede olan yapay zeka ile ilgili açıklamada bulundu. Ses klonlamaya yarayan yapay zekaya gösterilen ilgiden dolayı mutlu olunduğunu söz eden yetkililer, kötüye kullanımların farkında olduklarını ve bununla ilgili yeni güvenlik özellikleri üzerinde çalışacaklarını açıkladılar. Lakin bu çalışmaların ne kadar tesirli olacağı henüz bilinmiyor.
Deepfake teknolojisi, Birleşik Krallık’ta cürüm kabul ediliyor!
Kaynak: Webtekno