uzman
Active member
- Katılım
- 25 Eyl 2020
- Mesajlar
- 52,335
- Puanları
- 36
25 Ocak tarihli bir haberden alınan Haberda, Başkan Joe Biden tanklardan bahsediyor. Ancak Habernun manipüle edilmiş bir versiyonu, bu hafta sosyal medyada yüzbinlerce kez görüntülendi ve sanki trans bireylere saldıran bir konuşma yapmış gibi görünmesini sağladı.
Dijital adli tıp uzmanları, Habernun, herkesin yalnızca birkaç tıklamayla bir kişinin sesini simüle eden sesi hızlı bir şekilde üretmesine olanak tanıyan yeni nesil yapay zeka araçları kullanılarak oluşturulduğunu söylüyor. Ve sosyal medyadaki Biden klibi bu sefer çoğu kullanıcıyı kandırmamış olsa da, klip, insanların gerçek dünyayı kasıp kavuran nefret dolu ve dezenformasyonla dolu “deepfake” Haberlar oluşturmasının artık ne kadar kolay olduğunu gösteriyor.
Michigan Üniversitesi’nde multimedya adli tıp üzerine odaklanan elektrik ve bilgisayar mühendisliği profesörü Hafız Malik, “Bunun gibi araçlar temelde yangını körükleyecek” dedi. “Canavar zaten serbest.”
Geçen ay, ElevenLabs’in konuşma sentezi platformunun beta sürümüyle geldi; bu platform, kullanıcıların birkaç dakikalık ses örnekleri yükleyerek ve bunu söylemek için herhangi bir metni yazarak herhangi birinin sesinden gerçekçi bir ses oluşturmasına olanak sağladı.
Başlangıç, teknolojinin, konuşmacının sesini ve duygularını korumak için filmler, sesli kitaplar ve oyunlar için sesi farklı dillerde seslendirmek üzere tasarlandığını söylüyor.
Sosyal medya kullanıcıları, Biden klibinde görülen aynı transfobik metni okuyan Hillary Clinton’ın yapay zeka tarafından oluşturulmuş bir ses örneğini ve Bill Gates’in COVID-19 aşısının AIDS’e neden olduğunu söylediği iddia edilen sahte ses kliplerini ve aktris Emma Watson’ı hızla paylaşmaya başladı. Hitler’in Mein Kampf manifestosunu okuduğu iddia edilen kişi.
Kısa bir süre sonra ElevenLabs, “ses klonlama kötüye kullanımlarının arttığını” tweetledi ve kötüye kullanımı engellemek için güvenlik önlemlerini araştırdığını duyurdu. İlk adımlardan biri, özelliği yalnızca ödeme bilgilerini sağlayanların kullanımına sunmaktı. Başlangıçta, anonim kullanıcılar ses klonlama aracına ücretsiz olarak erişebilirdi. Şirket ayrıca, herhangi bir sorun olması durumunda, oluşturulan herhangi bir sesi içerik oluşturucuya kadar takip edebileceğini iddia ediyor.
Berkeley’deki California Üniversitesi’nde dijital adli tıp ve yanlış bilgilendirmeye odaklanan bir profesör olan Hany Farid, içerik oluşturucuları izleme yeteneğinin bile aracın zararını hafifletmeyeceğini söyledi.
“Zarar verildi” dedi.
Örnek olarak Farid, kötü aktörlerin üst düzey bir CEO’nun kârların düştüğünü söylemesinin sahte sesiyle borsayı hareket ettirebileceğini söyledi. Ve YouTube’da, aracın bir Haberyu Biden’ın ABD’nin Rusya’ya nükleer bir saldırı başlatacağını söylüyormuş gibi görünmesi için değiştirmek için kullanıldığı bir klip zaten var.
Aynı yeteneklere sahip ücretsiz ve açık kaynaklı yazılımlar da çevrimiçi olarak ortaya çıktı, bu da ticari araçlar söz konusu olduğunda ödeme duvarlarının bir engel olmadığı anlamına geliyor. AP, ücretsiz bir çevrimiçi model kullanarak, birkaç dakika içinde aktörler Daniel Craig ve Jennifer Lawrence’a benzeyen ses örnekleri oluşturdu.
Malik, “Soru, parmağın nereye doğrultulacağı ve cinin şişeye nasıl geri konulacağıdır?” dedi. “Bunu yapamayız.”
Deepfake’ler yaklaşık beş yıl önce ilk kez manşetlere çıktığında, özne gözünü kırpmadığı ve ses robotik geldiği için fark edilmesi kolaydı. Araçlar daha sofistike hale geldikçe artık durum böyle değil.
Örneğin, Biden’ın trans bireyler hakkında aşağılayıcı yorumlar yaptığı değiştirilmiş Haber, yapay zeka tarafından üretilen sesi, Ukrayna’da duyurulan ABD tank konuşlandırmasını konu alan 25 Ocak’ta canlı bir CNN yayınından alınan Başkan’ın gerçek bir klibi ile birleştirdi. Biden’ın ağzı, sese uyması için Haberda manipüle edildi. Çoğu Twitter kullanıcısı, içeriğin Biden’ın söyleyeceği bir şey olmadığını fark etse de, ne kadar gerçekçi göründüğü karşısında yine de şok oldular. Diğerleri bunun gerçek olduğunu düşünüyor gibiydi – ya da en azından neye inanacaklarını bilmiyorlardı.
Farid, Hollywood stüdyolarının uzun süredir gerçeği çarpıtma yeteneğine sahip olduğunu, ancak bu teknolojiye erişimin sonuçları dikkate alınmadan demokratikleştirildiğini söyledi.
Farid, “Bu, çok, çok güçlü yapay zeka tabanlı teknolojinin, kullanım kolaylığının ve modelin şuna benzer olmasının bir birleşimi: hadi onu internete koyalım ve sonra ne olacağını görelim” dedi.
Ses, yapay zeka tarafından üretilen yanlış bilgilerin tehdit oluşturduğu alanlardan yalnızca biridir.
Midjourney ve DALL-E gibi ücretsiz çevrimiçi yapay zeka görüntü oluşturucular, basit bir metin girişiyle savaşların ve doğal afetlerin eski medya stili fotogerçekçi görüntülerini oluşturabilir. Geçen ay ABD’deki bazı okul bölgeleri, öğrenci ödevleri gibi isteğe bağlı metinler oluşturabilen ChatGPT’yi engellemeye başladı.
ElevenLabs yorum talebine yanıt vermedi.
Ortaklık bağlantıları otomatik olarak oluşturulabilir – ayrıntılar için Etik Beyanımıza bakın.
Dijital adli tıp uzmanları, Habernun, herkesin yalnızca birkaç tıklamayla bir kişinin sesini simüle eden sesi hızlı bir şekilde üretmesine olanak tanıyan yeni nesil yapay zeka araçları kullanılarak oluşturulduğunu söylüyor. Ve sosyal medyadaki Biden klibi bu sefer çoğu kullanıcıyı kandırmamış olsa da, klip, insanların gerçek dünyayı kasıp kavuran nefret dolu ve dezenformasyonla dolu “deepfake” Haberlar oluşturmasının artık ne kadar kolay olduğunu gösteriyor.
Michigan Üniversitesi’nde multimedya adli tıp üzerine odaklanan elektrik ve bilgisayar mühendisliği profesörü Hafız Malik, “Bunun gibi araçlar temelde yangını körükleyecek” dedi. “Canavar zaten serbest.”
Geçen ay, ElevenLabs’in konuşma sentezi platformunun beta sürümüyle geldi; bu platform, kullanıcıların birkaç dakikalık ses örnekleri yükleyerek ve bunu söylemek için herhangi bir metni yazarak herhangi birinin sesinden gerçekçi bir ses oluşturmasına olanak sağladı.
Başlangıç, teknolojinin, konuşmacının sesini ve duygularını korumak için filmler, sesli kitaplar ve oyunlar için sesi farklı dillerde seslendirmek üzere tasarlandığını söylüyor.
Sosyal medya kullanıcıları, Biden klibinde görülen aynı transfobik metni okuyan Hillary Clinton’ın yapay zeka tarafından oluşturulmuş bir ses örneğini ve Bill Gates’in COVID-19 aşısının AIDS’e neden olduğunu söylediği iddia edilen sahte ses kliplerini ve aktris Emma Watson’ı hızla paylaşmaya başladı. Hitler’in Mein Kampf manifestosunu okuduğu iddia edilen kişi.
Kısa bir süre sonra ElevenLabs, “ses klonlama kötüye kullanımlarının arttığını” tweetledi ve kötüye kullanımı engellemek için güvenlik önlemlerini araştırdığını duyurdu. İlk adımlardan biri, özelliği yalnızca ödeme bilgilerini sağlayanların kullanımına sunmaktı. Başlangıçta, anonim kullanıcılar ses klonlama aracına ücretsiz olarak erişebilirdi. Şirket ayrıca, herhangi bir sorun olması durumunda, oluşturulan herhangi bir sesi içerik oluşturucuya kadar takip edebileceğini iddia ediyor.
Berkeley’deki California Üniversitesi’nde dijital adli tıp ve yanlış bilgilendirmeye odaklanan bir profesör olan Hany Farid, içerik oluşturucuları izleme yeteneğinin bile aracın zararını hafifletmeyeceğini söyledi.
“Zarar verildi” dedi.
Örnek olarak Farid, kötü aktörlerin üst düzey bir CEO’nun kârların düştüğünü söylemesinin sahte sesiyle borsayı hareket ettirebileceğini söyledi. Ve YouTube’da, aracın bir Haberyu Biden’ın ABD’nin Rusya’ya nükleer bir saldırı başlatacağını söylüyormuş gibi görünmesi için değiştirmek için kullanıldığı bir klip zaten var.
Aynı yeteneklere sahip ücretsiz ve açık kaynaklı yazılımlar da çevrimiçi olarak ortaya çıktı, bu da ticari araçlar söz konusu olduğunda ödeme duvarlarının bir engel olmadığı anlamına geliyor. AP, ücretsiz bir çevrimiçi model kullanarak, birkaç dakika içinde aktörler Daniel Craig ve Jennifer Lawrence’a benzeyen ses örnekleri oluşturdu.
Malik, “Soru, parmağın nereye doğrultulacağı ve cinin şişeye nasıl geri konulacağıdır?” dedi. “Bunu yapamayız.”
Deepfake’ler yaklaşık beş yıl önce ilk kez manşetlere çıktığında, özne gözünü kırpmadığı ve ses robotik geldiği için fark edilmesi kolaydı. Araçlar daha sofistike hale geldikçe artık durum böyle değil.
Örneğin, Biden’ın trans bireyler hakkında aşağılayıcı yorumlar yaptığı değiştirilmiş Haber, yapay zeka tarafından üretilen sesi, Ukrayna’da duyurulan ABD tank konuşlandırmasını konu alan 25 Ocak’ta canlı bir CNN yayınından alınan Başkan’ın gerçek bir klibi ile birleştirdi. Biden’ın ağzı, sese uyması için Haberda manipüle edildi. Çoğu Twitter kullanıcısı, içeriğin Biden’ın söyleyeceği bir şey olmadığını fark etse de, ne kadar gerçekçi göründüğü karşısında yine de şok oldular. Diğerleri bunun gerçek olduğunu düşünüyor gibiydi – ya da en azından neye inanacaklarını bilmiyorlardı.
Farid, Hollywood stüdyolarının uzun süredir gerçeği çarpıtma yeteneğine sahip olduğunu, ancak bu teknolojiye erişimin sonuçları dikkate alınmadan demokratikleştirildiğini söyledi.
Farid, “Bu, çok, çok güçlü yapay zeka tabanlı teknolojinin, kullanım kolaylığının ve modelin şuna benzer olmasının bir birleşimi: hadi onu internete koyalım ve sonra ne olacağını görelim” dedi.
Ses, yapay zeka tarafından üretilen yanlış bilgilerin tehdit oluşturduğu alanlardan yalnızca biridir.
Midjourney ve DALL-E gibi ücretsiz çevrimiçi yapay zeka görüntü oluşturucular, basit bir metin girişiyle savaşların ve doğal afetlerin eski medya stili fotogerçekçi görüntülerini oluşturabilir. Geçen ay ABD’deki bazı okul bölgeleri, öğrenci ödevleri gibi isteğe bağlı metinler oluşturabilen ChatGPT’yi engellemeye başladı.
ElevenLabs yorum talebine yanıt vermedi.
Ortaklık bağlantıları otomatik olarak oluşturulabilir – ayrıntılar için Etik Beyanımıza bakın.