Facebook, Instagram ve WhatsApp’ın sahibi Meta, “Voicebox” olarak bilinen ve “konuşma üreten” yeni yapay zeka sisteminin berbata kullanım riskinden ötürü şimdi piyasaya sürülmeyeceğini açıkladı.
The Independent’ın haberine nazaran, Meta’nın duyurduğu ve 6 lisanda konuşma üretebilen sistemle ilgili şirketten yapılan açıklamada, Voicebox’ın suistimal üzere riskler nedeniyle şimdi piyasaya sürülmeyeceği belirtildi.
İngilizce, Fransızca, İspanyolca, Almanca, Lehçe ve Portekizce lisanlarında 50 bin saatlik kayıtlarla eğitilen Voicebox, konuşmadaki boşluğu bağlamdan çıkarım yaparak doldurabiliyor. Sistem ayrıyeten, ham ses ve transkripsiyondan farklı tarzlarda ses üretebiliyor.
Yalnızca iki saniyelik bir konuşmadan dahi gerçekçi bir ses oluşturabilen Voicebox, iki lisan ortasında tarzı koruyarak çeviri yapıyor ve irtibata yardımcı oluyor.
Meta, konuşma üreten yapay zeka modellerinin heyecan verici olduğunu fakat potansiyel riskler nedeniyle Voicebox’ın yahut sistemin kodunun paylaşılmadığını belirtti.
Çok sayıda rapor, yapay zekanın insanların seslerini istekleri olmadan kopyalayabileceğini ve kelam konusu kayıtların dolandırıcılık faaliyetlerinde ya da geçersiz görüntü oluşturmada kullanılabileceğini belirtiyor.