Qué pasa con Voicebox, la IA generativa de voz que cautiva pero no se puede usar

 

La empresa Meta ha lanzado Voicebox, un sorprendente sistema de inteligencia artificial capaz de generar voces de manera excepcional sin necesidad de un entrenamiento específico. Voicebox permite convertir texto en múltiples voces sintetizadas, ofreciendo distintos estilos para leer el texto. Además, puede duplicar la voz de cualquier persona a partir de un breve clip de audio y generar frases en diferentes idiomas, superando así la barrera del idioma en diversos escenarios. También tiene la capacidad de eliminar ruidos de fondo no deseados y modificar clips de audio original para cambiar palabras específicas.

El desarrollo de Voicebox se basa en un amplio entrenamiento con 50.000 horas de voz provenientes de audiolibros en inglés y otras 60.000 horas de audiolibros en diferentes idiomas. Aunque actualmente las voces suenan más formales, se espera que el modelo evolucione hacia una entonación más informal. Sin embargo, Meta ha decidido no publicar el código de Voicebox debido a los posibles malos usos que podrían derivar en la creación de deepfakes y busca seguir investigando en inteligencia artificial de manera responsable.

Aunque Voicebox presenta notables ventajas y beneficios, su potencial para crear deepfakes ha llevado a Meta a tomar la decisión de no hacerlo Open Source, a diferencia de su modelo LLaMA. La empresa comparte los avances y el estudio para mantener la transparencia en este campo, pero prefiere no poner el código a disposición del público con el fin de evitar malos usos y enfocarse en una investigación responsable en IA.