Amigo o Falsificación: La ética del entrenamiento de voz con IA y por qué importa

“La imitación es la forma más sincera de adulación.”

Eso es lo que dicen, ¿verdad? Seguramente, depende del contexto de la situación. Los vocalistas han estado sonando como otros a lo largo de la historia, ya sea intencionalmente o no. Josh Kiszka de Greta Van Fleet suena como Robert Plant de Led Zeppelin, y no tan inteligentemente niega haber sido inspirado por el grupo. La voz de Action Bronson suena como Ghostface Killah. Justin Warfield de She Wants Revenge suena como Paul Banks de Interpol. En ciertos períodos, Liam Gallagher de Oasis ha sido comparado con John Lennon. La lista continúa. El creador de contenido centrado en la música JT Jasinski (@jt_jasinski en Instagram) incluso tiene una serie de contenido donde “arruina canciones solo porque suenan como alguien más”. Estos fenómenos no se limitan solo a cantantes y música.

Talentos que suenan igual que el artista que cubren en La Voz | Top 10

Muchos comediantes y actores de voz tienen habilidades de imitación notables cuando se trata de imitar la voz de otra persona. En música y actuación, imitar o canalizar a alguien suele ser parte del proceso creativo. La influencia viene naturalmente y es inevitable.

¿Qué pasa si una voz con la que estás tan familiarizado es indistinguible de la tecnología? Estás escuchando a tu artista favorito cantar una nueva canción y es su voz: el tono, el timbre, las cadencias, todas sus inflexiones únicas, todo está ahí, pero no es él. ¿Qué pasaría si fuera una voz sintética creada por IA? Mira el fiasco de la canción de Drake y The Weeknd de IA que tomó al internet por sorpresa en 2023. La canción titulada “Heart on My Sleeve” apareció en plataformas de streaming con los dos artistas, para sorpresa de los fanáticos. La sorpresa aún mayor fue que fue totalmente generada por IA, provocando una reacción en contra del uso de la IA en la música.

La clonación de voz por IA no era un concepto nuevo en ese momento. Consideraciones éticas y legales sobre el uso de clones de voz de IA sin permiso generaron preguntas sobre la propiedad de la voz de un artista y las posibles consecuencias de su uso no autorizado. El lanzamiento de la canción generada por IA con Drake y The Weeknd solo expuso hasta qué punto había llegado la tecnología en imitar las voces de artistas populares. Estas cuestiones probablemente han estado burbujeando bajo la superficie durante años. Subraya la importancia de medidas de seguridad para asegurar que solo usuarios autorizados tengan acceso a modelos de voz sensibles.

¿Qué es la Clonación de Voz por IA?

La clonación de voz por IA utiliza poderosas y rápidamente evolucionadas tecnologías de IA y algoritmos de aprendizaje automático para crear una réplica digital sintética de una voz humana. Esencialmente, se carga un conjunto de datos de voces humanas grabadas cantando y hablando, y luego la tecnología los analiza para crear el clon de voz de IA. Esta tecnología puede capturar casi perfectamente las características únicas de la voz humana, incluyendo tono, timbre y color.

Clones de Voz de Artistas: Cómo hacer con IA - ¡Úselo de manera responsable!

Los clones de voz por IA pueden ser utilizados de muchas maneras por creadores de todo tipo. Desde integrarlos en esfuerzos de producción musical hasta doblajes de voces de calidad profesional y mejorar la sincronización vocal en películas y televisión, los clones de voz por IA se han convertido en una forma popular de elevar el proceso creativo. Pero con gran poder viene gran responsabilidad—gracias, Tío Ben—porque el potencial de mal uso siempre está presente, y es esencial que los creadores comprendan las implicaciones éticas de prestar sus voces y aplicar el uso de tecnología de voz de IA en su proceso creativo.

En este artículo, exploraremos las preocupaciones éticas críticas en torno a la clonación de voz por IA y discutiremos cómo los creadores responsables pueden navegar estos desafíos para utilizar esta tecnología revolucionaria de manera responsable.

Preocupaciones Éticas en la Clonación de Voz por IA

Una de las cuestiones éticas más fundamentales en la clonación de voz por IA es el consentimiento. La voz es uno de los atributos más verdaderamente únicos de un individuo. Los cantantes y actores de voz dependen en gran medida de su propia voz para ayudarlos a sobresalir en sus profesiones y arte. Cuando la voz de una persona se clona sin permiso o consentimiento informado, tiene el potencial de ser utilizada y explotada de maneras dañinas. Esto puede convertirse en un dilema ético o legal.

Consentimiento y Privacidad de Datos de Voz

El consentimiento informado es crucial al usar el modelo de voz IA de alguien. Los creadores deben asegurarse de que el propietario de esas voces que se están utilizando entienda cómo serán utilizadas. Esto podría significar informar a los propietarios de las voces IA sobre dónde aparecerá su voz, durante cuánto tiempo, y el contexto del uso. Obtener este consentimiento y permiso implica acuerdos claros sobre los usos. Al mismo tiempo, los propietarios de las voces deben ser conscientes de los riesgos potenciales y aplicaciones de sus modelos de voz IA al momento de la creación.

Grabaciones de voz de alta calidad son esenciales para una clonación de voz efectiva. Además, deben establecerse medidas robustas de seguridad y privacidad de datos para proteger grabaciones de voz sensibles y las interacciones de los usuarios.

Igualmente importante en este asunto es la privacidad de datos. Los modelos de voz IA analizan datos de voz que se clasifican como datos biométricos. Los datos biométricos son altamente sensibles y únicos para cada persona. Casi parece contradictorio clonar tu propia voz para ponerla a disposición para que otros la usen, por lo que asegurar que se establezcan salvaguardas es imperativo. Si no se protege cuidadosamente, puede ser mal utilizada para robo de identidad, suplantación y otras actividades maliciosas.

Desinformación y Deepfakes 

En 2020, el aumento de la tecnología deepfake en los medios visuales sorprendió a las masas. Mucho del uso, sorprendentemente, era para superponer aterradoramente con precisión el rostro de alguien más en formas de contenido inadecuado, lo que provocó conversaciones más amplias sobre cómo se utiliza esta tecnología para propósitos negativos. Aunque los deepfakes visuales pueden ser difíciles de detectar para muchos, son mucho más fáciles de identificar que las grabaciones de audio de voz IA.

Bill Hader imita a Arnold Schwarzenegger [DeepFake]

Los modelos de aprendizaje profundo analizan y replican patrones vocales específicos, lo que permite la creación de voces sintéticas personalizadas que imitan de cerca el tono y el tono únicos de una persona.

La clonación de voz por IA hace que estas situaciones sean mucho más convincentes. El proceso de crear y utilizar estas herramientas es tan fácil que podría ser en su detrimento. Una voz sintética puede ser utilizada para imitar a políticos, celebridades, cualquier otra persona en posiciones de influencia, o incluso a un ser querido. Utilizada de esta manera puede ser lo suficientemente convincente como para difundir información falsa, manipular opiniones políticas y dañar la reputación de alguien.

Por ejemplo, el actor Jonathan Majors ha enfrentado algunos problemas legales en su vida personal relacionados con la violencia doméstica. Recientemente, han surgido grabaciones de audio que contienen confesiones sobre los delitos. Lo interesante de esto es que muchas personas en las redes sociales han salido en defensa del actor alegando que las grabaciones fueron producto de la clonación de voz por IA. Aunque esto pueda o no ser cierto, el hecho de que sea siquiera una consideración debería indicar que el mal uso de esta tecnología es muy posible.

En los últimos años, la tecnología de voz IA ha estado al frente de controversias sobre estafas telefónicas. Generalmente, la estafa involucra a una persona que recibe una llamada telefónica de un amigo o familiar pidiendo dinero o información específica, a menudo en una situación comprometida o desesperada. Es importante tener cuidado con estas llamadas telefónicas. Una forma de combatir esto es establecer una palabra clave con las personas más cercanas a ti, justo por si acaso algo así pudiera suceder.

Es esencial que creadores, desarrolladores y gobiernos establezcan salvaguardias para prevenir estos abusos. Por ejemplo, el uso responsable de IA debe incluir marcas de agua o la creación de identificadores únicos para voces sintéticas para diferenciarlas de las reales.

Propiedad Intelectual (PI)

A medida que avanza la tecnología de clonación de voz por IA, las preguntas sobre propiedad intelectual (PI) se vuelven más apremiantes. ¿Está claro quién posee los derechos de lo que es técnicamente una voz sintética? Claro, la voz fue proporcionada por una persona real. Pero al poner dicha voz a disposición de otros, ¿qué sucede? ¿Es el individuo, o la compañía que desarrolló la tecnología para el modelo?

Esta ambigüedad hace que sea difícil para los creadores proteger sus voces y gestionar sus derechos de PI, especialmente si no han dado su consentimiento para que sus voces se utilicen. Por ejemplo, si un actor de voz o un cantante proporciona su voz para el entrenamiento de IA, es posible que no tengan control sobre cómo se utiliza.

Deben implementarse salvaguardias legales en este asunto. Debido a la rápida evolución de la tecnología de voz por IA, la ley está luchando por mantenerse al día y hay mucho debate sobre cómo regularla. Las leyes necesitan proteger los derechos de los individuos sobre sus voces y asegurar que sean compensados por cualquier uso comercial. Solo el tiempo dirá qué leyes se implementarán y cómo serán estructuradas. Hasta entonces, las empresas y los creadores deben actuar de la manera más ética posible, incluyendo proporcionar una compensación justa a los individuos detrás de la voz y crear contratos justos al adquirir sus conjuntos de datos vocales, así como garantizar que los modelos de voz sean fuentes éticamente en primer lugar.

Impacto en la Industria de la Actuación de Voz

A medida que mejora la tecnología de IA, las empresas pueden optar por utilizar voces sintéticas en lugar de contratar talento humano. Este cambio podría llevar a desplazamiento de empleos para actores de voz profesionales, cuyo trabajo depende de sus habilidades vocales únicas. Mientras que las voces generadas por IA pueden ofrecer ahorros de costos y tiempos de producción más rápidos, también se perciben ampliamente como una devaluación del arte y la experiencia que los actores de voz aportan a su oficio.

Los sistemas de voz IA pueden ofrecer respuestas que emulan voces humanas, mejorando la experiencia del cliente al permitir un manejo rápido y preciso de consultas.

Artistas de voz demandan a empresa tecnológica por 'robar sus voces' | BBC News

Al mismo tiempo, la clonación de voz por IA podría crear nuevas oportunidades para los actores de voz. Podrían colaborar con desarrolladores de IA, prestar sus voces a modelos de entrenamiento o ofrecer su experiencia en síntesis de voz, asegurándose de que su creatividad y talento permanezcan integrales al proceso. Sin embargo, se debe encontrar un equilibrio para garantizar que la IA no reemplace a los actores de voz humanos, sino que complemente su trabajo. La IA no debe ser utilizada como algo más que una herramienta para mejorar el proceso creativo humano existente.

Promoviendo una IA Responsable

1. Transparencia

La transparencia es crítica al usar clonación de voz por IA. Músicos, creadores de contenido, empresas y actores de voz deben ser sinceros sobre cuándo están utilizando voces sintéticas en su trabajo. Ya sea en música, anuncios, audiolibros, pódcast u otras formas de medios, las audiencias tienen derecho a saber si están escuchando a una persona real o una reproducción sintética.

Piense en cómo la advertencia de contenido explícito en las portadas de álbumes, o la simple letra “E” para explícito en plataformas de transmisión llegaron a prominencia. Indicar que algo contenía el uso de tecnología IA sería un paso en la dirección correcta. Las plataformas de redes sociales ya han comenzado a incluir estas etiquetas en contenido IA, aunque mucho de este se escapa por las rendijas.

Siendo transparentes, los creadores no solo construyen confianza con su audiencia, sino que también fomentan un sentido de responsabilidad. Si se utiliza una voz generada por IA de manera engañosa o maliciosa, los creadores deben tener la responsabilidad de cómo se aplica la tecnología.

2. Directrices Éticas

La necesidad de directrices éticas en la industria de IA debería ser urgente. Estas directrices deberían ayudar a definir los límites para usar clonación de voz por IA, asegurando que se emplee de maneras responsables y respetuosas.

Directrices éticas podrían cubrir varias áreas, incluyendo la obtención de consentimiento informado, asegurar datos de voz, prevenir el mal uso, como en el caso de deepfakes o la difusión de (des)información sensible y política, y asegurar una compensación justa para los individuos cuyas voces sean utilizadas. Al establecer estándares de toda la industria, los creadores y las empresas pueden protegerse contra usos no éticos y fomentar la innovación responsable en el campo de la tecnología de voz por IA.

Algunas grandes organizaciones ya están impulsando para que se establezcan directrices y estándares éticos y responsables en la industria de IA. Algunas organizaciones a seguir son Sound Ethics, Responsible AI Institute y International Association for Safe and Ethical AI (IASEAI).

3. Educación y Concienciación

Una de las maneras más efectivas de asegurar el uso responsable de la IA es a través de la educación. Creadores de todo tipo, empresas, desarrolladores y el público en general necesitan estar informados sobre las implicaciones éticas de esta tecnología y cómo navegar cualquier posible escollo que pueda acompañarla. Al ofrecer capacitación y recursos, podemos equipar a las personas con el conocimiento que necesitan para usar la IA de manera responsable.

Los programas educativos deberían abarcar temas como la importancia del consentimiento informado, la privacidad de datos y el potencial de mal uso. Cuando la gente está consciente de los riesgos y beneficios, puede tomar decisiones informadas y evitar daños no intencionados. Concienciar sobre estos problemas empoderará a los creadores para que tomen en serio las consideraciones éticas y ayuden a construir un futuro impulsado por IA responsable.

La Postura Ética de Kits.AI

Kits.AI siempre ha reconocido la importancia de equilibrar una herramienta tan poderosa e innovadora con responsabilidad ética. Estamos comprometidos a asegurar que cada individuo que proporciona su voz a la vasta Biblioteca de Voces Kits AI tenga el derecho de controlar y proteger sus voces, así como ser compensado adecuadamente por cada descarga. También creemos en captar cada conjunto de datos del modelo de voz de manera responsable y directamente del artista, previniendo y prohibiendo cualquier rascado no autorizado del trabajo de otro artista.

Kits.AI siempre ha estado basado en un lugar para enfatizar cómo la tecnología de voz por IA puede ser utilizada para el bien. Kits.AI también ha incluido esbozos detallados de restricciones de uso en contratos y términos de servicio, así como los derechos otorgados a cada usuario. La creencia de que la tecnología de voz por IA debería ser una herramienta para mejorar el proceso creativo y no reemplazarlo siempre ha estado en primer plano. Kits fomenta un aspecto comunitario que alienta oportunidades de colaboración para que los creadores trabajen directamente con desarrolladores de IA y otros creadores, asegurando que el aspecto humano permanezca en el corazón de todo.  

Por favor visite la página de ética de Kits.AI para leer más sobre cómo la ética de IA está en el núcleo de la misión de nuestra plataforma.

Conclusión: Innovar Con Integridad

La clonación de voz por IA es una tecnología poderosa que ha revolucionado cómo creamos e interactuamos con la música y el contenido, pero con eso viene mucha responsabilidad. Desde obtener consentimiento informado y proteger la propiedad intelectual hasta prevenir la propagación de desinformación y abordar su impacto en músicos y actores de voz, la clonación de voz por IA genera varias preocupaciones éticas que deben ser gestionadas cuidadosamente.

Creadores, desarrolladores y empresas deben abrazar la transparencia, adherirse a directrices éticas y priorizar educación y concienciación para asegurar que esta tecnología se utilice de manera responsable. Al hacerlo, podemos proteger los derechos individuales, fomentar industrias creativas y mitigar los riesgos asociados con la clonación de voz por IA.

Se recomienda encarecidamente que cualquier persona que se acerque al uso de la IA en cualquier forma, lo haga con atención y responsabilidad. Todavía habrá personas que hagan mal uso de la tecnología de IA, al igual que cualquier otra forma de tecnología. Eso nunca cambiará. Pero la IA debe posicionarse en un lugar fundado en principios éticos para ser mejor aceptada por el público. Con tantos factores trabajando en su contra, aún queda mucho trabajo por hacer.