Amigo o Falsificación: La ética del entrenamiento de voz con IA y por qué importa

“La imitación es la forma más sincera de adulación.”

Eso es lo que dicen, ¿verdad? Seguro que depende del contexto de la situación. Los vocalistas han estado sonando como otros a lo largo de la historia, ya sea intencionalmente o no. Josh Kiszka de Greta Van Fleet suena como Robert Plant de Led Zeppelin, y no tan sutilmente niega haberse inspirado en el grupo. La voz de Action Bronson suena como Ghostface Killah. Justin Warfield de She Wants Revenge suena como Paul Banks de Interpol. En ciertos momentos, Liam Gallagher de Oasis ha sido comparado con John Lennon. La lista sigue. El creador de contenido centrado en la música JT Jasinski (@jt_jasinski en Instagram) incluso tiene una serie de contenido donde “arruina canciones solo porque suenan como otra persona”. Estos fenómenos no se limitan solo a cantantes y música.

Talentos que suenan exactamente como el artista que cubren en The Voice | Top 10

Muchos comediantes y actores de voz tienen habilidades de imitación notables cuando se trata de imitar la voz de otra persona. En la música y el espectáculo, imitar o canalizar a alguien suele ser parte del proceso creativo. La influencia surge de forma natural e inevitable.

¿Y si una voz con la que estás tan familiarizado es indistinguible de la tecnología? Estás escuchando a tu artista favorito cantar una nueva canción y es su voz: el tono, la cadencia, todas sus inflexiones únicas, todo está ahí, pero no es él. ¿Y si fuera una voz sintética creada por inteligencia artificial? Mira el fiasco de la canción de Drake y The Weeknd creada por IA que tomó por sorpresa Internet en 2023. La pista titulada “Heart on My Sleeve” apareció en plataformas de streaming con los dos artistas, para sorpresa de los fanáticos. La sorpresa aún mayor fue que era totalmente generada por IA, lo que provocó una reacción en contra del uso de IA en la música.

La clonación de voz con IA no era un concepto nuevo en ese momento. Las consideraciones éticas y legales sobre el uso de clones de voz con IA sin permiso plantearon preguntas sobre la propiedad de la voz de un artista y las posibles consecuencias de su uso no autorizado. El lanzamiento de la canción generada por IA con Drake y The Weeknd simplemente expuso hasta qué punto la tecnología había llegado para imitar las voces de los artistas populares. Estas preguntas probablemente han estado burbujeando bajo la superficie durante años. Subraya la importancia de las medidas de seguridad para garantizar que solo los usuarios autorizados tengan acceso a modelos de voz sensibles.

¿Qué es la clonación de voz con IA?

La clonación de voz con IA utiliza potentes y rápidamente evolutivas tecnologías de IA y algoritmos de aprendizaje automático para crear una réplica digital sintética de una voz humana. Esencialmente, se carga un conjunto de datos de voces grabadas de canto y habla humanas, que luego es analizado por la tecnología para crear el clon de voz con IA. Esta tecnología puede capturar casi perfectamente las características únicas de la voz humana, incluidos el tono, el timbre y el tono.

Clones de voces de artistas: Cómo hacerlos con IA - ¡ÚSALO RESPONSABLEMENTE!

Los clones de voz con IA pueden ser utilizados de muchas maneras por creadores de todo tipo. Desde integrarlos en esfuerzos de producción musical hasta locuciones de calidad profesional y doblaje y mejora vocal acelerados en cine y televisión, los clones de voz con IA se han vuelto una forma popular de elevar el proceso creativo. Pero con gran poder viene gran responsabilidad: gracias, tío Ben—porque el potencial de mal uso está siempre presente, y es esencial que los creadores comprendan las implicaciones éticas de prestar sus voces y aplicar el uso de la tecnología de voz con IA en su proceso creativo.

En este artículo, exploraremos las preocupaciones éticas críticas alrededor de la clonación de voz con IA y discutiremos cómo los creadores responsables pueden navegar estos desafíos para usar esta innovadora tecnología de manera responsable.

Preocupaciones éticas en la clonación de voz con IA

Uno de los problemas éticos más fundamentales en la clonación de voz con IA es el consentimiento. La voz es uno de los atributos más verdaderamente únicos de un individuo. Cantantes y actores de voz dependen en gran medida de su propia voz para ayudarles a sobresalir en sus profesiones y arte. Cuando la voz de una persona se clona sin permiso o consentimiento informado, tiene el potencial de ser utilizada y explotada de maneras perjudiciales. Esto podría convertirse en un dilema ético o legal.

Consentimiento y privacidad de los datos de voz

El consentimiento informado es crucial al usar el modelo de voz con IA de alguien. Los creadores deben asegurarse de que el propietario de esas voces que se usan entienda cómo serán utilizadas. Esto podría significar informar a los propietarios de la voz con IA sobre dónde aparecerá su voz, por cuánto tiempo y en qué contexto se utilizará. Obtener este consentimiento y permiso implica hacer acuerdos claros sobre los usos. Al mismo tiempo, los propietarios de la voz deben ser conscientes de los riesgos potenciales y aplicaciones de sus modelos de voz con IA desde su creación.

Las grabaciones de voz de alta calidad son esenciales para el clonado de voz efectivo. Además, deben existir medidas robustas de privacidad y seguridad de datos para proteger las grabaciones de voz sensibles e interacciones de los usuarios.

Tan importante como esto es la privacidad de los datos. Los modelos de voz con IA analizan datos de voz que están clasificados como datos biométricos. Los datos biométricos son altamente sensibles y únicos para cada persona. Parece casi contradictorio clonar tu propia voz para ponerla a disposición de otros para su uso, por lo que garantizar que se implementen salvaguardas es imperativo. Si no se protegen cuidadosamente, pueden ser mal utilizados para robo de identidad, suplantación y otras actividades maliciosas.

Desinformación y Deepfakes

En 2020, el auge de la tecnología deepfake en los medios visuales sorprendió a las masas. Gran parte del uso fue, como era de esperar, para superponer de forma aterradora precisamente el rostro de otra persona en formas de contenido inapropiado, lo que generó conversaciones más amplias sobre cómo se utiliza esta tecnología para propósitos negativos. Aunque los deepfakes visuales pueden ser difíciles de detectar para muchos, son mucho más simples de identificar que las grabaciones de audio de voz con IA.

Bill Hader imita a Arnold Schwarzenegger [DeepFake]

Los modelos de aprendizaje profundo analizan y replican patrones vocales específicos, permitiendo la creación de voces sintéticas personalizadas que imitan de cerca el tono y la tonalidad únicos de una persona.

La clonación de voz con IA hace estas situaciones mucho más convincentes. El proceso de crear y utilizar estas herramientas es tan fácil que podría ser en detrimento suyo. Una voz sintética puede ser utilizada para suplantar a políticos, celebridades, cualquier otro individuo en posiciones de influencia, o incluso a un ser querido. Utilizada de esta manera puede ser lo suficientemente convincente como para difundir información falsa, manipular opiniones políticas y empañar la reputación de alguien.

Por ejemplo, el actor Jonathan Majors ha enfrentado algunos problemas legales en su vida personal respecto a violencia doméstica. Recientemente, han surgido grabaciones de audio que contienen confesiones sobre las malas acciones. Lo curioso es que muchas personas en las redes sociales han salido en defensa del actor alegando que las grabaciones fueron producto de la clonación de voz con IA. Aunque esto puede o no ser cierto, el hecho de que sea incluso una consideración debería indicar que el uso indebido de esta tecnología es muy posible.

En los últimos años, la tecnología de voz con IA ha estado a la vanguardia de las controversias que rodean las llamadas telefónicas fraudulentas. Típicamente, la estafa implica a un individuo recibiendo una llamada telefónica de un amigo o familiar solicitando dinero o información específica, a menudo en una situación comprometida o desesperada. Es importante tener precaución con estas llamadas telefónicas. Una forma de combatirlo es establecer una palabra clave con las personas más cercanas a ti, solo en el caso de que algo así pueda suceder.

Es esencial que los creadores, desarrolladores y gobiernos establezcan medidas de seguridad para prevenir tales abusos. Por ejemplo, el uso responsable de IA debería incluir marcas de agua o crear identificadores únicos para las voces sintéticas para distinguirlas de las reales.

Propiedad Intelectual (PI)

A medida que la tecnología de clonación de voz con IA avanza, las preguntas sobre la propiedad intelectual (PI) se vuelven más urgentes. ¿Está claro quién posee los derechos de lo que técnicamente es una voz sintética? Claro, la voz fue proporcionada por una persona real. Pero al poner dicha voz a disposición para su uso por otros, ¿qué sucede? ¿Es el individuo, o la empresa que desarrolló la tecnología para el modelo?

Esta ambigüedad dificulta a los creadores proteger sus voces y gestionar sus derechos de PI, especialmente si no han dado su consentimiento para que sus voces sean utilizadas. Por ejemplo, si un actor de voz o un cantante proporciona su voz para el entrenamiento de IA, puede que no tenga control sobre cómo se utiliza.

Deben establecerse salvaguardas legales en este asunto. Debido a la rápida evolución de la tecnología de voz con IA, la ley está luchando por mantenerse al día y hay un gran debate sobre cómo regularla. Las leyes deben proteger los derechos de las personas sobre sus voces y garantizar que sean compensadas por cualquier uso comercial. Solo el tiempo dirá qué leyes se implementarán y cómo se estructurarán. Hasta entonces, las empresas y creadores deben actuar de manera ética, incluyendo proporcionar compensaciones justas a los individuos detrás de la voz y crear contratos justos al adquirir sus conjuntos de datos vocales, además de asegurar que los modelos de voz se obtengan éticamente desde el principio.

Impacto en la industria de la actuación de voz

A medida que la tecnología de IA mejora, las empresas pueden optar por usar voces sintéticas en lugar de contratar talento humano. Este cambio podría conducir a desplazamiento laboral para los actores de voz profesionales, cuyo trabajo depende de sus habilidades vocales únicas. Mientras que las voces generadas por IA pueden ofrecer ahorros de costos y tiempos de producción más rápidos, también se perciben ampliamente como devaluadoras del arte y la experiencia que los actores de voz aportan a su oficio.

Los sistemas de voz con IA pueden entregar respuestas que emulan voces humanas, mejorando la experiencia del cliente al permitir un manejo rápido y preciso de las consultas.

Artistas de voz demandan a la empresa de tecnología por 'robar sus voces' | BBC News

Al mismo tiempo, la clonación de voz con IA podría crear nuevas oportunidades para los actores de voz. Podrían colaborar con desarrolladores de IA, prestar sus voces a modelos de entrenamiento, u ofrecer su experiencia en síntesis de voz, asegurando que su creatividad y talento permanezcan integrales al proceso. Sin embargo, se debe encontrar un equilibrio para garantizar que la IA no reemplace a los actores de voz humanos sino que complemente su trabajo. La IA no debe usarse como nada más que una herramienta para mejorar el proceso creativo humano existente.

Promover una IA responsable

1. Transparencia

La transparencia es crítica cuando se utiliza la clonación de voz con IA. Músicos, creadores de contenido, empresas y actores de voz deben ser claros acerca de cuándo están utilizando voces sintéticas en su trabajo. Ya sea en música, publicidad, audiolibros, podcasts u otras formas de medios, el público tiene derecho a saber si está escuchando a una persona real o una reproducción sintética.

Piense en cómo la etiqueta de Advertencia Parental en las portadas de álbumes, o la simple letra “E” de explícito en las plataformas de streaming ganaron prominencia. Indicar que algo contenía el uso de tecnología de IA sería un paso en la dirección correcta. Las plataformas de redes sociales ya han comenzado a incluir estas etiquetas en el contenido de IA, aunque gran parte de ella pasa desapercibida. 

Al ser transparentes, los creadores no solo construyen confianza con su audiencia, sino que también fomentan un sentido de responsabilidad. Si se usa una voz generada por IA de manera engañosa o maliciosa, los creadores deben ser responsables de cómo se aplica la tecnología.

2. Directrices Éticas

La necesidad de directrices éticas en la industria de IA debería ser urgente. Estas directrices deben ayudar a definir los límites para el uso de la clonación de voz con IA, asegurando que se emplee de manera responsable y respetuosa.

Las directrices éticas podrían cubrir varias áreas, incluyendo la obtención del consentimiento informado, la seguridad de los datos de voz, la prevención del mal uso, como en el caso de los deepfakes o la difusión de información sensible y política (des)información, y garantizar una compensación justa para las personas cuyas voces son utilizadas. Al establecer estándares en toda la industria, los creadores y las empresas pueden protegerse contra usos poco éticos y fomentar la innovación responsable en el campo de la tecnología de voz con IA.

Algunas grandes organizaciones ya están presionando por directrices y estándares éticos y responsables que se establezcan en la industria de IA. Algunas organizaciones a las que prestarle atención son Sound Ethics, Responsible AI Institute, y la Asociación Internacional para la IA Segura y Ética (IASEAI).

3. Educación y Concienciación

Una de las formas más efectivas de garantizar el uso responsable de la IA es a través de la educación. Creadores de todo tipo, empresas, desarrolladores, y el público en general necesitan ser informados sobre las implicaciones éticas de esta tecnología y cómo navegar los posibles escollos que puedan acompañarla. Al ofrecer capacitación y recursos, podemos equipar a las personas con el conocimiento que necesitan para usar la IA responsablemente.

Los programas educativos deben cubrir temas como la importancia del consentimiento informado, la privacidad de los datos y el potencial de mal uso. Cuando las personas son conscientes de los riesgos y beneficios, pueden tomar decisiones informadas y evitar daños no intencionados. Aumentar la concienciación sobre estos problemas empoderará a los creadores para tomar en serio las consideraciones éticas y ayudará a construir un futuro impulsado por IA responsable.

Postura Ética de Kits.AI

Kits.AI siempre ha reconocido la importancia de equilibrar una herramienta tan poderosa e innovadora con responsabilidad ética. Estamos comprometidos a asegurar que cada individuo que proporciona su voz a la vasta Biblioteca de Voces de Kits AI tenga el derecho de controlar y proteger sus voces, así como ser compensados de manera justa por cada descarga. También creemos en obtener cada conjunto de datos de modelos de voz de manera responsable y directamente del artista, evitando y prohibiendo cualquier recolección no autorizada del trabajo de otro artista.

Kits.AI siempre se ha basado en un lugar para enfatizar cómo la tecnología de voz con IA puede usarse para el bien. Kits.AI también ha incluido esquemas detallados de restricciones de uso en contratos y términos de servicio, así como los derechos otorgados a cada usuario. La creencia de que la tecnología de voz con IA debería ser una herramienta para mejorar el proceso creativo y no reemplazarlo siempre ha estado al frente. Kits promueve un aspecto comunitario que fomenta oportunidades de colaboración para que los creadores trabajen directamente con desarrolladores de IA y otros creadores, asegurando que el aspecto humano permanezca en el corazón de todo.

Visite la página de ética de Kits.AI para leer más sobre cómo la ética de la IA es parte fundamental de la misión de nuestra plataforma.

Conclusión: Innovar Con Integridad

La clonación de voz con IA es una tecnología poderosa que ha revolucionado la forma en que creamos e interactuamos con la música y el contenido, pero con eso viene mucha responsabilidad. Desde obtener el consentimiento informado y proteger la propiedad intelectual hasta prevenir la difusión de desinformación y abordar su impacto en músicos y actores de voz, la clonación de voz con IA plantea varias preocupaciones éticas que deben ser cuidadosamente gestionadas.

Creadores, desarrolladores y empresas deben abrazar la transparencia, adherirse a directrices éticas y priorizar la educación y la concienciación para asegurar que esta tecnología se use de manera responsable. Al hacerlo, podemos proteger los derechos individuales, fomentar las industrias creativas y mitigar los riesgos asociados con la clonación de voz con IA.

Se alienta firmemente a que cualquier persona que se adentre en el uso de la IA de cualquier manera lo haga con sensibilidad y responsabilidad. Siempre habrá personas que abusen de la tecnología de IA, al igual que cualquier otra forma de tecnología. Eso nunca cambiará. Pero la IA debe posicionarse en un lugar basado en principios éticos para ser mejor aceptada por el público. Con tantos factores en su contra, queda mucho trabajo por hacer.