Amigo ou Falso: A Ética do Treinamento de Voz de IA e Por Que Isso Importa

“A imitação é a forma mais sincera de lisonja.”

É o que dizem, certo? Certamente, depende do contexto da situação. Vocalistas têm soado iguais uns aos outros ao longo da história — intencionalmente ou não. Josh Kiszka do Greta Van Fleet soa como Robert Plant do Led Zeppelin, e não tão inteligentemente nega ser inspirado pelo grupo. A voz do Action Bronson soa como Ghostface Killah. Justin Warfield do She Wants Revenge soa como Paul Banks do Interpol. Em certos períodos, Liam Gallagher do Oasis foi comparado a John Lennon. A lista continua. Criador de conteúdo centrado em música JT Jasinski (@jt_jasinski no Instagram) até tem uma série de conteúdo onde ele “estraga músicas só porque elas soam como outra pessoa”. Esses fenômenos não se limitam apenas a cantores e música.

Talentos que soam exatamente como o artista que eles cobrem em The Voice | Top 10

Muitos comediantes e dubladores têm habilidades notáveis de imitação quando se trata de mimetizar a voz de outra pessoa. Na música e na performance, imitar ou canalizar alguém é frequentemente parte do processo criativo. A influência vem naturalmente e é inevitável.

E se uma voz com a qual você está tão familiarizado for indistinguível de tecnologia? Você está ouvindo seu artista favorito cantar uma nova música e é a voz dele — o tom, a cadência, todas as suas inflexões únicas, tudo está lá, mas não é ele. E se fosse uma voz sintética criada por IA? Veja o fiasco da música de IA do Drake e The Weeknd que tomou a internet de assalto lá em 2023. A faixa intitulada “Heart on My Sleeve” apareceu nas plataformas de streaming com os dois artistas, para surpresa dos fãs. A surpresa ainda maior foi que era totalmente gerada por IA, provocando uma reação contra o uso de IA na música.

A clonagem de voz por IA não era um conceito novo naquele momento. Considerações éticas e legais sobre o uso de clones de voz por IA sem permissão levantaram questões sobre a propriedade da voz de um artista e as potenciais consequências de seu uso não autorizado. O lançamento da canção gerada por IA com Drake e The Weeknd apenas expôs o quanto a tecnologia havia avançado na imitação das vozes de artistas populares. Essas questões provavelmente estavam borbulhando sob a superfície por anos. Isso destaca a importância de medidas de segurança para garantir que somente usuários autorizados tenham acesso a modelos de voz sensíveis.

O que é Clonagem de Voz por IA?

A clonagem de voz por IA usa poderosas e rapidamente evolutivas tecnologias de IA e algoritmos de aprendizado de máquina para criar uma réplica digital sintética da voz humana. Essencialmente, um conjunto de dados de vozes humanas gravadas é carregado, então analisado pela tecnologia para criar o clone de voz de IA. Esta tecnologia pode quase capturar perfeitamente as características únicas da voz humana, incluindo tom, timbre e cadência.

Clones de Voz de Artista: Como fazer com IA - USE RESPONSAVELMENTE!

Os clones de voz por IA podem ser usados de várias maneiras por criadores de todos os tipos. Desde integrar-los em esforços de produção musical até dublagens de qualidade profissional e aprimoramento vocal acelerado em filmes e televisões, os clones de voz por IA tornaram-se uma maneira popular de elevar o processo criativo. Mas com grande poder vem grande responsabilidade — obrigado, Tio Ben — porque o potencial para uso indevido é sempre presente, e é essencial que os criadores compreendam as implicações éticas de emprestar suas vozes e aplicar o uso da tecnologia de voz IA em seu processo criativo.

Neste artigo, exploraremos as preocupações éticas críticas em torno da clonagem de voz por IA e discutiremos como criadores responsáveis podem navegar nesses desafios para utilizar essa tecnologia inovadora de forma responsável.

Preocupações Éticas na Clonagem de Voz por IA

Uma das questões éticas mais fundamentais na clonagem de voz por IA é o consentimento. A voz é um dos atributos mais verdadeiramente únicos de um indivíduo. Cantores e dubladores dependem muito de suas próprias vozes para ajudá-los a se destacar em suas profissões e artes. Quando a voz de uma pessoa é clonada sem permissão ou consentimento informado, há o potencial de ser usada e explorada de maneiras prejudiciais. Isso pode se tornar um dilema ético ou legal.

Consentimento e Privacidade de Dados de Voz

O consentimento informado é crucial ao usar o modelo de voz por IA de alguém. Os criadores devem garantir que o dono das vozes que estão sendo usadas entenda exatamente como elas serão utilizadas. Isso pode significar informar os donos das vozes por IA onde sua voz aparecerá, por quanto tempo e o contexto do uso. Obter esse consentimento e permissão envolve fazer acordos claros sobre os usos. Ao mesmo tempo, os proprietários das vozes devem ser informados sobre riscos potenciais e aplicações de seus modelos de voz por IA durante a criação.

Gravações de voz de alta qualidade são essenciais para uma clonagem de voz eficaz. Além disso, medidas robustas de privacidade e segurança de dados devem estar em vigor para proteger gravações de voz sensíveis e interações do usuário.

Igualmente importante nesta questão é a privacidade dos dados. Modelos de voz por IA analisam dados de voz que são classificados como dados biométricos. Dados biométricos são altamente sensíveis e únicos para cada pessoa. Quase parece contraintuitivo clonar sua própria voz para disponibilizá-la para uso por outros, então garantir a colocação de salvaguardas é imperativo. Se não forem cuidadosamente protegidos, podem ser mal utilizados para roubo de identidade, personificação, e outras atividades maliciosas.

Desinformação e Deepfakes 

Em 2020, o surgimento da tecnologia deepfake na mídia visual surpreendeu as massas. Grande parte desse uso era, como era de se esperar, para inserir assustadoramente de forma precisa o rosto de outra pessoa em formas de conteúdo inapropriadas, assim, provocando conversas mais amplas sobre como essa tecnologia é usada para fins negativos. Embora os deepfakes visuais possam ser difíceis de detectar para muitos, eles são muito mais simples de identificar do que gravações de áudio de voz por IA.

Bill Hader imita Arnold Schwarzenegger [DeepFake]

Modelos de aprendizado profundo analisam e replicam padrões vocais específicos, permitindo a criação de vozes sintéticas personalizadas que imitam de perto o tom e a cadência únicos de uma pessoa.

A clonagem de voz por IA torna essas situações muito mais convincentes. O processo de criação e utilização dessas ferramentas é tão fácil que pode ser prejudicial. Uma voz sintética pode ser usada para personificar políticos, celebridades, qualquer outro indivíduo em posições de influência, ou até mesmo um ente querido. Usado dessa maneira, pode ser convincente o suficiente para espalhar informações falsas, manipular opiniões políticas e manchar a reputação de alguém.

Por exemplo, o ator Jonathan Majors enfrentou alguns problemas legais em sua vida pessoal em relação à violência doméstica. Recentemente, gravações de áudio surgiram contendo confissões sobre as transgressões. A questão é que muitas pessoas nas mídias sociais vieram à defesa do ator alegando que as gravações eram produto de clonagem de voz por IA. Embora isso possa ou não ser verdade, o fato de que isso é até mesmo uma consideração deveria indicar que o uso indevido dessa tecnologia é muito possível.

Nos últimos anos, a tecnologia de voz por IA esteve no centro de controvérsias em torno de golpes telefônicos. Normalmente, o golpe envolve uma pessoa recebendo um telefonema de um amigo ou membro da família solicitando dinheiro ou informações específicas, muitas vezes em uma situação comprometida ou desesperada. É importante ter cuidado em relação a essas chamadas telefônicas. Uma maneira de combater isso é estabelecendo uma palavra-código com as pessoas mais próximas a você, apenas no caso de algo assim acontecer.

É essencial que criadores, desenvolvedores e governos estabeleçam salvaguardas para prevenir tais abusos. Por exemplo, o uso responsável de IA deve incluir marcações d'água ou criar identificadores exclusivos para vozes sintéticas para diferenciá-las de vozes reais.

Propriedade Intelectual (PI)

À medida que a tecnologia de clonagem de voz por IA avança, questões sobre propriedade intelectual (PI) tornam-se mais urgentes. Está claro quem possui os direitos do que é tecnicamente uma voz sintética? Certamente, a voz foi fornecida por uma pessoa real. Mas ao disponibilizar essa voz para uso por outros, o que acontece? É o indivíduo, ou a empresa que desenvolveu a tecnologia para o modelo?

Essa ambiguidade torna difícil para criadores protegerem suas vozes e gerenciarem seus direitos de PI, especialmente se não deram consentimento para que suas vozes fossem usadas. Por exemplo, se um dublador ou cantor fornece sua voz para treinamento de IA, eles podem não ter controle sobre como ela é usada.

Salvaguardas legais devem ser implementadas nesta questão. Devido à rápida evolução da tecnologia de voz por IA, a lei está lutando para acompanhar e há muito debate sobre como regulá-la. As leis precisam proteger os direitos dos indivíduos sobre suas vozes e garantir que sejam compensados por qualquer uso comercial. Somente o tempo dirá que leis serão implementadas e como serão estruturadas. Até lá, empresas e criadores devem agir da maneira mais ética possível, incluindo fornecer compensações justas para os indivíduos por trás da voz e criar contratos justos ao adquirir seus conjuntos de dados vocais, além de garantir que os modelos de voz sejam eticamente originados em primeiro lugar.

Impacto na Indústria de Dublagem

À medida que a tecnologia de IA melhora, as empresas podem optar por usar vozes sintéticas em vez de contratar talentos humanos. Essa mudança pode levar a desemprego para dubladores profissionais, cujo trabalho depende de suas habilidades vocais únicas. Embora vozes geradas por IA possam oferecer economias de custos e tempos de produção mais rápidos, elas também são amplamente percebidas como devalorizadoras da arte e especialização que os dubladores trazem para seu ofício.

Sistemas de voz por IA podem entregar respostas que emulam vozes humanas, melhorando a experiência do cliente ao permitir o manuseio rápido e preciso de consultas.

Artistas de voz processam empresa de tecnologia por 'roubo de suas vozes' | BBC News

Ao mesmo tempo, a clonagem de voz por IA pode criar novas oportunidades para dubladores. Eles poderiam colaborar com desenvolvedores de IA, emprestar suas vozes para modelos de treinamento, ou oferecer sua expertise em síntese de voz, garantindo que sua criatividade e talento permaneçam integrais para o processo. No entanto, um equilíbrio deve ser alcançado para garantir que a IA não substitua dubladores humanos, mas complemente seu trabalho. A IA não deve ser usada como nada mais do que uma ferramenta para aprimorar o processo criativo humano existente.

Promovendo IA Responsável

1. Transparência

A transparência é fundamental ao usar clonagem de voz por IA. Músicos, criadores de conteúdo, empresas e dubladores devem ser francos sobre quando estão usando vozes sintéticas em seu trabalho. Seja na música, anúncios, audiolivros, podcasts ou outras formas de mídia, o público tem o direito de saber se está ouvindo uma pessoa real ou uma reprodução sintética.

Pense em como o Aviso Parental nos álbuns, ou a simples letra “E” para explícito nas plataformas de streaming ganhou destaque. Indicar que algo contém o uso de tecnologia de IA seria um passo na direção certa. As plataformas de mídia social já começaram a incluir esses rótulos em conteúdos de IA, embora muito disso ainda passe despercebido.  

Sendo transparentes, os criadores não apenas constroem confiança com seu público, mas também fomentam um senso de responsabilidade. Se uma voz gerada por IA for usada de maneira enganosa ou maliciosa, os criadores devem ser considerados responsáveis pelo como a tecnologia é aplicada.

2. Diretrizes Éticas

A necessidade de diretrizes éticas na indústria de IA deve ser urgente. Essas diretrizes devem ajudar a definir os limites para o uso de clonagem de voz por IA, garantindo que seja empregada de maneiras responsáveis e respeitosas.

Diretrizes éticas poderiam abranger várias áreas, incluindo obtenção de consentimento informado, segurança de dados de voz, prevenção de uso indevido, como no caso de deepfakes ou de disseminação de informações políticas e sensíveis (des)informações, e assegurando uma compensação justa para indivíduos cujas vozes são usadas. Ao estabelecer padrões abrangentes na indústria, criadores podem proteger contra usos antiéticos e encorajar inovações responsáveis no campo da tecnologia de voz por IA.

Algumas organizações ótimas já estão pressionando por diretrizes e padrões éticos e responsáveis ama ser estabelecidos na indústria de IA. Algumas organizações que vale a pena prestar atenção são Sound Ethics, Responsible AI Institute, e International Association for Safe and Ethical AI (IASEAI).

3. Educação e Sensibilização

Uma das maneiras mais eficazes de garantir o uso responsável de IA é por meio da educação. Criadores de todos os tipos, empresas, desenvolvedores e o público geral precisam estar informados sobre as implicações éticas dessa tecnologia e como navegar por possíveis armadilhas que possam acompanhar. Oferecendo treinamentos e recursos, podemos equipar as pessoas com o conhecimento necessário para usar a IA de forma responsável.

Programas educacionais devem cobrir tópicos como a importância do consentimento informado, privacidade de dados, e o potencial de uso indevido. Quando as pessoas estão cientes dos riscos e benefícios, elas podem tomar decisões informadas e evitar danos não intencionais. Aumentar a conscientização em torno dessas questões capacitará os criadores a levar em atenção as considerações éticas a sério e ajudará a construir um futuro impulsionado por IA responsável.

Posição Ética da Kits AI

Kits.AI sempre reconheceu a importância de equilibrar uma ferramenta tão poderosa e inovadora com responsabilidade ética. Estamos comprometidos em garantir que cada pessoa que fornece sua voz à vasta Biblioteca de Voz da Kits AI tenha o direito de controlar e proteger suas vozes, bem como ser justamente compensada por cada download. Também acreditamos em originar de maneira responsável cada conjunto de dados de modelo de voz diretamente do artista, prevenindo e proibindo qualquer raspagem não autorizada do trabalho de outro artista.

A Kits.AI sempre esteve ancorada em um lugar que enfatiza como a tecnologia de voz por IA pode ser usada para o bem. A Kits.AI também incluiu diretrizes detalhadas de restrições de uso em contratos e termos de serviço, bem como os direitos concedidos a cada usuário. A crença de que a tecnologia de voz por IA deve ser uma ferramenta para aprimorar o processo criativo e não substituí-lo sempre esteve na linha de frente. Kits fomenta um aspecto comunitário que encoraja oportunidades de colaboração para criadores trabalharem diretamente com desenvolvedores de IA e outros criadores, garantindo que o aspecto humano permaneça no coração de tudo isso. 

Visite a página de ética da Kits.AI para ler mais sobre como a ética na IA está no centro da missão de nossa plataforma.

Conclusão: Inovar com Integridade

A clonagem de voz por IA é uma tecnologia poderosa que revolucionou como criamos e interagimos com música e conteúdo, mas com isso vem grande responsabilidade. Desde obter consentimento informado e proteger a propriedade intelectual até prevenir a disseminação de desinformação e abordar seu impacto em músicos e dubladores, a clonagem de voz por IA levanta várias preocupações éticas que precisam ser geridas cuidadosamente.

Criadores, desenvolvedores e empresas devem abraçar a transparência, aderir a diretrizes éticas e priorizar a educação e conscientização para garantir que essa tecnologia seja usada de forma responsável. Fazendo isso, podemos proteger os direitos individuais, fomentar as indústrias criativas e mitigar os riscos associados à clonagem de voz por IA.

É fortemente encorajado que qualquer pessoa que queira utilizar de IA de qualquer forma deve fazê-lo com atenção e responsabilidade. Ainda haverá pessoas que usarão a tecnologia IA de forma incorreta, assim como qualquer outra forma de tecnologia. Isso nunca mudará. Mas a IA deve se posicionar em um lugar ancorado em princípios éticos para ser melhor aceita pelo público. Com tantos fatores trabalhando contra, ainda existe muito trabalho a ser feito.