Amigo ou Falso: A Ética do Treinamento de Voz de IA e Por Que Isso Importa

“A imitação é a forma mais sincera de lisonja.”

É o que dizem, certo? Certamente, depende do contexto da situação. Vocalistas têm soado como outros ao longo da história — quer fosse intencional ou não. Josh Kiszka do Greta Van Fleet soa como Robert Plant do Led Zeppelin e nega, nada sagazmente, ter sido inspirado pelo grupo. A voz de Action Bronson soa como a de Ghostface Killah. Justin Warfield de She Wants Revenge soa como Paul Banks do Interpol. Em certos períodos, Liam Gallagher do Oasis foi comparado a John Lennon. A lista continua. Criador de conteúdo centrado em música, JT Jasinski (@jt_jasinski no Instagram) até tem uma série de conteúdos onde ele "estraga músicas só porque elas soam como outra pessoa". Esses fenômenos não se limitam apenas a cantores e música.

Talentos que soam exatamente como o artista que cobrem no The Voice | Top 10

Muitos comediantes e dubladores têm habilidades impressionantes de imitação quando se trata de mimetizar a voz de outra pessoa. Na música e na performance, imitar ou canalizar alguém muitas vezes faz parte do processo criativo. A influência vem naturalmente e é inevitável.

E se uma voz com a qual você está tão familiarizado é indistinguível da tecnologia? Você está ouvindo seu artista favorito cantar uma nova canção e é a voz dele—o timbre, o tom, a cadência, todas as suas inflexões únicas, tudo está lá, mas não é ele. E se fosse uma voz sintética criada por IA? Veja o fiasco da música de IA de Drake e The Weeknd que tomou a internet de assalto em 2023. A faixa intitulada “Heart on My Sleeve” apareceu nas plataformas de streaming com os dois artistas, para a surpresa dos fãs. A surpresa ainda maior foi que ela foi totalmente gerada por IA, provocando uma reação contra o uso de IA na música.

A clonagem de voz por IA não era um conceito novo naquela época. Questões éticas e legais sobre o uso de clones de voz de IA sem permissão levantaram perguntas sobre a propriedade da voz de um artista e as potenciais consequências de seu uso não autorizado. O lançamento da música gerada por IA com Drake e The Weeknd apenas expôs o quanto a tecnologia avançou em imitar as vozes de artistas populares. Essas perguntas provavelmente vêm se acumulando sob a superfície há anos. Isso ressalta a importância de medidas de segurança para garantir que apenas usuários autorizados tenham acesso a modelos de voz sensíveis.

O que é Clonagem de Voz por IA?

Clonagem de voz por IA utiliza poderosas e rapidamente evolutivas tecnologias de IA e algoritmos de aprendizado de máquina para criar uma réplica digital sintética de uma voz humana. Essencialmente, um conjunto de dados de vozes humanas gravadas cantando e falando é carregado e, em seguida, analisado pela tecnologia para criar o clone de voz por IA. Essa tecnologia pode quase capturar perfeitamente as características únicas da voz humana, incluindo timbre, tom e timbre.

Clones de Voz de Artistas: Como fazer com IA - USE RESPONSAVELMENTE!

Clones de voz por IA podem ser usados de várias maneiras por criadores de todos os tipos. Desde integrá-los nos esforços de produção musical até dublagens de qualidade profissional e aprimoramento de vozes em filmes e televisão, os clones de voz por IA se tornaram uma maneira popular de elevar o processo criativo. Mas com grande poder vem grande responsabilidade—obrigado, Tio Ben—pois o potencial de mau uso está sempre presente, e é essencial que os criadores compreendam as implicações éticas de emprestar suas vozes e aplicar o uso da tecnologia de voz por IA em seu processo criativo.

Neste artigo, exploraremos as preocupações éticas críticas em torno da clonagem de voz por IA e discutiremos como criadores responsáveis podem navegar nesses desafios para usar essa tecnologia inovadora de maneira responsável.

Preocupações Éticas na Clonagem de Voz por IA

Uma das questões éticas mais fundamentais na clonagem de voz por IA é o consentimento. A voz é um dos atributos verdadeiramente únicos de um indivíduo. Cantores e dubladores dependem fortemente de sua própria voz para ajudá-los a se destacar em suas profissões e arte. Quando a voz de uma pessoa é clonada sem permissão ou consentimento informado, ela tem o potencial de ser usada e explorada de maneiras prejudiciais. Isso pode se tornar um dilema ético ou legal.

Consentimento e Privacidade dos Dados de Voz

O consentimento informado é crucial ao usar o modelo de voz por IA de alguém. Criadores devem garantir que o dono das vozes que estão sendo usadas entenda exatamente como elas serão usadas. Isso pode significar informar os proprietários sobre onde sua voz aparecerá, por quanto tempo e o contexto do uso. Obter esse consentimento e permissão envolve fazer acordos claros sobre os usos. Ao mesmo tempo, os proprietários das vozes devem ser informados sobre os riscos e aplicações potenciais de seus modelos de voz por IA na criação.

Gravações de voz de alta qualidade são essenciais para uma clonagem de voz eficaz. Além disso, medidas robustas de privacidade e segurança de dados devem ser implementadas para proteger gravações de voz sensíveis e interações do usuário.

Igualmente importante nesta questão é a privacidade dos dados. Modelos de voz por IA analisam dados de voz classificados como dados biométricos. Dados biométricos são altamente sensíveis e únicos para cada pessoa. Parece quase contraditório clonar sua própria voz para disponibilizá-la para outros usarem, então garantir que salvaguardas sejam colocadas em prática é imperativo. Se não forem cuidadosamente protegidos, podem ser usados indevidamente para roubo de identidade, personificação e outras atividades maliciosas.

Desinformação e Deepfakes 

Em 2020, o surgimento da tecnologia deepfake em mídia visual surpreendeu as massas. Muito do uso não foi surpreendentemente, para horrivelmente superpor com precisão o rosto de outra pessoa em formas inadequadas de conteúdo, assim provocando conversas maiores sobre como esta tecnologia é usada para propósitos negativos. Embora deepfakes visuais possam ser difíceis de detectar para muitos, elas são muito mais simples de identificar do que gravações de áudio de voz de IA.

Bill Hader imita Arnold Schwarzenegger [DeepFake]

Modelos de aprendizado profundo analisam e replicam padrões vocais específicos, permitindo a criação de vozes sintéticas personalizadas que imitam de perto o tom e o timbre único de uma pessoa.

A clonagem de voz por IA torna essas situações muito mais convincentes. O processo de criar e utilizar essas ferramentas é tão fácil que pode ser prejudicial. Uma voz sintética pode ser usada para imitar políticos, celebridades, qualquer outra pessoa em posições de influência ou até mesmo um ente querido. Usada dessa forma pode ser convincente o suficiente para espalhar falsas informações, manipular opiniões políticas e manchar a reputação de alguém.

Por exemplo, o ator Jonathan Majors enfrentou alguns problemas legais em sua vida pessoal relacionados à violência doméstica. Recentemente, gravações de áudio surgiram contendo confissões sobre as transgressões. O que acontece é que muitas pessoas nas mídias sociais defenderam o ator alegando que as gravações eram produto da clonagem de voz por IA. Embora isso possa ou não ser verdade, o fato de que seja sequer considerado já deve indicar que o mau uso desta tecnologia é muito possível.

Nos últimos anos, a tecnologia de voz por IA esteve na vanguarda das controvérsias em torno de chamadas telefônicas de golpe. Normalmente, o golpe envolve uma pessoa recebendo uma ligação de um amigo ou membro da família solicitando dinheiro ou informações específicas, muitas vezes em uma situação comprometida ou desesperada. É importante tomar cuidado com essas chamadas telefônicas. Uma maneira de combater isso é estabelecer uma palavra-código com as pessoas mais próximas de você, apenas no caso de algo assim acontecer.

É essencial que criadores, desenvolvedores e governos estabeleçam medidas de proteção para prevenir tais abusos. Por exemplo, o uso responsável de IA deve incluir a inserção de marcas d'água ou a criação de identificadores únicos para vozes sintéticas, a fim de diferenciá-las das reais.

Propriedade Intelectual (PI)

À medida que a tecnologia de clonagem de voz por IA avança, questões sobre propriedade intelectual (PI) estão se tornando mais urgentes. Está claro quem possui os direitos sobre uma voz que é tecnicamente sintética? Claro, a voz foi fornecida por uma pessoa real. Mas após tornar essa voz disponível para uso por outros, o que acontece? É do indivíduo ou da empresa que desenvolveu a tecnologia para o modelo?

Essa ambiguidade torna difícil para os criadores proteger suas vozes e gerenciar seus direitos de PI, especialmente se eles não deram consentimento para que suas vozes fossem usadas. Por exemplo, se um dublador ou cantor fornece sua voz para treinamento de IA, ele pode não ter controle sobre como ela é usada.

Salvaguardas legais devem ser implementadas nesta matéria. Devido à rápida evolução da tecnologia de voz por IA, a lei está lutando para acompanhar e há muito debate sobre como regulá-la. Leis precisam proteger os direitos dos indivíduos sobre suas vozes e garantir que sejam compensados por qualquer uso comercial. Só o tempo dirá quais leis serão implantadas e como serão estruturadas. Até então, empresas e criadores devem agir da maneira mais ética possível, incluindo fornecer compensações justas aos indivíduos por trás da voz e criar contratos justos ao adquirir seus conjuntos de dados vocais, bem como garantir que os modelos de voz sejam eticamente obtidos em primeiro lugar.

Impacto na Indústria de Dublagem

À medida que a tecnologia de IA melhora, empresas podem optar por usar vozes sintéticas em vez de contratar talentos humanos. Essa mudança pode levar à deslocamento de empregos para dubladores profissionais, cujo trabalho depende de suas habilidades vocais únicas. Embora vozes geradas por IA possam oferecer economia de custo e tempos de produção mais rápidos, elas também são amplamente percebidas como uma desvalorização do talento artístico e da experiência que dubladores trazem ao seu ofício.

Sistemas de voz por IA podem oferecer respostas que emulam vozes humanas, melhorando a experiência do cliente ao permitir rápida e precisa gestão de consultas.

Artistas de voz processam empresa de tecnologia por 'roubar suas vozes' | BBC News

Ao mesmo tempo, a clonagem de voz por IA pode criar novas oportunidades para dubladores. Eles poderiam colaborar com desenvolvedores de IA, emprestar suas vozes para modelos de treinamento ou oferecer sua expertise em síntese de voz, garantindo que sua criatividade e talento permaneçam integrais ao processo. No entanto, um equilíbrio deve ser encontrado para garantir que a IA não substitua dubladores humanos, mas complemente seu trabalho. A IA não deve ser usada como nada mais do que uma ferramenta para aprimorar o processo criativo humano existente.

Promovendo IA Responsável

1. Transparência

Transparência é crítica ao usar clonagem de voz por IA. Músicos, criadores de conteúdo, empresas e dubladores devem ser francos ao utilizar vozes sintéticas em seu trabalho. Seja em música, propagandas, audiolivros, podcasts ou outras formas de mídia, o público tem o direito de saber se está ouvindo uma pessoa real ou uma reprodução sintética.

Pense como o aviso parental nas capas de álbuns, ou a simples letra "E" para explícito em plataformas de streaming ganharam proeminência. Indicar que algo continha o uso de tecnologia de IA seria um passo na direção certa. Plataformas de redes sociais já começaram a incluir esses rótulos no conteúdo de IA, embora muito disso acabe passando despercebido.  

Ao ser transparente, os criadores não apenas constroem confiança com seu público, mas também promovem um senso de responsabilidade. Se uma voz gerada por IA for usada de maneira enganosa ou maliciosa, criadores devem ser responsabilizados por como a tecnologia é aplicada.

2. Diretrizes Éticas

A necessidade de diretrizes éticas na indústria de IA deve ser urgente. Essas diretrizes devem ajudar a definir os limites para o uso da clonagem de voz por IA, garantindo que seja empregada de maneiras responsáveis e respeitosas.

Diretrizes éticas poderiam cobrir várias áreas, incluindo obtenção de consentimento informado, segurança de dados de voz, prevenção de mal uso, como no caso de deepfakes ou propagação de (des)informação sensível e política, e garantir uma compensação justa para indivíduos cujas vozes são usadas. Ao definir padrões amplamente aceitos na indústria, criadores e empresas podem prevenir usos não éticos e incentivar a inovação responsável no campo da tecnologia de voz por IA.

Algumas grandes organizações já estão pressionando por diretrizes e padrões éticos e responsáveis na indústria de IA. Algumas organizações para prestar atenção são Ética do Som, Instituto de IA Responsável e Associação Internacional para IA Segura e Ética (IASEAI).

3. Educação e Conscientização

Um dos métodos mais eficazes para garantir o uso responsável de IA é através da educação. Criadores de todos os tipos, empresas, desenvolvedores e o público geral precisam estar informados sobre as implicações éticas dessa tecnologia e como navegar por quaisquer armadilhas potenciais que possam acompanhá-la. Ao oferecer treinamento e recursos, podemos equipar as pessoas com o conhecimento necessário para usar IA de forma responsável.

Programas educacionais devem cobrir tópicos como a importância do consentimento informado, privacidade de dados e potencial para mau uso. Quando as pessoas estão cientes dos riscos e benefícios, podem tomar decisões informadas e evitar danos não intencionais. Conscientização sobre esses problemas capacitará criadores a levar em consideração considerações éticas de forma séria e ajudará a construir um futuro impulsionado de forma responsável por IA.

Posição Ética do Kits AI

Kits.AI sempre reconheceu a importância de equilibrar uma ferramenta tão poderosa e inovadora com responsabilidade ética. Estamos comprometidos em assegurar que cada indivíduo que fornece sua voz para a vasta Biblioteca de Voz do Kits AI tenha o direito de controlar e proteger suas vozes, além de ser compensado de forma justa para cada download. Também acreditamos em obter cada conjunto de dados de modelo de voz de maneira responsável e diretamente do artista, evitando e proibindo qualquer extração não autorizada do trabalho de outro artista.

Kits.AI sempre esteve fundamentado em um lugar para enfatizar como a tecnologia de voz por IA pode ser utilizada para o bem. Kits.AI também incluiu descrições detalhadas de restrições de uso em contratos e termos de serviço, além dos direitos concedidos a cada usuário. A crença de que a tecnologia de voz por IA deve ser uma ferramenta para aprimorar o processo criativo e não para substituí-lo, sempre esteve na linha de frente. Kits fomenta um aspecto comunitário que encoraja oportunidades de colaboração para criadores trabalharem diretamente com desenvolvedores de IA e outros criadores, garantindo que o aspecto humano permaneça no centro de tudo. 

Por favor, visite a página de ética do Kits.AI para ler mais sobre como a ética em IA é o cerne da missão da nossa plataforma.

Conclusão: Inovação Com Integridade

A clonagem de voz por IA é uma tecnologia poderosa que revolucionou a maneira como criamos e interagimos com música e conteúdo, mas com isso vem muita responsabilidade. Da obtenção de consentimento informado e proteção da propriedade intelectual à prevenção da disseminação de desinformação e abordando seu impacto sobre músicos e dubladores, a clonagem de voz por IA levanta várias preocupações éticas que precisam ser cuidadosamente gerenciadas.

Criadores, desenvolvedores e empresas devem abraçar a transparência, aderir a diretrizes éticas e priorizar a educação e conscientização para garantir que esta tecnologia seja utilizada de maneira responsável. Fazendo isso, podemos proteger direitos individuais, fomentar indústrias criativas e mitigar os riscos associados à clonagem de voz por IA.

É fortemente incentivado que qualquer pessoa que comece a utilizar IA de qualquer maneira o faça com atenção e responsabilidade. Ainda haverá pessoas que abusam da tecnologia de IA, assim como qualquer outra forma de tecnologia. Isso nunca mudará. Mas a IA deve se posicionar num lugar fundamentado em princípios éticos para ser melhor aceita pelo público. Com tantos fatores trabalhando contra, ainda há muito a ser feito.