Ami ou Faux : L'éthique de l'entraînement vocal de l'IA et pourquoi cela compte

« L'imitation est la forme de flatterie la plus sincère. »

C'est ce qu'ils disent, non ? Bien sûr, cela dépend du contexte de la situation. Les vocalistes se sont imités les uns les autres tout au long de l'histoire — que ce soit intentionnellement ou non. Josh Kiszka de Greta Van Fleet ressemble à Robert Plant de Led Zeppelin, et nie pas si finement s'être inspiré du groupe. La voix d'Action Bronson ressemble à celle de Ghostface Killah. Justin Warfield de She Wants Revenge ressemble à Paul Banks de Interpol. À certaines périodes, Liam Gallagher d'Oasis a été comparé à John Lennon. La liste continue. Le créateur de contenu centré sur la musique JT Jasinski (@jt_jasinski sur Instagram) a même une série de contenu où il « ruine des chansons juste parce qu'elles ressemblent à celles de quelqu'un d'autre ». Ces phénomènes ne se limitent pas seulement aux chanteurs et à la musique.

Des talents qui ressemblent exactement à l'artiste qu'ils couvrent dans The Voice | Top 10

De nombreux comédiens et acteurs de voix ont des compétences d'imitation remarquables lorsqu'il s'agit de mimer la voix d'une autre personne. Dans la musique et la performance, imiter ou canaliser quelqu'un fait souvent partie du processus créatif. L'influence vient naturellement et est inévitable.

Que se passe-t-il si une voix que vous connaissez si bien est indistinguable de la technologie ? Vous écoutez votre artiste préféré chanter une nouvelle chanson, et c'est sa voix — la hauteur, le ton, le rythme, toutes leurs inflexions uniques, tout y est, mais ce n'est pas eux. Que se passerait-il si c'était une voix synthétique créée par l'IA ? Regardez le fiasco de la chanson IA de Drake et The Weeknd qui a pris d'assaut Internet en 2023. La piste intitulée « Heart on My Sleeve » est apparue sur les plateformes de streaming avec les deux artistes, à la grande surprise des fans. La surprise encore plus grande était qu'elle était totalement générée par IA, suscitant des réactions contre l'utilisation de l'IA dans la musique.

Le clonage vocal IA n'était pas un concept nouveau à ce stade. Les considérations éthiques et légales concernant l'utilisation de clones vocaux IA sans autorisation ont soulevé des questions sur la propriété de la voix d'un artiste et les conséquences potentielles de son utilisation non autorisée. La sortie de la chanson générée par IA mettant en vedette Drake et The Weeknd a simplement exposé à quel point la technologie avait progressé dans l'imitation des voix d'artistes populaires. Ces questions ont probablement couvé sous la surface pendant des années. Cela souligne l'importance des mesures de sécurité pour garantir que seuls les utilisateurs autorisés aient accès aux modèles vocaux sensibles.

Qu'est-ce que le clonage vocal IA ?

Le clonage vocal IA utilise une technologie IA puissante et en évolution rapide ainsi que des algorithmes d'apprentissage automatique pour créer une réplique numérique synthétique de la voix humaine. Essentiellement, un ensemble de données de voix humaines enregistrées chantant et parlant est téléchargé, puis analysé par la technologie pour créer le clone vocal IA. Cette technologie peut presque capturer parfaitement les caractéristiques uniques de la voix humaine, y compris la hauteur, le ton et le timbre.

Clones vocaux d'artistes : Comment faire avec l'IA - À UTILISER RESPONSABLEMENT !

Les clones vocaux IA peuvent être utilisés de nombreuses manières par des créateurs de tous types. De l'intégration de ces clones dans la production musicale à la voix off de qualité professionnelle en passant par le doublage vocal accéléré et l'amélioration dans le cinéma et la télévision, les clones vocaux IA sont devenus une manière populaire d'élever le processus créatif. Mais avec un grand pouvoir vient une grande responsabilité — merci, Oncle Ben — car le potentiel de mauvaise utilisation est omniprésent, et il est essentiel que les créateurs comprennent les implications éthiques de prêter leur voix et d'appliquer l'utilisation de la technologie vocale IA dans leur processus créatif.

Dans cet article, nous explorerons les préoccupations éthiques critiques entourant le clonage vocal IA et discuterons de la manière dont les créateurs responsables peuvent naviguer dans ces défis pour utiliser cette technologie révolutionnaire de manière responsable.

Préoccupations éthiques dans le clonage vocal IA

Une des questions éthiques les plus fondamentales en matière de clonage vocal IA est le consentement. La voix est l'un des attributs les plus véritablement uniques d'un individu. Les chanteurs et les acteurs de voix s'appuient fortement sur leur propre voix pour les aider à exceller dans leurs professions et leur art. Lorsqu'une voix est clonée sans autorisation ou consentement éclairé, elle peut être utilisée et exploitée de manière nuisible. Cela peut devenir un dilemme éthique ou légal.

Consentement et confidentialité des données vocales

Le consentement éclairé est crucial lors de l'utilisation du modèle vocal IA de quelqu'un. Les créateurs doivent s'assurer que le propriétaire de ces voix utilisées comprend comment elles seront utilisées. Cela pourrait signifier informer les propriétaires de voix IA de l'endroit où leur voix apparaîtra, pendant combien de temps et dans quel contexte. Obtenir ce consentement et cette autorisation implique de faire des accords clairs sur les usages. En même temps, les propriétaires de voix doivent être informés des risques potentiels et des applications de leurs modèles vocaux IA lors de leur création.

Des enregistrements vocaux de haute qualité sont essentiels pour un clonage vocal efficace. De plus, des mesures robustes de confidentialité et de sécurité des données doivent être mises en place pour protéger les enregistrements vocaux sensibles et les interactions des utilisateurs.

Tout aussi important dans cette affaire est la confidentialité des données. Les modèles vocaux IA analysent des données vocales qui sont classées comme des données biométriques. Les données biométriques sont très sensibles et uniques à chacun. Il semble presque contre-intuitif de cloner votre propre voix pour la rendre disponible aux autres, donc s'assurer que des mesures de protection sont mises en place est impératif. Sinon, elle peut être mal utilisée pour le vol d'identité, l'usurpation d'identité et d'autres activités malveillantes.

Désinformation et deepfakes 

En 2020, la montée de la technologie deepfake dans les médias visuels a stupéfié les masses. Une grande partie de son utilisation était, sans surprise, de manière terrifiante précise de superposer le visage de quelqu'un d'autre sur des contenus inappropriés, stimulant ainsi de plus grandes conversations sur la manière dont cette technologie est utilisée à des fins négatives. Bien que les deepfakes visuels puissent être difficiles à repérer pour beaucoup, ils sont beaucoup plus simples à identifier que les enregistrements audio IA.

Bill Hader imite Arnold Schwarzenegger [DeepFake]

Les modèles d'apprentissage approfondi analysent et répliquent des motifs vocaux spécifiques, permettant la création de voix synthétiques personnalisées qui imitent étroitement le ton et la hauteur uniques d'une personne.

Le clonage vocal IA rend ces situations beaucoup plus convaincantes. Le processus de création et d'utilisation de ces outils est si simple que cela pourrait être à son détriment. Une voix synthétique peut être utilisée pour usurper l'identité de politiciens, de célébrités, d'autres individus en positions d'influence ou même d'un proche. Utilisée de cette manière, elle pourrait être assez convaincante pour répandre de fausses informations, manipuler des opinions politiques et ternir la réputation de quelqu'un.

Par exemple, l'acteur Jonathan Majors a rencontré quelques problèmes juridiques dans sa vie personnelle concernant la violence domestique. Récemment, des enregistrements audio ont fait surface contenant des confessions sur les méfaits. Le problème ici est que de nombreuses personnes sur les réseaux sociaux ont défendu l'acteur en affirmant que les enregistrements étaient le produit du clonage vocal IA. Bien que cela puisse ou non être vrai, le fait que ce soit même une considération devrait indiquer que la mauvaise utilisation de cette technologie est très possible.

Ces dernières années, la technologie vocale IA a été au cœur des controverses entourant les appels téléphoniques de scams. En général, l'escroquerie implique un individu recevant un appel téléphonique d'un ami ou d'un membre de la famille demandant de l'argent ou des informations spécifiques, souvent dans une situation compromise ou désespérée. Il est important de faire preuve de prudence à propos de ces appels téléphoniques. Une manière de combattre cela est d'établir un mot de code avec les personnes qui vous sont les plus proches, juste au cas où cela pourrait arriver.

Il est essentiel que les créateurs, les développeurs et les gouvernements établissent des mesures de protection pour prévenir de tels abus. Par exemple, l'utilisation responsable de l'IA devrait inclure l'ajout de filigranes ou la création d'identifiants uniques pour les voix synthétiques afin de les différencier des voix réelles.

Propriété intellectuelle (PI)

À mesure que la technologie de clonage vocal IA progresse, les questions concernant la propriété intellectuelle (PI) deviennent de plus en plus pressantes. Est-il clair qui possède les droits sur ce qui est techniquement une voix synthétique ? Bien sûr, la voix a été fournie par une véritable personne. Mais une fois cette voix mise à disposition pour utilisation par d'autres, que se passe-t-il ? Est-ce l'individu ou l'entreprise qui a développé la technologie pour le modèle ?

Cette ambiguïté rend difficile pour les créateurs de protéger leurs voix et de gérer leurs droits de PI, surtout s'ils n'ont pas donné leur consentement pour l'utilisation de leurs voix. Par exemple, si un acteur voix ou un chanteur fournit sa voix pour l'entraînement de l'IA, il peut ne pas avoir le contrôle sur la manière dont elle est utilisée.

Des mesures de protection légales doivent être mises en place à ce sujet. En raison de l'évolution rapide de la technologie vocale IA, la loi peine à suivre et il y a beaucoup de débats sur la manière de la réguler. Les lois doivent protéger les droits des individus sur leurs voix et garantir qu'ils soient compensés pour toute utilisation commerciale. Seul le temps dira quelles lois seront mises en place et comment elles seront structurées. D'ici là, les entreprises et les créateurs doivent agir de manière aussi éthique que possible, y compris fournir une compensation équitable aux personnes derrière la voix et créer des contrats équitables lors de l'acquisition de leurs ensembles de données vocales, tout en s'assurant que les modèles vocaux soient source de manière éthique dès le départ.

Impact sur l'industrie de la voix off

À mesure que la technologie IA s'améliore, les entreprises peuvent choisir d'utiliser des voix synthétiques au lieu d'engager des talents humains. Ce changement pourrait entraîner un déplacement d'emplois pour les acteurs de voix professionnels, dont le travail repose sur leurs compétences vocales uniques. Bien que les voix générées par IA puissent offrir des économies de coûts et des temps de production plus rapides, elles sont également largement perçues comme dévalorisant l'art et l'expertise que les acteurs de voix apportent à leur métier.

Les systèmes vocaux IA peuvent fournir des réponses qui imitent les voix humaines, améliorant l'expérience client en permettant un traitement rapide et précis des demandes.

Des artistes voix portent plainte contre une entreprise de technologie pour « vol de leurs voix » | BBC News

En même temps, le clonage vocal IA pourrait créer de nouvelles opportunités pour les acteurs de voix. Ils pourraient collaborer avec des développeurs IA, prêter leurs voix pour des modèles d'entraînement, ou offrir leur expertise en synthèse vocale, garantissant que leur créativité et leur talent restent intégrés au processus. Cependant, un équilibre doit être trouvé pour garantir que l'IA ne remplace pas les acteurs de voix humains mais complète leur travail. L'IA ne devrait pas être utilisée comme autre chose qu'un outil pour améliorer le processus créatif humain existant.

Promouvoir une IA responsable

1. Transparence

La transparence est essentielle lors de l'utilisation du clonage vocal IA. Les musiciens, créateurs de contenu, entreprises et acteurs de voix doivent être transparents quant à l'utilisation des voix synthétiques dans leur travail. Que ce soit dans la musique, la publicité, les livres audio, les podcasts ou d'autres formes de médias, le public a le droit de savoir s'il entend une vraie personne ou une reproduction synthétique.

Pensez à la manière dont le label Parental Advisory sur les couvertures d'albums, ou la simple lettre « E » pour explicite sur les plateformes de streaming, a pris de l'importance. Indiquer que quelque chose contenait l'utilisation de la technologie IA serait un pas dans la bonne direction. Les plateformes de médias sociaux ont déjà commencé à inclure ces étiquettes sur le contenu IA, bien que beaucoup d'entre elles passent entre les mailles du filet.  

En étant transparent, les créateurs ne bâtissent pas seulement la confiance avec leur audience, mais favorisent également un sens de responsabilité. Si une voix générée par IA est utilisée de manière trompeuse ou malveillante, les créateurs devraient être tenus responsables de la manière dont la technologie est appliquée.

2. Directives éthiques

La nécessité de directives éthiques dans l'industrie de l'IA doit être urgente. Ces directives devraient aider à définir les limites de l'utilisation du clonage vocal IA, s'assurant qu'il soit utilisé de manière responsable et respectueuse.

Les directives éthiques pourraient couvrir plusieurs domaines, y compris l'obtention du consentement éclairé, la sécurisation des données vocales, la prévention de la mauvaise utilisation, comme dans le cas des deepfakes ou de la diffusion de désinformations sensibles et politiques, et l'assurance d'une compensation équitable pour les individus dont les voix sont utilisées. En établissant des normes à l'échelle de l'industrie, les créateurs et les entreprises peuvent éviter les usages contraires à l'éthique et encourager l'innovation responsable dans le domaine de la technologie vocale IA.

Certaines grandes organisations travaillent déjà à la mise en place de directives et de normes éthiques et responsables dans l'industrie de l'IA. Quelques organisations à surveiller sont Sound Ethics, Responsible AI Institute, et International Association for Safe and Ethical AI (IASEAI).

3. Éducation et sensibilisation

Une des manières les plus efficaces d'assurer l'utilisation responsable de l'IA est par l'éducation. Les créateurs de tous types, les entreprises, les développeurs, et le grand public doivent être informés des implications éthiques de cette technologie et de la manière de naviguer dans les éventuels écueils qui peuvent l'accompagner. En proposant des formations et des ressources, nous pouvons équiper les gens du savoir dont ils ont besoin pour utiliser l'IA de manière responsable.

Les programmes éducatifs devraient couvrir des sujets tels que l'importance du consentement éclairé, la confidentialité des données et le potentiel de mauvaise utilisation. Lorsque les gens sont conscients des risques et des avantages, ils peuvent prendre des décisions éclairées et éviter des dommages non intentionnels. Sensibiliser ces questions permettra aux créateurs de prendre au sérieux les considérations éthiques et d'aider à bâtir un avenir responsable dirigé par l'IA.

La position éthique de Kits AI

Kits.AI a toujours reconnu l'importance d'équilibrer un outil aussi puissant et innovant avec la responsabilité éthique. Nous nous engageons à garantir que chaque individu qui fournit sa voix à la vaste Bibliothèque de Voix Kits AI ait le droit de contrôler et protéger sa voix, ainsi que d'être compensé équitablement pour chaque téléchargement. Nous croyons également en sourcing chaque ensemble de données de modèles vocaux de manière responsable et directe auprès de l'artiste, empêchant et interdisant tout grattage non autorisé du travail d'un autre artiste.

Kits.AI a toujours été ancré dans un endroit pour souligner comment la technologie vocale IA peut être utilisée pour le bien. Kits.AI a également inclus des outlines détaillés de restrictions d'utilisation dans contrats et les conditions de service, ainsi que les droits accordés à chaque utilisateur. La conviction que la technologie vocale IA devrait être un outil pour améliorer le processus créatif et ne pas le remplacer a toujours été au premier plan. Kits favorise un aspect communautaire qui encourage des opportunités de collaboration pour les créateurs de travailler directement avec des développeurs IA et d'autres créateurs, garantissant que l'aspect humain reste au cœur de tout. 

Veuillez visiter la page Web d'éthique de Kits.AI pour en savoir plus sur la manière dont l'IA éthique est au cœur de la mission de notre plateforme.

Conclusion : Innover avec intégrité

Le clonage vocal IA est une technologie puissante qui a révolutionné notre manière de créer et d'interagir avec la musique et le contenu, mais cela s'accompagne de beaucoup de responsabilités. De l'obtention du consentement éclairé à la protection de la propriété intellectuelle, en passant par la prévention de la diffusion de désinformation et l'adresse à son impact sur les musiciens et les acteurs de voix, le clonage vocal IA soulève plusieurs préoccupations éthiques qui doivent être soigneusement gérées.

Les créateurs, développeurs et entreprises doivent adopter la transparence, respecter les directives éthiques et prioriser l'éducation et la sensibilisation pour garantir que cette technologie est utilisée de manière responsable. Ce faisant, nous pouvons protéger les droits individuels, favoriser l'industrie créative et atténuer les risques associés au clonage vocal IA.

Il est fortement conseillé à quiconque s'approchant de l'utilisation de l'IA sous n'importe quelle forme de le faire avec attention et responsabilité. Il y aura toujours des personnes qui abusent de la technologie IA, tout comme de toute autre forme de technologie. Cela ne changera jamais. Mais l'IA doit se positionner dans un endroit ancré dans des principes éthiques pour être mieux acceptée par le public. Avec tant de facteurs qui jouent contre elle, il reste encore beaucoup de travail à faire.