Ami ou Faux : L'éthique de l'entraînement vocal de l'IA et pourquoi cela compte

« L'imitation est la forme la plus sincère de flatterie. »

C'est ce qu'on dit, n'est-ce pas ? Bien sûr, cela dépend du contexte de la situation. Tout au long de l'histoire, les chanteurs ont eu des voix similaires, que ce soit intentionnel ou non. Josh Kiszka de Greta Van Fleet ressemble à Robert Plant de Led Zeppelin, et nie de façon peu habile s'inspirer du groupe. La voix d'Action Bronson ressemble à celle de Ghostface Killah. Justin Warfield de She Wants Revenge ressemble à Paul Banks d'Interpol. À certaines époques, Liam Gallagher d'Oasis a été comparé à John Lennon. La liste est longue. Le créateur de contenu musical JT Jasinski (@jt_jasinski sur Instagram) propose même une série de contenus où il « gâche des chansons simplement parce qu'elles ressemblent à quelqu'un d'autre ». Ces phénomènes ne se limitent pas seulement aux chanteurs et à la musique.

Des talents dont la voix ressemble exactement à celle de l'artiste qu'ils reprennent dans The Voice | Top 10

De nombreux humoristes et comédiens de doublage possèdent de remarquables compétences d'imitation lorsqu'il s'agit de reproduire la voix d'une autre personne. Dans la musique et la performance, imiter ou s'inspirer de quelqu'un fait souvent partie du processus de création. L'influence vient naturellement et est inévitable.

Et si une voix qui vous est si familière devenait indiscernable de la technologie ? Vous écoutez votre artiste préféré chanter une nouvelle chanson et c'est bien sa voix — le ton, le timbre, le rythme, toutes ses inflexions uniques, tout y est, mais ce n'est pas lui. Et s'il s'agissait d'une voix synthétique créée par IA ? Regardez le fiasco de la chanson IA de Drake et The Weeknd qui a enflammé Internet en 2023. Le titre intitulé « Heart on My Sleeve » est apparu sur les plateformes de streaming avec les deux artistes, à la grande surprise des fans. La surprise encore plus grande était que le morceau avait été entièrement généré par IA, ce qui a déclenché des réactions hostiles contre l'utilisation de l'IA dans la musique.

Le clonage vocal par IA n'était pas un concept nouveau à ce moment-là. Les considérations éthiques et juridiques concernant l'utilisation de clones vocaux par IA sans autorisation ont soulevé des questions sur la propriété de la voix d'un artiste et les conséquences potentielles de son utilisation non autorisée. La sortie de la chanson générée par IA avec Drake et The Weeknd a simplement révélé à quel point la technologie avait progressé pour imiter les voix d'artistes populaires. Ces questions couvaient probablement sous la surface depuis des années. Cela souligne l'importance des mesures de sécurité pour garantir que seuls les utilisateurs autorisés aient accès aux modèles de voix sensibles.

Qu'est-ce que le clonage vocal par IA ?

Le clonage vocal par IA utilise une technologie d'IA puissante et en évolution rapide ainsi que des algorithmes d'apprentissage automatique pour créer une réplique numérique synthétique d'une voix humaine. Essentiellement, un ensemble de données de voix chantées et parlées enregistrées par des humains est importé, puis analysé par la technologie pour créer le clone de voix par IA. Cette technologie peut presque capturer parfaitement les caractéristiques uniques de la voix humaine, notamment la hauteur, le ton et le timbre.

Clones vocaux d'artistes : comment faire avec l'IA - À UTILISER DE MANIÈRE RESPONSABLE !

Les clones vocaux par IA peuvent être utilisés de nombreuses manières par les créateurs de tous horizons. Qu'il s'agisse de les intégrer dans des projets de production musicale, de réaliser des voix off de qualité professionnelle ou d'accélérer le doublage et l'amélioration des voix au cinéma et à la télévision, les clones vocaux par IA sont devenus un moyen populaire d'enrichir le processus de création. Mais un grand pouvoir implique de grandes responsabilités — merci Oncle Ben — car le risque de mauvaise utilisation est omniprésent, et il est essentiel pour les créateurs de comprendre les implications éthiques du prêt de leur voix et de l'application de la technologie vocale par IA dans leur processus créatif.

Dans cet article, nous explorerons les questions éthiques essentielles entourant le clonage vocal par IA et verrons comment les créateurs responsables peuvent relever ces défis pour utiliser cette technologie révolutionnaire de manière responsable.

Préoccupations éthiques liées au clonage vocal par IA

L'un des problèmes éthiques les plus fondamentaux liés au clonage vocal par IA est le consentement. La voix est l'un des attributs les plus véritablement uniques d'un individu. Les chanteurs et les comédiens de doublage s'appuient fortement sur leur propre voix pour exceller dans leur profession et leur art. Lorsqu'une voix est clonée sans permission ou sans consentement éclairé, elle de grandes chances d'être utilisée et exploitée de manière nuisible. Cela peut devenir un dilemme éthique ou juridique.

Consentement et confidentialité des données vocales

Le consentement éclairé est crucial lors du recours au modèle de voix IA de quelqu'un. Les créateurs doivent s'assurer que le propriétaire des voix utilisées comprend exactement comment elles seront exploitées. Cela peut signifier informer les propriétaires de voix IA de l'endroit où leur voix apparaîtra, pendant combien de temps et dans quel contexte. Obtenir ce consentement et cette autorisation implique de conclure des accords clairs sur les usages. En même temps, les propriétaires de voix doivent être informés des risques potentiels et des applications de leurs modèles de voix IA dès leur création.

Des enregistrements vocaux de haute qualité sont essentiels pour un clonage vocal efficace. De plus, des mesures robustes de confidentialité et de sécurité des données doivent être en place pour protéger les enregistrements vocaux sensibles et les interactions des utilisateurs.

La confidentialité des données est tout aussi importante dans ce domaine. Les modèles de voix IA analysent des données vocales qui sont classées comme données biométriques. Les données biométriques sont hautement sensibles et uniques à chacun. Il semble presque contre-intuitif d'autoriser le clonage de sa propre voix pour la mettre à disposition des autres, c'est pourquoi il est impératif de veiller à ce que des mesures de protection soient mises en place. Si elles ne sont pas soigneusement protégées, ces données peuvent être détournées à des fins d'usurpation d'identité, d'imitation et d'autres activités malveillantes.

Désinformation et Deepfakes 

En 2020, l'essor de la technologie deepfake dans les médias visuels a stupéfié le grand public. L'utilisation consistait en grande partie, et sans surprise, à superposer de manière terriblement précise le visage de quelqu'un sur des contenus inappropriés, déclenchant ainsi de vastes débats sur l'exploitation négative de cette technologie. Bien que les deepfakes visuels puissent être difficiles à repérer pour beaucoup, ils sont bien plus simples à identifier que les enregistrements audio de voix par IA.

Bill Hader imite Arnold Schwarzenegger [DeepFake]

Les modèles d'apprentissage profond analysent et répliquent des motifs vocaux spécifiques, permettant la création de voix synthétiques personnalisées qui imitent fidèlement le ton et la hauteur uniques d'une personne.

Le clonage de voix par IA rend ces situations beaucoup plus convaincantes. Le processus de création et d'utilisation de ces outils est si simple qu'il pourrait se retourner contre nous. Une voix synthétique peut être utilisée pour usurper l'identité de politiciens, de célébrités, de toute autre personne d'influence, ou même d'un proche. Utilisé de cette façon, le résultat peut être suffisamment convaincant pour propager de fausses informations, manipuler les opinions politiques et ternir la réputation de quelqu'un.

Par exemple, l'acteur Jonathan Majors a rencontré des problèmes juridiques dans sa vie personnelle concernant des faits de violence domestique. Récemment, des enregistrements audio ont fait surface contenant des aveux sur ces méfaits. Ce qui est intéressant, c'est que de nombreuses personnes sur les réseaux sociaux ont pris la défense de l'acteur en affirmant que les enregistrements étaient le produit d'un clonage de voix par IA. Que cela soit vrai ou faux, le fait même que cette hypothèse soit envisagée montre à quel point un mauvais usage de cette technologie est tout à fait possible.

Ces dernières années, la technologie vocale par IA s'est retrouvée au cœur des controverses concernant les escroqueries téléphoniques. Généralement, l'arnaque consiste pour un individu à recevoir un appel d'un ami ou d'un membre de sa famille lui demandant de l'argent ou des informations spécifiques, souvent dans une situation compromise ou désespérée. Il est important de se méfier de ces appels téléphoniques. Une façon de lutter contre cela est d'établir un mot d'ordre avec vos proches, au cas où une telle situation se produirait.

Il est essentiel que les créateurs, les développeurs et les gouvernements établissent des garde-fous pour prévenir de tels abus. Par exemple, une utilisation responsable de l'IA devrait inclure le tatouage numérique (watermarking) ou la création d'identifiants uniques pour les voix synthétiques afin de les différencier des vraies voix.

Propriété intellectuelle (PI)

À mesure que la technologie de clonage vocal par IA progresse, les questions relatives à la propriété intellectuelle (PI) se font de plus en plus pressantes. Est-il évident de savoir qui détient les droits sur ce qui est techniquement une voix synthétique ? Certes, la voix a été fournie par une personne réelle. Mais une fois cette voix mise à la disposition des autres, que se passe-t-il ? Les droits appartiennent-ils à l'individu ou à l'entreprise qui a développé la technologie pour créer le modèle ?

Cette ambiguïté rend difficile pour les créateurs la protection de leur voix et la gestion de leurs droits de PI, en particulier s'ils n'ont pas consenti à l'utilisation de leur voix. Par exemple, si un comédien de doublage ou un chanteur fournit sa voix pour l'entraînement d'une IA, il se peut qu'il n'ait aucun contrôle sur la manière dont elle sera exploitée.

Des garanties juridiques doivent être mises en place à cet égard. En raison de l'évolution rapide de la technologie vocale par IA, la législation a du mal à suivre et la manière de la réguler suscite de nombreux débats. Les lois doivent protéger les droits des individus sur leur voix et garantir qu'ils soient rémunérés pour toute utilisation commerciale. Seul l'avenir nous dira quelles lois seront adoptées et comment elles seront structurées. En attendant, les entreprises et les créateurs doivent agir de la manière la plus éthique possible, notamment en offrant des compensations équitables aux personnes derrière la voix, en rédigeant des contrats justes lors de l'acquisition de leurs jeux de données vocales, et en veillant dès le départ à ce que les modèles de voix proviennent de sources éthiques.

Impact sur l'industrie du doublage

À mesure que la technologie de l'IA s'améliore, les entreprises peuvent choisir d'utiliser des voix synthétiques plutôt que de recruter des talents humains. Ce changement pourrait entraîner des pertes d'emplois pour les comédiens de doublage professionnels, dont le travail repose sur leurs compétences vocales uniques. Bien que les voix générées par IA offrent des économies de coûts et des temps de production plus rapides, elles sont également largement perçues comme dévaluant l'art et l'expertise que les comédiens de doublage apportent à leur métier.

Les systèmes vocaux par IA peuvent fournir des réponses imitant les voix humaines, améliorant ainsi l'expérience client en permettant un traitement rapide et précis des demandes.

Des comédiens de doublage poursuivent une entreprise technologique pour avoir « volé leur voix » | BBC News

Parallèlement, le clonage vocal par IA pourrait ouvrir de nouvelles opportunités pour les comédiens de doublage. Ils pourraient collaborer avec des développeurs d'IA, prêter leur voix à des modèles d'entraînement ou offrir leur expertise en synthèse vocale, garantissant ainsi que leur créativité et leur talent restent au cœur du processus. Toutefois, un équilibre doit être trouvé pour s'assurer que l'IA ne remplace pas les comédiens de doublage humains, mais complète leur travail. L'IA ne devrait être considérée que comme un outil destiné à enrichir le processus créatif humain existant.

Promouvoir une IA responsable

1. Transparence

La transparence est essentielle lors de l'utilisation du clonage vocal par IA. Les musiciens, les créateurs de contenu, les entreprises et les comédiens de doublage doivent être transparents lorsqu'ils utilisent de fausses voix dans leur travail. Que ce soit dans la musique, la publicité, les livres audio, les podcasts ou d'autres médias, le public a le droit de savoir s'il entend une personne réelle ou une reproduction synthétique.

Pensez à la manière dont le label Parental Advisory sur les pochettes d'albums, ou la simple lettre « E » pour explicite sur les plateformes de streaming ont gagné en importance. Indiquer qu'un contenu a eu recours à la technologie de l'IA serait un pas dans la bonne direction. Les plateformes de réseaux sociaux ont déjà commencé à inclure ces labels sur les contenus générés par IA, même si une grande partie passe encore entre les mailles du filet.  

En étant transparents, les créateurs renforcent non seulement la confiance avec leur public, mais favorisent également un sentiment de responsabilité. Si une voix générée par IA est utilisée de manière trompeuse ou malveillante, les créateurs doivent être tenus responsables de la façon dont la technologie est appliquée.

2. Lignes directrices éthiques

Le besoin de directives éthiques dans le secteur de l'IA est urgent. Ces lignes directrices devraient aider à définir les limites de l'utilisation du clonage vocal par IA, en veillant à ce qu'il soit employé de manière responsable et respectueuse.

Des directives éthiques pourraient couvrir plusieurs domaines, notamment l'obtention d'un consentement éclairé, la sécurisation des données vocales, la prévention des abus (comme dans le cas des deepfakes ou de la diffusion d'informations sensibles et politiques mensongères) et la garantie d'une rémunération équitable pour les personnes dont la voix est exploitée. En établissant des normes à l'échelle de l'industrie, les créateurs et les entreprises peuvent se prémunir contre les utilisations non éthiques et encourager l'innovation responsable dans le domaine de la technologie vocale par IA.

Certaines organisations remarquables incitent déjà à définir des principes et des normes éthiques et responsables dans le secteur de l'IA. Parmi celles à suivre de près, citons Sound Ethics, Responsible AI Institute, et l'International Association for Safe and Ethical AI (IASEAI).

3. Éducation et sensibilisation

L'un des moyens les plus efficaces de garantir une utilisation responsable de l'IA passe par l'éducation. Les créateurs de tous horizons, les entreprises, les développeurs et le grand public doivent être informés des implications éthiques de cette technologie et de la manière de surmonter les pièges potentiels qui l'accompagnent. En proposant des formations et des ressources, nous pouvons donner aux gens les connaissances nécessaires pour utiliser l'IA de manière responsable.

Les programmes éducatifs devraient aborder des sujets tels que l'importance du consentement éclairé, la confidentialité des données et les risques d'abus. Lorsque les gens sont conscients des risques et des avantages, ils peuvent prendre des décisions éclairées et éviter des dommages involontaires. Sensibiliser le public à ces questions permettra aux créateurs de prendre au sérieux les considérations éthiques et de contribuer à construire un avenir responsable guidé par l'IA.

La position éthique de Kits AI

Kits.AI a toujours reconnu l'importance de concilier un outil aussi puissant et innovant avec une responsabilité éthique. Nous nous engageons à veiller à ce que chaque personne qui fournit sa voix à la vaste bibliothèque vocale de Kits AI ait le droit de contrôler et de protéger sa voix, ainsi que d'être rémunérée équitablement pour chaque téléchargement. Nous croyons également en l'approvisionnement responsable de chaque jeu de données de modèle vocal, directement auprès de l'artiste, prévenant et interdisant tout piratage non autorisé du travail d'un autre artiste.

Kits.AI s'est toujours efforcé de mettre en avant la façon dont la technologie vocale par IA peut être utilisée à bon escient. Kits.AI a également inclus des descriptions détaillées des restrictions d'utilisation dans les contrats et les conditions d'utilisation, ainsi que les droits accordés à chaque utilisateur. L'idée selon laquelle la technologie vocale par IA doit être un outil pour enrichir le processus créatif et non pour le remplacer a toujours été au premier plan. Kits favorise un esprit communautaire qui encourage les opportunités de collaboration pour que les créateurs travaillent directement avec des développeurs d'IA et d'autres créateurs, garantissant ainsi que la dimension humaine reste au cœur de l'ensemble. 

N'hésitez pas à consulter la page éthique de Kits.AI pour en savoir plus sur la façon dont l'IA éthique est au cœur de la mission de notre plateforme.

Conclusion : Innover avec intégrité

Le clonage vocal par IA est une technologie puissante qui a révolutionné notre façon de créer et d'interagir avec la musique et les contenus, mais cela implique de grandes responsabilités. De l'obtention d'un consentement éclairé et de la protection de la propriété intellectuelle à la prévention de la désinformation et à la gestion de son impact sur les musiciens et les comédiens de doublage, le clonage de voix par IA soulève de multiples préoccupations éthiques qui doivent être gérées avec soin.

Les créateurs, les développeurs et les entreprises doivent faire preuve de transparence, respecter les principes éthiques et donner la priorité à l'éducation et à la sensibilisation pour garantir l'utilisation responsable de cette technologie. Ce faisant, nous pourrons protéger les droits individuels, encourager les industries de création et atténuer les risques associés au clonage de voix par IA.

Il est vivement recommandé à toute personne envisageant l'utilisation de l'IA, sous quelque forme que ce soit, de le faire avec conscience et responsabilité. Il y aura toujours des personnes pour faire un mauvais usage de la technologie de l'IA, tout comme pour n'importe quelle autre technologie. Cela ne changera jamais. Mais l'IA doit s'ancrer dans des principes éthiques pour être mieux acceptée par le public. Avec tant de facteurs contraires, il reste encore beaucoup de travail à accomplir.