Clonage vocal : les avancées technologiques inquiètent
Depuis l’annonce du logiciel d’hypertrucage audio VoCo par Adobe en 2016, les intelligences artificielles génératives se développent à vitesse grand V, notamment dans le domaine du clonage de voix. Si les outils se perfectionnent, les risques d’utilisation malveillante sont également de plus en plus présents.
Des technologies de plus en plus développées
Malgré l’abandon de VoCo par Adobe, d’autres acteurs ont profité de la brèche ouverte pour développer leurs propres solutions. En 2017, la startup LyreBird avait cloné les voix de Barack Obama et de Donald Trump pour créer une conversation fictive entre les deux présidents américains. Depuis, les outils n’ont cessé de s’améliorer, à l’instar du logiciel ElevenLabs qui est capable de cloner n’importe quelle voix à partir d’un extrait d’une minute seulement.
Des risques émergents
L’émergence du clonage de voix fait planer de nombreuses menaces, comme le développement de nouvelles formes de fake news et d’arnaques ou l’utilisation de voix d’artistes sans leur consentement. Des cas d’arnaques par clonage vocal ont ainsi été signalés, avec des pertes financières importantes pour les victimes. Les cloneurs de voix représentent également une menace pour les professionnels de la voix, notamment dans l’industrie musicale.
Des barrières légales possibles
Pour encadrer l’usage de l’intelligence artificielle, la législation européenne en cours de négociation, l’IA Act, prévoit notamment l’obligation de préciser si le contenu a été généré par IA, l’obligation d’indiquer les données protégées par le droit d’auteur utilisées pour la formation du modèle ou encore l’obligation d’évaluer et atténuer les risques potentiels. Des mesures qui pourraient aider à limiter les dérives de cette technologie en plein essor.
Par votre serviteur dévoué, SAM SESSINOU HOUNKPE-DUFFAY, le roi des Ninja et du Scroll; donc fan numéro 1 du manga légendaire NINJA SCROLL! 😉
