Les deepfakes audio sont une nouvelle facette bizarre de la culture des célébrités
Peut-être avez-vous toujours voulu avoir un DMC avec Billie Eilish. Ou demandez à David Lynch de vous donner un bulletin météo personnalisé. Eh bien, c’est votre chance.
Veritone, le créateur du premier système d’exploitation au monde pour l’intelligence artificielle, aiWare, a lancé cette semaine une nouvelle plate-forme appelée Marvel.ai qui permet aux créateurs de contenu et aux célébrités de créer des images audio profondes de leur voix.
L’idée est la suivante: les célébrités peuvent payer Veritone pour générer un faux profond de leur voix en utilisant l’intelligence artificielle et des algorithmes d’apprentissage automatique pour reproduire la voix de quelqu’un sur la base d’une série d’échantillons audio. Cela signifie qu’ils peuvent monétiser le contenu audio (pensez: apparitions à la radio, livres audio, voix off) sans jamais avoir à mettre les pieds dans un studio.
«Avec un contrôle total sur leur voix et son utilisation, tout influenceur, personnalité ou célébrité peut littéralement être à plusieurs endroits à la fois», a déclaré la société dans un communiqué de presse.
«Cela ouvrirait la porte à un nouveau niveau d’échelle qui n’était pas humainement possible auparavant, leur permettant d’augmenter le nombre de projets, de parrainages et de soutiens qu’ils peuvent faire au cours d’une année donnée.»
Selon Marvel.ai, les clients peuvent également choisir parmi un modèle de voix particulier pour le contenu généré automatiquement. Bien que l’on ne sache pas qui pourra utiliser quelle voix, nous ne pouvons que supposer que c’est une question de temps jusqu’à ce que nous puissions louer la voix de Timothée Chalamet, ou que Björk nous chante pour dormir avec des berceuses personnalisées.
Dans une interview avec le bord, Ryan Steelberg, président de Veritone, a déclaré que les clients peuvent soumettre des clips vocaux pour former les systèmes de Veritone et produire leur propre clone vocal sous licence.
«Quiconque détient le droit d’auteur sur ces voix, nous travaillerons avec eux pour les amener sur le marché», a-t-il déclaré. « Cela dépendra du détenteur des droits et de ce qu’il jugera approprié, mais hypothétiquement, oui, vous pourriez demander à Walter Cronkite de relire les nouvelles du soir. »
Bien sûr, l’idée que nous pourrions bientôt avoir désincarné, des approximations numériques de personnes vivantes pose de graves énigmes éthiques (AKA qui détient les droits légaux à une voix?).
Marvel.ai affirme qu’il peut même ressusciter la voix des morts en utilisant des enregistrements archivés pour entraîner ses systèmes d’IA, ce qui entraîne un tout autre ensemble de dilemmes éthiques. La technologie Deepfake ramène déjà les êtres chers d’entre les morts – est-ce que ce sera la prochaine étape logique?