Une IA capable de doubler des vidéos en indien en corrigeant la synchro labiale

Les gens en Inde regardent beaucoup de vidéos sur Internet. Selon un rapport du Wall Street Journal, les Indiens dépensent en moyenne plus de 8,5 Go de données mobiles, et la plupart en vidéo. 

L’année dernière, YouTube a déclaré que plus de 95% de la consommation de contenu se faisait dans les langues régionales. Alors naturellement, il y a beaucoup d’appétit pour les vidéos en langue vernaculaire, mais tous les créateurs ne connaissent pas toutes les langues indiennes.

Une solution est le doublage. La semaine dernière, juste après que Parasite a remporté l’Oscar, Mother Jones a affirmé que le doublage était supérieur aux sous-titres traduits. Mais laissez-moi vous dire que ça craint. Il y a beaucoup de films en anglais doublés en hindi ou la synchronisation labiale est souvent mauvaise et le doublage semble assez peu naturel.

Aujourd’hui, des chercheurs de l’Institut international des technologies de l’information de la ville méridionale de Hyderabad, en Inde, ont développé un nouveau modèle d’IA qui traduit et synchronise les lèvres d’une vidéo d’une langue à une autre avec une grande précision.

L’équipe a déclaré que nous disposions déjà de la technologie pour obtenir la traduction textuelle ou vocale d’une vidéo. Cependant, la traduction visuelle comme le mouvement des lèvres est perdue lors du doublage. 

Pour résoudre ce problème, les chercheurs indiens ont développé un nouveau Réseau antagoniste génératif (GAN) appelé LipGAN. Bien qu’il puisse correspondre aux mouvements des lèvres du texte traduit dans une vidéo originale, il peut également corriger les mouvements des lèvres dans un film doublé.

Pour traduire des vidéos, le modèle transcrit la parole dans la vidéo à l’aide de la reconnaissance vocale. Ensuite, il utilise un modèle spécialisé formé aux langues indiennes pour traduire le texte, par exemple de l’anglais vers l’hindi. 

Ensuite, le modèle de reconnaissance vocale le convertit en voix. La traduction « speech-to-speech » couplée à LipGAN constitue le modèle complet. Les chercheurs ont noté que leur modèle de traduction était plus précis que Google Translate.

CV Jawahar, doyen, Recherche et développement, IIIT-H, a déclaré que cette technologie aidera à créer plus de contenu dans les langues régionales:

L’équipe a ajouté que le modèle avait toujours du mal à bouger ou à faire face à plusieurs visages dans les vidéos. En plus de résoudre ces problèmes, l’équipe souhaite travailler sur l’amélioration des expressions du visage après la traduction.

Nous avons vu beaucoup d’efforts de la part des GANs pour recréer les mouvements du visage ou du corps en utilisant une seule photo. Mais la plupart de ces recherches sont en une seule langue, l’anglais. 

Il a fallu quelques itérations pour que ces modèles d’IA deviennent assez convaincants à l’œil humain. Ainsi, bien que le modèle ci-dessus ait ses inconvénients, il est l’un des rares GAN à travailler sur un modèle multilingue. Il peut certainement s’améliorer avec le temps avec plus de données.

L’année dernière, les deepfakes étaient dans l’actualité pour son utilisation négative. Mais, l’IA de modification vidéo à des fins éducatives ou de divertissement est un cas d’utilisation assez important de cette technologie. Ce modèle en est un parfait exemple.

Vous pouvez lire l’article complet ici.