L’arrêt des essais gratuits de Midjourney serait dû à l’afflux massif de nouveaux utilisateurs et non pas à la série d’images devenues virales ces derniers temps.

 Le générateur d’images par IA Midjourney a suspendu la version Beta gratuite de son service, en raison d’un afflux record de nouveaux utilisateurs. David Holz, le PDG et fondateur de Midjourney, a annoncé le changement la semaine dernière citant initialement « une trop forte demande et un abus d’essai » dans un message sur Discord. Un peu plus tard, David Holz a précisé que l’arrêt du service était dû à un nombre massif d’utilisateurs créant des comptes « jetables » pour obtenir des images gratuites et une pénurie temporaire de GPU, le tout entraînant un ralentissement du service pour les utilisateurs payants.

Midjourney V5 : des deepfakes devenus rapidement virales

Étant donné que le patron de Midjourney a d’abord parlé d’« abus », les médias et les internautes ont d’abord pensé que l’arrêt de la version Beta gratuite était lié à une série de deepfakes devenues virales récemment. Néanmoins, David Holz a démenti que ces deepfakes étaient la cause de la suspension de la version gratuite de Midjourney, précisant que la version 5 de Midjourney (qui aurait servi à créer ces images réalistes) n’était pas accessible avec la Beta.

Le modèle IA Midjourney V5 a grandement amélioré la qualité des images générées représentant des personnes. Par exemple, les mains et les doigts difformes qui étaient auparavant une caractéristique des images générées par l’IA sont désormais plus réalistes. La lumière et les tissus ont également un rendu plus naturel. De plus, le système est capable de générer des images de nombreuses personnalités publiques.

Ces améliorations ont permis à un certain nombre d’images générées avec le modèle Midjourney V5 de devenir virales ces derniers jours. Vous avez sûrement aperçu ces images fabriquées sur la toile comme Donald Trump arrêté par la police, le pape François à la mode avec une doudoune blanche ou encore Emmanuel Macron devant un tas d’ordures en flamme dans les rues de Paris.

Une modération compliquée et des restrictions facilement contournables

La réponse de Midjourney face à l’escalade de ces deepfakes, « politiquement sensible » ou non, a été jusqu’à présent partielle, sans révision significative de sa politique de modération. Les restrictions de contenu du service sont plus permissives que certains concurrents, comme DALL-E d’OpenAI, mais plus restrictives que d’autres comme Stable Diffusion.

Midjourney tient à jour une liste de mots clés interdits « liés à des sujets sensibles dans différents pays, sur la base de plaintes d’utilisateurs de ces pays », mais la liste complète n’est pas accessible. La société a récemment élargi cette liste alors que les deepfakes devenaient virales. Néanmoins, il est assez facile de contourner de telles restrictions en reformulant l’invite (prompt) avec des mots clés alternatifs.

Selon David Holz : « La modération est compliquée et nous allons bientôt proposer des systèmes améliorés. Nous prenons en compte beaucoup de commentaires et d’idées d’experts et de la communauté et nous essayons vraiment d’être rationnels ».

À l’heure où nous écrivons ces lignes, Midjourney ne permet toujours pas aux utilisateurs gratuits de générer des images, mais selon le patron du service cela pourrait changer à l’avenir : « Nous essayons toujours de trouver une solution pour ramener la Beta gratuite. Nous avons essayé d’exiger un courriel actif, mais cela n’a pas suffi, alors nous retournons à la planche à dessin ».