Google relance son outil controversé de génération d’images par l’IA après une réaction négative

Google AI a décidé de réactiver l’outil de génération d’images humaines qui était auparavant désactivé en raison de sa production d’images historiquement inexactes.

Google a dévoilé mercredi dans un article de blog une mise à jour de son modèle Imagen 3. Le modèle a été lancé pour la première fois en mai et la dernière version commencera bientôt à produire des images d’individus pour les clients Gemini Advanced, Business et Enterprise.

« La société a annoncé que dans les prochains jours, elle commencera à introduire la création d’images d’individus pour ses utilisateurs Gemini Advanced, Business et Enterprise, initialement en anglais avec une version préliminaire. »

« Imagen 3 nous a permis de réaliser des avancées substantielles dans l’amélioration de l’expérience utilisateur lors de la création d’images d’individus. »

Google a rappelé aux utilisateurs que le générateur d’images IA n’est pas capable de produire des images photoréalistes d’individus reconnaissables, des représentations de mineurs ou des scènes graphiques et explicites impliquant de la violence ou de la sexualité, à compter d’août 2024.

Pexels, Google

La déclaration indique clairement que Google a l’intention d’empêcher la création d’images controversées. L’entreprise a précisé que sa restriction sur les « personnes identifiables » s’applique également à des requêtes de recherche spécifiques qui peuvent aboutir à des images de personnalités importantes.

En réponse aux plaintes concernant des images factuellement et historiquement inexactes, Google a désactivé la génération d’images humaines dans Gemini en février dernier. Les critiques portaient sur la représentation par Gemini de certains individus, notamment les pères fondateurs des États-Unis et des groupes tels que les soldats allemands de l’ère nazie, comme des personnes de couleur.

Certains utilisateurs ont également exprimé leur mécontentement quant au fait que Gemini ne génère pas d’images de personnes d’origines ethniques différentes. Par exemple, un utilisateur a tenté de produire une image d’une « femme scandinave aux cheveux blonds et aux yeux bleus », mais a reçu à la place une image d’une « femme indienne aux cheveux teints » de la part de Gemini.

Google avait alors présenté ses excuses pour ce qu’il avait qualifié d’« erreurs dans certaines reproductions d’images historiques » réalisées par Gemini. L’entreprise avait déclaré que les efforts déployés par l’outil d’IA pour produire un éventail diversifié d’images n’avaient pas répondu aux attentes.

Peu de temps après l’acquisition de X par Elon Musk, la mise à niveau de la génération d’images a été mise en œuvre. Cela s’ajoutait à une fonctionnalité similaire à Grok qui était incluse dans l’acquisition. De plus, Midjourney a rendu son générateur d’images accessible aux personnes sans compte Discord. Bien que Stable Diffusion soit toujours une option viable pour la génération d’images locales, elle nécessite un certain niveau de dévouement.