En Chine, l'IA

Nov 02, 2023

Le modèle sur la photo attire immédiatement le regard. Mince, plantureuse et vêtue uniquement d'un soutien-gorge en dentelle noire et de bas, elle sourit de manière séduisante en posant pour la caméra sur une plage de sable. Sa peau claire, lisse comme de la porcelaine, brille sous le soleil.

Elle a l'air trop parfaite pour être réelle - et elle ne l'est pas. Regardez attentivement, et ses doigts la trahissent : l'ongle de son index est mal placé, tandis que son ongle du pouce se plie étrangement, comme une retouche ratée.

Des images générées par l'intelligence artificielle comme celle-ci ont pris d'assaut l'industrie de la mode chinoise ces derniers mois. Les robots IA aux yeux de biche et aux gros seins remplacent rapidement les modèles humains dans les magazines, les catalogues de magasins et les campagnes publicitaires en ligne. Ils hypnotisent également les utilisateurs sur les réseaux sociaux chinois, avec le hashtag #AIModel recevant des millions de vues.

Mais la tendance suscite déjà la polémique. Presque sans exception, les modèles d'IA se conforment à un certain idéal - hautement sexualisé - de la beauté féminine : celui qui valorise les tailles fines, les hanches larges et le décolleté visible. De nombreuses femmes chinoises disent qu'elles trouvent les images dérangeantes - et craignent que la mode de l'IA ne renforce les normes de beauté toxiques et irréalistes.

Les modèles d'IA ne sont pas uniques à la Chine, et le concept n'est pas non plus tout à fait nouveau. Levi's a récemment lancé une campagne mettant en vedette des images générées par l'IA, tandis qu'un modèle d'IA figurait sur la couverture de l'édition de Singapour de Vogue en mars. Mais la technologie s'est propagée beaucoup plus rapidement ici que dans la plupart des autres pays.

Le géant chinois de la technologie Alibaba a déployé un générateur de modèles de mode numérique gratuit sur ses plateformes de commerce électronique dès 2020. L'outil - nommé Taji - permet aux vendeurs de choisir parmi 100 modèles virtuels d'âges et d'ethnies variés. Ensuite, ils peuvent télécharger leurs photos de produits, et Taji générera une série d'images du modèle portant les vêtements sur les photos. À la fin de 2022, plus de 29 000 fournisseurs avaient utilisé Taji pour produire plus de 1,6 million d'images générées par l'IA, selon un rapport d'Alibaba.

Le chiffre est probablement beaucoup plus élevé aujourd'hui. Comme ailleurs, le lancement de ChatGPT en novembre dernier a suscité un regain d'intérêt pour la génération de contenu IA en Chine. Les illustrateurs chinois disent qu'ils reçoivent désormais régulièrement des demandes de la part de vendeurs de commerce électronique intéressés par la commande de shootings de mode générés par l'IA.

En mars, l'illustrateur Liu Jun a publié une vidéo sur la plateforme vidéo chinoise Bilibili expliquant comment créer des images de mode photoréalistes à l'aide du logiciel de conception basé sur l'IA Stable Diffusion. La vidéo est devenue virale, accumulant plus de 150 000 vues du jour au lendemain.

Au cours des semaines suivantes, plus de 30 entreprises ont contacté Liu pour poser des questions sur son service de modèle d'IA, a déclaré Liu à Sixth Tone. Un autre illustrateur, surnommé Pan, a déclaré que 15 magasins et usines de vêtements Taobao l'avaient approché, tandis que 600 autres vendeurs avaient rejoint son groupe de discussion sur le modèle d'IA sur l'application sociale WeChat.

Les entreprises de mode chinoises ont tendance à s'intéresser aux modèles d'IA pour la même raison : ils sont bon marché. Un modèle humain est généralement payé 1 400 à 1 600 yuans (200 à 225 dollars) de l'heure en Chine. En tenant compte d'autres dépenses telles que les maquilleurs, les photographes et la location d'un studio, un tournage de huit heures coûte généralement aux vendeurs environ 36 000 yuans.

Taji, en revanche, est libre. Même la mise en service d'illustrateurs professionnels de l'IA - qui peuvent produire des images beaucoup plus photoréalistes et personnalisées - est beaucoup moins chère. Pan a déclaré qu'il facturait 50 yuans par image, avec un minimum de 30 images par commande : un coût total de 1 500 yuans. De plus, les modèles d'IA ne se fatiguent pas, n'ont pas de conflits d'horaire et ne sont pas affectés par la météo.

Mais ces modèles d'IA se ressemblent souvent étrangement. Dans leur très grande majorité, ce sont soit des femmes blanches aux yeux bleus, aux cheveux blonds et aux longues jambes; ou des modèles asiatiques aux yeux écarquillés, aux gros seins et à la silhouette élancée. Les experts avertissent qu'il s'agit d'une caractéristique du contenu généré par l'IA : cela a tendance à amplifier les préjugés culturels qui existent déjà dans la société.

"Le" regard masculin "pour les modèles d'IA est définitivement un problème", a déclaré Jeff Ding, professeur adjoint à l'Université George Washington, dont les recherches portent sur l'industrie chinoise de l'IA. "Étant donné que les préjugés sexistes existants imprègnent les procédures, les algorithmes et la conception, la technologie de l'intelligence artificielle peut reproduire et reproduire l'inégalité entre les sexes."

Ce n'est pas un processus inévitable, cependant. Les illustrateurs peuvent générer n'importe quel type de modèle d'IA de leur choix. Tout ce qu'ils ont à faire est de collecter un ensemble de données d'images dans le style souhaité et de l'utiliser pour former un modèle d'apprentissage automatique. Le modèle générera ensuite de nouvelles images en reproduisant les modèles et les caractéristiques de l'ensemble de données.

"L'algorithme et l'ensemble de données sont les facteurs les plus importants lors de la génération d'images de modèles d'IA", a déclaré Liu. "Il n'y a pas de normes fixes pour déterminer à quoi ressemblent les modèles - leur apparence est généralement décidée par le public."

Le problème est que les illustrateurs – et leurs clients – choisissent principalement d'utiliser des ensembles de données remplis de photos de femmes sexuellement objectivées. Les illustrateurs travaillent sur le logiciel d'art AI Stable Diffusion, qui génère des images basées sur un modèle d'apprentissage automatique sélectionné. Beaucoup choisissent d'utiliser ChilloutMix, un modèle pré-formé sur la base de données d'IA Civitai, complété par le mot-clé "ressemblance à une poupée".

La sélection de ces options produira automatiquement des images de femmes asiatiques attrayantes de manière conventionnelle, généralement légèrement vêtues et montrant de grandes quantités de décolleté. C'est le même modèle que les entreprises utilisent pour créer des "petites amies IA".

Les experts en genre s'inquiètent des dommages sociaux que les modèles d'IA "ressemblant à des poupées" pourraient causer. La Chine connaît déjà un pic de cas de troubles alimentaires chez les filles et les jeunes femmes, alimenté par des "défis beauté" extrêmes popularisés sur les réseaux sociaux.

Stephanie Yingyi Wang, professeure adjointe qui enseigne le genre et la sexualité à l'Université Saint-Laurent, a déclaré que les modèles d'IA pourraient aggraver le problème. Les images «ressemblant à des poupées» établissent des normes de beauté encore plus irréalistes, ce qui déclenchera plus de honte corporelle et d'anxiété chez les jeunes femmes. Elle a exhorté les femmes à appeler les entreprises utilisant des modèles d'IA qui "exploitent les femmes".

"Pour éviter que la tendance ne s'aggrave, il est important que les femmes s'y opposent sur les réseaux sociaux", a déclaré Wang.

Cela commence déjà à se produire. Un récent article viral sur les modèles d'IA sur la plateforme de microblogging Weibo a suscité l'étonnement de nombreux utilisateurs, mais aussi des réactions négatives. Peu de temps après, Xu Ke, étudiant en master à la China Academy of Art, s'est rendu sur la plateforme sociale Xiaohongshu pour dénoncer le sexisme inhérent à de nombreux modèles d'IA.

« Les créateurs peuvent-ils être conscients que les images de modèles féminins doivent servir les femmes ? » Xu a écrit.

La publication a rapidement généré plus de 2 000 likes et un flot de commentaires de femmes exprimant leur dégoût envers les entreprises utilisant des modèles d'IA stéréotypés. "Ils feraient mieux de vendre ces vêtements aux hommes", disait un commentaire. "Je bloquerai les magasins qui utilisent ce genre d'image", a écrit un autre utilisateur.

De nombreuses femmes chinoises qui ont parlé avec Sixth Tone avaient des opinions similaires. "J'ai été immédiatement dégoûté par les images (dans le message viral de Weibo)", a déclaré Zheng Le, un homme de 30 ans originaire de la province du Jiangxi, dans l'est de la Chine. "Leur apparence et leurs formes corporelles sont tellement irréalistes et sexuelles."

"De mon point de vue, ce n'est pas une bonne publicité pour la ligne de lingerie - les images des modèles IA ressemblaient à des images de stars du porno", a déclaré Irene Pan, une jeune de 25 ans qui vit dans la ville orientale de Hangzhou.

Reste à savoir si cette critique convaincra les entreprises de mode chinoises de revoir leurs pratiques publicitaires. Jusqu'à présent, l'écosystème dans lequel les modèles d'IA sont commandés et créés a été dominé par les hommes, selon Xu.

"Les modèles d'IA dans ce message sur Weibo ont été créés par un homme, et ceux qui ont approuvé la technologie dans la section des commentaires étaient également des hommes", a déclaré Xu. "La discussion sur les modèles d'IA a été menée par des hommes."

Xu est optimiste que le changement viendra avec le temps. Les femmes sont le public cible de nombreuses campagnes publicitaires utilisant des modèles d'IA, et elle est convaincue que la plupart des consommatrices "ne sont pas du tout attirées par les modèles d'IA".

Lin, un mannequin de la province du Zhejiang (est de la Chine), a déclaré qu'elle était convaincue que l'IA ne remplacerait jamais totalement les modèles humains. "Les modèles d'IA sont sans émotion", a déclaré Lin, qui n'a donné que son nom de famille pour des raisons de confidentialité. "Les clientes achètent dans certains magasins Taobao parce qu'elles sont fans des modèles. S'ils remplacent les modèles humains par l'IA, les vendeurs de commerce électronique vont perdre une partie de leurs clients."

La sensibilisation croissante du public au sexisme dans l'IA, quant à elle, pourrait entraîner des changements fondamentaux à long terme dans l'industrie publicitaire chinoise, a déclaré Xu. Les entreprises pourraient être contraintes de produire des types de modèles d'IA plus diversifiés et moins problématiques.

"De plus en plus de femmes s'élèvent contre le problème du regard masculin", a-t-elle déclaré. "Peut-être qu'à l'avenir, davantage de femmes contribueront au contenu généré par l'IA et formeront des modèles d'apprentissage automatique dans une perspective féministe."

Éditeur : Dominic Morgan.

(Image d'en-tête : Visuels de targetFace/Alibaba et GarryKillian/VectorStock/VCG, réédités par Sixth Tone)