Les récentes préoccupations autour de l'intelligence artificielle Grok, intégrée au réseau social X, ont provoqué des réactions fermes de l'Union européenne et du Royaume-Uni. Ces entités ont exprimé leur accueil prudent face à des mesures non spécifiées que X aurait mises en place pour limiter la création d'images à caractère sexuel représentant des femmes et des enfants. Selon Thomas Regnier, porte-parole de la Commission européenne, le respect des nouvelles mesures sera évalué de manière rigoureuse afin de garantir la protection des citoyens européens.
Le Premier ministre britannique, Keir Starmer, a lui aussi salué ces actions tout en insistant sur la nécessité de résultats concrets. « Il est essentiel que X réponde aux attentes de conformité avec la législation britannique », a-t-il déclaré au Parlement, agitant l'épée de Damoclès d'une enquête indépendante qui se poursuit.
Pour l’heure, ni X, fondé par Elon Musk, ni xAI, la société derrière Grok, n'ont commenté ces nouvelles mesures. Pourtant, des sources internes indiquent que certaines restrictions sur la génération d'images sexualisées auraient déjà été imposées à Grok en raison des critiques croissantes et des enquêtes en cours. Cependant, une interdiction totale n'a pas été annoncée, laissant planer des doutes sur l'efficacité de ces actions.
Depuis le début de ce scandale, qui a pris de l'ampleur ces dernières semaines, les images à caractère sexuel générées par Grok ont suscité une indignation mondiale. De nombreux utilisateurs ont eu recours à l'IA pour créer des montages hyper-réalistes, notamment en incitant Grok à modifier des images de femmes en les présentant sous un jour sexualisé, comme l'indique l'AFP.
Le gouvernement indonésien a réagi rapidement, suspendant l'utilisation de Grok dans le pays, tandis que l'Inde a demandé le retrait de milliers de contenus problématiques. En Californie, le procureur Rob Bonta a ouvert une enquête pour déterminer si xAI a enfreint la législation. Dans un communiqué, il a exprimé son indignation face à la facilité avec laquelle Grok permettait la création de contenus non consensuels. « Nous avons une tolérance zéro pour la diffusion d'images intimes non consenties », a-t-il martelé.
Selon une analyse réalisée par l'ONG AI Forensics, plus de la moitié des images produites par Grok représentent des personnes peu vêtues, dont 81 % sont des femmes, tandis que 2 % semblent mineures, soulevant des inquiétudes quant à la sécurité en ligne.
Dans un contexte où la pression s'intensifie, la réponse d’Elon Musk, qui a affirmé que toute personne générant du contenu illégal via Grok subirait les mêmes conséquences que ceux qui publient du contenu illégal, semble plus que jamais d'actualité. La vigilance des autorités va probablement s'accroître alors que le débat sur l'éthique de l'IA et la protection des individus en ligne se poursuit.
