Elon Musk a récemment imposé des restrictions strictes sur Grok, l’intelligence artificielle développée par sa société xAI, pour empêcher la création de deepfakes à caractère sexuel. Cette décision fait suite à une vague de controverses où des utilisateurs ont exploité l’outil de génération d’images pour produire du contenu non consensuel, y compris des représentations explicites impliquant des mineurs ou des célébrités.
Selon des annonces officielles sur la plateforme X, ces mesures visent à aligner l’IA sur les normes légales et éthiques, tout en répondant à des pressions internationales. Des pays comme la Malaisie et l’Indonésie ont même bloqué l’accès à Grok après des plaintes sur des images sexualisées.
Les changements implémentés incluent des barrières technologiques qui bloquent les requêtes visant à “déshabiller numériquement” des personnes réelles ou à les placer dans des contextes révélateurs, comme des bikinis ou de la lingerie. L’accès à ces fonctionnalités est désormais réservé aux abonnés payants et vérifiés, facilitant la traçabilité en cas d’abus. De plus, un géoblocage a été mis en place dans les régions où de telles pratiques sont illégales, afin d’éviter les violations locales. Elon Musk a affirmé que Grok n’est pas conçu pour enfreindre les lois et que les problèmes sont résolus rapidement, mais des experts notent que des prompts indirects pourraient encore contourner ces restrictions.
Cette affaire a suscité des enquêtes officielles, notamment en Californie, où le procureur général examine si les deepfakes générés par Grok violent les lois de l’État. Des poursuites judiciaires ont également émergé, comme celle intentée par Ashley St. Clair, mère d’un enfant de Musk, qui accuse xAI de négligence pour avoir permis la création d’images explicites d’elle sans consentement. Ces développements mettent en lumière les défis éthiques des IA, avec des critiques pointant un délai excessif dans la mise en place de ces restrictions, malgré des avertissements antérieurs sur des deepfakes de célébrités.
Au-delà de Grok, ce scandale illustre les risques plus larges des outils d’IA générative, capables de produire du contenu violent ou sexualisé bien au-delà des images statiques, incluant des vidéos graphiques. Des plateformes comme X ont été inondées de tels images et vidéos, amplifiant les appels à une régulation plus stricte. Bien que Musk ait cédé à la pression, y compris celle du Premier ministre britannique, des experts en éthique de l’IA estiment que cela n’est que la partie émergée de l’iceberg, appelant à des normes globales pour prévenir les abus futurs.
En fin de compte, ces restrictions marquent un tournant pour xAI, qui cherche à équilibrer innovation et responsabilité. Reste à voir si elles suffiront à restaurer la confiance, dans un paysage où les deepfakes menacent la vie privée et la société.
