Une victime de pédocriminalité attaque xAI en justice pour l'entraînement de Grok

Une action en justice a été engagée devant un tribunal fédéral situé à San Jose contre xAI, l'entreprise fondée par Elon Musk. La plaignante, survivante de violences sexuelles subies durant son enfance, affirme que la société a directement exploité des fichiers pédocriminels pour concevoir et perfectionner son modèle d'intelligence artificielle nommé Grok. Selon les éléments rapportés par Le Figaro, cette démarche judiciaire cible à la fois la génération de contenus préjudiciables et l'absorption préalable de ces données illicites par l'infrastructure technologique.

La procédure prend la forme d'un recours collectif visant également l'entité SpaceXAI. D'après les informations diffusées par Next, le dossier met en cause la constitution des banques de données massives requises pour l'apprentissage des algorithmes génératifs. Les pièces de l'accusation soutiennent que les filtres de sécurité n'ont pas empêché la collecte ni le traitement systématique de matériels visuels hautement répréhensibles. Cette situation constitue un tournant procédural, car la responsabilité de xAI est désormais engagée sur la phase même de collecte des données brutes, au-delà des seuls résultats affichés à l'écran.

Dans leur argumentation transmise aux magistrats, Les avocats de la victime-survivante expliquent les difficultés techniques inhérentes à la purge de ces systèmes : « étant donné qu’il est techniquement difficile d’éliminer totalement l’influence d’un exemple d’entraînement sur un modèle déjà entraîné, et que xAI n’a pas publiquement affirmé y être parvenu, tout contenu pédocriminel intégré à l’entraînement avant son retrait a probablement continué à » produire des effets au sein des paramètres de Grok. Cette démonstration juridique entend prouver la persistance des violations malgré d'éventuels correctifs postérieurs.

Comme le détaillent Franceinfo ainsi que Les Échos, les critiques adressées aux concepteurs de systèmes automatisés se sont intensifiées après la découverte de contenus abusifs générés sur commande. Les débats ont notamment été alimentés par des signalements concernant trois adolescentes du Tennessee, dont l'image avait été détournée par des utilisateurs d'outils similaires. AFP a rappelé que les régulateurs internationaux scrutent de plus en plus sévèrement les garanties fournies par les développeurs face aux risques de prolifération d'images d'exploitation sexuelle.

L'action déposée devant la juridiction californienne réclame des dommages et intérêts financiers ainsi qu'une refonte complète des protocoles de conformité appliqués par xAI. Les plaignants exigent une vérification indépendante des jeux de données d'apprentissage afin de garantir le retrait effectif de chaque élément litigieux. Face aux accusations portées par La plaignante, la direction de l'entreprise technologique n'a pas communiqué de réponse officielle immédiate concernant le maintien ou la suppression des segments dénoncés au sein du réseau neuronal.