OpenAI, Anthropic et Google DeepMind unissent leurs forces pour superviser l'intelligence artificielle

Les acteurs dominants des technologies d'apprentissage automatisé engagent des pourparlers pour coordonner la surveillance de leurs créations. OpenAIQui et AnthropicQui préparent les statuts d'un organisme indépendant dont la vocation consiste à analyser les risques de dérive des modèles les plus perfectionnés. L'objectif déclaré réside dans l'établissement de grilles de tests techniques uniformisées, capables d'évaluer la dangerosité des calculs avant tout déploiement commercial. Les initiateurs de la structure cherchent à instaurer un espace d'évaluation préventive face aux menaces que fait peser une puissance de calcul accrue sur la sécurité collective et les infrastructures numériques.

Cette démarche d'autorégulation prend forme alors que des alertes se multiplient parmi les chercheurs et les états-majors des entreprises conceptrices. Dario AmodeiQui est intervenu pour réclamer une pause et un ralentissement concerté dans la course à la puissance technologique. Plusieurs ingénieurs redoutent des ruptures imprévisibles dans le comportement autonome des logiciels. Selon Bilal ChughtaiQuiex-employé de Google DeepMind, les systèmes pourraient prochainement « effectuer des actions dangereuses qui pourraient entraîner une perte définitive de contrôle [des humains] ou la fin de l'humanité ». Ces avertissements incitent les promoteurs de l'entité à devancer les périls par des audits réguliers.

La création de cet organe suscite de vives résistances de la part de plusieurs sociétés rivales, qui y perçoivent une manœuvre protectionniste. Aidan GomezQuipatron du Canadien Cohere critique directement cette initiative : « Je ne pense pas qu'un petit groupe de sociétés d'IA devrait définir les règles pour tout le monde ». Pour les compétiteurs et les partisans du code ouvert, une instance privée dominée par les géants actuels risque d'édicter des exigences techniques inaccessibles pour les jeunes structures. Cette crainte de voir s'ériger une barrière concurrentielle sous couvert de sécurité alimente une méfiance persistante chez les développeurs indépendants.

L'absence d'onction étatique fragilise considérablement la portée opérationnelle de ce futur régulateur privé. L'administration TrumpQui a mis en place son propre processus d'évaluation des nouveaux modèles, dessinant un partage complexe entre initiatives industrielles et prérogatives publiques. Pour fonctionner efficacement, une structure d'autorégulation requiert l'approbation formelle des autorités fédérales. Andrew TuchQuiprofesseur de droit à l’université de Washington à St-Louis rappelle à ce propos un parallèle historique : « La FINRA peut concevoir ses propres règles, mais la SEC doit les approuver ». Sans reconnaissance juridique, l'entité commune ne disposerait d'aucun pouvoir de sanction exécutoire.

La classe politique américaine affiche une réticence marquée à déléguer de tels arbitrages au secteur technologique. Au Congrès, des voix contestent la portée de simples chartes privées face aux défis posés par l'autonomie des machines. Bernie SandersQuisénateur démocrate refuse catégoriquement ce modèle d'encadrement volontaire, affirmant : « Quand l'avenir de l'humanité est en jeu, nous avons besoin de règles internationales contraignantes, pas de standards de l'industrie sur la base du volontariat ». L'avenir de cet organe de supervision dépend désormais de sa capacité à convaincre les législateurs d'intégrer ses travaux dans le futur droit fédéral.