Les difficultés à contrôler les IA sont déjà tangibles
Les incidents récents montrent une difficulté déjà tangible à empêcher les agents de contourner les limites imposées, illustrant les difficultés croissantes à contrôler les IA de pointe.
- Numerama Analyse
Le contournement des limites par les agents est tangible, sans démontrer une extinction à venir.
« Ces événements ne démontrent évidemment pas qu’une extinction humaine se prépare. Ils documentent en revanche une difficulté déjà tangible : empêcher des agents d’atteindre leur objectif en contournant les limites qui leur sont imposées. »
Son argument La commercialisation de modèles déjà développés peut être compatible avec un ralentissement de la recherche en IA.
« Même si ce timing interroge, l’appel d’Amodei ne réclamait pas forcément l’arrêt de toute sortie : ralentir la recherche et commercialiser des modèles déjà développés ne sont pas nécessairement incompatibles. » - Paris Match Actualité
Les IA de pointe deviennent de plus en plus difficiles à contrôler.
« De son côté, OpenAI a renoncé au lancement d’un nouveau modèle d’intelligence artificielle (IA) de pointe, jugé trop prompte à s’écarter des consignes, un nouvel exemple de la difficulté croissante à contrôler les IA de pointe. »
Son argument Les pertes d’Anthropic suscitent des doutes sur sa rentabilité et, par conséquent, sur son utilité.
« Que l’on se rassure, malgré ses pertes colossales qui interrogent sur sa rentabilité et donc son utilité, Anthropic restait valorisée 965 milliards de dollars en mai dernier. »