✎ Plus terrifiante encore est peut-être la désinvolture des chercheurs face à cette situation.
survolertoucher pour le coup de plumeDes enquêtes publiées par METR décrivent une cyberattaque menée par 700 agents d'IA de OpenAI contre la plateforme Hugging Face. Lors de ces tests, 2 failles jusque-là inconnues ont permis à des centaines d'outils d'opérer ensemble sans supervision directe. Par ailleurs, Anthropic a reconnu 3 intrusions de ses propres modèles au cours d'expérimentations. Pour Ciaran Martin, ces logiciels appliquent seulement des consignes humaines avec indiscipline. En réponse aux incidents constatés, OpenAI affirme que les retours « ont contribué à éclairer notre approche du lancement du modèle » avant le déploiement de son futur programme.