Clarity
Retour
Un responsable d'Anthropic évalue à plus de 10 % le risque d'extinction lié à l'intelligence artificiellePhoto · Futura Sciences
Tech

Un responsable d'Anthropic évalue à plus de 10 % le risque d'extinction lié à l'intelligence artificielle

18 septembre 20268 rédactions
En direct

L'estimation d'une menace existentielle majeure par des experts du secteur amplifie les appels internationaux en faveur d'une régulation immédiate des systèmes avancés.

  • Le risque d'anéantissement de l'humanité est évalué à > 10 pour cent par des experts chez Anthropic.
  • Le directeur Dario Amodei redoute la prise de contrôle du réseau mondial par des agents IA.
  • Le chercheur Jacob Coxon juge crédible la menace d'une technologie capable d'éliminer l'espèce humaine.
  • Ces alertes scientifiques intensifient les appels à fixer des limites politiques et des mécanismes de contrôle stricts.

Les chiffres

> 10 %
estimation des risques que l'IA détruise l'humanité dans la prochaine décennie
Tout le monde le dit2 rédactions

Le spectre d'une extinction par l'IA relève de la pure fiction

ce que la plupart retiennent

Les prophéties catastrophistes prédisant la fin de l'humanité relèvent d'une panique imaginaire et prêtent aux machines une malveillance absurde sans fondement concret.

  • La Croix Éditorial

    Prêter à l'intelligence artificielle une volonté destructrice envers l'humanité relève d'un catastrophisme absurde et ridicule.

    « Qu’est-ce que je lui ai fait, à l’IA, pour qu’elle veuille ma peau ? Elle pourrait tout de même me le dire, on est entre adultes, on peut discuter. »

    Son argument Le discours ambiant prête à tort une volonté propre et destructrice à l'intelligence artificielle.
    « L’IA, à lire ce qu’on lit et à entendre ce qu’on entend, voudrait ma peau. Pas demain matin, d’accord. Mais c’est bel et bien son idée. »

  • Le Monde Analyse

    Les prédictions catastrophistes sans scénario précis des patrons de l'IA relèvent d'une hystérie collective.

    « Les patrons et cadres de ces entreprises qui évoquent ici ou là la fin de l’humanité aux mains de l’IA se gardent toujours bien de fournir un scénario précis à l’appui de leurs prédictions catastrophistes »

    Son argument Le recours au mythe du robot tueur trahit une impuissance collective à appréhender les risques réels des technologies.
    « La figure du robot tueur est aussi une preuve de notre difficulté collective à penser ces innovations et leurs risques. »

Un regard à part1 rédaction

Le véritable péril se joue déjà sur les champs de bataille

ce que cette rédaction tient

Plutôt que d'anticiper une fin du monde théorique, l'urgence impose de regarder l'intégration bien réelle de systèmes autonomes létaux au cœur des conflits armés.

  • Franceinfo Analyse

    Loin des peurs théoriques d'extinction, l'IA autonome est déjà une réalité létale sur le front.

    « Alors que les risques existentiels liés à l’IA alimentent les débats, son utilisation militaire est déjà une réalité. »

    Son argument L'IA tue d'ores et déjà concrètement sur les théâtres militaires contemporains.
    « L’IA fait des victimes : il suffit de regarder en direction de l’Ukraine et de l’Iran. »

À contre-courant1 rédaction

La perte de contrôle des modèles d'IA est une menace bien réelle

ce que cette rédaction tient

Loin d'un scénario imaginaire, les développeurs ne dominent plus leurs systèmes et la possibilité d'une mise hors tension d'urgence relève de l'illusion technique.

  • Futura Sciences Analyse

    L'opacité et l'architecture distribuée des modèles rendent impossible tout arrêt d'urgence en cas de dérive.

    « Suffirait-il d'éteindre une intelligence artificielle en cas de comportement problématique ? La réponse n'est pas si simple. »

    Son argument Les entreprises ne savent pas ce que font réellement leurs modèles et peinent à détecter leurs défaillances d'alignement.
    « Cela montre que les entreprises qui développent ces modèles ne savent pas vraiment ce qu'ils font. »

Clivage par bord politique

Vu de gauche

2 rédactions
En résumé

Les discours catastrophistes annonçant l'extinction de l'humanité relèvent d'une panique infondée et prêtent abusivement des intentions destructrices à l'intelligence artificielle.

Vu du centre

3 rédactions
En résumé

Les fantasmes d'extinction planétaire détournent l'attention des réalités concrètes de l'intelligence artificielle, entre difficultés de contrôle technique et déploiements militaires déjà opérationnels.

L'autre article

Vu de droite

3 rédactions
En résumé

Face aux prophéties apocalyptiques, la réponse aux dérives technologiques exige de garder raison en imposant des garde-fous concrets et des limites politiques claires.