Photo · Futura SciencesDes chercheurs et des législateurs alertent sur les risques existentiels de l'intelligence artificielle
Les alertes sur la perte de contrôle des systèmes informatiques autonomes poussent les législateurs à envisager des règles contraignantes face aux menaces d'extinction humaine.
- Dario Amodei redoute la prise de contrôle du réseau internet par des agents autonomes d'ici 6-12 mois.
- Geoffrey Hinton estime à > 10 pour cent le risque d'extinction de L'Humanité provoqué par cette technologie.
- Face aux alertes de dérives incontrôlables, le Congrès américain prépare des propositions législatives pour encadrer le secteur.
Les chiffres
- On discute du bilan
- les intentions
- la qualification
- les responsables
- les solutions
- les principes
- les faits
- les accents
- l'angle
La menace d'une extinction humaine causée par l'IA est-elle crédible ?
L'extinction humaine est une menace plausible et imminente alimentée par la manipulation cognitive et la perte de contrôle des algorithmes.
- Futura Sciences Analyse
L'IA présente un risque existentiel imminent via la manipulation cognitive de masse des populations.
« Car le risque que l'intelligence artificielle tue tous les humains serait bien plus élevé que l'on pense. »
Son argument La manipulation par le langage est historiquement redoutable et l'omniprésence des chatbots aggrave la vulnérabilité des populations.
« L'humanité n'a pas attendu l'intelligence artificielle pour manipuler les populations avec les mots. La propagande peut être très efficace, et aujourd'hui il devient difficile d'échapper aux chatbots. » - Valeurs Actuelles Éditorial
Face au péril existentiel, les États doivent imposer un traité international contraignant de non-prolifération.
Le titre de l'article« « Plus de 10 % de chances » : et si l’IA provoquait la fin de l’humanité »
Son argument L'auto-régulation des entreprises d'IA est illusoire dans une logique de course aux armements commerciaux.
« Pourtant, en février, Anthropic a retiré de sa charte l’engagement de suspendre ses travaux en cas de risque incontrôlé, au motif qu’une pause unilatérale livrerait le terrain aux moins prudents. » - Les Échos Analyse
L'IA amplifie de façon incontrôlable les faiblesses humaines et conduit au chaos destructeur.
« L'IA générative et agentique, en ce qu'elle tend à reproduire le cerveau humain, recopie aussi ses travers. Mais elle amplifie le tout de façon déjà irrattrapable, même pour le meilleur esprit humain. »
Son argument La démission de Jacob Coxon constitue un point de bascule historique dans la prise de conscience du risque existentiel.
« La démission de l'ingénieur d'Anthropic marque le jour où l'humanité a collectivement pris peur que sa création ne lui échappe, puis la détruise. »
Le spectre d'une apocalypse relève d'une surenchère anxiogène et de spéculations sensationnalistes sans validation scientifique.
- Courrier International Éditorial
La panique autour d'une apocalypse par l'IA traduit une paranoïa médiatique disproportionnée et survendue.
« j’ai tout de même jeté un regard terrifié au long article du San Francisco Standard consacré à ce summum de paranoïa anti-IA. »
Son argument Les acteurs de la tech alimentent délibérément la surenchère anxiogène au lieu de calmer le jeu.
« Plutôt que de rassurer les foules, l’un de ses collègues, chef d’un service de sécurité du fleuron de l’intelligence artificielle (IA), a surenchéri » - Europe 1 Réaction
Les scénarios d'extinction de l'humanité relèvent de spéculations dépourvues de fondement scientifique concret.
Propos rapportés par la rédaction« Il n'y a pas aujourd'hui d'études scientifiques concrètes pour montrer qu'en effet l'intelligence artificielle pourrait venir un peu remplacer ou en tout cas éteindre l'espèce humaine. »
Clivage par bord politique
Vu de gauche
4 rédactionsL'Humanité Terminator, le chiffon rouge agité par les éditeurs d’IA✎ Les producteurs d’IA agitent la menace de la puissance de l’intelligence artificielle, capable un jour « de nous tuer tous ».
Les 3 autres articles
Vu du centre
4 rédactionsLe véritable péril existentiel de l'intelligence artificielle réside dans la manipulation cognitive de masse des populations grâce aux agents conversationnels, bien plus que dans un anéantissement physique.
Futura SciencesMenace existentielle avérée « 10 % n’est pas déraisonnable » : Geoffrey Hinton, père de l’IA, alerte sur un risque d’extinction et laisse sans voix son interlocutrice✎ Toutefois, même cette vision dystopique a un certain optimisme : l'humanité survivra.
Courrier InternationalSurenchère anxiogène L’apocalypse survendue par l’IA, Jésus contre les robots-taxis et “encore une chose” chez Apple✎ Si j’ai bien compris, la fin est proche, et il est temps de se repentir.
Franceinfo Intelligence artificielle : "L'IA pourrait nous tuer" alerte un chercheur
Vu de droite
7 rédactionsLes alertes alarmistes sur les périls existentiels de l'intelligence artificielle masquent des manœuvres d'influence stratégiques destinées à orienter la réglementation en faveur des géants du secteur.
Valeurs ActuellesMenace existentielle avérée « Plus de 10 % de chances » : et si l’IA provoquait la fin de l’humanité✎ Un engagement qu’une entreprise s’accorde à elle-même, elle se le retire elle-même. Et nul ne peut ralentir, puisque ralentir reviendrait à céder la place.
Les ÉchosMenace existentielle avérée Cyber chaos, escalade nucléaire, arme biologique… Les scénarios noirs de l'IA✎ Ce sont un peu les « quatre cavaliers de l'apocalypse », et les grands laboratoires de l'IA les font galoper sur l'humanité.
Europe 1Surenchère anxiogène «Il faut quand même rassurer» : Clément Domingo relativise les scénarios d'extinction de l'humanité par l'IA✎ Sans nier les interrogations soulevées par les progrès de l'IA, il appelle à distinguer les faits des spéculations.