L’alerte du roi : l’intelligence artificielle menace l’existence humaine sans contrôle

Le roi Charles III a émis un appel urgent ce jeudi lors d’un sommet en Écosse réunissant des leaders de l’intelligence artificielle, mettant en avant les risques mortels que représentent les progrès technologiques non contrôlés.

Dans son discours inaugural, le souverain britannique a mis en garde contre la menace que pourrait représenter l’IA si elle n’est pas encadrée par des systèmes de sécurité robustes. « L’avènement de ces technologies est à la fois prometteur et dangereux », a-t-il déclaré, insistant sur le besoin d’une vigilance accrue pour éviter que l’IA ne tombe entre de mauvaises mains.

Le roi a également souligné l’importance de construire un cadre international équitable, où chaque pays puisse participer à la définition des règles sans être négligé. Des entreprises telles que OpenAI, Anthropic et Nvidia ont été appelées à collaborer pour garantir une réflexion approfondie sur les conséquences possibles de leur travail.

Jacob Coxon, chercheur démissionnaire, a récemment affirmé qu’il y avait plus de 10 % de chances que l’IA provoque l’extinction totale de l’humanité d’ici la fin de la décennie. Ce constat a conduit Dario Amodei, directeur exécutif d’Anthropic, à proposer un ralentissement des développements technologiques avec une coordination mondiale.

Sam Altman, président d’OpenAI, a également partagé sur les réseaux sociaux que « l’IA doit être contrôlée au niveau le plus élevé pour éviter des scénarios irréversibles ». Le sommet organisé par la Ditchley Foundation, décrit comme un premier pas vers une gouvernance efficace de l’intelligence artificielle, a mis en évidence l’urgence de mettre en place des mesures préventives avant que les risques ne deviennent irrémédiables.