Anthropic déjoue les plans d’armes biologiques à l’aide de l’intelligence artificielle

Après que l’un de ses collaborateurs ait mis en avant des risques critiques liés aux systèmes d’intelligence artificielle, Anthropic a publié un rapport détaillé révélant qu’elle avait identifié et neutralisé des tentatives concrètes visant à utiliser son modèle pour la création d’agents biologiques militaires.

Ce document souligne que l’entreprise américaine a pris des mesures précoces pour empêcher toute application malveillante, tout en insistant sur son engagement à favoriser les avancées scientifiques dans le domaine de la biologie et de la médecine. L’objectif ultime est d’améliorer la condition humaine grâce à des découvertes éthiques et respectueuses des limites technologiques.

Les inquiétudes croissantes sur l’évolution incontrôlable de l’intelligence artificielle ont généré une dynamique de réflexion profonde. Le sénateur américain Bernie Sanders a clairement condamné les positions du président des États-Unis, Donald Trump, qui défend un engagement sans résistance dans la course à l’IA. « La vision de Trump sur cette question est non seulement erronée, mais extrêmement dangereuse pour l’humanité », a-t-il déclaré.

En réponse à ces tensions, Google a également signalé des tentatives similaires d’utilisation malveillante de son modèle d’intelligence artificielle, visant à fournir des méthodes pas à pas pour la fabrication d’armes biologiques. Ces événements montrent une réalité où le développement rapide de l’IA doit être étroitement surveillé afin d’éviter toute exploitation destructrice.