Armes biologiques et chimiques

L'IA pourrait réduire à néant les progrès faits au cours des cinquante dernières années pour interdire les armes chimiques et élaborer des normes strictes empêchant leur utilisation. De récentes découvertes ont montré que les systèmes d'intelligence artificielle pouvaient générer des milliers de nouvelles armes chimiques. La plupart de ces nouveaux composés chimiques, ainsi que leurs principaux précurseurs, ne figuraient sur aucune liste de surveillance gouvernementale en raison de leur nouveauté. En ce qui concerne les armes biologiques, la recherche de pointe en matière de biosécurité, telle que la recherche sur le gain de fonction, peut être considérée comme une recherche préoccupante à double tranchant, c'est-à-dire que même si cette recherche a des avantages potentiels importants, elle engendre également des risques significatifs.

Ces progrès rapides s'accompagnent d'avancées encore plus rapides au niveau des outils d'IA utilisés avec la biotechnologie. Par exemple, les systèmes d'IA avancés ont permis de créer plusieurs nouvelles pratiques, telles que l'identification des facteurs de virulence assistée par l'IA et la conception in silico de nouveaux agents pathogènes. Des systèmes d'IA plus généraux, tels que les grands modèles de langage, ont également permis à un nombre beaucoup plus important d'individus d'accéder à des informations potentiellement dangereuses concernant l'acquisition et l'armement d'agents pathogènes dangereux. Cela réduit donc la nécessité d'avoir des compétences en biologie pour mener à bien ces actes malveillants.

Cybersécurité

Les systèmes d'IA peuvent permettre aux acteurs malveillants de développer plus facilement des logiciels néfastes plus virulents et plus dévastateurs. Les systèmes d'IA peuvent également aider les cyberattaquants à automatiser les attaques sur les cyberespaces, en augmentant l'efficacité, la créativité et l'impact des cyberattaques par le biais de nouveaux "zero-day exploits" (c'est-à-dire des vulnérabilités non identifiées auparavant), en ciblant les infrastructures essentielles et en améliorant des techniques, telles que le phishing et le ransomware. Comme les systèmes d'IA puissants sont de plus en plus habilités à développer l'ensemble des tâches et sous-tâches nécessaires à la réalisation de leurs objectifs, le piratage informatique autonome devrait également faire son apparition à court terme.