Risques sur les droits de l’homme, sur la qualité des emplois, le développement du chômage, augmentation des coûts d’acquisition des ressources inexploitées car plus difficiles à acquérir ou plus lointaines, développement de nouveaux secteurs industriels peu souhaitables, standardisation et normalisation de la pensée.
Par exemple, un programme d’IA en recherche pharmaceutique a créé 40 000 nouvelles armes chimiques potentielles de type militaire en six heures. Des chercheurs ont simplement modifié sa méthodologie pour rechercher plutôt que d'éliminer la toxicité ce qu’il font d’habitude. Ils ont généré des milliers de substances théoriques similaires au VX, l'agent neurotoxique le plus puissant aujourd’hui. [1]
Lorsque les risques théoriques se réalisent, ils obtiennent de nouveaux modèles. Ceux-ci, non encore instanciés ou incarnés dans la réalité, sont risqués mais pas encore dangereux.
[1] Urbina, F., Lentzos, F., Invernizzi, C. et al. “Dual use of artificial-intelligence-powered drug discovery”. Nat Mach Intell 4,189–191 (2022).