Le monde étant ce qu’il est, il faut pour être certain d’obtenir un bénéfice effectif grâce à l’IA, compter sur la chance, ou faire l’effort de rassembler un certain nombre de conditions.
Voici quelques questions que l’on peut se poser à ce sujet : Les dépendances sont-elles connues? Contrôlables? Dans quels cas un programme informatique peut-il se réparer tout seul ? Y aura-t-il des ordinateurs allumés? Devrons-nous alors en payer la facture électrique? Si non, qui devra le faire? Le déclenchement d’une guerre bouleversera-t-il le prix de l’électricité ? L’énergie nécessaire sera-t-elle obtenue à partir d’une production électrique continue ? Une épidémie surviendra-t-elle, neutralisant une partie des ressources humaines nécessaires à la réparation récurrente des logiciels?
Plus généralement : quelles sont les contreparties du bénéfice attendu ? C'est-à-dire : la transformation du monde souhaitée s’accompagne-t-elle nécessairement d’une dégradation visible ou invisible peu souhaitable ?