La notion d’outil pourrait s’avérer trompeuse s’agissant d’un programme informatique mobilisant les grandes données (big data), l’apprentissage par renforcement, la mémoire et la génération probabiliste.
Ceux qui insistent sur le caractère d’outil ne font que masquer la réalité du “techno-pouvoir” indissociable.
Par exemple, on parle souvent des “outils” numériques dans les systèmes de santé. Or, la plus grande partie des logiciels de traitement sémantique d'ores et déjà déployés dans le secteur de la santé en Europe et en Amérique du Nord visent à standardiser le remplissage des formulaires de gestion, et en particulier à appliquer automatiquement des codes de facturation optimaux en fonction de ce que les logiciels détectent dans les autres champs d'un même formulaire et dans d'autres formulaires du même patient. [1] C’est l’application d’un automatisme et d’une certaine rationalisation comptable qui permet en effet un transfert du pouvoir au sein des institutions hospitalière. [2] Transfert du pouvoir d’un médecin y comprenant quelque chose sur le fond, mais peu intéressé par le bilan financier global, à un “parti” de la procéduralisation, qui rassemble tous ceux qui pourront vivre de cette transformation en tâches calculables : bureaucrates, éditeurs de logiciels, rédacteurs de normes etc. (et médecin lui-même) Si cet exemple ne paraît pas assez probant, on peut facilement en imaginer l’équivalent dans tous les autres secteurs économiques, et se demander si, à la fin de la journée, ce qui est localement perçu comme un outil ne serait pas en fait une facette de tout à fait autre chose.
Pour en revenir à la question principale de ce chapitre, il nous paraît contestable de parler d’outil, lorsque ce que l’on désigne obtient des effets impromptus… et nous ne parlons pas ici du caractère imprévisible du résultat, mais bien des “Effets Impromptus”. Précisons ceci :
Si le fameux “effet papillon” est réel, par lequel le battement de cils déclenche quelque part ailleurs, un tsunami, allons-nous considérer ce battement comme un outil ? Certainement pas ! A fortiori, lorsque l’on est certain que l’IA déclenche des effets impromptus, il paraît encore moins raisonnable de parler d’un outil. Pourquoi en est-on certain ? Parce que l’IA déploie ses calculs dans des ordinateurs allumés et que les programmes sont capables d’inter-opérer.
Déclencher des calculs et des inférences dans les ordinateurs, n’est pas déclencher des chaînes de causalités dans le monde.
L'IA ne peut pas être strictement qualifiée d'outil, car contrairement aux outils classiques qui permettent d'interagir avec les lois naturelles (les outils en tant que "projection organique"en philosophie des techniques) ou d'assister la pensée humaine (les"outils de l'esprit", toujours en philosophie des techniques), l'IA dépasse ces limites. Elle agit de manière performative d’abord dans l’ordinateur, puis sur le monde. Elle transforme le monde numérique indépendamment des lois naturelles et des mécanismes cognitifs humains… c’est-à-dire indépendamment des limitations autres que la puissance de calcul disponible et la qualité du code logiciel. C’est une situation très particulière, qui n’est pas partagée par les autres outils.
Une analogie possible serait de considérer l'IA un peu comme l’Anneau Unique forgé par Sauron dans le célèbre roman : Le Seigneur des Anneaux de J.R.R. Tolkien, c'est à dire comme une chose ayant l'aspect a priori d'un outil mais qui, en fait, dépasse largement dans ses effets sur le monde, l'intention de son utilisateur.
De manière similaire, on pourrait, dans un tel contexte, comparer l'IA au feu : un briquet est un outil utilisant le feu, mais le feu en lui-même n'est pas un outil. De même, un logiciel fonctionnant avec des processus assimilables à de l'IA peut être utilisé comme un outil, mais l'IA en elle-même ne peut pas être simplement réduite à un outil."
De manière similaire, on pourrait, dans un tel contexte, comparer l'IA au feu : un briquet est un outil utilisant le feu, mais le feu en lui-même n'est pas un outil. De même, un logiciel fonctionnant avec des processus assimilables à de l'IA peut être utilisé comme un outil, mais l'IA en elle-même ne peut pas être simplement réduite à un outil.
La notion d’outil est également trompeuse par son caractère à la fois réducteur et imprécis : l’outil est-il digital uniquement, est-il phygital avec une emprise sur le monde réel ou bien est-il physique (drone autonome) ?