L’IA et la décision, l’illusion de la raison

La facilité de langage “décision de l'IA” fait oublier qu’une prise d’option automatique n’a rien à voir avec une décision libre et éclairée.

Positionnement courant

L’IA est souvent présentée comme un “outil d’aide à la décision”. Nous avons déjà relevé le problème induit par l’emploi du vocable “outil”. La focalisation sur la décision est de même assez trompeuse, et renforce encore une illusion.

Problématique

D’abord, nous renvoyons à nos autres développements : l’IA, qui est du logiciel, n’a rien à voir avec un outil. 

Reste la question : l’IA n’est-elle pas elle-même, une machine à décider?

Certes, l’IA pondère les options, déclenche des actions à partir de cela, et ces prises d’options automatiques peuvent déclencher des reconfigurations, logicielles matérielles ou autres.

Mais dans la mesure où un automatisme purement conventionnel et mathématique a été mobilisé, pourquoi parler de “décision”, s’agissant de prises d’options non substantiellement considérées par quelqu’un?

La réponse est claire : parce que l’on emploie une définition beaucoup trop large de “décision”. Pourquoi cette définition large de la décision, qui mène à en voir partout, y compris dans les configurations aveugles et quasi-automatiques dans un ordinateur? Ne serait-ce pas pour cultiver l’illusion du contrôle et de la maîtrise?

Proposition

On ne devrait parler de décision que dans le cadre de sa définition la plus courante “Jugement qui apporte une solution substantiellement considérée.” L’ordinateur ne juge pas, il ne fait que calculer et produit des simulacres de jugement. (des résultats formels, que nous pouvons qualifier et traiter comme tels.) Les jugements humains interviennent en-dehors, dans les cerveaux humains portés par des corps humains. Les être humains, pour ce faire, procèdent à des calculs comparables (notons toutefois que le reste de la machinerie “cerveau humain” n’est que marginalement impactée par les contraintes d’implémentation informatique : licences logicielles, fixation des prix, mises à jour de sécurité, re-codage des erreurs de programmation etc). 

L’humain décide en fonction de son intellect, de sa conscience et de sa subjectivité, lesquels sont intimememnt dépendants de sa corporéité. Cette intime dépendance fait défaut à l’agent numérique: le hardware/software permet simplement de simuler cela en le réduisant.

Malgré la présence de calculs et de flux électriques tant dans le cerveau humain que dans l'ordinateur, nous ne voyons aucun intérêt à mobiliser la notion jusqu’à l’étendre à la “décision artificielle”, qui est quasiment contradictoire dans les termes, à cause de la composante “jugement”. A moins de considérer que le jugement n’est que pondération de termes quantifiables, mais nous voyons bien ici la réduction du droit à nombre, largement dénoncée par ailleurs. [1]

[1] Alain Supiot, La gouvernance par les nombres, Fayard, 2015.

Vous n'êtes pas d'accord ? Vous voulez participer ? Vous avez une objection ? Une question ? Contribuez !