La condition maîtresse, celle de quoi dépendent toutes les autres, nous paraît être l’adoption d’une posture de recherche de vérité. A l’opposé, les discours pleins de certitude ont un point commun : ils présupposent que l’on vivrait déjà dans un grand ordinateur.
Prenons en exemple, les propositions tenant à maîtriser la qualité des algorithmes : elle n’est intéressante que dans un monde où l’on maîtrise parfaitement toute la phase d’implémentation et d’intégration continue et de supervision, à défaut de quoi n’importe quelle modification du code fait disparaître le bénéfice d’avoir mobilisé un meilleur algorithme.
Autrement dit, la “gouvernance algorithmique” n’est utile que dans un monde où tout est sous contrôle à moindre coût : dans un grand ordinateur. L’ordinateur est justement ce lieu du monde où toutes les variables peuvent être mises sous contrôle, et possiblement réglées au mieux. Cela fait, aucune loi de la nature, aucune mauvaise interprétation ou désobéissance ne vient interférer avant l’obtention du résultat… mais c’est une tâche ardue, subtile, souvent impossible faute de temps et de compétence.
La prudence est alors de mise, s’agissant des programmes d’IA qui doivent non seulement être installés sur des ordinateurs, mais encore obtenir leurs effets dans le monde réel.
Les prophéties auto-réalisatrices, les raisonnements postulant les ressources illimitées, les stratégies hasardeuses et la pensée magique sont un véritable poison social. Ceux qui instillent ce poison, consciemment ou non, portent une lourde responsabilité : ils altèrent objectivement les conditions de (sur)vie en société. Ceci augmente directement et certainement la pression sur les plus fragiles (travailleurs du clic, employés de bullshit jobs, précaires du numérique, jeunes désemparés devant l’absence de sens)... mais aussi sur tout un chacun.
Ainsi par exemple, la dimension mathématique des algorithmes d’IA n’est socialement pas très intéressante, parce qu’elle masque ses autres dimensions incontournables : artisanat logiciel, dette énergétique, aspects politiques et organisationnels… Tout ce qui compte si l’on prend conscience qu’il ne s’agit que de logiciels et programmes informatiques. Autrement dit, le calcul proprement dit est le fugace moment d’un outillage socio-technique ayant bien d’autres enjeux. Pour ne rien arranger, commencer par la mathématique, c’est se réfugier ab initio sous le postulat des ressources illimitées pour la transformation.
Il y a donc besoin d’une éthique minimale - et pourquoi pas maximale ? - de la conversation civique. Nous apprécierions par exemple beaucoup d’être réfutés par nos lecteurs. Il n’y a qu’un programme d’IA pour se contenter de sentences indiscutables. L’être humain a besoin d’y comprendre quelque chose. Il a aussi besoin d’interlocuteurs honnêtes et coopératifs.