À propos du Technoréalisme

Le Technoréalisme est une perspective qui ne rejette ni ne promeut les innovations technologiques

Le Technoréalisme s’inscrit dans la perspective d’une tentative d'évaluer les implications sociales et politiques des technologies afin que nous puissions tous avoir un meilleur contrôle sur la forme de notre avenir. Le cœur de l'approche technoréaliste implique un examen critique permanent de la manière dont les technologies — qu'elles soient de pointe ou banales — peuvent nous aider ou nous gêner dans la lutte pour améliorer la qualité de nos vies personnelles, de nos communautés et de nos structures économiques, sociales et politiques.1

Notre objectif immédiat est d’alerter sur l’irréalisme de beaucoup de discours sur l’IA. Comment proposer à ce sujet la base d’une délibération civique rationnelle, alors que l’on ne voit partout qu'un débat semblant opposer technophiles naïfs ébahis par le progrès, et technophobes idéologiques à tendance apocalyptique ?

L'IA de 2023 est à présent une technologie qui a le potentiel de transformer nos vies de manière significative, mais les racines de ces transformations sont profondes.

Sachant que ce terme d’intelligence artificielle, polysémique et ambigu, recouvre des réalités fort différentes et évolutives, notre ambition n’est pas d’en donner une meilleure définition. Bien plutôt, de la positionner dans sa réalité concrète, intelligible, pour montrer que la recherche de stabilisation de cette notion d’IA est probablement vaine. Au contraire : il importe de se doter d’un vocabulaire opérationnel et de représentations partagées, comprises par les personnes qui s’occupent en pratique de faire fonctionner l’IA.

Il nous est apparu plus intéressant de nous mettre au travail à partir de doutes partagés, que des fausses et satisfaites certitudes. Affronter la difficulté avec nos mots, plutôt que d’en faire le tour ou de la masquer. Ainsi, le manifeste n’ayant pas vocation à être une brillante synthèse en silo, mais une prudente et très sérieuse discussion, nous laissons en annexe, en forme de brouillon, quelques discussions en cours et questions non résolues. Les renvois en note sont assumés comme allusifs et temporaires.

En conclusion, nous éviterons surtout de donner des leçons générales ou des meilleures pratiques. Les bonnes pratiques en informatique ne sont pas des recettes à employer le plus souvent possible, mais bien davantage : comparables au beau geste de l’artiste ou de l’artisan, elles s’offrent comme le précieux legs du professionnalisme humain. Rien qui soit bêtement réutilisable. Nous invitons alors à l’action selon le seul mode qui nous paraît raisonnable.

Technorealism.org (lien externe) est un site web datant de 1998. Il fut développé par Douglas Rushkoff et Andrew Shapiro pour réfléchir sur l'essor des technologies numériques dans le monde social avec, notamment, l'arrivée d'Internet et plus particulièrement du web.

    En cette époque grisante d'évolution technologique rapide, nous avons tous du mal à garder nos repères. Les développements qui se produisent chaque jour dans le domaine des communications et de l'informatique peuvent être aussi passionnants que désorientants. Une réaction compréhensible est de s'interroger : ces changements sont-ils bons ou mauvais ? devons-nous nous en réjouir ou les craindre ?

    Technorealism Overview1998

    Que faire, et comment réagir ?

    La condition maîtresse, celle de quoi dépendent toutes les autres, nous paraît être l'adoption d'une posture de recherche de vérité. À l'opposé, les discours débordant de certitude ont un point commun : ils présupposent que l'on vivrait déjà dans un grand ordinateur. Prenons, en exemple, les propositions tenant à maîtriser la qualité des algorithmes : elle n'est intéressante que dans un monde dans lequel l'on maîtrise parfaitement toute la phase d'implémentation et d'intégration continue et de supervision, à défaut de quoi n'importe quelle modification du code fait disparaître le bénéfice d'avoir mobilisé un meilleur algorithme. Autrement dit, la "gouvernance algorithmique" n'est utile que dans un monde dans lequel tout est sous contrôle à moindre coût : dans un grand ordinateur. L'ordinateur est justement ce lieu du monde où toutes les variables peuvent être mises sous contrôle, et possiblement réglées au mieux. Cela fait, aucune loi de la nature, aucune mauvaise interprétation ou désobéissance ne vient pas interférer avant l'obtention du résultat... mais c'est une tâche ardue, subtile, souvent impossible faute de temps et de compétence. La prudence est alors de mise, s'agissant des programmes d'IA qui doivent non seulement être installés sur des ordinateurs, mais encore obtenir leurs effets dans le monde réel. Les prophéties auto-réalisatrices, les raisonnements postulant les ressources illimitées, les stratégies hasardeuses et la pensée magique sont un véritable poison social. Ceux qui instillent ce poison, consciemment ou non, portent une lourde responsabilité : ils altèrent objectivement les conditions de (sur)vie en société. Ceci augmente directement et certainement la pression sur les plus fragiles (travailleurs du clic, employés de bullshit jobs, précaires du numérique, jeunes désemparés devant l'absence de sens)... mais également sur tout un chacun. Ainsi, par exemple, la dimension mathématique des algorithmes d'IA n'est socialement pas très intéressante, parce qu'elle masque ses autres dimensions incontournables : artisanat logiciel, dette énergétique, aspects politiques et organisationnels... Tout ce qui compte si l'on prend conscience qu'il ne s'agit que de logiciels et programmes informatiques. Autrement dit, le calcul proprement dit est le fugace moment d'un outillage socio-technique ayant bien d'autres enjeux. Pour ne rien arranger, commencer par la mathématique, c'est se réfugier depuis le début sous le postulat des ressources illimitées pour la transformation. Il y a donc besoin d'une éthique minimale — et pourquoi pas maximale ? — De la conversation civique. Nous apprécierions, par exemple, beaucoup d'être réfutés par nos lecteurs. Il n'y a qu'un programme d'IA pour se contenter de sentences indiscutables. L'être humain a besoin d'y comprendre quelque chose. Il a aussi besoin d'interlocuteurs honnêtes et coopératifs.

    Envie de Technoréalisme ?
    Suivez-nous sur Linkedin
    ou contribuez à nos études !