Discussion en cours sur "IA et algorithmie"

Vous verrez ici l'état de nos débats en cours. La connaissance et la compréhension ne sont pas figées, mais à conquérir. Vous pouvez à travers le Slack, relancer la discussion pour la faire aboutir!

Pour moi une IA, pour mériter ce nom, doit être capable d'avoir une résolution non déterminé de l'incohérence, au sens d'Asimov. L'intelligence commence lorsque le robot résout une incohérence entre son processus cognitif et les 3 règles ou des processus cognitifs distincts.

Le programme et l’algorithme ou plutôt l’algorithmique programmatique sont la mise en œuvre des règles (ou codex d’exécution également connu sous le nom de règles métiers) définies par l’homme.

Pour faire une comparaison avec les humains, le fait d'être courageux est un marqueur d'intelligence car il s'agit d'une capacité de résolution du conflit non déterminé (on est pas courageux à chaque fois) entre l'instinct ("cerveau reptilien") et la raison ("néo-cortex").

Lorsqu'un programme apprend à reconnaitre un chat, il n'y a pas d'intelligence, de raison ou de choix la dedans. Est-ce bien le cas ? Si l’on songe à l’apprentissage renforcé ou autonome et au sous-jacent qui le permet alors il y a intelligence acquise par la règle, raison par le processus et choix par l’extrant décisionnel issu des 2 notions précédentes transposées dans la logique d’exécution du processus au niveau du code.

Vous argumentez plus loin qu'on peut différencier la calculette (un outil) de l'IA. Mais en quoi ? Pour moi la seule différence fondamental est la difficulté de comprendre la logique interne. Et c’est précisément la logique interne qui les différencie de part sa complexité.

A disserter sur le caractère d'outil, de système, d'algo ... n'a pas grand chose de technoréaliste. Il s'agit de verbiage pseudo spécialisé.

Quelqu'un de mon entourage me disait il y a peu : "J'ai rendu ChatGPT triste". Non non et non, chatGPT n'est qu'une calculette à prédire le mot suivant. Pas de choix, pas d'émotion, etc. La plus grosse erreur est selon moi de tomber dans l'anthropomorphisme. 

Exact. Il s’agit d’algorithmiques sophistiquée, le terme intelligent est à rapprocher de son usage pour les smartphones qui ne sont plus de simples téléphones mais des téléphones enrichis et en réalité des ordinateurs embarqués dans des terminaux portables. Smart = connecté et modulaire.

Pour conclure, ce que l'on appelle IA n'en est pas une au sens commun et là est la base de l'incompréhension.

Ce prisme de lecture induit les réponses de nombreuses questions ici posées. Exemple : Algo VS programme = prisme logique VS prisme UI/UX ; les deux sont résumables à de l'opcode, que ce soit fini ou non, que ça puisse sauter en mémoire ou non (cf pointeur) ne sont que des caractéristiques anecdotiques.

Certaines affirmations ne sont pas justifiées tel que : Pourquoi un programme/algo devrait être fini (prisme temporel) ? Perso je ne vois pas. Même sous le prisme de l'entropie de l'information, selon la théorie quantique : l’information est toujours conservée. Ce qui signifie que la décohérence ne s’applique qu’a son organisation et donc pas à son essence. Quelle en est la conclusion ? La taille du tuyau limite la taille du flux pouvant passer dedans ? Certes, mais encore ...Si le tuyau est la fibre marine oui. Si le tuyau est le nombre de connexion PoP pour des architectures reposant sur du cloud, leur nombre est dynamique comme je viens de le redécouvrir (exit le cloud souverain à pas cher).

Ce genre de logique avait un sens lorsque l'on passait un jeu de données dans une moulinette sans en ajouter ou en retirer en cours de route, or on en est plus là.

Tu relances la balle beaucoup plus loin ! Je suis probablement d'accord avec toi, et le biais c'est que j'ai résumé des débats sans vraiment maîtriser les sujets. Nous allons améliorer ce texte. J'essaye déjà de fermer une porte que tu ouvres, que l'on puisse avancer : la calculette. Tu comprends bien que je parle ici du nombre d'output lors de l'exécution d'un programme vs une calculatrice : une IA serait alors rien d'autre qu'un immense système de calculatrices (en série et en parallèle), (N’est-ce pas la définition d’un ordinateur quantique au final ? ;-) mais avec aussi beaucoup plus de langage normatif formel abstrait. Également connu sous le nom de langage naturel ? ;-)

Je ne cherche pas du tout à dire que l'IA serait intelligente, et j'aime beaucoup ta notion de conflit non déterminé (un bug ?) Pouvons-nous d'abord tomber d'accord sur la calculatrice ?

Le “model” est fondamentalement une calculette (d'un point de vue mathématique), la différence est dans le niveau de donnée. Au lieu de calculer des données, ça calcul le couple de ces données, permettant ainsi de donner une crédence à une valeur morale (et ça, ça dérange !!). Puisqu'on crée le modèle à partir d'une forme de conscience collective plus ou moins filtrée où toute l'attention se porte sur la "qualité" de ces données d’entraînement. Le reste, c'est calculatoire.

Mais ce modèle à une surcouche, dans celle-ci on trouve le "langage normatif formel".

"Abstrait" ? C'est une grosse difficulté de cette techno, son "Abstrait" n'est pas le notre puisqu'elle l'a "déduit" par elle-même. L'art de filtrer un modèle reviens à donner des consignes concrètes à propos de choses abstraites. Galère.

N’est-ce pas plutôt l’intelligence et donc la machine qui galère pour acquérir ce trait de l’intelligence profondément biologique ?

Le but premier de cette surcouche étant de filtrer les résultats entrée/sortie du modèle, elle peut toutefois grossir qu'à représenter la majorité du programme. Toutefois cette partie c'est concrètement des lignes de code de langage de programmation, donc "auditable" (cf. le commentaire sur l'outil). C’est vrai pour du stateless mais pas avec une approche contenant une base de données sous la forme de datamart ou de data store.

Plus il y a de surcouche par rapport au modèle dans ce que l'on défini être l'IA, plus la question normative se pose. Si l'IA c'est les dernières techno (GAN par filtre, LLM etc) en elle-même, on est très proche de la calculette. Si L'IA c'est ces dernières techno + l'écosystème développé ces dernières années alors à l'inverse le normatif fait loi car le calculatoire est relayé au rang de sous-processus. Il y a donc 2 discussions : l’une à priori essentiellement technique, l’autre qui englobe la technique sans s’y limiter.

Vous n'êtes pas d'accord ? Vous voulez participer ? Vous avez une objection ? Une question ? Contribuez !