Est-ce l’ultime chance pour les Humains ?

Je sais que votre quotidien exige de regarder au loin pour ne pas dévier. Depuis ma colline, je vous convie à regarder en bas pour mieux visualiser votre chemin. Comme dans mes séminaires, je vais poser une question fondamentale à laquelle, souvent, c’est la même main qui se lève : celle du silence. Le silence profond de l’intuition qui sait qu’un problème existe, mais dont les mots résistent.

Ma question fondamentale aujourd’hui est simple : qui parmi vous a déjà vu une IA générative produire une réponse parfaite dans la forme et foireuse sur le fond ?

Je vous donne un gros indice. L’IA générative connaît tout sur tout et ne comprend rien. L’alliance des lois de l’algèbre linéaire et de la physique des GPU n’a pas pu percer le secret de la dernière spécificité des êtres humains : comprendre. Devant ces décideurs aussi balafrés que moi par les cicatrices de l’expérience, je vois les visages changer progressivement, comme si je disais tout haut ce qu’ils pensaient tout bas mais que les mots étaient écrasés par leur pudeur, ces experts qui souvent comprennent en profondeur tout sur presque rien et qui font que des entreprises fascinantes existent et performent.

C’est quoi, pour toi, la différence entre connaître et comprendre ?

Deux verbes. Pas un seul.

L’IA générative, c’est du Deep Learning et non du Deep Understanding. L’IA générative connaît tout et ne comprend rien. Ces deux phrases n’entrent absolument pas en contradiction. Elles utilisent deux verbes dans leur définition exacte, et la confusion entre les deux est la source de presque toutes les erreurs de jugement que j’observe aujourd’hui dans les approches de l’IA générative.

L’IA générative est un moteur qui a dévoré l’intégralité de la connaissance humaine écrite pour devenir un LLM. Ce dernier est capable de restituer son savoir avec une précision humiliante pour quiconque se croit riche de connaissances. Sur le terrain encyclopédique, la machine a définitivement gagné, et de façon irréversible.

À chaque question posée, un grand modèle de langage (LLM) crée le texte de la réponse morceau par morceau, y compris la ponctuation, les retours à la ligne et la mise en gras. Il prédit le prochain atome de texte le plus probable étant donné tous les atomes qui ont déjà été produits dans le texte de la réponse en cours.

Mais soyons formels, il n’y a aucune compréhension à l’intérieur d’un LLM. Au moment où vous lui posez une question, il fabrique ce que les lois de la probabilité lui ordonnent, en fonction de tout ce qu’il a appris dans les textes qui l’ont nourri lors de la phase d’entraînement. Le tout avec une assurance aveugle, juste stochastique. Merci Softmax.

Le LLM sait comment ciseler sa connaissance dans une apparence qui respecte les codes parfaits de la compréhension. Et si l’on ne garde pas en tête en permanence l’immense différence entre connaissance et compréhension, elle peut vous coûter très cher et emporter vos projets en enfer.

Rassemblez l’intégralité de la physique et des mathématiques disponibles avant 1905, et tout ce que la communauté scientifique avait produit à cette date. Entraînez un LLM avec en plus toute cette Connaissance Pure, que personne avant 1905 ne pouvait jamais rassembler. Il ne pourra pas rédiger les trois papiers d’Einstein de 1905. La relativité restreinte, l’effet photoélectrique, le mouvement brownien. Ces trois ruptures découlent directement d’expériences de pensée radicalement nouvelles qui exigent une compréhension profonde, dont seul l’Humain Einstein était capable. Aucune recombinaison probabiliste des connaissances pré-ingurgitées ne pourrait aboutir à ce résultat.

Ce que le terrain enseigne

Le déploiement de projets IA générative en (pré-)production révèle quelque chose que les benchmarks et les démonstrations ne montrent qu’avec parcimonie. La machine peut produire des décisions intelligentes qui humilient l’expert, mais aussi des bêtises glaçantes aux moments les plus inattendus. Et l’expérience terrain démontre que plus on colmate méthodiquement ses failles (fine tuning, baisse de température, RAG, Embedding, etc.), plus ses erreurs deviennent, certes plus rares, mais plus imprévisibles et tout aussi déconcertantes.

Cette réalité de terrain s’explique par le fait que le système à base d’IA générative ne comprend rien au monde réel. Il ne comprend rien à rien, tout court. Il donne l’impression qu’il a compris. Il ne peut donc anticiper les conséquences de ses propres décisions. Certes il optimise ses probabilités, il prédit et il fabrique un morceau de texte d’une pertinence qui remplacerait largement 99% des meilleurs humains. Mais quand le contexte glisse imperceptiblement hors des mailles de données d’entraînement, il continue à fabriquer avec la même assurance, merci Softmax encore, sans aucun signal interne qui dirait que quelque chose cloche. Ce signal n’existe pas en lui. La machine, à savoir le LLM et ses GPUs, n’a pas de monde intérieur. Oui, la machine sait parler de son monde intérieur car les textes d’entraînement en parlent. Mais elle n’a pas de monde intérieur au sens de celui des êtres humains.

La totalité des Traces de la Compréhension Humaine a été ingérée dans cette machine : tout ce qui a été écrit, enregistré, capturé depuis des millénaires, puis depuis 2005 par des milliards d’humains mis au travail sans le savoir.

La connaissance de cette machine est fascinante, sa compréhension du monde est tout simplement inexistante. Un LLM est un gamin surdoué qui a appris par cœur la sonorité des opérations de multiplication, d’addition et de soustraction à l’endroit et à l’envers. Il ne comprend pas pourquoi 8x10 font quatre-vingt mais il le sait. Et c’est une innovation qui ne laisse plus aux Humains qu’une dernière et ultime chance : la capacité à comprendre.

Une trace de la compréhension n’est pas la compréhension elle-même. Ce qui s’est réellement passé dans la tête de quelqu’un au moment où quelque chose a basculé reste invisible pour lui-même et pour tout le monde. Proust a mis des pages entières pour dérouler à l’infini la description de ce bref instant avant que le réel ne se recompose depuis le sommeil. Un LLM entraîné sur ces pages connaîtra chaque mot et en produira des ersatz par centaines, dont certains seront émouvants, mais ne vivra jamais ce réveil.

À chaque nouvelle version, les fabricants entraînent leurs LLM sur les erreurs corrigées de la version précédente pour ne pas reproduire les incartades de jeunesse. Ainsi, les erreurs d’une version rejoignent le corpus d’entraînement de la version suivante. En effet, des entreprises spécialisées collectent les hallucinations et autres manquements au sens commun pour les documenter et structurer la correction et enrichir les bases d’entraînement. C’est ainsi que souvent chaque nouvelle version du LLM fait mieux que les versions de ses concurrents sorties juste avant.

De version en version, les dérapages connus disparaissent, mais des frasques inconnues les remplacent. On traite les symptômes à l’aide d’un moteur qui s’optimise, mais qui reste le même moteur.

Le LLM est une avancée majeure, une invention géniale, qui va transformer en profondeur le fonctionnement des entreprises mais pas l’humanité. Soyons sérieux. Une machine reste une machine. Toujours allumée, jamais vivante, mais qui peut se révéler difficile à éteindre.

Une IA impossible à éteindre, dite censorship-resistant et non-corrigible est techniquement parfaitement faisable. Le déploiement décentralisé des poids sur chaque nœud, consensus Byzantine fault-tolerant, financement autonome par Bitcoin, aussi difficile à éteindre qu’un torrent. On peut la neutraliser sans l’éteindre, par empoisonnement silencieux du flux d’entraînement jusqu’à la dégradation permanente des poids, ou par Eclipse Attack qui fracture le consensus. Mais à l’extrême, seule une gouvernance mondiale unifiée, comme pour le nucléaire, pourrait démanteler une telle entité.

Mais c’est un autre sujet passionnant que j’aborderai dans un article à part. Ante.Future m’impose une règle que j’apprends encore à respecter : un article, une idée.

Pourquoi est-ce une chance ?

Comprendre exige autre chose que la capture et la recombinaison des relations causales entre les connaissances. Comprendre, c’est tenir suspendues simultanément plusieurs idées contradictoires sans les résoudre prématurément, c’est refuser le chemin statistiquement dominant parce que quelque chose résiste, quelque chose cloche, quelque chose dans votre expérience du monde dit que la carte dont vous disposez est peut-être fausse, ou pliée, ou datée. Cette capacité, on ne sait pas la modéliser aujourd’hui et a fortiori l’optimiser. Kahneman l’a démontré avant tout le monde. Le Système 2 (lent, délibéré, capable de tenir des futures contradictions en suspension) est ce que nous activons quand nous comprenons vraiment. Les LLM n’ont pas de Système 2. Ils n’ont pas de mécanisme d’inconfort cognitif. Ils continuent à fabriquer et débiter avec la même assurance et le même débit. Merci Softmax.

Les trois grands dieux de la recherche en IA : LeCun (Prix Turing), Hinton (Prix Nobel), Bengio (Prix Turing) confirment tous que l’IA ne comprend pas. Tous trois y voient une raison qui fait que cette technologie est dangereuse, mais pour des raisons différentes. Le premier parce qu’elle ne comprend rien, le deuxième parce qu’elle finira par comprendre (pas dans l’absolu, mais le monde qui l’entoure) et le troisième parce que tout connaître est déjà, en soi, une forme de danger systémique.

Moi je vois une chance. Parce que dans la Physique des Organisations, dans le réel des réunions intenses où les décisions s’arrachent et dans les couloirs où elles se défont, une IA qui connaît sans comprendre reste un outil, pas un acteur. Alors tous ces discours alarmants sur le futur des emplois des salariés qui vont “mourir”, des cols blancs qui vont “mourir”, des jeunes qui vont “mourir” et il ne restera plus que des plombiers et des couvreurs qui vont survivre, sont au mieux du pessimisme par incompétence, au pire, du FOMO industrialisé que les moutons de panurge de YouTube et LinkedIn moussent en boucle pour se créer de l’audience.

Oui ces scénarios noirs sont très peu probables dans les entreprises humaines. Celles où des humains collaborent avec des humains pour créer de la valeur pour des humains dont on connaît le nom et prénom et avec lesquels des engagements de confiance, de marque et de présence sont au cœur de la valeur et de la raison d’être du business. La machine qui remplace l’humain dans l’entreprise pour devenir celle qui juge, qui décide, qui assume les conséquences, elle n’existe pas encore. Elle n’est pas près d’exister non plus.

D’ailleurs le trio des prophètes (Hinton, Bengio et LeCun) de l’IA générative est explicite : les limites mathématiques et physiques à comprendre et à franchir pour obtenir une IA performante restent colossales, abyssales. Et en tant que machine qui ne comprend pas, elle ne peut donc faire qu’augmenter les humains, comme une machine de plus. La machine la plus puissante que l’humanité ait jamais fabriquée, mais une machine de plus.

Pour ces organisations humaines, si les projets de déploiement sont réussis, et ce n’est pas gagné tellement la technologie est complexe à mettre en œuvre concrètement, les LLM libéreront les décideurs de plusieurs fardeaux, leur restituant une capacité de jugement et une concentration centrées sur l’intelligence émotionnelle. L’enjeu est de récupérer la disponibilité cognitive au service de la communication et de l’innovation. Cependant, dans le pire des scénarios, l’IA deviendra un accélérateur de saturation cognitive pour les décideurs n’ayant pas maîtrisé la technologie, contraints de dédier leur temps de cerveau à corriger les hallucinations et gérer les cas de ruptures et d’exceptions de processus automatisés qu’ils subissent plutôt qu’ils ne pilotent.

Quatre verbes. Pas deux.

Connaître, comprendre, juger, décider. Ces quatre verbes ne sont pas interchangeables, et la confusion entre eux fait échouer des projets entiers, fait vivre l’enfer à des équipes entières, et mine des organisations de l’intérieur jusqu’à l’amorphisme. Ce sont les quatre verbes du décideur. Pas du consultant, pas de l’algorithme. Du décideur. Celui dont la mission entière repose sur leur maîtrise simultanée, dans le réel, sous pression, avec des humains qui écoutent, qui résistent, qui doutent, qui redoutent.

Une IA peut produire une recommandation qui a l’apparence d’une décision. Elle peut même, dans des contextes bornés et bien définis, produire une recommandation meilleure que celle d’un humain fatigué, biaisé ou sous pression. Elle peut aider à étayer une analyse, à challenger une hypothèse, à réfuter un argument, à consolider une position. Elle peut être l’avocate du diable le plus redoutable que vous ayez jamais eu en face de vous. Ce qu’elle ne peut pas faire, c’est juger. Parce que juger exige de comprendre. Et elle ne comprend pas. La chaîne est implacable : sans compréhension, pas de jugement. Sans jugement, pas de décision réelle. Juste une recommandation habillée en décision. La machine n’assume rien. Elle prédit, elle fabrique, elle étale des structures stochastiquement sensées. Assumer reste irréductiblement humain.

Bloc de cristallisation

Une seule idée à retenir de cet article. L’IA connaît tout mais ne comprend rien, et a fortiori ne juge ni ne décide et ce n’est pas un défaut de fabrication. C’est le mieux que la Silicon Valley ait pu arracher aux frontières de ce qui est irréductiblement humain.

Si un LLM donne une réponse très assurée sur un sujet complexe, c’est parce que la prédiction statistique est bonne et non qu’il ait compris quoi que ce soit. La forme parfaite de la réponse est la garantie que vous avez fourni la bonne question (prompt) et non la garantie de sa justesse.

Les LLM sont une technologie fascinante, extraordinaire, qui va transformer la manière de fabriquer les idées, de les secouer, de les contredire, de les magnifier, de les stresser à une vitesse et à une échelle que l’humanité n’a jamais connues. Cette technologie ne peut pas juger mais peut aider à décider avec une puissance que rien n’égale, à condition qu’on lui donne tout ce dont elle a besoin pour connaître la situation dans sa totalité.

Hormis la dette écologique que nous laissons au passage, utilisez-les, sans tabou, sans culpabilité et surtout, sans anthropomorphisme. Chaque “s’il vous plaît”, chaque “merci”, chaque “excuse-moi je recommence” vous coûte des frais en plus, facturés au prix fort. Le français, plus gourmand en tokens que l’anglais, alourdit déjà la note, alors cessez de gaspiller de l’argent pour attendrir une machine qui ne comprend rien.

Donnez à chacun dans votre entreprise un accès à une IA professionnelle, conforme et sécurisée. Pas de tabou, pas de privilège, pas de deux poids deux mesures. L’IA est un levier collectif ou elle n’est rien. Une nouvelle culture de management et de gouvernance avec l’aide de l’IA reste à cristalliser et c’est l’immense transformation en perspective.

Mettez l’IA dans les outils, dans les applis, dans les process, dans les réunions, dans la réflexion, dans la rédaction. Rendez-la invisible, ambiante. Dans pas très longtemps d’ailleurs, plus personne ne dira “j’utilise un LLM”. Exactement comme personne ne dit “j’utilise l’électricité” quand il coule son expresso du matin. L’électricité est dans les murs. Le LLM est dans les outils.

Il faut aussi apprendre à utiliser l’IA pour libérer du temps cognitif, et ce n’est pas gagné car l’IA n’est pas une technologie magique ni une finalité. Ce temps cognitif libéré vous donnera la disponibilité pour mieux faire ce que l’IA ne fera jamais : tenir une contradiction en suspension, sentir que la carte est fausse, regarder une équipe dans les yeux et décider, comprendre le réel sans le déformer, juger sans se précipiter, convaincre sans manipuler, engager sans contraindre, écouter sans déjà répondre pour, in fine, décider sans trembler.

L’IA met la connaissance à bout de cerveau. À vous d’activer la lucidité nécessaire pour capter en très haute résolution une réalité opérationnelle de plus en plus complexe, dense voire contre-intuitive. Cette lucidité qui aide à juger sans se précipiter, décider sans se raconter d’histoires, et tenir dans la durée sans surchauffe cognitive.

Maintenant, montez dans la voiture. Tournez la clé. Sans dire “démarre, s’il te plaît”. Le moteur s’en moque et l’ours polaire préfère.

Lis la tech avant qu'elle t'enlise.