Blog

Une réflexion sur l'essai de Jessica Talisman : lorsque les modèles de langage dissolvent la chaîne de traçabilité de la connaissance, la plausibilité remplace la confiance. L'auteur étend ce constat à la livraison logicielle — capturer la provenance des décisions (contexte, compromis, alternatives rejetées) n'est pas de la documentation, c'est de l'infrastructure ; sans elle, la dégradation devient la norme.

Les humains résistent naturellement à partager le raisonnement derrière leurs décisions, car le contexte et la mémoire ont historiquement été une source d’influence et d’avantage professionnel. En conséquence, de nombreuses décisions critiques restent non documentées et n’existent que dans des conversations ou dans la mémoire individuelle. À l’ère augmentée par l’IA, cela devient un sérieux problème de gouvernance, car les systèmes évoluent plus rapidement et le raisonnement derrière les changements disparaît encore plus vite. Sans préserver le contexte des décisions, les organisations perdent la capacité d’expliquer, d’auditer ou de faire évoluer leurs systèmes en toute sécurité. Le basculement provoqué par l’IA transforme donc la provenance des décisions d’une préférence culturelle en une exigence structurelle de gouvernance organisationnelle.

Une fois que les décisions deviennent des artefacts de première classe, quelque chose change fondamentalement. Lorsque l’environnement évolue, nous ne sommes plus contraints de redécouvrir le raisonnement derrière le système par une forme d’archéologie et de spéculation. Nous pouvons plutôt revisiter la décision originale, mettre à jour les hypothèses qui ne sont plus valides et régénérer l’implémentation d’une manière qui reflète le nouveau contexte.

Imaginons une « entreprise native de la provenance » en 2030 — une organisation construite dès le départ autour de la lignée des décisions, de la mémoire du SDLC et de la traçabilité de l’exécution de l’IA, plutôt que d’essayer de l’ajouter après coup.

Suite à la publication de la version initiale du Provenance Manifesto, j’ai commencé à examiner si les solutions existantes sur le marché s’alignent réellement avec les principes qui y sont décrits.

Cet article explore un problème simple mais souvent négligé : les organisations logicielles préservent rarement le raisonnement derrière leurs décisions, alors même que ces décisions façonnent tout ce qu’elles construisent. Il soutient que la simple récupération par IA et la documentation ne suffisent pas à résoudre ce problème, car ce qui manque est un système structuré enregistrant les relations entre décisions, hypothèses et résultats. Le Provenance Manifesto propose de traiter les décisions comme des artefacts de première classe afin que les organisations puissent préserver l’intention, la responsabilité et la lignée des décisions à mesure que l’IA accélère le développement logiciel.

L’IA prend rapidement en charge la couche du « quoi » dans le développement logiciel — en générant des architectures, du code, des optimisations et des solutions alternatives plus rapidement que les humains ne pourraient le faire. En conséquence, l’implémentation et l’exploration de solutions deviennent bon marché, évolutives et de plus en plus automatisées. Mais la véritable couche stratégique de l’ingénierie n’a jamais été le « quoi ». Les questions critiques sont le « pourquoi » — pourquoi une solution existe, pourquoi un compromis a été accepté, pourquoi un risque est tolérable et pourquoi un résultat particulier compte pour l’entreprise. Ces questions définissent l’intention, pas l’implémentation.

À mesure que l’IA devient capable de proposer des architectures, d’écrire du code et d’optimiser des systèmes, le véritable danger n’est pas une IA malveillante, mais la perte de l’intention humaine derrière les systèmes que nous construisons. Les organisations ont déjà du mal à se souvenir pourquoi certaines décisions ont été prises ; dans un environnement augmenté par l’IA, ce problème devient beaucoup plus sérieux, car les machines peuvent optimiser des solutions plus rapidement que les humains ne peuvent les comprendre. Pour éviter de construire des systèmes qui optimisent parfaitement de mauvais objectifs, nous avons besoin d’une nouvelle couche d’infrastructure appelée Provenance — un enregistrement structuré des décisions, des contraintes, des compromis et de l’intention qui relie le comportement du système à l’objectif humain. Sans cette couche de mémoire, les organisations risquent de devenir très efficaces mais stratégiquement désalignées, perdant progressivement la capacité d’expliquer ou de contrôler les systèmes qu’elles créent.

Les organisations de livraison logicielle perdent régulièrement le contexte derrière leurs décisions. Des mois après l’implémentation, les équipes sont souvent incapables d’expliquer pourquoi quelque chose a été construit, quels compromis ont été acceptés ou ce qui avait été initialement promis. Cela se produit parce que les outils du SDLC suivent des artefacts comme les tickets, les commits, les heures et les coûts — mais pas l’intention, les engagements et le raisonnement qui les sous-tendent. Le résultat est une « amnésie de contexte » : les équipes reconstruisent des solutions, répètent des décisions, se disputent sur le périmètre et subissent du retravail, une érosion des marges et de l’épuisement. Le problème central n’est pas des équipes négligentes, mais une lacune systémique : le SDLC n’a pas de mémoire intégrée du raisonnement des décisions. La question inconfortable posée par l’article est la suivante : pourquoi, dans le développement logiciel moderne, suivons-nous rigoureusement l’exécution mais pas le raisonnement qui l’a façonnée ?