Bitácora

Una reflexión sobre el ensayo de Jessica Talisman que argumenta que a medida que los modelos de lenguaje producen resultados más fluidos, disuelven la cadena de procedencia que hace confiable el conocimiento; el autor conecta esto con la procedencia de decisiones en la entrega de software, donde el razonamiento detrás de las decisiones desaparece, y propone que capturar la trazabilidad de decisiones de forma sistemática convierte la procedencia en infraestructura y en una nueva capacidad de gobernanza, auditabilidad y colaboración entre sistemas.

Los humanos resisten de forma natural compartir el razonamiento detrás de sus decisiones porque el contexto y la memoria históricamente han sido una fuente de influencia y ventaja profesional. Como resultado, muchas decisiones críticas permanecen sin documentar y viven solo en conversaciones o en la memoria individual. En la era aumentada por IA esto se convierte en un serio problema de gobernanza, porque los sistemas evolucionan más rápido y el razonamiento detrás de los cambios desaparece aún más rápido. Sin preservar el contexto de las decisiones, las organizaciones pierden la capacidad de explicar, auditar o evolucionar sus sistemas de forma segura. El cambio provocado por la IA convierte la procedencia de las decisiones de una preferencia cultural en un requisito estructural para la gobernanza organizacional.

Una vez que las decisiones se convierten en artefactos de primera clase, algo cambia fundamentalmente. Cuando el entorno evoluciona, ya no estamos obligados a redescubrir el razonamiento detrás del sistema mediante arqueología y especulación. En su lugar, podemos revisar la decisión original, actualizar las suposiciones que ya no son válidas y regenerar la implementación de una forma que refleje el nuevo contexto.

Imaginemos una “empresa nativa de Provenance” en 2030: una organización construida desde el principio alrededor del linaje de decisiones, la memoria del SDLC y la trazabilidad de la ejecución de IA, en lugar de intentar incorporarlo posteriormente.

Tras la publicación de la versión inicial del Provenance Manifesto, comencé a examinar si las soluciones existentes en el mercado realmente se alinean con los principios descritos en él.

El artículo explora un problema simple pero a menudo ignorado: las organizaciones de software rara vez preservan el razonamiento detrás de sus decisiones, aunque esas decisiones moldean todo lo que construyen. Argumenta que la recuperación mediante IA y la documentación por sí solas no pueden resolver este problema, porque lo que falta es un sistema estructurado que registre las relaciones entre decisiones, suposiciones y resultados. El Provenance Manifesto propone tratar las decisiones como artefactos de primera clase para que las organizaciones puedan preservar la intención, la responsabilidad y el linaje de decisiones mientras la IA acelera el desarrollo de software.

La IA está tomando rápidamente la capa del “Qué” en el desarrollo de software: generando arquitecturas, código, optimizaciones y soluciones alternativas más rápido de lo que los humanos podrían hacerlo. Como resultado, la implementación y la exploración de soluciones se vuelven baratas, escalables y cada vez más automatizadas. Pero la capa estratégica real de la ingeniería nunca ha sido el “Qué”. Las preguntas críticas son el “Por qué”: por qué existe una solución, por qué se aceptó un compromiso, por qué un riesgo es tolerable y por qué un resultado determinado importa para el negocio. Estas preguntas definen la intención, no la implementación.

A medida que la IA se vuelve capaz de proponer arquitecturas, escribir código y optimizar sistemas, el verdadero peligro no es una IA maliciosa, sino perder el rastro de la intención humana detrás de los sistemas que construimos. Las organizaciones ya tienen dificultades para recordar por qué se tomaron ciertas decisiones; en un entorno aumentado por IA este problema se vuelve mucho más serio porque las máquinas pueden optimizar soluciones más rápido de lo que los humanos pueden comprenderlas. Para evitar construir sistemas que optimicen perfectamente objetivos equivocados, necesitamos una nueva capa de infraestructura llamada Provenance: un registro estructurado de decisiones, restricciones, compromisos e intención que conecte el comportamiento del sistema con el propósito humano. Sin esta capa de memoria, las organizaciones corren el riesgo de volverse altamente eficientes pero estratégicamente desalineadas, perdiendo gradualmente la capacidad de explicar o controlar los sistemas que crean.

Las organizaciones de entrega de software pierden repetidamente el contexto detrás de sus decisiones. Meses después de la implementación, los equipos a menudo no pueden explicar por qué se construyó algo, qué compromisos se aceptaron o qué se había prometido originalmente. Esto ocurre porque las herramientas del SDLC rastrean artefactos como tickets, commits, horas y costes, pero no la intención, los compromisos ni el razonamiento detrás de ellos. El resultado es “amnesia de contexto”: los equipos reconstruyen soluciones, repiten decisiones, discuten sobre el alcance y generan retrabajo, pérdida de margen y agotamiento. El problema central no son equipos descuidados, sino una brecha sistémica: el SDLC no tiene memoria incorporada del razonamiento de las decisiones. La pregunta incómoda que plantea el artículo es: ¿cómo es posible que en el desarrollo moderno de software rastreemos rigurosamente la ejecución pero no el razonamiento que la moldeó?