Блог

Рефлексия над статьёй Джессики Талисман о том, как языковые модели разрушают цепочку происхождения знаний: без провенанса даже корректный вывод становится хрупким, а в контексте разработки ПО это означает, что решения, принятые людьми и ИИ совместно, должны фиксироваться как структурированный след — иначе распад знаний становится не исключением, а нормой.

Люди естественно сопротивляются тому, чтобы делиться рассуждениями, стоящими за их решениями, потому что контекст и память исторически были источником влияния и профессионального преимущества. В результате многие критически важные решения остаются недокументированными и существуют только в разговорах или в индивидуальной памяти. В эпоху, усиленную ИИ, это становится серьёзной проблемой управления, потому что системы эволюционируют быстрее, а логика изменений исчезает ещё быстрее. Без сохранения контекста решений организации теряют способность объяснять, аудировать и безопасно развивать свои системы. Переход к ИИ превращает происхождение решений из культурного предпочтения в структурное требование организационного управления.

Когда решения становятся первоклассными артефактами, происходит фундаментальное изменение. Когда среда меняется, нам больше не нужно заново «раскапывать» логику системы через археологию и догадки. Вместо этого мы можем вернуться к исходному решению, обновить предположения, которые больше не актуальны, и заново сформировать реализацию таким образом, чтобы она отражала новый контекст.

Представим «компанию, изначально построенную вокруг Provenance» в 2030 году — организацию, которая с самого начала создаётся вокруг происхождения решений, памяти SDLC и трассируемости исполнения ИИ, а не пытается добавить это позже.

После публикации первой версии Provenance Manifesto я начал исследовать, соответствуют ли существующие на рынке решения принципам, изложенным в нём.

Статья про то, как роодиося этот манифест!

ИИ быстро захватывает уровень «что» в разработке программного обеспечения — генерируя архитектуры, код, оптимизации и альтернативные решения быстрее, чем это могут делать люди. В результате реализация и исследование решений становятся дешёвыми, масштабируемыми и всё более автоматизированными. Но настоящая стратегическая часть инженерии никогда не заключалась в «что». Ключевые вопросы — это «почему»: почему существует это решение, почему был принят тот или иной компромисс, почему данный риск допустим и почему конкретный результат важен для бизнеса. Эти вопросы определяют намерение, а не реализацию.

По мере того как ИИ становится способным предлагать архитектуры, писать код и оптимизировать системы, настоящая опасность заключается не в злонамеренном ИИ, а в потере человеческого намерения, стоящего за системами, которые мы создаём. Организации уже испытывают трудности с тем, чтобы помнить, почему принимались решения; в среде, усиленной ИИ, эта проблема становится гораздо серьёзнее, потому что машины могут оптимизировать решения быстрее, чем люди способны их понять. Чтобы не создавать системы, идеально оптимизирующие неправильные цели, нам нужен новый инфраструктурный слой — Provenance: структурированная запись решений, ограничений, компромиссов и намерений, которая связывает поведение системы с человеческой целью. Без такого слоя памяти организации рискуют стать высокоэффективными, но стратегически рассогласованными, постепенно теряя способность объяснять или контролировать создаваемые ими системы.

Организации, занимающиеся разработкой и доставкой программного обеспечения, постоянно теряют контекст своих решений. Через несколько месяцев после внедрения команды часто не могут объяснить, почему что-то было построено, какие компромиссы были приняты или что изначально было обещано. Это происходит потому, что инструменты SDLC отслеживают артефакты — тикеты, коммиты, часы и расходы — но не намерение, обязательства и логику решений. В результате возникает «амнезия контекста»: команды заново создают решения, повторяют решения, спорят о границах задач и несут расходы на переделку, потерю маржи и выгорание. Основная проблема не в небрежности команд, а в системном пробеле — у SDLC нет встроенной памяти обоснования решений. Неудобный вопрос, который поднимает статья: почему в современном разработке программного обеспечения мы тщательно отслеживаем исполнение, но не фиксируем рассуждения, которые его сформировали?