Dziennik

Refleksje nad artykułem Jessiki Talisman pokazują, że utrata proweniencji wiedzy to nie problem formatowania cytatów, lecz strukturalny rozpad integralności – a w kontekście AI i inżynierii oprogramowania przechwytywanie uzasadnienia decyzji staje się fundamentem zarządzania, wyjaśnialności i bezpiecznej współpracy systemów.

Ludzie naturalnie niechętnie dzielą się rozumowaniem stojącym za swoimi decyzjami, ponieważ kontekst i pamięć historycznie były źródłem wpływu oraz przewagi zawodowej. W rezultacie wiele krytycznych decyzji pozostaje nieudokumentowanych i istnieje jedynie w rozmowach lub w indywidualnej pamięci. W erze wspomaganej przez AI staje się to poważnym problemem zarządczym, ponieważ systemy ewoluują szybciej, a uzasadnienie zmian znika jeszcze szybciej. Bez zachowania kontekstu decyzji organizacje tracą zdolność do wyjaśniania, audytowania oraz bezpiecznego rozwijania swoich systemów. Zmiana wywołana przez AI przekształca więc pochodzenie decyzji z kulturowej preferencji w strukturalny wymóg zarządzania organizacją.

Gdy decyzje stają się artefaktami pierwszej klasy, coś zmienia się fundamentalnie. Kiedy środowisko ewoluuje, nie jesteśmy już zmuszeni do ponownego odkrywania logiki systemu poprzez „archeologię” i spekulacje. Zamiast tego możemy wrócić do pierwotnej decyzji, zaktualizować założenia, które przestały być aktualne, i ponownie wygenerować implementację w sposób odzwierciedlający nowy kontekst.

Wyobraźmy sobie „organizację native w modelu Provenance” w 2030 roku — firmę zbudowaną od samego początku wokół linii pochodzenia decyzji, pamięci SDLC oraz śledzenia wykonania AI, zamiast próbować dodać te elementy dopiero później.

Po opublikowaniu pierwszej wersji Provenance Manifesto zacząłem sprawdzać, czy istniejące rozwiązania rynkowe rzeczywiście odpowiadają zasadom w nim opisanym.

Artykuł analizuje prosty, ale często pomijany problem: organizacje tworzące oprogramowanie rzadko zachowują rozumowanie stojące za podejmowanymi decyzjami, mimo że to właśnie te decyzje kształtują wszystko, co budują. Pokazuje również, że sama dokumentacja i systemy wyszukiwania AI nie rozwiążą tego problemu, ponieważ brakuje strukturalnego systemu zapisującego relacje między decyzjami, założeniami i rezultatami. Provenance Manifesto proponuje traktowanie decyzji jako artefaktów pierwszej klasy, aby organizacje mogły zachować intencję, odpowiedzialność oraz linię pochodzenia decyzji w świecie, w którym AI przyspiesza rozwój oprogramowania.

AI szybko przejmuje warstwę „co” w tworzeniu oprogramowania — generując architektury, kod, optymalizacje i alternatywne rozwiązania szybciej, niż ludzie są w stanie to zrobić. W rezultacie implementacja i eksploracja rozwiązań stają się tanie, skalowalne i coraz bardziej zautomatyzowane. Jednak prawdziwa strategiczna warstwa inżynierii nigdy nie dotyczyła „co”. Kluczowe pytania dotyczą „dlaczego” — dlaczego rozwiązanie istnieje, dlaczego zaakceptowano dany kompromis, dlaczego ryzyko jest dopuszczalne i dlaczego określony wynik ma znaczenie dla biznesu. To pytania o intencję, nie o implementację.

W miarę jak AI staje się zdolne do proponowania architektur, pisania kodu i optymalizacji systemów, prawdziwym zagrożeniem nie jest złośliwa sztuczna inteligencja, lecz utrata ludzkiej intencji stojącej za systemami, które budujemy. Organizacje już dziś mają problem z pamiętaniem, dlaczego podjęto określone decyzje; w środowisku wspomaganym przez AI problem ten staje się znacznie poważniejszy, ponieważ maszyny mogą optymalizować rozwiązania szybciej, niż ludzie są w stanie je zrozumieć. Aby uniknąć budowania systemów, które perfekcyjnie optymalizują niewłaściwe cele, potrzebujemy nowej warstwy infrastruktury zwanej Provenance — strukturalnego zapisu decyzji, ograniczeń, kompromisów i intencji, który łączy zachowanie systemu z ludzkim celem. Bez takiej warstwy pamięci organizacje ryzykują, że staną się bardzo efektywne, ale strategicznie rozbieżne, stopniowo tracąc zdolność do wyjaśniania i kontrolowania systemów, które tworzą.

Organizacje zajmujące się dostarczaniem oprogramowania wielokrotnie tracą kontekst stojący za podjętymi decyzjami. Miesiące po implementacji zespoły często nie potrafią wyjaśnić, dlaczego coś zostało zbudowane, jakie kompromisy zostały zaakceptowane ani co było pierwotnie obiecane. Dzieje się tak, ponieważ narzędzia SDLC śledzą artefakty takie jak tickety, commity, godziny pracy czy koszty — ale nie intencję, zobowiązania i uzasadnienie stojące za nimi. W rezultacie pojawia się „amnezja kontekstowa”: zespoły odtwarzają rozwiązania, powtarzają decyzje, kłócą się o zakres i ponoszą koszty poprawek, utraty marży oraz wypalenia. Sednem problemu nie są nieostrożne zespoły, lecz systemowa luka — SDLC nie posiada wbudowanej pamięci uzasadnienia decyzji. Niewygodne pytanie, które stawia artykuł, brzmi: dlaczego we współczesnym rozwoju oprogramowania tak dokładnie śledzimy wykonanie, ale nie rozumowanie, które je ukształtowało?