To założenia robocze, a nie tezy do obrony. Każde z nich sprawdzamy, zamiast opierać na nim perswazję.
Hipoteza pierwsza
Coraz mniej generowania, coraz więcej weryfikacji
Przez pierwsze lata popularyzacji generatywnej AI fascynowało nas przede wszystkim to, co model potrafi stworzyć: tekst, kod, diagram, analizę, dokument, test.
Wraz ze wzrostem możliwości modeli koszt wytworzenia pierwszej wersji artefaktu spadł niemal do zera. Powstało inne wąskie gardło:
Skąd wiemy, że rezultat jest właściwy?
Jeżeli agent generuje pięć wariantów architektury w trzy minuty, problemem nie jest brak wariantów - problemem jest ich rzetelna ocena.
Jeżeli AI potrafi napisać kilkaset wymagań, nie potrzebujemy mechanizmów zwiększających ich liczbę. Potrzebujemy takich, które rozpoznają, które z nich są prawdziwe, potrzebne, spójne i możliwe do zweryfikowania.
Jeżeli agent modyfikuje kilkadziesiąt plików w repozytorium, człowiek nie utrzyma kontroli przez ręczne przeczytanie wszystkiego. Potrzebuje kontroli zbudowanej zupełnie inaczej.
Dlatego rośnie znaczenie proweniencji, testów, prób obalenia tezy, śledzenia powiązań, obserwowalności i niezależnych mechanizmów kontrolnych.
Być może najważniejszą zmianą w pracy architekta okaże się przejście od projektowania artefaktów do projektowania dowodu na to, że rozwiązanie odpowiada pierwotnej intencji.
Hipoteza druga
Intencja drożeje, gdy wykonanie tanieje
Kiedy implementacja jest kosztowna, większość wysiłku pochłania jej wytworzenie. Kiedy koszt implementacji maleje, relatywnie droższe stają się błędy popełnione wcześniej: źle zrozumiany problem, nieprecyzyjne wymaganie, niewypowiedziane założenie, źle postawiony cel, błędnie wyznaczona granica systemu, nieuzgodnione znaczenie pojęcia.
Agent wykona błędne polecenie bardzo sprawnie. Sprawniej, niż zrobiłby to kiedykolwiek człowiek.
Dlatego rozwój AI nie musi zmniejszać znaczenia analizy. Paradoksalnie może podnieść wartość dobrze zdefiniowanej intencji - i zmienić rolę analityka.
Mniej czasu na ręczne wytwarzanie dokumentacji. Więcej na rozumienie problemu, wykrywanie sprzeczności, definiowanie semantyki, prowadzenie rozmów i pilnowanie, czy powstające rozwiązanie wciąż odpowiada pierwotnej potrzebie.
Hipoteza trzecia
Analityk i architekt nie muszą tworzyć więcej - muszą trafniej podejmować decyzje
Skoro wytworzenie kolejnego wariantu rozwiązania, zestawu wymagań czy modelu procesu staje się tanie, wartość nie leży już w ich liczbie. Leży w:
- rozpoznaniu istotnych kompromisów i ryzyk,
- odróżnieniu rzeczywistej potrzeby od zgłoszonego życzenia,
- przesądzeniu, gdzie przebiega granica systemu,
- trafnym sformułowaniu kryteriów oceny,
- odrzuceniu rozwiązań pozornie atrakcyjnych,
- zaprojektowaniu eksperymentu, który rozstrzygnie spór,
- utrzymaniu spójności decyzji w czasie,
- wyznaczeniu granic autonomii agentów,
- oraz w umiejętności powiedzenia: „nie mamy jeszcze wystarczających danych, aby podjąć tę decyzję”.
Obie role mogą się przesuwać w tę samą stronę: od opinii do eksperymentu, od dokumentacji do obserwowalności, od jednorazowego przeglądu do ciągłego zapewniania zgodności, od statycznego modelu do żywego obrazu systemu.
To są obszary, które chcemy testować.