Czym jest śledzenie decyzji AI?
Śledzenie decyzji to praktyka uchwytywania pełnego rozumowania za każdą decyzją agenta AI jako strukturalnych, audytowalnych artefaktów. W przeciwieństwie do logów wykonania, które rejestrują, co się wydarzyło, ślady decyzji rejestrują, dlaczego to się wydarzyło — rozważane opcje, konsultowane dowody, rozważane argumenty i wybrane uzasadnienie. AIAgentree wdraża śledzenie decyzji poprzez Pakiety Decyzyjne: zamknięte zapisy zawierające propozycję, drzewo argumentów, migawki dowodów, wybrane uzasadnienie i śledzenie wyników. Śledzenie decyzji umożliwia zgodność z artykułami 12-14 Ustawy o AI UE, wspiera Trzy Tryby Zaufania (Człowiek w Pętli, Człowiek na Pętli, Pełna Autonomia) i tworzy pamięć instytucjonalną poprzez precedens jako infrastrukturę. Architektura odróżnia relacje normatywne (wspiera/przeciwstawia się) od relacji opisowych (wzmianki/powiązane), co sprawia, że rozumowanie AI jest możliwe do zapytania, porównania i cytowania.
Większość organizacji myli logowanie (co agent zrobił) z śledzeniem decyzji (co zostało postanowione i dlaczego). Różnica ma znaczenie, ponieważ regulacje, zarządzanie i pamięć instytucjonalna zależą od tego drugiego.
- •Dzienniki rejestrują zdarzenia wykonania — wywołania API, opóźnienia, błędy
- •Ślady decyzji rejestrują uporządkowane rozumowanie — opcje, dowody, uzasadnienie, wyniki
- •Paczki Decyzyjne to zapieczętowane artefakty, które audytorzy mogą przeszukiwać i odtwarzać.
- •Precedens pojawia się automatycznie z uporządkowanych decyzji — pamięć instytucjonalna jako infrastruktura
Regulator właśnie poprosił o ostatnie 100 decyzji, które podjęła twoja sztuczna inteligencja.
Masz 30 dni na odpowiedź. Co tak naprawdę masz?
Oryginalna teza, powtórzona
Decyzje AI zasługują na potwierdzenia. Rejestrowanie nie jest odpowiedzialnością. Łańcuch myślenia nie jest prawdą obiektywną.
Te stwierdzenia pozostają prawdziwe. Ale są niekompletne.
Pytanie "Dlaczego powinniśmy rejestrować decyzje?" ma oczywistą odpowiedź: zgodność, odpowiedzialność, debugowanie. Trudniejsze pytanie brzmi: "Co się dzieje, gdy to robimy?"
Odpowiedź jest nieoczekiwana: pamięć instytucjonalna staje się automatyczna. Nie jako funkcja, którą budujesz na wierzchu. Nie jako moduł, który dodajesz później. Jako naturalna konsekwencja modelu danych.
Co naprawdę oznacza "Decyzja"
Decyzja to nie jest wynik modelu. To nie jest odpowiedź API. To nie jest wartość zwracana przez funkcję.
Decyzja jest uporządkowanym artefaktem zawierającym:
- •Propozycja — co było decydowane (zatwierdzenie pożyczki #1234)
- •Rozważone dowody — fakty skonsultowane, zamrożone w czasie podejmowania decyzji
- •Rozważane alternatywy — opcje ocenione i odrzucone
- •Wybrana argumentacja — które argumenty zadecydowały o decyzji
- •Zarejestrowany wynik — co się wydarzyło później (natychmiastowe, 6-miesięczne, 1-roczne)
To, co AIAgentree nazywa Pakietem Decyzyjnym — to zamknięty, niezmienny zapis, który audytorzy mogą przeszukiwać, odtwarzać i cytować.
Czego nie mówią logi
| Dziennik wykonania | Ślad Decyzji |
|---|---|
zatwierdź_pożyczkę(application_id=1234, score=0.87) | Propozycja: Zatwierdzenie pożyczki #1234 ZA: Weryfikacja dochodu zakończona sukcesem (waga: 0.92) ZA: 3-letnia historia zatrudnienia (waga: 0.85) PRZECIW: Wynik kredytowy poniżej progu (waga: 0.78) WYJĄTEK: Ręczne zatwierdzenie wyjątku przez starszego analityka Uzasadnienie: Stabilność zatrudnienia przeważa nad obawami kredytowymi Wynik (6 miesięcy): 0 zaległych płatności |
| Co się stało. Kiedy to się stało. Jak długo to trwało. | Dlaczego podjęto taką decyzję. Co zostało wzięte pod uwagę. Co się wydarzyło później. |
Dziennik informuje, że pożyczka została zatwierdzona. Ślad mówi dlaczego została zatwierdzona pomimo obaw dotyczących wyniku kredytowego, kto autoryzował wyjątek i czy ta decyzja okazała się dobra.
Dwa prymitywy
Cały system śledzenia decyzji opiera się na dwóch prymitywach:
Prymityw 1: Trwały zapis rozumowania
Nie "to, co powiedział model." Strukturalny graf argumentacyjny z twierdzeniami, relacjami (wsparcie/przeciw), odniesieniami do dowodów i hierarchią.
Prymityw 2: Trwały zapis wyników
Nie "model zwrócił 200 OK." zarejestrowana decyzja z wynikiem, argumentami uzasadniającymi, decydentem i śledzeniem w trzech horyzontach.
Gdy masz obie rzeczy, precedens nie jest już czymś, co "pamiętasz". Staje się czymś, co możesz zapytać, porównać i zacytować.
Dlaczego normatywne przewyższa opisowe
Wykresy kontekstowe przechowują opisowe relacje: "związane z," "wzmianki," "posiadane przez." Wykresy argumentów decyzyjnych przechowują normatywne relacje: "popiera," "sprzeciwia się."
Rozróżnienie jest fundamentalne:
- •Opisowy: "Ten bilet wspomina o tym kliencie"
- •Normatywne: "Te dowody wspierają zatwierdzenie, ponieważ pokazują spójną historię płatności"
Struktura normatywna umożliwia wyjaśnialność, zarządzanie i precedens. Struktura opisowa umożliwia wyszukiwanie i odkrywanie. Obie są cenne. Tylko jedna umożliwia osąd instytucjonalny.
Jak powstaje precedens (mechanicznie)
Koło zamachowe
Agent generuje drzewo argumentów za i przeciw
Ludzie zatwierdzają/odrzucają + wybierają argumenty uzasadniające
Decyzja jest ostateczna → akta sprawy zamrożone
Następna decyzja: agent wyszukuje i przytacza tę sprawę
Precedens staje się węzłem argumentacyjnym w nowej sprawie.
Organizacja buduje bibliotekę wzorców "jak podejmujemy decyzje"
Wzorce umożliwiają bezpieczną automatyzację (autonomię opartą na precedensach)
Zdobywasz pamięć instytucjonalną jako produkt uboczny normalnego użytkowania, a nie jako osobną inicjatywę.
Od przechowywania do odzyskiwania: Decyzje jako graf
Zbieranie decyzji to tylko połowa wartości. Drugą połową jest odzyskiwanie ich — i to właśnie tam model danych uzasadnia swoje istnienie. Ponieważ każda decyzja jest przechowywana jako normatywny graf argumentów (twierdzenia połączone przez krawędzie wspiera/przeciwstawia się), staje się pierwszorzędnym podłożem do odzyskiwania, a nie tylko archiwum.
Wskazując wyszukiwanie wektorowe na surowe logi, otrzymujesz "zupę kawałków" — niepowiązane fragmenty, które cytują wniosek, ale pomijają kontrargument, zatwierdzającego oraz precedens. Zamiast tego, pobierz z grafu decyzyjnego, a otrzymasz ograniczony Pakiet Decyzyjny: propozycję, argumenty za i przeciw, dowody oraz wynik, w całości. To jest GraphRAG dla decyzji AI — powód, dla którego precedens jest czymś, co możesz zapytać i zacytować, a nie tylko czymś, co masz nadzieję zapamiętać. (Więcej na temat podłoża wyszukiwania: czym jest wyszukiwanie decyzji.)
Trzy tryby zaufania
Przedsiębiorstwa nie przekazują decyzji AI z dnia na dzień. Postępują przez etapy:
Człowiek w pętli
Agent wspiera, człowiek decyduje. Agent generuje rozumowanie; człowiek podejmuje ostateczną decyzję.
Człowiek w pętli
Agent decyduje, człowiek nadzoruje. Agent podejmuje decyzje; człowiek może je przeglądać i zmieniać.
Pełna autonomia
Agent decyduje, ludzie przeprowadzają audyty okresowo. Istnieje wystarczająco dużo precedensów, aby uzasadnić autonomiczne działanie.
Postęp w trybie jest oparty na dowodach: pewność ≥ 95%, podobne precedensy ≥ 5 z konsekwentnymi wynikami, wzór ustalony i zweryfikowany. To nie jest "ufaj, ale weryfikuj." To jest "weryfikuj, potem ufaj, a następnie wciąż weryfikuj."
Co to oznacza dla stosu AI w przedsiębiorstwie
KONTEKST STOSU PRZEDSIĘBIORSTWA
- •WARSTWA C: ROZWAŻANIE — DLACZEGO to postanowiono? Drzewa za/przeciw, cytaty z precedensów, pochodzenie dowodów
- •WARSTWA B: LINIA DECYZYJNA — CO zostało postanowione? Wynik, pewność, ocenione polityki, zatwierdzenia
- •WARSTWA A: KONTEXT OPERACYJNY — KTO/CO jest zaangażowane? Podmioty, relacje, stan czasowy (CRM, ERP)
Większość zespołów buduje A. Niektóre budują B. Prawie nikt nie buduje C dobrze. AIAgentree zapewnia C.
Trzy sposoby na połączenie — SDK to tylko jeden z nich
Śledzenie decyzji nie jest 6-miesięcznym zaangażowaniem doradczym — i nie wymaga naszego SDK. Istnieją trzy sposoby połączenia:
- •MCP (agent-native) — pełny cykl życia jako narzędzia, od początku do końca: utwórz ślad, zarejestruj rozumowanie, zamknij decyzję (
create_trace,append_events,seal_decision) i natychmiast pobierz Pakiet Decyzyjny (get_packet,search_precedents) — brak biblioteki do zainstalowania - •REST API — dowolny język, dowolne środowisko uruchomieniowe, zero zależności (SDK to cienki wrapper nad tymi punktami końcowymi)
- •SDK (Python / TypeScript) — ergonomiczna opcja, z automatycznym wydobywaniem wniosków z wyjścia twojego agenta
Ścieżka SDK jest najkrótsza do napisania — ślad decyzji w około dziesięciu linijkach:
from aiagentree import AgentreeClient
client = AgentreeClient(api_key="ask_...", base_url="https://api.aiagentree.com", tenant_id="acme")
# Trace your agent's decision point
trace = client.start_trace(
agent_id="discount-agent",
workflow_id="discount_approval",
entity_type="request",
entity_id="4521",
)
trace.add_input("discount", 0.18, source="crm")
trace.add_step("s1", title="SEV-1 incident yesterday", category="evidence", confidence=0.9)
trace.add_step("s2", title="Customer flagged as churn risk", category="evidence", confidence=0.85)
trace.add_step("s3", title="Exceeds standard 15% threshold", category="risk", confidence=0.7)
trace.seal("d1", action="approved", confidence=0.9)Ślad jest zabezpieczony, opieczętowany czasowo i możliwy do zapytania. Gdy nadejdzie następne podobne żądanie, ten precedens jest możliwy do odzyskania i cytowania.
Kąt zgodności
Dyrektywa UE o sztucznej inteligencji nakłada konkretne wymagania na systemy AI wysokiego ryzyka:
- •Artykuł 12 — Automatyczne rejestrowanie, które umożliwia śledzenie decyzji i identyfikację ryzyk
- •Artykuł 13 — Przejrzystość i udostępnianie informacji dla wdrożeniowców i użytkowników
- •Artykuł 14 — Środki nadzoru ludzkiego umożliwiające interwencję i zrozumienie
Ślady decyzji spełniają te wymagania, rejestrując ustrukturyzowane rozumowanie, pochodzenie dowodów, działania nadzoru ludzkiego oraz zapisy wyników — w formacie, który regulatorzy mogą rzeczywiście przeszukiwać i rozumieć.
Termin grudzień 2027: Systemy AI wysokiego ryzyka z załącznika III muszą spełniać wymagania dotyczące rejestrowania i śledzenia. Jeśli Twoje agenty AI podejmują decyzje dotyczące kredytów, zatrudnienia, edukacji lub opieki zdrowotnej, czas ucieka.
Czego nie rozwiązuje śledzenie decyzji
Śledzenie decyzji znajduje się na szczycie kontekstu operacyjnego. Nie zastępuje:
- •Systemy CRM/ERP — nadal potrzebujesz swoich systemów rejestracji
- •Narzędzia do obserwowalności — LangSmith, W&B, Arize nadal monitorują stan modeli
- •Rozwiązanie tożsamości — nadal potrzebujesz powiązania jednostek między systemami
Te narzędzia rozwiązują różne problemy na różnych warstwach. AIAgentree rejestruje jeden artefakt, którego wszyscy potrzebują, ale który nigdy wcześniej nie był przechowywany: decyzję samą w sobie.
Jak zacząć
Zidentyfikuj swoje kluczowe punkty decyzji.
Które decyzje agentów wpływają na klientów, zgodność lub przychody? Zacznij od tego.
Zintegruj 10-liniowe SDK
Owiń swoją istniejącą logikę agenta z przechwytywaniem śladów. Nie jest wymagane przepisywanie.
Odpowiedz na pytanie regulatora
Wybierz jednego agenta i zapytaj: "Jeśli regulator poprosiłby o ostatnie 100 decyzji, czy mógłbym odpowiedzieć?"
Najczęściej Zadawane Pytania
Czym jest śledzenie decyzji dla agentów AI?
Śledzenie decyzji rejestruje pełne uzasadnienie każdej decyzji AI — rozważane opcje, konsultowane dowody, rozważane argumenty i wybraną racjonalność — w postaci uporządkowanych, audytowalnych artefaktów zwanych Pakietami Decyzyjnymi. W przeciwieństwie do dzienników, które rejestrują, co się wydarzyło, ślady decyzji rejestrują, dlaczego to się wydarzyło.
Jak śledzenie decyzji różni się od logowania lub obserwowalności?
Logi rejestrują zdarzenia wykonania (wywołania API, opóźnienia, błędy). Narzędzia do obserwowalności monitorują stan systemu. Śledzenie decyzji uchwyca normatywną strukturę rozumowania — które argumenty wspierały lub przeciwstawiały się decyzji, jakie dowody zostały przytoczone i które uzasadnienie wpłynęło na wynik. To różnica między wiedzą, że 'pożyczka zatwierdzona', a wiedzą, 'dlaczego ta pożyczka została zatwierdzona pomimo obaw dotyczących wyniku kredytowego.'
Czym jest pakiet decyzyjny?
Pakiet Decyzyjny to podstawowy artefakt AIAgentree: zamknięty, niezmienny zapis zawierający propozycję (co zostało postanowione), drzewo argumentów (rozumowanie za/przeciw), migawki dowodów (zamrożone w czasie decyzji), wybraną rację (które argumenty wpłynęły na decyzję) oraz śledzenie wyników (co się wydarzyło później). To wszystko, czego potrzebuje regulator lub audytor, aby zrozumieć i odtworzyć decyzję.
Jak śledzenie decyzji pomaga w zgodności z Aktem o AI UE?
Artykuły 12-14 Aktu o Sztucznej Inteligencji UE wymagają, aby systemy AI wysokiego ryzyka prowadziły dzienniki, które umożliwiają śledzenie decyzji. Ślady decyzji spełniają te wymagania, rejestrując ustrukturyzowane rozumowanie, pochodzenie dowodów, działania nadzoru ludzkiego oraz zapisy wyników — w formacie, który regulatorzy mogą rzeczywiście przeszukiwać i rozumieć.
Jakie są trzy tryby zaufania w zarządzaniu AI?
Trzy tryby reprezentują postęp: Tryb 1 (Człowiek w pętli), w którym agenci pomagają, ale to ludzie podejmują decyzje; Tryb 2 (Człowiek na pętli), w którym agenci podejmują decyzje z nadzorem ludzi; Tryb 3 (Pełna autonomia), w którym agenci podejmują decyzje z okresowymi audytami. Postęp między trybami oparty jest na dowodach, napędzany przez wskaźniki zaufania, spójność precedensów i śledzenie wyników.
Jak działają precedensy w śledzeniu decyzji?
Gdy decyzje są rejestrowane jako strukturalne artefakty, precedens pojawia się automatycznie. Podobne wcześniejsze decyzje można wyszukiwać według kategorii, odniesień do podmiotów, tagów argumentów lub ograniczeń politycznych. Te precedensy stają się pierwszorzędnymi węzłami argumentacyjnymi w nowych decyzjach — mogą być cytowane, kwestionowane lub uchylane jak każdy inny powód. Pamięć instytucjonalna kumuluje się z każdą decyzją.
Ile czasu zajmuje integracja AIAgentree?
Możesz połączyć się na trzy sposoby: przez MCP jako narzędzia natywne agenta (bez SDK, bez biblioteki), REST API (dowolny język, zero zależności) lub SDK Python/TypeScript (około dziesięciu linii, z automatycznym wydobywaniem rozumowania). Pełny cykl życia — utworzenie śladu, zapis rozumowania, zatwierdzenie decyzji i natychmiastowe pobranie Pakietu Decyzyjnego — działa tylko przez MCP, od początku do końca, bez żadnej biblioteki. Nie ma 6-miesięcznego zaangażowania doradczego; to warstwa infrastruktury, którą dodajesz do swojego istniejącego stosu agentów.
Pokrewne Tematy
Pokrewne Artykuły
GraphRAG dla decyzji AI: Dlaczego grafy przewyższają wyszukiwanie wektorowe w pamięci agenta
Wektor RAG nad logami zwraca "zupę kawałków" — odłączone fragmenty tekstu, które nie zawierają kontrargumentów, zatwierdzeń i precedensów, które uczyniły decyzję obronną. Gdy decyzje są przechowywane jako normatywna graf argumentacyjny, wyszukiwanie zwraca zamiast tego ograniczony, audytowalny Pakiet Decyzyjny.
Artykuł 6 Ustawy UE o AI: Co oznacza klasyfikacja wysokiego ryzyka dla Twoich agentów AI
Artykuł 6 rozporządzenia UE o sztucznej inteligencji określa, czy Twój system AI jest "wysokiego ryzyka" — i uruchamia obowiązkowe wymagania dotyczące ścieżki audytu. Jeśli Twoje agenty podejmują decyzje dotyczące kredytów, zatrudnienia, edukacji lub opieki zdrowotnej, musisz zrozumieć klasyfikację w Załączniku III przed grudniem 2027 roku.
Czym jest ślad audytu decyzji?
Ludzki odpowiednik decyzji AI: kompletny, możliwy do przeglądania zapis tego, kto zdecydował co i dlaczego.
Zespół AIAgentree
Zarządzanie AI
Zespół AIAgentree buduje infrastrukturę śledzenia decyzji dla agentów AI. Naszą misją jest uczynienie rozumowania AI widocznym, audytowalnym i ulepszanym.
Gotowy, aby śledzić swoje decyzje AI?
Zacznij uchwytywać ślady decyzji już dziś. Dostępny darmowy poziom — nie jest wymagana karta kredytowa.
Rozpocznij Darmowy Okres Próbny