Feature Importance
Kvantifikácia vplyvu jednotlivých vstupných premenných na finálny výstup modelu. Používame normalizované váhy na určenie priority dátových bodov v reálnom čase.
Transparentnosť a vysvetliteľnosť (XAI)
Technická dokumentácia metodík pre auditovateľnosť algoritmov a dešifrovanie rozhodovacích procesov v neurónových sieťach.
Interpretability Specs
Global Surrogate Models
Aproximácia komplexných modelov pomocou lineárnych regresií alebo rozhodovacích stromov pre zjednodušenú interpretáciu celkového správania systému.
Attention Maps
Vizualizácia distribučných váh v Transformer architektúrach, umožňujúca sledovať, na ktoré segmenty dát sa model sústredí pri generovaní odpovede.
Porovnanie LIME a SHAP
Pre zabezpečenie objektívnej analýzy využívame dva primárne prístupy k lokálnej vysvetliteľnosti. Zatiaľ čo LIME (Local Interpretable Model-agnostic Explanations) vytvára lokálne verné modely v okolí konkrétneho predpokladu, SHAP (SHapley Additive exPlanations) poskytuje matematicky podložené rozdelenie hodnôt na základe teórie hier.
| Parameter | LIME | SHAP |
|---|---|---|
| Konzistencia | Nižšia (lokálna nestabilita) | Vysoká (matematická záruka) |
| Výpočtová náročnosť | Nízka (rýchla aproximácia) | Vysoká (exponenciálna zložitosť) |
| Typ interpretácie | Lokálna | Lokálna aj Globálna |
Výber metodiky závisí od kritickosti aplikácie. Pri modeloch pracujúcich s citlivými informáciami (pozri Ochrana osobných údajov) preferujeme SHAP pre jeho teoretickú presnosť.
Štruktúra auditných logov
Každý zásah do modelu a každé vygenerované rozhodnutie sú zaznamenávané v immutable logoch. Tento systém umožňuje spätne rekonštruovať logiku modelu v ľubovoľnom čase t-1.
- Timestamp & Hash
- Presný časový údaj s kryptografickým odtlačkom verzie modelu pre zamedzenie neoprávnenej manipulácie s históriou.
- Decision Trace
- Kompletná cesta aktivácie neurónov, ktorá viedla k výsledku, vrátane váh priradených jednotlivým vrstvám.
- Input/Output Snapshot
- Anonymizovaný záznam vstupných dát a výslednej predikcie, synchronizovaný s technickým glosárom pojmov.
Tento webový portál slúži ako nezávislý referenčný zdroj a informačný projekt. Terracotta Co nie je pridružená k žiadnym vládnym agentúram, verejným organizáciám, komerčným dodávateľom ani vlastníkom ochranných známok tretích strán. Všetky technické informácie sú poskytované na účely transparentnosti v oblasti umelej inteligencie.
Pripravení na implementáciu transparentnej AI?
Prejdite si naše metodiky auditu alebo kontaktujte našich inžinierov pre hĺbkovú analýzu vašich súčasných modelov.