Technická integrita
Validácia vstupných dát a odolnosť voči adversariálnym útokom typu "poisoning", ktoré môžu ovplyvniť 95% presnosti modelu pri nulovej obrane.
Databáza terminológie v1.0.4
Technický glosár pojmov AI bezpečnosti
Presná definícia parametrov, metrík a metodológií používaných pri audite algoritmov a ochrane dát v systémoch strojového učenia.
Privátne výpočty
Implementácia techník ako diferenciálne súkromie (Differential Privacy) s parametrom epsilon (ε) pod hranicou 1.0 pre maximálnu anonymizáciu.
Auditovateľnosť kódu
Kompletný logovací systém pre rozhodovacie stromy a neurónové siete, umožňujúci spätnú rekonštrukciu logiky na úrovni 100% váhových zmien.
Kľúčové definície a koncepty
V prostredí moderného vývoja umelej inteligencie (AI) je kľúčové zjednotiť terminológiu. Nesprávna interpretácia technických pojmov často vedie k bezpečnostným rizikám. Tento glosár poskytuje presné technické parametre pre inžinierov a analytikov, ktorí pracujú na integrácii modelov do produkčného prostredia. Každý termín je naviazaný na konkrétne metriky popísané v sekcii Kybernetická bezpečnosť LLM.
- Adversarial Attack
- Technika manipulácie so vstupnými dátami (napr. šum v obrázkoch alebo skryté tokeny v texte), ktorá má za cieľ prinútiť model k nesprávnej klasifikácii. Úspešnosť útoku sa meria poklesom Accuracy (ACC) pod stanovený prah tolerancie.
- Differential Privacy
- Matematický rámec, ktorý kvantifikuje únik informácií o jednotlivých záznamoch v trénovacej množine. Zabezpečuje, že výstup modelu sa nezmení signifikantne pri odstránení alebo pridaní jedného dátového bodu.
- Model Drift
- Fenomén, kedy sa presnosť modelu v priebehu času znižuje kvôli zmenám v distribúcii reálnych dát oproti trénovacím dátam. Monitoruje sa pomocou metriky Population Stability Index (PSI). Viac informácií nájdete v časti Transparentnosť a vysvetliteľnosť.
- Explainable AI (XAI)
- Súbor techník (napr. SHAP, LIME), ktoré umožňujú interpretovať váhy jednotlivých atribútov pri rozhodovaní modelu. Cieľom je odstrániť efekt "čiernej skrinky" pri kritických výpočtoch.
Technické metriky a výpočtové vzorce
Pre objektívne posúdenie bezpečnosti AI systémov používame štandardizované metriky. Tieto údaje sú základom pre naše reporty o ochrane osobných údajov v AI.
| Metrika | Účel výpočtu | Benchmark hodnota | Kategória rizika |
|---|---|---|---|
| Precision / Recall | Detekcia anomálií a falošne pozitívnych výsledkov. | > 0.92 | Nízka |
| F1-Score | Harmonický priemer presnosti a citlivosti modelu. | > 0.88 | Stredná |
| Entropy Loss | Meranie neurčitosti predikcií pri neznámych vstupoch. | < 0.15 | Vysoká |
| Latency (P99) | Časová odozva pri spracovaní bezpečnostných filtrov. | < 200ms | Stredná |
Dôležitá poznámka k validácii:
Všetky vyššie uvedené metriky musia byť validované na nezávislom datasete (hold-out set), ktorý nebol použitý v žiadnej fáze trénovania ani hyperparametrického ladenia. Odchýlka medzi validačným a testovacím skóre väčšia ako 3% indikuje pretrénovanie (overfitting).
Proces technickej verifikácie
1
Dátová sanitácia
Odstránenie PII (Personally Identifiable Information) a normalizácia vektorových priestorov. Tento krok zahŕňa kontrolu 100% vstupných polí podľa GDPR štandardov.
2
Penetračný test modelu
Simulácia útokov typu "black-box" a "white-box". Testujeme odolnosť proti injekcii promptov u LLM modelov s cieľom dosiahnuť 0% úspešnosť neautorizovaných príkazov.
3
Generovanie XAI reportu
Dokumentácia rozhodovacej logiky pre regulačné orgány. Každý model musí obsahovať technickú kartu (Model Card) s detailným popisom limitácií.
Potrebujete technický audit vášho modelu?
Náš tím inžinierov v Terracotta Co vykonáva hĺbkovú analýzu architektúry, validáciu dátových tokov a testovanie odolnosti systémov podľa ISO/IEC 42001. Zabezpečte svoje AI riešenie ešte dnes.