Legislatívne požiadavky a EU AI Act

Nariadenie o umelej inteligencii (EU AI Act) predstavuje prvý komplexný právny rámec na svete, ktorý reguluje vývoj a nasadenie technológií AI na základe ich rizikového profilu. Pre inžinierov a dátových vedcov to znamená zavedenie prísnych kontrolných mechanizmov už vo fáze návrhu (Privacy by Design). Každý systém musí prejsť rigoróznym posúdením vplyvu na základné práva a bezpečnosť, pričom pokuty za nedodržanie môžu dosiahnuť až 35 000 000 EUR alebo 7 % celosvetového ročného obratu spoločnosti.

"Cieľom legislatívy nie je zastaviť inováciu, ale zabezpečiť, aby algoritmy pracovali v predvídateľných a bezpečných mantineloch, ktoré minimalizujú kognitívne skreslenie a systémové chyby."

Kľúčové požiadavky na správu dát

Správa dát sa stáva kritickým pilierom zhody. Podľa článku 10 nariadenia musia byť trénovacie, validačné a testovacie súbory údajov relevantné, reprezentatívne a v maximálnej možnej miere bez chýb. To si vyžaduje implementáciu pokročilých techník čistenia dát a neustály monitoring anomálií v distribučných tokoch. V kontexte ochrany osobných údajov je nevyhnutné zabezpečiť, aby anonymizačné techniky boli nevratné a odolné voči re-identifikačným útokom.

• Auditovateľnosť: Každé rozhodnutie modelu musí byť spätne vysledovateľné k trénovaciemu datasetu a konkrétnej verzii architektúry.
• Ľudský dohľad (Human-in-the-loop): Systémy s vysokým rizikom musia umožňovať manuálny zásah a vypnutie operátorom v prípade detekcie nepredvídaného správania.
• Robustnosť: Odolnosť voči chybám v vstupných dátach a pokusom o externú manipuláciu s váhami modelu.

V rámci našej metodiky v Terracotta Co kladieme dôraz na kvantitatívne metriky. Napríklad pri hodnotení bezpečnosti a metrík meriame mieru šumu v dátach a stabilitu gradientu počas tréningu, čo priamo koreluje s budúcimi požiadavkami na certifikáciu podľa noriem ISO/IEC 42001.