Preskočiť na obsah
Objednať konzultáciu

AI Act: klasifikácia rizík AI systémov

AI Act: klasifikácia rizík AI systémov v praxi

Nariadenie (EÚ) 2024/1689 neplatí len pre tých, čo umelú inteligenciu vyvíjajú. Týka sa aj firmy, ktorá kúpi hotový nástroj od dodávateľa z USA a nasadí ho u seba. Rozhoduje účel použitia. Ten istý chatbot je v zákazníckej podpore nástroj s povinnosťou transparentnosti, no ako rozhodovací nástroj pri výbere zamestnancov môže byť vysokorizikovým systémom.

Pri každom systéme začíname klasifikačnou analýzou. Z nej vyplynie, či ide o zakázanú praktiku, vysokorizikový systém, AI s povinnosťou transparentnosti alebo ostatné AI. Podľa výsledku pripravíme plán krokov a internú smernicu. Preveríme aj zmluvy s dodávateľmi, aby bolo jasné, ktoré povinnosti nesie poskytovateľ a ktoré vy ako používateľ.

S čím pomáhame

  • Klasifikačná analýza AI systému podľa kategórií rizika
  • Plán krokov k súladu s AI Act
  • Interná smernica pre riadenie rizík a ľudský dohľad
  • Preverenie zmlúv s poskytovateľmi AI a rozdelenie povinností
  • Prepojenie s DPIA a čl. 22 GDPR
  • Zmluvné doložky o zodpovednosti za škodu spôsobenú AI

Čo je dobré vedieť

Zakázané praktiky už platia

Zákazy podľa čl. 5 sú účinné od 2. februára 2025. Patrí sem napríklad manipulácia podprahovými technikami, rozpoznávanie emócií na pracovisku a v škole (s výnimkami) či plošné zbieranie fotografií tvárí z internetu.

Chatbot musí povedať, že je AI

Podľa čl. 50 musí človek vedieť, že komunikuje s AI, ak to nie je zrejmé z kontextu. Deepfake a iný syntetický obsah treba označiť ako vytvorený umelou inteligenciou.

Všeobecné AI modely

Povinnosti poskytovateľov všeobecných AI modelov (GPAI), napríklad veľkých jazykových modelov, platia od 2. augusta 2025. Patrí k nim technická dokumentácia, dodržiavanie autorského práva pri tréningu a zverejnené zhrnutie tréningových dát.

Poskytovateľ a používateľ

Poskytovateľ AI systém vyvíja alebo ho uvádza na trh pod svojím menom a má širší okruh povinností. Používateľ (deployer) systém nasadzuje pod svojou kontrolou a zodpovedá najmä za ľudský dohľad, informovanie dotknutých osôb a vedenie záznamov.

Časté otázky

  • Čl. 5 zakazuje napríklad sociálne skórovanie, manipulatívne podprahové techniky, zneužívanie zraniteľnosti ľudí a hromadné zbieranie tvárí na tvorbu biometrických databáz. Zakázané je aj rozpoznávanie emócií v práci a v škole s úzkymi výnimkami.

  • Generatívna AI patrí spravidla medzi systémy s povinnosťou transparentnosti podľa čl. 50 a jej výstupy majú byť strojovo čitateľne označené. Samotné modely sú zároveň všeobecnými AI modelmi, ktorých poskytovatelia majú vlastné povinnosti.

  • Sankcie upravuje čl. 99 a sú odstupňované podľa závažnosti porušenia. Najprísnejšie sú pri zakázaných praktikách. Určujú sa ako podiel z celosvetového ročného obratu alebo pevná suma a pri malých a stredných podnikoch môžu byť primerane nižšie.

Súvisiace články

Príprava na konzultáciu

Čo si pripraviť na konzultáciu

Zaškrtnite, čo už máte. Zoznam si môžete vytlačiť alebo uložiť ako PDF. Zaškrtnutie sa pamätá len vo vašom prehliadači.

Pri každej veci

Navyše pri tejto oblasti

Pripravené 0 z 8

Prebrať vašu vec s advokátom

Na konzultácii posúdime vašu situáciu, navrhneme postup a povieme, s akými nákladmi počítať.

90 € s DPH, 30 minút, osobne alebo online

Text má informatívny charakter, vychádza z predpisov platných v čase prípravy a nenahrádza posúdenie vašej konkrétnej veci.