Bezpečnejšia a transparentnejšia umelá inteligencia

Dňa 2. augusta 2026 nadobudli účinnosť nové pravidlá transparentnosti systémov umelej inteligencie (AI).

AI sa rýchlo rozvíja, v dôsledku čoho je čoraz ťažšie rozlíšiť obsah vygenerovaný a zmanipulovaný AI od obsahu vytvoreného človekom a autentického obsahu. To so sebou prináša nové riziká v podobe mylných informácií a manipulácie vo veľkom meradle, podvodov, predstierania identity a klamania spotrebiteľov.

Nové povinnosti v oblasti transparentnosti pomôžu ľuďom rozpoznať, keď interagujú s AI alebo sú vystavení obsahu vygenerovanému AI, aby mohli prijímať informované rozhodnutia a lepšie sa chrániť pred mylnými informáciami alebo oklamaním. 

Povinnosti v oblasti transparentnosti pre poskytovateľov a nasadzujúce subjekty určitých systémov AI

• Označovanie obsahu vygenerovaného AI: určitý obsah vygenerovaný alebo zmanipulovaný AI musí byť jasne a viditeľne označený a musí obsahovať strojovo čitateľné označenia. EÚ vytvorila súbor ikon , ktoré je možné na tento účel použiť. Vzťahuje sa to na
  • obrázky, zvukové záznamy a videozáznamy, ktoré pripomínajú skutočné osoby, predmety, miesta, subjekty alebo udalosti (deepfakes),
  • nástroje na rozpoznávanie emócií a biometrickú kategorizáciu,
  • text zverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu, ktorý neprešiel ľudským preskúmaním ani redakčnou kontrolou. 
• Transparentnosť pri interakcii so systémom AI: Používatelia musia byť jasne informovaní, keď neinteragujú so skutočnou osobou, ale so systémom AI, napríklad s chatbotom, agentom AI alebo avatarom.

Komisia zverejnila usmernenia, ktoré majú pomôcť poskytovateľom a nasadzujúcim subjektom systémov AI pri plnení týchto povinností v oblasti transparentnosti. V usmerneniach sa vysvetľuje, ako je možné preukázať súlad s predpismi, a to aj dodržiavaním kódexu správania.

Presadzovanie pravidiel a sankcie

Za presadzovanie pravidiel transparentnosti sú zodpovedné národné orgány dohľadu nad trhom, Európsky úrad pre umelú inteligenciu (v prípade systémov, ktoré podliehajú jeho dohľadu) a európsky dozorný úradník pre ochranu údajov (ak sú poskytovateľmi alebo nasadzujúcimi subjektmi inštitúcie EÚ) a tieto subjekty môžu ukladať pokuty       

• až do výšky 15 miliónov eur alebo 3 % celosvetového ročného obratu v prípade spoločností,
• až do výšky 750 000 eur v prípade inštitúcií, orgánov a agentúr EÚ, 
• v primeranej výške v prípade malých a stredných podnikov (MSP) a malých spoločností so strednou trhovou kapitalizáciou.

Akt o AI nadobudol účinnosť 1. augusta 2024. Jeho ustanovenia sa začínajú uplatňovať postupne, pričom rôzne povinnosti nadobúdajú účinnosť v rôznom čase. Týmto aktom sa vytvára jednotný trh a harmonizované pravidlá pre dôveryhodnú AI v EÚ a podporujú sa inovácie v oblasti AI a jej zavádzanie. Zaoberá sa aj potenciálnymi rizikami pre zdravie, bezpečnosť a základné práva ľudí, pričom zároveň chráni demokraciu a právny štát. Zabezpečenie jeho účinného vykonávania je teraz pre Komisiu kľúčovou prioritou.

Ďalšie informácie

Tlačová správa: Komisia začína presadzovať ustanovenia aktu o AI

Tlačová správa: Usmernenia týkajúce sa povinností v oblasti transparentnosti

Najčastejšie otázky Povinnosti v oblasti transparentnosti

Stručné informácie: Pravidlá transparentnosti pre systémy AI

Umelá inteligencia v službách ľudí

Umelá inteligencia