Od 2. srpna 2026 se v EU uplatňují nová pravidla týkající se transparentnosti systémů AI.
Umělá inteligence postupuje rychle kupředu, a proto je stále obtížnější odlišit obsah vytvořený a zmanipulovaný umělou inteligencí od autentického obsahu vytvořeného člověkem. To vytváří nová rizika zavádějících informací a manipulace ve velkém měřítku, podvodů, vydávání se za jinou osobu a klamání spotřebitelů.
Nové povinnosti týkající se transparentnosti pomohou lidem rozpoznat, kdy komunikují s umělou inteligencí nebo jsou vystaveni obsahu vytvořenému umělou inteligencí, aby mohli činit informovaná rozhodnutí a lépe se chránit před zavádějícími informacemi nebo klamáním.
Povinnosti poskytovatelů zavádějící subjektů určitých systémů AI, pokud jde o transparentnost
- Označování obsahu vytvořeného umělou inteligencí: určitý obsah vytvořený nebo zmanipulovaný umělou inteligencí musí být jasně a viditelně označen a musí obsahovat strojově čitelné značky. EU vytvořila soubor ikon, které lze k tomuto účelu použít. To se vztahuje na:
- obrazový, zvukový a video obsah, který se podobá existujícím osobám, objektům, místům, subjektům nebo událostem (deepfakes)
- nástroje pro rozpoznávání emocí a biometrickou kategorizaci
- text zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu, pokud nebyl podroben přezkumu člověkem ani redakční kontrole.
- Transparentnost při interakci se systémem UI: Uživatelé musí být jasně informováni, pokud neinteragují se skutečnou osobou, ale se systémem umělé inteligence, například s chatbotem, agentem umělé inteligence a avatarem.
Komise zveřejnila pokyny, které mají poskytovatelům a provozovatelům systémů UI pomoci při plnění těchto povinností týkajících se transparentnosti. Pokyny vysvětlují, jak lze soulad prokázat, a to i dodržováním kodexu správné praxe.
Prosazování pravidel a sankce
Za prosazování pravidel transparentnosti odpovídají vnitrostátní orgány dozoru nad trhem, Evropský úřad pro umělou inteligenci (v případě systémů, nad nimiž vykonává dohled) a evropský inspektor ochrany údajů (pokud jsou orgány EU poskytovateli nebo zavádějícími subjekty) a mohou ukládat pokuty.
- až 15 milionů EUR, tj. 3 % celosvětového ročního obratu, pro společnosti
- až 750 tis. EUR pro orgány, instituce a jiné subjekty EU
- s přihlédnutím k proporcionalitě pro malé a střední podniky a malé společnosti se střední tržní kapitalizací
Akt o umělé inteligenci vstoupil v platnost dne 1. srpna 2024. Jeho ustanovení se uplatňují postupně, přičemž různé povinnosti nabývají účinnosti v různých okamžicích. Akt vytváří jednotný trh a harmonizovaná pravidla pro důvěryhodnou umělou inteligenci v EU a podporuje inovace v oblasti umělé inteligence a její zavádění. Zabývá se rovněž potenciálními riziky pro zdraví, bezpečnost a základní práva lidí a zároveň chrání demokracii a právní stát. Zajištění jeho účinného provádění je nyní pro Komisi klíčovou prioritou.
Další informace
Tisková zpráva: Komise začala prosazovat pravidla aktu o umělé inteligenci
Tisková zpráva: Obecné pokyny k povinnostem týkajícím se transparentnosti
Časté otázky: Povinnosti v oblasti transparentnosti
Stručně: Pravidla transparentnosti pro systémy UI
- Datum zveřejnění
- 2. srpna 2026
- Autor /Autorka
- Generální ředitelství pro komunikaci