Bezpečnější a transparentnější umělá inteligence

Od 2. srpna 2026 se v EU uplatňují nová pravidla týkající se transparentnosti systémů AI.

Umělá inteligence postupuje rychle kupředu, a proto je stále obtížnější odlišit obsah vytvořený a zmanipulovaný umělou inteligencí od autentického obsahu vytvořeného člověkem. To vytváří nová rizika zavádějících informací a manipulace ve velkém měřítku, podvodů, vydávání se za jinou osobu a klamání spotřebitelů.

Nové povinnosti týkající se transparentnosti pomohou lidem rozpoznat, kdy komunikují s umělou inteligencí nebo jsou vystaveni obsahu vytvořenému umělou inteligencí, aby mohli činit informovaná rozhodnutí a lépe se chránit před zavádějícími informacemi nebo klamáním. 

Povinnosti poskytovatelů zavádějící subjektů určitých systémů AI, pokud jde o transparentnost

• Označování obsahu vytvořeného umělou inteligencí: určitý obsah vytvořený nebo zmanipulovaný umělou inteligencí musí být jasně a viditelně označen a musí obsahovat strojově čitelné značky. EU vytvořila soubor ikon, které lze k tomuto účelu použít. To se vztahuje na:
  • obrazový, zvukový a video obsah, který se podobá existujícím osobám, objektům, místům, subjektům nebo událostem (deepfakes)
  • nástroje pro rozpoznávání emocí a biometrickou kategorizaci
  • text zveřejněný za účelem informování veřejnosti o záležitostech veřejného zájmu, pokud nebyl podroben přezkumu člověkem ani redakční kontrole. 
• Transparentnost při interakci se systémem UI: Uživatelé musí být jasně informováni, pokud neinteragují se skutečnou osobou, ale se systémem umělé inteligence, například s chatbotem, agentem umělé inteligence a avatarem.

Komise zveřejnila pokyny, které mají poskytovatelům a provozovatelům systémů UI pomoci při plnění těchto povinností týkajících se transparentnosti. Pokyny vysvětlují, jak lze soulad prokázat, a to i dodržováním kodexu správné praxe.

Prosazování pravidel a sankce

Za prosazování pravidel transparentnosti odpovídají vnitrostátní orgány dozoru nad trhem, Evropský úřad pro umělou inteligenci (v případě systémů, nad nimiž vykonává dohled) a evropský inspektor ochrany údajů (pokud jsou orgány EU poskytovateli nebo zavádějícími subjekty) a mohou ukládat pokuty.       

• až 15 milionů EUR, tj. 3 % celosvětového ročního obratu, pro společnosti
• až 750 tis. EUR pro orgány, instituce a jiné subjekty EU 
• s přihlédnutím k proporcionalitě pro malé a střední podniky a malé společnosti se střední tržní kapitalizací

Akt o umělé inteligenci vstoupil v platnost dne 1. srpna 2024. Jeho ustanovení se uplatňují postupně, přičemž různé povinnosti nabývají účinnosti v různých okamžicích. Akt vytváří jednotný trh a harmonizovaná pravidla pro důvěryhodnou umělou inteligenci v EU a podporuje inovace v oblasti umělé inteligence a její zavádění. Zabývá se rovněž potenciálními riziky pro zdraví, bezpečnost a základní práva lidí a zároveň chrání demokracii a právní stát. Zajištění jeho účinného provádění je nyní pro Komisi klíčovou prioritou.

Další informace

Tisková zpráva: Komise začala prosazovat pravidla aktu o umělé inteligenci

Tisková zpráva: Obecné pokyny k povinnostem týkajícím se transparentnosti

Časté otázky: Povinnosti v oblasti transparentnosti

Stručně: Pravidla transparentnosti pro systémy UI

Making artificial intelligence work for people

Umělá inteligence