Generativní umělá inteligence dokáže během několika sekund vytvořit text, fotografii, video nebo hlasový záznam, které jsou často téměř k nerozeznání od lidské tvorby. Přestože AI přináší firmám obrovské možnosti, zároveň zvyšuje riziko šíření dezinformací, vytváření deepfake obsahu nebo manipulace veřejnosti. Právě proto AI Act zavádí pravidla transparentnosti. Jejich cílem není omezit využívání umělé inteligence ani firmám komplikovat práci.
Smyslem je zajistit, aby lidé poznali, kdy komunikují se systémem AI nebo kdy byl určitý obsah vytvořen či významně upraven pomocí umělé inteligence.
Evropská komise proto zveřejnila pokyny k článku 50 AI Actu, které vysvětlují, jak mají firmy, organizace i poskytovatelé AI systémů tato pravidla v praxi uplatňovat.
Jaké povinnosti AI Act přináší?
Umělá inteligence mění způsob, jakým tvoříme i komunikujeme, což s sebou nese potřebu nastavit jasné hranice a férová pravidla hry. Nová pravidla se zaměřují především na čtyři situace, ve kterých musí být využití umělé inteligence pro uživatele transparentní.
-
Informování při komunikaci s AI
Pokud zákazník komunikuje přímo s chatbotem, virtuálním asistentem nebo jiným AI systémem, musí být od začátku jasně informován, že nekomunikuje s člověkem. Informace musí být srozumitelná a zobrazit se nejpozději při první interakci.
-
Označování AI vytvořeného obsahu
Poskytovatelé generativních AI systémů musí zajistit, aby obsah vytvořený nebo upravený pomocí AI obsahoval strojově čitelné označení. To umožní platformám nebo dalším systémům automaticky rozpoznat, že jde o obsah vytvořený umělou inteligencí.
-
Označování deepfake obsahu
Pokud AI vytvoří nebo upraví obrazový, zvukový či audiovizuální obsah tak, že realisticky napodobuje skutečné osoby nebo události, musí být tato skutečnost jasně označena. Cílem je zabránit tomu, aby byl deepfake zaměňován za autentický materiál.
-
Označování některých textů vytvořených AI
Zvláštní pravidla platí také pro textový obsah týkající se veřejného zájmu. Jestliže byl vytvořen nebo významně upraven pomocí AI a současně neprošel skutečnou lidskou kontrolou nebo redakčním dohledem, musí být při zveřejnění označeno, že vznikl za pomoci umělé inteligence.
Musím tedy označit každý článek napsaný pomocí ChatGPT?
Právě tato otázka patří mezi nejčastější a nové pokyny na ni dávají poměrně jasnou odpověď: ve většině případů ne. Evropská komise zdůrazňuje, že rozhodující není samotné použití umělé inteligence, ale role člověka při tvorbě finálního obsahu. Pokud AI slouží pouze jako nástroj a člověk text ověří, upraví, doplní a převezme za něj odpovědnost, povinnost označení zpravidla nevzniká. To se týká například situací, kdy ChatGPT připraví první návrh článku, navrhne osnovu, pomůže s překladem nebo opraví stylistiku. Stejně tak není nutné označovat obsah, který AI pouze jazykově upravila. Naopak pokud je obsah vytvořen automaticky bez skutečné lidské kontroly a spadá mezi případy vymezené AI Actem, povinnost označení už vzniká. Pokyny přitom pod pojmem lidská kontrola nerozumí pouhé rychlé přečtení textu před publikací. Člověk musí mít možnost výstup posoudit, případně upravit, rozhodnout o jeho zveřejnění a nést odpovědnost za jeho finální podobu.
Rychlá kontrola: Musíte AI obsah označit?
ANO, pokud…
- uživatel komunikuje přímo s AI chatbotem nebo AI asistentem
- zveřejňujete deepfake video, fotografii nebo zvuk
- publikujete AI text o veřejném zájmu bez lidské kontroly
- AI vytváří obsah, který AI Act výslovně ukládá označit
NE, pokud…
- AI slouží jen jako pomocník při tvorbě a úpravě obsahu
- člověk text nebo jiný výstup zkontroloval a schválil
- AI opravila pouze pravopis, stylistiku nebo překlad textu
- AI pomohla s osnovou nebo prvním návrhem výsledného textu
Kdy pravidla začínají platit a co znamená AI Omnibus?
Povinnosti transparentnosti podle článku 50 AI Actu se začaly uplatňovat od 2. srpna 2026. Krátce předtím vstoupila v platnost novela označovaná jako AI Omnibus (Nařízení EU 2026/1744), která reaguje na praktické zkušenosti podniků i veřejných institucí. Jejím cílem je snížit administrativní zátěž, zpřesnit některá ustanovení AI Actu a posunout termíny pro splnění požadavků u vysoce rizikových systémů AI. Současně novela zavádí přechodné období pro poskytovatele generativních AI systémů uvedených na trh před 2. srpnem 2026. Ti musí zajistit strojově čitelné označování AI obsahu nejpozději do 2. prosince 2026. Společně s pokyny zveřejnila Evropská komise také Code of Practice on Transparency of AI-generated Content (Kodex správné praxe pro transparentnost obsahu vytvořeného umělou inteligencí). Přestože jde o dobrovolný kodex, představuje uznávaný způsob, jak mohou poskytovatelé i organizace prokázat soulad s požadavky AI Actu.
Shrnutí
Pro většinu firem nová pravidla neznamenají, že budou muset označovat každý text vytvořený s pomocí ChatGPT nebo jiného AI nástroje. Mnohem důležitější je nastavit interní procesy tak, aby bylo zřejmé, kdy AI slouží pouze jako pomocník a kdy vytváří obsah, který už podléhá požadavkům AI Actu. Vyplatí se proto zmapovat, kde organizace AI využívá, nastavit pravidla pro lidskou kontrolu důležitých výstupů a připravit způsob označování případného deepfake nebo jiného syntetického obsahu. Díky tomu budou firmy připravené nejen na současné požadavky evropské legislativy, ale i na další rozšiřování pravidel pro využívání umělé inteligence. Transparentnost se totiž postupně stává stejně důležitou jako samotné nasazení AI. Firmy, které budou otevřeně informovat o využívání umělé inteligence a zároveň zachovají kvalitní lidskou kontrolu nad svými výstupy, budou mít nejen jednodušší cestu ke splnění legislativních povinností, ale také větší důvěru svých zákazníků.
Udržet krok s legislativci není snadné!
Pravidla, trendy i technologie se neustále vyvíjejí a vyznat se v záplavě informací bývá složité.
Chcete být v obraze?
Přihlaste se k odběru našich novinek a nic důležitého vám neunikne.