Obsah tvořený umělou inteligencí musí být označen
- Publikováno:
- Rubrika:
- Komentáře:
- Vložte první komentář
Od 2. srpna 2026 začala v Evropské unii platit vybraná ustanovení Aktu o umělé inteligenci, která zavádějí povinnost zřetelně označovat obsah vytvořený nebo upravený pomocí umělé inteligence (AI). Za porušení těchto pravidel transparentnosti hrozí pokuty až 15 mil. eur nebo 3 % ročního obratu společnosti.
Povinnost dodržování zásad transparentnosti se týká především poskytovatelů AI systémů (např. OpenAI), kteří musí zajistit, aby výstupy jejich systémů – texty, obrázky, audio nebo video – obsahovaly strojově čitelné označení, že byly vytvořeny či upraveny pomocí umělé inteligence. Může jít například o metadata, digitální vodoznaky, kryptografické značky nebo jiné technické identifikátory vložené přímo do souboru. Evropská unie doporučuje například značku „AI Generated“.
Povinnost viditelného a zřetelně rozpoznatelného označení výstupů vytvořených pomocí AI se vztahuje také na koncové uživatele. To se týká zejména tzv. deepfakes, napodobenin skutečných osob či událostí vytvořených umělou inteligencí, dále výstupů určených k informování veřejnosti. Pokud člověk komunikuje s AI systémem, musí na to být upozorněn při prvním kontaktu. Povinnost transparentnosti stanoví vývojářům, dodavatelům a provozovatelům AI systémů článek 50 evropského Aktu o umělé inteligenci (AI Act), přijatého v roce 2024.
Akt o umělé inteligenci (Akt AI) je zkráceným označením pro nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828. Evropské nařízení je právním předpisem Evropské unie závazným pro všechny občany členských států dnem, kdy nabývá účinnosti; na rozdíl od evropské směrnice, která je právním předpisem EU závazným pro vlády členských států, které jsou povinny zajistit její transpozici (převzetí) do národních právních předpisů členského státu.
Pravidla dopadají na veřejné i soukromé subjekty v zemích EU a v některých případech také na subjekty ze třetích zemí. Jedná se o první komplexní právní rámec regulující umělou inteligenci, který stanoví pravidla pro její vývoj, uvádění na trh, nasazování a používání a ukládá práva a povinnosti různým subjektům:
- poskytovatelům, tzn. těm, kdo vyvíjejí, nechávají vyvíjet nebo na trh pod svým jménem uvádějí systémy umělé inteligence nebo obecné modely AI;
- dovozcům, kteří uvádějí na trh EU systém nesoucí jméno nebo ochrannou známku subjektu ze třetí země,
- distributorům, kteří systémy dodávají na trh v rámci dodavatelského řetězce;
- zavádějícím subjektům, tzn. organizacím, které systém umělé inteligence implementují a využívají
- dotčeným fyzickým osobám, tedy osobám, jejichž práva a svobody mohou být využíváním systému umělé inteligence dotčeny.
Kategorie rizik
Akt o umělé inteligenci definuje 4 úrovně rizika pro AI systémy:
Minimální nebo žádné riziko – AKT AI nezavádí pravidla pro systémy AI, které představují minimální nebo žádné riziko. Drtivá většina AI systémů v EU v současnosti spadá do této kategorie. Tato skupina zahrnuje aplikace jako videohry s podporou AI, spamové filtry nebo podobné kancelářské nástroje. I u těchto systémů může vzniknout povinnost přijmout opatření na podporu gramotnosti v oblasti AI, dodržet pravidla ochrany osobních údajů, ochrany autorských práv a profesní odpovědnosti.
Omezené riziko – Omezené neboli transparentní riziko se týká AI systémů, které vytvářejí zvukový, obrazový nebo audiovizuální obsah, který se podobá realitě, ale realitou není. Uživatelé si musí být vědomi, že komunikují se strojem.
Vysoké riziko – Jako vysoce rizikové je klasifikováno použití AI, které může představovat vážné riziko pro zdraví, bezpečnost nebo základní práva. Mezi vysoce rizikové případy použití AI patří např.:
- používané jako bezpečnostní součást regulovaného výrobku nebo představující takový výrobek, pokud podléhají posouzení shody třetí stranou; ve stavebnictví může být relevantní například strojní zařízení, výtah nebo jiný regulovaný výrobek s AI funkcí,
- určené jako bezpečnostní součást pro řízení nebo provoz vybrané kritické digitální infrastruktury, silničního provozu či dodávek vody, plynu, tepla nebo elektřiny, pokud jejich selhání může ohrozit zdraví a bezpečnost,
- používané ve vzdělávání, například k hodnocení výsledků, určování přístupu ke vzdělávání nebo sledování zakázaného chování při zkouškách,
- používané při náboru, výběru uchazečů, rozhodování o pracovních podmínkách, přidělování úkolů nebo hodnocení pracovníků,
- vyhodnocující úvěruschopnost fyzických osob nebo rizika a ceny u životního a zdravotního pojištění,
- určené pro povolenou biometrickou identifikaci, biometrickou kategorizaci nebo rozpoznávání emocí, pokud nejde o zakázanou praktiku,
- používané orgány činnými v trestním řízení pro vymezené úkoly, které mohou významně zasáhnout do základních práv,
- používané pro vymezené úkoly v oblasti migrace, azylu a ochrany hranic,
- pomáhající soudním orgánům při zjišťování a výkladu skutkových okolností a práva nebo při uplatňování práva na konkrétní soubor skutečností.
Pravidla pro vysoce rizikové systémy podle přílohy III Aktu AI se použijí od 2. prosince 2027. U systémů spojených s regulovanými výrobky podle přílohy I Aktu AI se použijí od 2. srpna 2028 před jejich uvedením na trh.
Nepřijatelné riziko – Všechny AI systémy považované za jasnou hrozbu pro bezpečnost, živobytí a práva lidí jsou zakázány. Akt o umělé inteligenci zakazuje devět praktik, a to:
- škodlivá manipulace a klamání založené na AI
- škodlivé využívání zranitelností založené na AI
- sociální skóre
- individuální hodnocení nebo predikce rizika trestných činů
- necílené sbírání dat z internetu nebo CCTV materiálů za účelem vytvoření nebo rozšíření databází rozpoznávání obličejů
- rozpoznávání emocí na pracovištích a ve vzdělávacích institucích
- biometrická kategorizace pro určení určitých chráněných charakteristik
- dálková biometrická identifikace v reálném čase pro účely vymáhání práva na veřejně přístupných místech
- AI systémy, které generují nevyžádaný sexuálně explicitní a intimní obsah nebo materiály sexuálního zneužívání dětí (CSAM), jako jsou aplikace AI pro nudifikaci.
Zákazy 1–8 vstoupily v platnost od 2. února 2025. Zákaz 9 vstupuje v platnost 2. prosince 2026 a byl zaveden jako součást AI Omnibusu.
Účinnost Aktu AI
Akt AI má dělenou účinnost. Jeho jednotlivá ustanovení nabývají účinnosti postupně následujícím způsobem:
- Od 2. února 2025 jsou účinná obecná ustanovení Aktu, tzn. působnost nařízení, vymezení povinných subjektů, definice pojmů a povinnost subjektů využívajících AI zajistit edukaci uživatelů.
- Od 2. srpna 2025 nabyla účinnosti ustanovení o rolích a kompetencích dozorových úřadů členských států v oblasti AI, notifikovaných subjektech posuzujících shodu v oblasti AI, o pravidlech pro dozor na EU úrovni, o povinnostech souvisejících s obecnými (univerzálními) modely umělé inteligence (General Purpose Artificial Intelligence, GPAI modely), jako jsou např. ChatGPT, Gemini či Claude. Pravidla se vztahují i na subjekty mimo EU, pokud zpřístupní GPAI model uživatelům na území Unie a podléhají stejnému režimu jako unijní poskytovatelé. Tyto povinnosti zahrnují vedení technické dokumentace, poskytování informací dalším uživatelům modelu (tzv. downstream deployerům), zveřejňování shrnutí chráněného obsahu použitých dat pro trénink a zavedení vnitřní politiky pro dodržování autorského práva.
- Od 2. srpna 2026 vstoupily v platnost povinnosti pro organizace vyvíjející nebo využívající (zavádějící) vysoce rizikové systémy umělé inteligence: jimi se rozumí mj. systémy pro biometrickou identifikaci na dálku, systémy umělé inteligence využívané v pracovněprávní oblasti či v oblasti vzdělávání, systémy využívané pro vyhodnocení přístupu k některým produktům, jako je spotřebitelský úvěr či životní pojištění atd. Ke stejnému datu jsou závazné povinnosti v oblasti transparentnosti při využívání umělé inteligence.
- Od 2. srpna 2027 pak budou účinné zbývající povinnosti, zejména pravidla pro vysoce rizikové systémy umělé inteligence včetně pořizování dokumentace a povinné certifikace nebo prohlášení o shodě (evropská značka shody CE).
Umělá inteligence a povinná gramotnost
Článek 4 AI Aktu ukládá poskytovatelům a zavádějícím subjektům AI systémů povinnost zajistit u svých zaměstnanců a osob v obdobném postavení dostatečnou úroveň znalostí a porozumění umělé inteligenci, včetně příležitostí a rizik, které AI představuje. Tento požadavek se vztahuje na všechny společnosti, které využívají AI, a to i při kvalifikování AI systému jako systému s nízkým rizikem. V praxi to představuje zavádění různých interních politik a zásad správy a užívání AI systémů a dostatečné proškolení zaměstnanců a dalších osob. Evropská komise k tomuto tématu zveřejnila tzv. „Repositář osvědčených postupů na podporu učení a výměny v oblasti gramotnosti v oblasti umělé inteligence“.
Vaše názory
Pro registrované uživatele je povolena diskuze.
Můžete se přihlásit, nebo se můžete zaregistrovat podle návodu pro registraci.