EU zavádí od srpna nová pravidla pro používání umělé inteligence. Za nepřiznané využití hrozí drastické sankce
Vývoj umělé inteligence představuje obrovský technologický posun, který již nyní výrazně ovlivňuje mnoho sfér lidského života. V budoucnu by měl být vliv AI ještě o poznání významnější. Jenže tato technologie není pouze pomocníkem, ale přináší i celou řadu reálných hrozeb.
Sledovat v Google Zprávách
Již nyní se můžete setkat s grafikami, fotografiemi nebo dokonce audio a video nahrávkami, které byly vytvořené s pomocí umělé inteligence, avšak jsou téměř nerozeznatelné od reality. Používáním umělé inteligence navíc může dojít ke kopírování již existujících děl, což samozřejmě představuje etický i legislativní problém v oblasti autorských práv. Z toho důvodu se představitelé (nejen) vyspělých států již v minulosti shodli na tom, že je nezbytné připravit legislativní rámec, který bude jasně vymezovat pravidla pro používání této převratné technologie. O tom, jak by měly být „mantinely“ pro umělou inteligenci vytýčeny, se již nyní hovoří například na půdě Evropského parlamentu. Nových pravidel by se obyvatelé členských států Evropské unie měli dočkat ještě do konce letošního léta.
Evropská unie přichystala převratnou novinku v oblasti AI
Obyvatelé všech členských států Evropské unie budou muset být informováni o tom, kdy se dostávají do přímého kontaktu s umělou inteligencí nebo s obsahem, který byl prostřednictvím této technologie vytvořen či upraven. Výjimku tudíž nepředstavují ani Češi.
Z toho pramení mimo jiné vznik nových povinností, které se s vývojem i používáním umělé inteligence pojí.
Na jakých principech bude nové opatření stát a na koho se reálně vztahuje?
Novými pravidly se budou muset řídit především dva typy subjektů.
První z nich představují společnosti, které se zabývají vývojem umělé inteligence (tzv. poskytovatelé). Ty budou muset své uživatele jasně informovat o tom, že interagují s interaktivním systémem AI.
Lidé na internetu by tedy měli spolehlivě poznat například to, že komunikují s umělou inteligencí, nikoliv skutečným pracovníkem zákaznické podpory apod.
Poskytovatelé by nadále měli přidávat do obsahu, který je prostřednictvím umělé inteligence vytvořen nebo upraven, strojově čitelné značky (speciální digitální vodoznaky). Díky tomu bude možné rozpoznat i zpětně, zda byl určitý obsah zhotoven pomocí AI, či nikoliv. To může být klíčové při případném řešení právních sporů, které mohou v souvislosti s používáním umělé inteligence vznikat.
Lidé budou muset jasně vědět, kdy komunikují s AI.
, ...
Nová pravidla nebudou pouze doporučením. Za jejich porušení mohou následovat vysoké finanční sankce, které se u nejzávažnějších případů mohou vyšplhat až do řádu desítek milionů. Evropská unie si od tohoto kroku slibuje omezení zneužívání umělé inteligence a větší ochranu spotřebitelů před manipulativním či podvodným obsahem.
Pravidly se budou muset řídit i fyzické osoby
Druhou skupinou jsou potom právnické (tedy zejména podnikatelské subjekty) i fyzické osoby, které s pomocí umělé inteligence vytvářejí obsah. Do této kategorie spadají nejen živnostníci či umělci, ale rovněž všechny nepodnikající fyzické osoby, které využívají tuto moderní technologii k profesionální tvorbě obsahu.
Obzvláště velký důraz má být kladen na obsah, který byl vytvořený nebo manipulovaný umělou inteligencí a zveřejněný v záležitostech veřejného zájmu. V praxi se může jednat především o takzvaný deepfake, který v současnosti představuje významné nebezpečí.
Například již v roce 2024 se objevila v online prostředí videa, ve kterých tvůrci napodobovali pomocí umělé inteligence stávajícího prezidenta České republiky Petra Pavla nebo premiéra Andreje Babiše. V obou případech se prostřednictvím falešných videí snažili nalákat lidi do podvodných investic. Problém je však mnohem rozsáhlejší, neboť deepfake zneužívají i některá kontroverzní média k ovlivňování veřejného mínění.
Dále by se měl právní akt zabývat i texty, které byly napsané pomocí umělé inteligence a neprošly dostatečně rozsáhlou redakční kontrolou a úpravou. Psaní pomocí AI je navíc pouze začátek. Stále častěji se totiž hovoří také o automatizaci procesů, která umožňuje nahrazovat rutinní činnosti v administrativě, zákaznické podpoře, účetnictví nebo logistice. Odborníci však varují i před pokročilejšími technologiemi. Již nyní se vyvíjejí například kvantové počítače, které v tandemu s AI mohou kompletně proměnit pracovní trh.
Podvodníci pomocí AI napodobovali i Petra Pavla či jiné politiky.
, ...
Kdy by mělo být nové legislativní opatření uvedeno do praxe?
Nové povinnosti by měly právnickým i fyzickým osobám přibýt dne 2. srpna 2026.
Stávající návrh pokynů k tomuto legislativnímu opatření byl na začátku června zveřejněný k připomínkování před jeho definitivním přijetím, přičemž lhůta pro podávání připomínek již vypršela.
