Používáte v práci umělou inteligenci? Od srpna budete povinni její využití přiznat, jinak hrozí finanční postih

Od 2. srpna se začínají uplatňovat povinnosti transparentnosti podle článku 50 evropského nařízení o umělé inteligenci (AI Act). Jde o součást širší novely, kterou Ministerstvo průmyslu a obchodu označuje jako tzv. AI Omnibus a právě ta má podle místopředsedy vlády Karla Havlíčka hlavně snížit byrokracii pro firmy.

Kdy musíte použití AI přiznat

AI Act mluví o čtyřech situacích, na které pravidla dopadají. První je komunikace s chatbotem nebo voicebotem, kdy musí být člověk informován, že mluví s robotem. Zajistit to je ovšem úkolem firmy, která chatbota nasadila.

Druhou situací je deepfake: obrazový, zvukový nebo video obsah, který realisticky napodobuje skutečné osoby, místa nebo události a může nepravdivě působit jako autentický. Příkladem jsou třeba videa, ve kterých AI vytvoří falešný projev firemního ředitele, nebo upravená nahrávka hlasu.

Třetí situace se týká rozpoznávání emocí nebo biometrické kategorizace: dotčená osoba musí vědět, že se třeba vyhodnocuje její výraz obličeje.

Čtvrtá situace se týká textu, který s pomocí AI vzniká pro veřejnost a týká se věcí veřejného zájmu. Patří sem třeba politika, veřejná správa, veřejné zdraví nebo životní prostředí. Takový text by měl být označený, ať už vznikl celý pomocí AI, nebo byl jen upravený. Právě tato situace je důležitá pro zaměstnance, kteří za firmu publikují obsah.

Nejistotu, co přesně nová pravidla znamenají, řeší hlavně zaměstnavatel , ...

Kdy označení potřeba není

Kdo za text nese odpovědnost, ten ho nemusí označovat, i kdyby vznikl z velké části pomocí AI. Platí to ale jen při splnění dvou podmínek zároveň. Text musí projít lidským přezkoumáním. To znamená, že si ho někdo se skutečnou znalostí tématu musí projít a posoudit jeho obsah. Druhou podmínkou je, že konkrétní osoba musí za zveřejnění nést redakční odpovědnost.

K tomu, aby výjimka platila, nestačí gramatická korektura, existence interní redakční politiky ani automatizovaná kontrola, musí totiž být vidět, že se textem někdo věcně zabýval. Pokud se text upraví pomocí AI až poté, co ho někdo schválil, výjimka přestává platit a text musí projít novou kontrolou. Naproti tomu běžná korektura pravopisu nebo drobná úprava fotografie do výjimky vůbec nespadá, protože nejde o generování ani podstatnou změnu obsahu.

HR specialistka může mít například na webu nasazeného AI chatbota, který uchazečům odpovídá na dotazy ohledně výběrového řízení a uvede, že jim odpovídá AI. Když ale tentýž člověk použije AI při tvorbě příspěvku na LinkedIn například o připravované změně zákoníku práce a text před zveřejněním přezkoumá odpovědná osoba, uplatní se výjimka.

Co to znamená pro zaměstnance

Za nesplnění těchto pravidel hrozí sankce. Pokuty ale půjdou za firmou jako organizací, ne za jednotlivým zaměstnancem. Riziko se přitom může vyšplhat až na 15 milionů eur nebo 3 % celosvětového ročního obratu. Podobně vymezená odpovědnost bývá i u ochrany dat zaměstnanců.

Kromě toho AI Act ukládá i opačnou povinnost: firmy, které AI systémy používají nebo poskytují, musí zajistit AI gramotnost svých zaměstnanců, například prostřednictvím školení nebo interních pravidel. Tato povinnost platí už od února 2025.

Jak to ve firmách bude fungovat

Firemní obsahová specialistka například běžně používá AI k tvorbě osnov interních newsletterů a odpovědí kolegům. To je interní komunikace, na kterou se pravidla nevztahují vůbec. Jakmile ale tatáž osoba píše tiskovou zprávu nebo příspěvek na firemní blog o tématu veřejného zájmu, musí být jasné, kdo za text nese odpovědnost.

Běžná práce s AI, třeba e-maily nebo poznámky, novým pravidlům vůbec nepodléhá , ...

Podobně jasně vymezenou odpovědnost bude mít firma i u dalšího typu AI nástrojů. S ročním zpožděním se totiž rozjedou přísnější pravidla pro tzv. vysoce rizikové systémy AI, mezi které patří i nástroje pro nábor zaměstnanců. Ty se začnou uplatňovat až od prosince 2027.

Pokud jste ovšem zaměstnancem, používáte AI a nikdo vám nevysvětlil, jaká interní pravidla platí, není to vaše chyba. Zjistěte si, jestli má vaše firma nějaká interní pravidla nebo školení k používání AI. Nová regulace není důvodem přestat AI v práci používat. Díky ní konečně zaměstnanci vědí, kde končí jejich odpovědnost a kde začíná ta firemní.