EU výrazně přitvrdila vůči ChatGPT. Nová pravidla mohou vést k blokování dotazů na citlivý obsah

Zatímco americká politika vůči umělé inteligenci zůstává dlouhodobě velmi benevolentní a s minimálními federálními regulacemi, Evropská unie jde přesně opačným směrem. Do konce letošního roku bude muset OpenAI zavést řadu nových opatření – od omezení citlivého obsahu pro nezletilé až po ochranu duševního zdraví uživatelů. Co všechno se změní pro české uživatele?

Přísnější regulace pro ChatGPT, Reddit i Roblox 

Evropská komise vydala oficiální oznámení, kterým do kategorie nejpřísněji regulovaných digitálních služeb přidala hned tři nové subjekty. Vyjma zmiňované umělé inteligence se zpřísnění dotkne také platforem Reddit a Roblox, které nedávno překročily hranici 50 milionů aktivních uživatelů měsíčně, a proto jim instituce Evropské unie začaly věnovat zvýšenou pozornost. Ty nově spadají do kategorie Very Large Online Platform (VLOP). 

„Díky těmto novým označením budou ChatGPT, Reddit a Roblox v Evropské unii nyní podléhat přísnějším standardům dohledu a odpovědnosti, a to v souladu s jejich významným dopadem na naše občany a společnost. Nadále pečlivě sledujeme digitální prostředí a nebudeme váhat označit jakoukoliv platformu, která splňuje kritéria pro zvýšený dohled podle zákona o digitálních službách,“ uvedla Henna Virkkunen, výkonná viceprezidentka Evropské komise pro technologickou suverenitu, bezpečnost a demokracii. 

Co se pro OpenAI změní? 

Zařazení do kategorie VLOSE není podle Evropské komise žádnou drobnou úpravou. Jde o nejpřísnější stupeň povinností, které DSA aktuálně ukládá. Konkrétně to znamená, že OpenAI bude povinna zajistit například pravidelné hodnocení systémových rizik. Každoročně proto bude muset publikovat oficiální dokument, ve kterém nezávislí auditoři konkrétně prozkoumají, jak ChatGPT může škodit. 

Dále dojde k omezení nezákonného obsahu – nebude tedy možné si generovat kontroverzní věci jako detailní návody k tvorbě zbraní, dětskou pornografii, dezinformace o volbách nebo obsah propagující násilí. Zvýší se rovněž ochrana nezletilých prostřednictvím mechanismů, které uživatelům mladším 18 let omezí přístup k některým typům obsahu. 

OpenAI bude muset rovněž implementovat mechanismy, které omezí schopnost umělé inteligence generovat falešné informace o politicích, kandidátech i volebních procesech. Komise nově rovněž získá pravomoc plně kontrolovat dodržování právních předpisů firmy. To znamená, že dohled bude přísnější a rychlejší. 

Uživatelé se budou muset připravit na častější odmítání dotazů týkajících se citlivých, politických či nelegálních témat. , ...

Kdy začnou pravidla platit a co se změní pro české uživatele? 

Podle standardní lhůty DSA má OpenAI 4 měsíce na plné zavedení všech opatření. Dá se tedy předpokládat, že od začátku roku 2027 již budou čeští uživatelé ChatGPT používat verzi, která bude výrazně striktnější v tom, na co odpovídá a jaký obsah generuje. Konkrétní podoba omezení zatím není přesně známa a dá se očekávat, že OpenAI se bude snažit najít kompromis mezi tím, aby byl produkt vyhovující předpisům, ale zároveň maximálně použitelný. 

Pokud ChatGPT používáte na denní bázi, budete se muset připravit na častější odmítání potenciálně problematických témat a konzervativnější styl komunikace. Modely budou s vysokou pravděpodobností výrazně opatrnější primárně v tématech spojených s duševním zdravím, politikou nebo nelegální činností. Platforma zároveň bude muset aktivně detekovat mladistvé uživatele a přizpůsobit jim nabízený obsah tak, aby negeneroval žádný explicitní, násilný nebo jinak nevhodný obsah. 

V případě, že ChatGPT využíváte ke své práci a bojíte se, co chystaná novinka přinese, můžete vyzkoušet alternativy, které nemusí být pod stejnou regulační zátěží – například Claude, Gemini, Mistral nebo Perplexity. Pro rodiče dětí a mladistvých je však tento krok jednoznačně pozitivní a měl by přinést měřitelné zlepšení.