Pozor, co si píšete s umělou inteligencí. Ukázalo se, že některé citlivé konverzace se dají snadno vygooglit

Představte si, že by se veřejně sdílená konverzace s umělou inteligencí objevila ve výsledcích vyhledávání Google. Ostatní lidé by si mohli přečíst, co jste s chatovacím botem řešili, a citlivé údaje případně i zneužít. Právě takovému incidentu v nedávné době čelil chatbot Claude od společnosti Anthropic.  Kvůli chybě byly některé veřejně sdílené konverzace na krátkou dobu dohledatelné přes vyhledávač. Běžných soukromých chatů se incident netýkal.

Ve vyhledávači Google se tyto konverzace objevily na krátkou dobu

Na případ upozornili uživatelé Redditu, kteří zjistili, že při vyhledávání dotazu „site:claude.a­i/share“ Google zobrazoval některé veřejně sdílené konverzace vytvořené funkcí Share. Ty mohou obsahovat nejen běžné konverzace, ale i právní rady a další citlivá data. 

Asistent Claude od společnosti Anthropic nabízí funkci sdílení zcela běžně. Právě díky ní dojde k vytvoření veřejné URL adresy, kterou může uživatel poslat někomu dalšímu. Tato druhá osoba pak získá přístup k celé historii dané konverzace a může si prohlédnout, co přesně bylo tématem.

Problém spočíval v tom, že některé veřejně sdílené odkazy mohly být indexovány vyhledávači, pokud se objevily na veřejně dostupných stránkách nebo sociálních sítích.

Ve vyhledávači Google se některé konverzace na krátkou dobu objevily , ...

Vše je již opraveno

Tyto sdílené konverzace byly na krátkou dobu vyhledatelné prostřednictvím vyhledávače Google. Podle dostupných informací však zmizely poměrně rychle. Vzhledem k tomu pravděpodobně došlo k jejich rychlému odstranění z indexu.

Konverzace běžně dohledatelné nejsou

Zmíněný případ se týkal veřejně sdílených konverzací, nikoliv běžných soukromých chatů. Vyhledávače běžně nemají ke konverzacím s umělou inteligencí přístup a ostatní uživatelé si je nemohou jen tak dohledat podle jména nebo tématu. Riziko vzniká především ve chvíli, kdy uživatel vytvoří veřejný odkaz pro sdílení konverzace a ten následně unikne někam dále. Takový odkaz může následně otevřít každý, kdo jej získá. 

S čím se umělé inteligenci nesvěřovat

Ačkoliv může být umělá inteligence v mnoha ohledech praktickým pomocníkem, odborníci upozorňují, že by neměla získávat přístup k citlivým údajům. Do konverzace proto není vhodné zadávat například rodné číslo, číslo občanského průkazu, údaje z platební karty, hesla, přístupové kódy nebo celé znění smluv a dalších neveřejných dokumentů.

Stejně tak byste do konverzace neměli psát citlivé osobní a pracovní informace. Problematické může být vkládání obchodních strategií, interních dat nebo třeba zdravotních dokumentů. Pokud do AI nahrajete citlivé firemní nebo osobní údaje, můžete riskovat jejich únik nebo porušení interních pravidel či smluvních závazků.

Podobně obezřetně je třeba přistupovat i k samotné funkci sdílení celé konverzace. Veřejný odkaz by měl uživatel vytvořit pouze tehdy, když si je jistý, že chat neobsahuje nic, co by neměl vidět nikdo další. V opačném případě danému člověku raději sepište shrnutí konverzace sami. 

Do konverzace nikdy nezadávejte citlivé údaje , ...

AI boti často čelí útokům

Web Marketing & Media upozornil, že drtivá většina Čechů má v souvislosti s všudypřítomným využíváním umělé inteligence obavy. Mário Mitas, spoluzakladatel společnosti Agnostix, popsal: „Různé formy bezpečnostních incidentů jsou totiž stále častější nejen v zahraničí, ale už i v Česku. A nejde zdaleka jen o úniky dat, na které musí být například chatboti firem a institucí připraveni.“ 

Praxe ukazuje, že AI boti velkých českých firem mohou čelit desítkám útoků denně. Firmy a instituce tak musí při komunikaci mezi člověkem a umělou inteligencí chránit soukromí uživatelů a dodržovat pravidla GDPR.

TIP: Evropská unie od srpna zavádí nová pravidla pro používání umělé inteligence. Za nepříznivé využití hrozí sankce.