AI už umí svlékat lidi z fotografií. EU chystá zákaz, firmy ale řeší větší problém

Umělá inteligence se z nástroje pro zrychlení práce velmi rychle přesunula i do oblasti, kde už nejde jen o pohodlí, efektivitu nebo zábavu. Jedním z nejviditelnějších příkladů jsou takzvané „nudifier“ aplikace, tedy nástroje schopné z běžné fotografie vytvořit sexualizovaný obsah bez souhlasu zobrazeného člověka. V Evropě má tato praxe skončit. Nová pravidla mají začít platit 2. prosince 2026.

Debata se v posledních měsících výrazně spojila mimo jiné s chatbotem Grok od společnosti xAI Elona Muska. Ten má podle upozornění bezpečnostních expertů stále schopnost vytvářet věrohodný sexualizovaný obsah z běžných fotografií skutečných osob. Problém je o to citlivější, že technologie je dostupná rychleji, než na ni stíhají reagovat zákony, firmy i běžní uživatelé.

Digitální svlékání se dostává pod tlak zákonů

Evropská pravidla míří právě na nástroje, které generují sexualizované deepfaky bez souhlasu lidí na snímcích. Zákaz se prosazuje v rámci úprav regulace umělé inteligence a v evropské debatě se na něm výrazně podílela také česká europoslankyně Markéta Gregorová.

Do účinnosti nových pravidel ale zbývá několik měsíců. Právě toto období ukazuje slabinu celé věci: technologie fungují už teď, zatímco regulace dobíhá až se zpožděním. Španělská ministryně pro mládež proto požádala generální prokuraturu, aby posoudila, zda provoz podobných nástrojů nemůže naplňovat skutkovou podstatu trestného činu.

Grok mezitím zůstává v provozu. Elon Musk, jehož společnost xAI za nástrojem stojí, po čtyřměsíčním působení opustil roli poradce americké vlády pro efektivitu a vrátil se k řízení Tesly. Samotný chatbot ale podle dostupných informací dál funguje beze změny.

Zákaz jedné funkce nevyřeší rizika ve firmách

Digitální svlékání je extrémně viditelný příklad zneužití AI. Pro firmy však může být ještě nebezpečnější každodenní, nenápadnější zacházení s umělou inteligencí. Zaměstnanci dnes běžně pracují s veřejnými chatboty, ale často netuší, co se děje s daty, která do nich vkládají.

Stačí jedna fotka a AI může vytvořit porno s kýmkoliv. Nová éra zábavy má temnou stránku

Problémem nejsou jen citlivé fotografie. Do veřejných AI nástrojů se mohou dostávat smlouvy, interní dokumenty, obchodní strategie nebo osobní údaje. Dalším rizikem jsou takzvané halucinace, tedy sebevědomě působící, ale fakticky chybné odpovědi. K tomu se přidávají phishingové útoky, které díky jazykovým modelům působí mnohem přesvědčivěji než dříve.

„Zákon nezakáže vašim zaměstnancům vkládat citlivá firemní data do veřejných AI modelů. Zákon nezakáže slepě přijímat halucinace jako fakta. To dokáže jen vzdělání,“ říká Aleš Pilný, CEO vzdělávací a konzultační akademie TAYLLORCOX.

Čísla ukazují, jak velký rozdíl je mezi používáním AI a skutečnou přípravou lidí. Podle údajů McKinsey & Company, Bain & Company a World Economic Forum využívá AI pravidelně 88 % firem. Denně ji používá 74 % zaměstnanců. Formálním školením ale prošlo jen 33 % z nich a 55 % uživatelů AI nemá žádné vzdělání v oblasti bezpečnosti dat.

Pro management je to zásadní varování. Pokud dojde k úniku dat, podvodu přes deepfake komunikaci nebo k důležitému rozhodnutí postavenému na chybné odpovědi AI, odpovědnost neleží na samotném nástroji. Dopad nese firma, která lidem dovolila s technologiemi pracovat bez jasných pravidel a přípravy.

Elon Musk: Za 20 let bude práce jen koníček. Kdo pak ještě bude vydělávat peníze?

ISO 42001 má řešit systém, ne jen zákaz nástroje

Vedle legislativy se proto stále častěji mluví také o normě ISO 42001. Ta se nezaměřuje na prostý seznam zakázaných aplikací. Jejím smyslem je nastavit způsob, jak organizace umělou inteligenci řídí: kdo za ni odpovídá, jak se kontroluje její používání, jak se vyhodnocují rizika a jak lze zpětně doložit, co firma skutečně udělala pro bezpečné nasazení AI.

Důležitý je takzvaný audit trail, tedy dohledatelný důkaz, že firma umělou inteligenci nepřebírá živelně, ale má nad ní kontrolu. V praxi nejde jen o splnění zákona. Jde o schopnost ukázat klientům, partnerům, regulátorům i vlastním zaměstnancům, že práce s AI má pevná pravidla.

„Vzdělání ochrání vaši firmu dřív, než to udělá zákon. Dva dny investice do vzdělání jsou méně než jeden incident,“ upozorňuje TAYLLORCOX.

Akademie TAYLLORCOX, která působí v České republice a na Slovensku, uvádí, že jako jediná organizace v ČR a SR disponuje trojitou akreditací ATO, ACO a RCB akreditovanou podle ISO/IEC 17021-1. Spustila také dvoudenní program AI Core, zaměřený na bezpečnou práci s umělou inteligencí, prompt engineering, rozpoznávání syntetických médií a kritické vyhodnocování výstupů jazykových modelů. Kurz zahrnuje 23 praktických laboratoří a končí mezinárodní certifikací podle ISO/IEC 17024.

Zákaz digitálního svlékání má v EU začít platit 2. prosince 2026. Problém, který ukazuje kauza kolem Groku, je ale širší. Firmy si budou muset odpovědět na otázku, zda jejich zaměstnanci umělou inteligenci skutečně používají bezpečně, nebo jen rychleji než dřív otevírají nástroje, kterým dostatečně nerozumějí.

Zdroje: ČTK (Protext), TAYLLORCOX