Irsko zahájilo vyšetřování X kvůli Groku: sexualizované deepfake obrázky reálných lidí pod drobnohledem regulátorů

Na platformě X se v posledních týdnech rozjela vlna promptů, které mířily jedním směrem: požadavky, aby AI nástroj Grok „svlékal“ lidi do spodního prádla nebo vytvářel sexualizované verze jejich fotografií.

Pokud jste na X aktivní, nebylo možné si tohoto trendu nevšimnout. Objevovaly se opakované pokusy testovat limity systému – od úprav běžných portrétních fotografií až po explicitně formulované žádosti o intimní manipulace.

Už při prvních náznacích tohoto trendu se nabízela otázka: může být taková funkcionalita – nebo její nedostatečné omezení – z regulatorního pohledu v pořádku?

Šlo o situace, kdy uživatelé promptovali účet @ Grok tak, aby z existujících fotografií vytvořil upravené verze – například ve spodním prádle či jinak sexualizované podobě. V některých případech mělo jít i o nezletilé osoby.

Teď už nejde jen o hypotézu. Do věci vstoupili regulátoři.

Irská DPC: formální inquiry podle GDPR

Irská Data Protection Commission (DPC) 17. února 2026 oznámila zahájení formálního vyšetřování společnosti X Internet Unlimited Company (XIUC), což je evropská entita platformy X.

DPC bude zkoumat zejména:

• zda při generování těchto výstupů docházelo ke zpracování osobních údajů v rozporu s GDPR,
• zda byly dodrženy principy „data protection by design“,
• zda X provedlo odpovídající posouzení dopadů na ochranu osobních údajů (DPIA),
• zda byly dostatečně řízeny rizikové scénáře spojené s nasazením AI nástroje.

DPC ve svém vyjádření hovoří o „zjevné tvorbě a publikaci“ potenciálně škodlivých sexualizovaných obrazových výstupů reálných osob prostřednictvím Groku.

Jako vedoucí dozorový orgán pro X v EU může mít rozhodnutí DPC dopad napříč všemi členskými státy EU a EHP.

Paralelní kroky ve Velké Británii

Britský Information Commissioner’s Office (ICO) zahájil 3. února 2026 vlastní vyšetřování týkající se zpracování osobních údajů v souvislosti s Grokem.

Zároveň Ofcom, britský regulátor online bezpečnosti, otevřel řízení pod Online Safety Act. To se týká možného šíření nelegálního či škodlivého obsahu, včetně AI-generovaných intimních manipulací.

Evropská komise: otázka systémového rizika pod DSA

Evropská komise již v lednu zahájila další fázi řízení proti X podle Digital Services Act (DSA).

Jedním z posuzovaných aspektů je i to, zda X dostatečně vyhodnotilo a mitigovalo systémová rizika před širším nasazením Groku. DSA se totiž nezaměřuje pouze na jednotlivé příspěvky, ale na nastavení platformy jako celku – tedy zda její design a algoritmy umožňují škálování nelegálního či škodlivého obsahu.

Francie: trestní rovina vyšetřování

Ve Francii probíhá samostatné trestní šetření týkající se potenciálně nelegálního obsahu generovaného prostřednictvím Groku. V únoru došlo podle dostupných informací i k procesním krokům vůči místní kanceláři X.

Detaily vyšetřování francouzské orgány veřejně nekomentují.

Co je jisté a co je zatím předmětem šetření

Potvrzené:

• Irská DPC zahájila formální vyšetřování.
• ICO a Ofcom otevřely paralelní řízení ve Velké Británii.
• Evropská komise pokračuje v řízení proti X podle DSA.
• Francie vede vlastní trestní šetření.

Zatím neuzavřené:

• zda skutečně došlo k porušení GDPR,
• zda byly výstupy generovány ve větším rozsahu,
• zda platforma porušila povinnosti prevence systémových rizik,
• jaké konkrétní sankce mohou následovat.

Vyšetřování jsou v počáteční fázi a žádný z regulátorů zatím nevydal konečné rozhodnutí.

Kontext: AI přímo uvnitř sociální sítě

Případ je významný tím, že nejde o externí deepfake nástroj, ale o AI funkci integrovanou přímo do globální sociální platformy.

To zásadně mění regulatorní optiku – nejde pouze o obsah vytvořený jednotlivcem, ale o otázku odpovědnosti platformy za návrh, testování a bezpečnostní omezení svého AI systému.

Další vývoj bude klíčový nejen pro X, ale i pro budoucí regulaci generativní AI v evropském prostoru.