EÚ vyšetřuje X kvůli rizikovému obsahu spojenému s AI Grok

Komise řeší, zda X před zpřístupněním Groku uživatelům v EU postupovala dostatečně opatrně. EK má obavy ze šíření nelegálního obsahu, včetně manipulovaných sexuálních obrázků a materiálů, které by mohly naplňovat definici sexuálního zneužívání dětí. Podle regulátorů existují náznaky, že se tato rizika již na platformě projevila, což vyvolává otázky ohledně bezpečnosti uživatelů a možné újmy, zejména v případě nezletilých.

Vyšetřování se zaměřuje na to, zda X splnila své povinnosti vyplývající z Aktu o digitálních službách (DSA). Konkrétně chce Komise vědět, zda X:

• správně identifikovala a snížila hlavní rizika spojená s Grokem ještě před jeho spuštěním,
• poskytla regulátorům samostatné posouzení rizik v okamžiku, kdy Grok výrazně změnil fungování platformy,
• a jak přistupovala k rizikům spojeným s doporučovacími algoritmy, včetně využívání Groku v doporučovacích systémech.

Co to znamená pro e-commerce a marketéry

X je v EU klasifikována jako velmi velká online platforma, což s sebou přináší přísnější pravidla. Pro e-commerce značky a marketéry má tato situace nejen regulační, ale i praktické dopady.

Změny v doporučovacích systémech mohou přímo ovlivnit dosah, viditelnost i míru zapojení publika. Zároveň se může zpřísnit moderování obrázků a textů vytvořených pomocí AI, což může automatizovaný obsah zpomalit a zvýšit jeho rizikovost.

V mnoha firmách tak dodržování pravidel platforem už nepatří jen právním oddělením, ale zasahuje i do plánování a výkonu kampaní.

Pro e-shopy a agentury, které využívají AI pro rychlou tvorbu kreativ, to znamená menší flexibilitu při spouštění kampaní, více manuální kontroly a slabší předvídatelnost výsledků. Změny se mohou dotknout i reklamních pravidel a reportingu, což zkomplikuje vyhodnocování výkonu.

Další případ v sérii regulačních zásahů

Tento případ navazuje na dřívější vyšetřování zahájené v prosinci 2023. V prosinci 2025 Komise udělila platformě X pokutu 120 milionů eur, a to za problémy jako klamavý design, nedostatečná transparentnost reklamy a omezený přístup k datům pro ověřené externí výzkumníky, kterým platformy musí podle DSA data zpřístupňovat.

Komise může po X požadovat další informace, provádět rozhovory nebo kontroly a v případě, že nedojde k nápravě, zavést dočasná opatření. Zároveň může přijmout formální závazky ze strany X nebo vydat rozhodnutí o nesouladu s pravidly.