AI Act je za dveřmi. Co musejí e-shopy stihnout a na co si dát pozor?

Klíčovým termínem pro plnění povinností u systémů takzvaného omezeného rizika je 2. srpna 2026. Do této kategorie spadají mimo jiné AI chatboti a nástroje na generování obsahu, které dnes patří k nejrozšířenějším způsobům využití umělé inteligence v e-commerce. Význam AI pro obchod dokládají i data Eurostatu – ze společností z velkoobchodu a maloobchodu, které umělou inteligenci využívaly, ji až 42 % nasazovalo v marketingu nebo prodeji.

Nové povinnosti se přitom mohou týkat i zcela běžných a menších internetových obchodů.

„AI Act se netýká jen technologických firem nebo velkých korporací. Pokud provozujete e-shop s AI chatbotem pro zákaznickou podporu nebo používáte umělou inteligenci při tvorbě obsahu, měli byste si ověřit, jakou roli zastáváte a jaké povinnosti se na vás vztahují. Nejde přitom jen o to, zda AI používáte, ale i o to, zda přesně víte, kde a jak ji využíváte,“ upozorňuje Stanislav Sopko, šéf produktu a vývoje v Heureka Group.

Nejčastější mýty o AI Actu, kterým e-shopy stále věří

Podle dat Eurostatu představuje pro více než polovinu (54 %) podniků překážku při zavádění AI nejasnost právních důsledků a obavy z možného porušení pravidel ochrany osobních údajů. Z praxe vyplývá, že e-shopy často nevědí, kdo za použitý AI nástroj odpovídá, jaké požadavky musejí splnit a zda se liší podle způsobu jeho využití.

1. mýtus: Na všechno je potřeba souhlas podle GDPR

Jedním z rozšířených omylů je představa, že e-shop při každém zpracování osobních údajů pomocí AI potřebuje výslovný souhlas zákazníka podle GDPR. AI Act však nereguluje používání umělé inteligence jako takové, ale zpracování osobních údajů. Souhlas je jen jedním z možných právních titulů. Podle konkrétní situace může jít například i o plnění smlouvy nebo oprávněný zájem.

2. mýtus: AI obsah lze volně a bez omezení používat

V praxi to tak nefunguje. Poskytovatelé některých generativních AI systémů musejí zajistit, aby bylo možné jejich výstupy rozpoznat pomocí strojově čitelného označení. Povinnost transparentního označení se může týkat například deepfake obsahu. Za určitých podmínek se vztahuje i na texty vytvořené nebo upravené pomocí AI (pokud informují o otázkách veřejného zájmu a neprošly lidskou kontrolou či redakčním dohledem). Navíc vygenerováním loga nebo produktového obrázku nemusí automaticky vzniknout autorské právo k výsledku.

„Toto nejsou okrajové situace, ale každodenní scénáře pro velkou část e-shopů,“ říká Karolína Houžvičková, advokátka ze společnosti eLegal. „Firmy, které budou mít problém, nebudou nutně ty, které znaly rizika, rozhodly se je podstoupit a nakonec možná pochybily. Budou to především ty firmy, které předpokládaly, že je všechno v pořádku, aniž by si to ověřily. Právě ty mohou čekat nemilá překvapení.“

5 otázek, které by si měl položit každý e-shop

AI Act rozděluje AI systémy do čtyř kategorií: zakázané, vysoce rizikové, s omezeným rizikem a s minimálním rizikem. Pro absolutní většinu e-shopů je klíčová kategorie omezeného rizika – zejména chatboti a generátory obsahu, u kterých musejí povinnosti splnit do srpna 2026. Vysoce riziková AI, včetně některých HR a náborových nástrojů, má pozdější, ale mnohem náročnější harmonogram.

Abyste zjistili, jak na tom váš e-shop reálně je, odpovězte si před blížícím se termínem na pět základních otázek:

1. Jaké AI systémy ve firmě aktuálně používáte?

2. V jaké roli vystupujete – jste poskytovatel (vývojář), nebo jen provozovatel (uživatel)?

3. Nespadá některý z vašich systémů (např. při náboru zaměstnanců) do kategorie vysokého rizika?

4. Je váš zákaznický chatbot jasně označen jako AI, aby zákazník věděl, že nekomunikuje s člověkem?

5. Vytváříte nebo šíříte deepfake obsah či AI texty bez lidské kontroly?

Zpracováno na základě tiskové zprávy Heureka Group