AI Act: co musí splnit malá firma, která jen používá ChatGPT

Krátká odpověď: AI Act je nařízení EU o umělé inteligenci. Platí od 1. srpna 2024, povinnosti nabíhají postupně a v červenci 2026 ho upravila novela (nařízení 2026/1744). Firmu, která jen používá hotové nástroje jako ChatGPT nebo Claude, se týkají hlavně dvě věci: přijmout opatření, aby lidé, kteří s AI pracují, věděli, co dělají (článek 4), a od 2. srpna 2026 jasně říct, když s člověkem mluví chatbot nebo když je obsah vygenerovaný AI (článek 50). Přísnější povinnosti pro vysoce rizikové oblasti (nábor, úvěry, zdravotnictví) se malé firmy s chatbotem na webu obvykle netýkají a novela je posunula na prosinec 2027 a srpen 2028.

Co je AI Act a proč se týká i malé firmy

AI Act (nařízení EU 2024/1689) je evropská regulace umělé inteligence. Vstoupilo v platnost 1. srpna 2024 a rozděluje AI systémy do kategorií podle rizika: nepřijatelné (zakázané), vysoké, omezené a minimální. Většina nástrojů, které používá malá firma, jako generování textů, obrázků nebo chatbot na webu, spadá do kategorie omezeného nebo minimálního rizika. To neznamená žádné povinnosti, ale výrazně mírnější než u vysoce rizikových systémů.

Nařízení dopadá na všechny firmy, které AI jakkoli využívají, ne jen na ty, co ji vyvíjejí. Rozlišuje mezi „poskytovatelem“ (kdo AI systém vytváří, třeba OpenAI) a „provozovatelem“ (kdo ho používá ve své firmě). Malá firma je v naprosté většině případů provozovatel, a to určuje, které povinnosti se jí týkají.

Harmonogram: kdy co platí

• 1. srpna 2024: nařízení vstoupilo v platnost.
• 2. února 2025: začal platit zákaz nepřijatelných praktik (manipulativní systémy zneužívající zranitelnost lidí, sociální kreditní skóre, necílené sbírání biometrických dat z internetu) a článek 4 o AI gramotnosti.
• 2. srpna 2025: povinnosti pro poskytovatele obecných AI modelů (týká se firem jako OpenAI nebo Anthropic, ne běžného uživatele nástroje).
• 27. července 2026: začala platit novela 2026/1744, takzvaný digitální omnibus k AI. Zmírnila článek 4 a posunula termíny pro vysoce rizikové systémy.
• 2. srpna 2026: transparentnost podle článku 50 (označování chatbotů a obsahu generovaného AI).
• 2. prosince 2026: konec přechodného období pro strojově čitelné značení obsahu u generativních systémů, které byly na trhu už před 2. srpnem 2026.
• 2. prosince 2027: povinnosti pro vysoce rizikové systémy podle přílohy III (například nábor a hodnocení zaměstnanců, přístup k úvěru, vzdělávání).
• 2. srpna 2028: povinnosti pro vysoce rizikové systémy zabudované do výrobků podle přílohy I.

Pro malou firmu, která jen používá hotové nástroje, je důležitý hlavně článek 4 a srpen 2026.

AI gramotnost (článek 4)

Článek 4 platí od 2. února 2025. Novela z července 2026 ho zmírnila: firma, která AI používá, musí přijmout opatření na podporu AI gramotnosti lidí, kteří s AI v její práci zacházejí, ale nemusí zaručit, že každý z nich dosáhne určité úrovně. Evropská komise a členské státy mají firmám s tím pomáhat praktickými příklady.

Nařízení nepředepisuje konkrétní formu ani počet hodin školení. V praxi se doporučuje pokrýt základy fungování používaných nástrojů, rizika (chybné odpovědi, únik firemních dat, autorská práva) a jednoduchou evidenci, kdo a kdy školení absolvoval. Rozsah se odvíjí od role: člověk, který AI používá na první verze textů, potřebuje jinou úroveň znalostí než vedení, které rozhoduje o nasazení nového nástroje.

Transparentnost u chatbotů a generovaného obsahu (článek 50)

Od 2. srpna 2026 platí čtyři okruhy transparentnosti. Pro malou firmu je nejdůležitější první: pokud má na webu chatbota, musí být uživateli hned na začátku jasné, že mluví se strojem, ne s člověkem. Nesmí to být schované v patičce nebo v obchodních podmínkách, uživatel to má vědět v okamžiku, kdy začne konverzaci.

Dále platí, že obsah vytvořený nebo upravený AI (texty, obrázky, video) se má v příslušných případech označit jako AI generovaný, zejména pokud by mohl být zaměněn za reálný. Pravidlo o deepfacích platí bez ohledu na to, jestli šlo o úmysl někoho oklamat: pokud výstup vypadá nebo zní jako konkrétní reálná osoba, musí být označený.

Za porušení transparentnosti podle článku 50 hrozí pokuta až 15 milionů eur nebo 3 % celosvětového ročního obratu. Za nejzávažnější prohřešky, používání zakázaných praktik, jde pokuta až na 35 milionů eur nebo 7 % obratu. U velkých firem platí vyšší z obou částek, u malých a středních podniků nižší (článek 99 odstavec 6), takže dopad je úměrný velikosti podniku.

Co malá firma dělat nemusí

Pokud firma AI systémy sama nevyvíjí a nenasazuje je v přesně vyjmenovaných vysoce rizikových oblastech (nábor a hodnocení zaměstnanců, přístup k úvěru, zdravotní péče, bezpečnostní komponenty), netýkají se jí povinnosti pro vysoce rizikové systémy: posuzování shody, technická dokumentace ani registrace v evropské databázi. Běžný chatbot na webu, AI asistent na psaní textů nebo nástroj na úpravu fotek do těchto kategorií obvykle nespadají.

Jak se připravit

Stačí zvládnout tři věci. Přijmout opatření, aby lidé, kteří s AI pracují, věděli, co nástroj umí a kde jsou jeho rizika, třeba krátké školení a jednoduchý záznam o něm. Zkontrolovat, jestli chatbot na webu na začátku rozhovoru jasně říká, že je to AI, ne člověk. A obsah, který by mohl být zaměněný za reálnou osobu nebo skutečnou fotku, označit jako vytvořený AI.

Školení AI pro firmy dělám i já. Napište mi a probereme, co článek 4 znamená pro Váš provoz. Víc o tom na stránce Školení AI.

Zdroje

• Nařízení (EU) 2026/1744, kterým se mění AI Act: EUR-Lex
• EU AI Act: AI Omnibus formally adopted: Addleshaw Goddard
• EU Digital Omnibus on AI Enters into Force: Hunton
• AI Omnibus recalibrates Article 4, AI literacy remains mandatory: KI-Campus
• The EU AI Act’s Transparency Rules: A Practical Guide to Article 50: artificialintelligenceact.eu
• Deepfakes, Chatbots, AI-Generated Text: Transparency Obligations Under the AI Act: Greenberg Traurig
• AI ACT: Jaké máte povinnosti od 2. února 2025?: ARROWS
• Zakázané praktiky umělé inteligence dle AI Aktu: epravo.cz
• Pokuta až 35 milionů eur. AI Act se týká především firem a úřadů: Radiožurnál
• EU AI Act a české SME: co musíte splnit a co vám naopak pomůže: BusinessInfo.cz