Právní aspekty NSFW AI generátoru umění, které byste měli znát
NSFW AI generátor umění zpracuje váš prompt, algoritmus vykreslí obraz a za pár sekund vznikne explicitní obsah, jehož tvorba by ručně trvala hodiny. Ale zejména při zobrazování skutečných lidí se můžete pohybovat na tenkém ledě. Právní realita za technologií pokulhává a jste na území, kde se pravidla teprve píší.
Autorská práva a AI. Kdo vlastně tvoří?
Základní otázka zní: kdo je autorem díla vygenerovaného umělou inteligencí? Podle českého autorského zákona vzniká autorské právo výhradně fyzické osobě, tedy člověku. AI není právní subjekt a nemůže být autorem. Pokud tedy zadáte prompt a model vygeneruje obrázek, nacházíte se v šedé zóně.
Česká právní úprava prozatím výslovně neřeší AI-generovaný obsah. V praxi to znamená, že dílo vygenerované bez dostatečného tvůrčího vkladu člověka pravděpodobně nesplňuje podmínky pro autorskoprávní ochranu. Obrázek sice existuje, ale nikdo ho nevlastní způsobem, na který jsme zvyklí. To přináší paradox. Nemůžete se domáhat autorských práv vy, ale ani tvůrci modelu vás nemohou žalovat za to, že obrázek sdílíte nebo prodáváte.
Komplikovanější situace nastává u trénovacích dat. Řada modelů se naučila generovat obsah z miliónů obrázků reálných umělců, kteří k tomuto použití souhlas nedali. Několik soudních řízení v USA i Evropě už tuto otázku otevřelo a verdikty teprve přijdou.
Deepfakes a reálné osoby
Největší právní riziko NSFW AI obsahu nespočívá v abstraktních postavách, ale v zobrazení reálných lidí. Pokud vygenerujete sexuálně explicitní obraz osoby bez jejího souhlasu, vstupujete na pole, kde vám hrozí reálné právní důsledky.
Český trestní zákoník postihuje šíření nepravdivých informací poškozujících čest a důstojnost osoby. Navíc občanský zákoník chrání osobnostní práva, kam spadá právo na podobu. Vygenerovat realistický deepfake vaší kolegyně nebo celebrity a zveřejnit ho je přímá cesta k žalobě za zásah do osobnostních práv, případně k trestnímu oznámení.
V roce 2024 přijalo Německo legislativu přímo mířenou na deepfake pornografii a podobné kroky zvažuje i Francie. Česká republika zatím samostatný zákon nemá, ale to neznamená, že jste mimo dosah práva. Stávající předpisy postačují k tomu, aby vás soud uznal odpovědným za šíření takového obsahu.
Zvláštní kategorii tvoří nezletilé osoby. Generovat NSFW obsah zobrazující reálné děti nebo postavy, které jako děti vypadají, je v ČR trestné bez ohledu na to, zda jde o AI výtvor. Zákon nezajímá, zda postava existuje fyzicky. Pokud lze obsah považovat za dětskou pornografii, platí stejné sankce jako pro reálné materiály.
AI Act a co přinese do praxe?
Evropský AI Act vstoupil v platnost v roce 2025 a jeho ustanovení se postupně aktivují. Pro uživatele NSFW generátorů je podstatná zejména oblast transparentnosti a označování AI obsahu.
Systémy generující tzv. syntetické obrazy musí být schopné označit obsah jako AI-generovaný. Platformy, které takové nástroje provozují a nabízejí v EU, budou odpovědné za to, aby jejich produkty tato pravidla splňovaly. Jako koncový uživatel nesete menší přímou odpovědnost za samotný model, ale stále odpovídáte za to, co s výstupem uděláte.
AI Act dělí systémy do kategorií podle míry rizika. Generativní modely pro tvorbu obsahu spadají převážně do kategorie, na niž se vztahují povinnosti transparentnosti. Systémy umožňující zneužití, například cílené obtěžování nebo výrobu deepfakes bez souhlasu, regulace přímo adresuje jako nepřijatelné riziko.
Praktický dopad pro vás je ten, že pokud provozujete web nebo aplikaci postavenou na NSFW AI generátoru a cílíte na evropské uživatele, musíte počítat s tím, že EU regulace na vás dopadne bez ohledu na to, kde server fyzicky stojí.
Platformy a jejich podmínky
Mnoho uživatelů si myslí, že odpovědnost nese platforma a oni jsou v bezpečí. To je omyl. Podmínky služby cloudových generátorů výslovně zakazují tvorbu explicitního obsahu zobrazujícího reálné osoby. Porušení vede k zablokování účtu, ale to je pouze první vrstva problému.
Pokud vygenerovaný obsah sdílíte nebo z něj profitujete, vaše odpovědnost tím teprve začíná. Platformy pro sdílení obsahu v EU podléhají nařízení DSA (Digital Services Act), které po nich vyžaduje aktivní odstraňování nelegálního obsahu. Nahrát tam deepfake bez souhlasu zobrazené osoby je právní hazard.
Lokální spuštění modelu přes Stable Diffusion nebo podobné open-source nástroje vám sice dává větší technickou svobodu, ale právní odpovědnost zůstává. Zákon neřeší, kde model běží. Řeší, co jste vytvořili a jak jste s tím naložili.
Jak je to tedy dnes?
Stručně řečeno, tvorba NSFW AI obsahu abstraktních postav nebo fiktivních světů se pohybuje v právně nejednoznačném, ale relativně tolerovaném prostoru. Jakmile ale do hry vstoupí reálná osoba, nezletilá postava nebo cílené šíření obsahu poškozujícího někoho konkrétního, pravidla jsou jasná a sankce reálné.
Evropská legislativa se rychle zpřesňuje a mezery, které dnes existují, za dva roky pravděpodobně nebudou. Kdo v tomto prostoru podniká nebo tvoří soustavně, udělá dobře, když sleduje vývoj AI Actu a národní implementaci pozorněji než dosud. Právo totiž nezajímá, že jste o novince nevěděli.