AI Act pod lupou

Evropská unie si v nedávné době připsala vydáním nového předpisu s názvem AI Act prvenství pro celý svět. AI Act byl již zveřejněn v Úředním věstníku a stává se tak platným 2. srpna 2024. AI Act zavádí jasná pravidla využívání umělé inteligence. Nařízení mimo jiné klade důraz na ochranu lidských práv a svobod a akcentuje zvýšení bezpečnosti v oblasti využívání AI. V nařízení je možno nalézt různé úrovně rizikovosti spojených s AI.  

Na koho se vztahuje

Povinnosti se tak dotknou celého spektra zainteresovaných stran. Od těch, kteří AI systémy a technologie vyvíjí až po ty, kteří AI denně používají. Největším množství povinností však budou zatíženi hlavně vývojáři AI, ale i ti kteří ji implementují do svých provozů či poskytování služeb.

Platnost nařízení

Platnost nařízení je odstupňována do několika úrovní. 2. února 2025 vejdou v platnost obecná ustanovení a zakázané postupy v oblasti AI. Zároveň do 2. srpna 2025 jsou členské státy povinny zřídit a určit oznamující subjekty. Té vejdou ve stejný termín i sankce a další donucovací opatření. 2. srpna 2026 bude s výjimkou klasifikačních pravidel pro vysoce rizikové systémy AI platit nařízení v plném rozsahu. Uvedená výjimka vejde v platnost jako poslední a to 2. srpna 2027.

Platností AI Actu nebudou dotčeni jen subjekty v rámci EU, rámec zasahuje i mimo hranice členských států. Tedy například pokud je na trh EU uváděn nový AI systém ze zahraničí.

Hlavní body AI aktu

• Transparentnost a srozumitelnost AI: Musí být zřejmé, když je obsah nebo produkty personalizovány pomocí AI a jsou dostatečně srozumitelně předány.
• Informovanost uživatelů: Uživatelé musí být informováni o použití AI pro personalizaci a mít možnost ovlivnit, jaká data o nich jsou shromažďována.
• Dodržování pravidel ochrany údajů: E-shopy se musí řídit přísnějšími pravidly ochrany údajů v souvislosti s AI.
• Klasifikace rizik: Rozděluje AI systémy do 4 kategorií, pro které jsou stanoveny rozdílné požadavky na regulaci.
• Odpovědnost za škody: Zvýšená odpovědnost za potenciální škody způsobené rozhodnutími založenými na AI.

Posuzování rizik

Právní úprava využívá principu posouzení rizik a rozlišuje čtyři úrovně rizika systémů AI, přičemž platí pravidlo, že čím vyšší je riziko, tím přísnější jsou i pravidla.

Minimální riziko

Většina současných AI systémů v EU spadá do této kategorie a nevyžaduje nové povinnosti. Poskytovatelé mohou dobrovolně uplatňovat požadavky na důvěryhodnou AI a připojit se k etickým kodexům.

Specifické riziko

Tato kategorie zahrnuje systémy jako jsou chatboti a generativní AI, které musí splňovat zvláštní požadavky na transparentnost, například informování uživatelů, že komunikují s AI a ne s lidskou bytostí.

Vysoké riziko

Systémy AI v této kategorii mohou ovlivnit bezpečnost a základní lidská práva a svobody. V příloze AI aktu nalezneme seznam těchto vysoce rizikových systémů. Patří sem například:

• Biometrika a systémy biometrické identifikace,
• Kritická infrastruktura (doprava, energie),
• Vzdělávání a odborná příprava (hodnocení výsledků, prevence podvádění),
• Zaměstnání, řízení pracovníků a přístup k samostatné výdělečné činnosti (analýza žádostí o práci),
• Přístup k základním službám (zdravotní péče, pojištění),
• Právní a bezpečnostní systémy (prosazování práva, ochrana hranic).

Nepřijatelné riziko

Zahrnuje zakázané způsoby využití AI, například:

• Systémy sociálního kreditního hodnocení,
• Biometrická identifikace na dálku v reálném čase na veřejných místech (kromě vymezených případů),
• Rozpoznávání emocí na pracovišti a ve školách (pokud to není z bezpečnostních nebo zdravotních důvodů),
• Individuální prediktivní policejní práce,
• Necílené automatické stahování dat z internetu pro tvorbu databází.

Požadavky kladené na vysoce rizikovou AI

• Hodnocení dopadu na základní práva a hodnocení souladu
• Registrace ve veřejné databázi EU pro systémy AI s vysokým rizikem
• Implementace řízení rizik a systému řízení kvality
• Správa dat (zmírňování zkreslení, reprezentativní tréninková data)
• Transparentnost (instrukce pro použití, technická dokumentace)
• Lidský dohled (vysvětlitelnost, auditovatelné záznamy, člověk v smyčce)
• Přesnost, robustnost a kybernetická bezpečnost (testování a monitorování)

Budou padat i pokuty

• Až 7 % ročního celosvětového obratu nebo 35 milionů eur za porušení zakázané AI,
• Až 3 % ročního celosvětového obratu nebo 15 milionů eur za většinu ostatních porušení,
• Až 1,5 % ročního celosvětového obratu nebo 7,5 milionů eur za poskytnutí nesprávných informací.

Důvěra v AI

Transparentnost a důvěryhodnost je protkána celým AI aktem. Právě proto musí poskytovatelé AI systémů zajistit, aby lidé věděli, že komunikují s AI, pokud to není zřejmé z kontextu. Systémy, které generují syntetický obsah (ať už zvukový, obrazový, video nebo textový), musí označovat výstupy jako uměle vytvořené ve strojově čitelném formátu, což platí i pro "deep fake" obsah.

Poskytovatelé obecných AI modelů, které vykazují značnou univerzálnost a mohou být začleněny do různých aplikací, musí poskytovat technickou dokumentaci a shrnutí tréninkových dat navazujícím systémům. V neposlední řadě musí mít zavedenou politiku na dodržování autorského práva při školení těchto modelů.

Pokud byste s implementací nového nařízení o AI potřebovali pomoci , neváhejte se na naší advokátní kancelář kdykoliv obrátit. Pro další informace sledujte tento náš web, náš Facebook, Twitter (X) či LinkedIn.