Evropský AI pakt: Technologické společnosti se zavázaly k bezpečné AI

Více než stovka firem, včetně technologických gigantů jako Microsoft, Google a Vodafone, podepsala nový Pakt umělé inteligence (AI Pact). Tento pakt představuje dobrovolný závazek k podpoře bezpečného a etického rozvoje umělé inteligence.

Pakt stanovuje tři klíčové oblasti, na které se signatáři zavazují zaměřit. Prvním z nich je přijetí strategie řízení AI v rámci organizace a příprava na budoucí dodržování předpisů, které přinese nadcházející AI Act. Tento akt by měl začít platit v roce 2026 a bude největším právním rámcem pro umělou inteligenci na světě.

Druhým závazkem je identifikace a mapování AI systémů, které by mohly být klasifikovány jako „vysokorizikové“. To zahrnuje systémy, které mají zásadní dopad na lidské životy, jako je kritická infrastruktura, pracovní trh nebo aplikace v oblasti práva.

Odpovědnost a vzdělávání

Třetí a poslední klíčový závazek paktu se zaměřuje na podporu povědomí o umělé inteligenci a její odpovědné využívání mezi zaměstnanci. Firmy se zavazují zvyšovat znalosti o AI, aby zajistily etický a zodpovědný vývoj těchto technologií.

Nezávazný, ale důležitý krok

Pakt je dobrovolný a není právně vymahatelný, což znamená, že společnosti, které nesplní své závazky, nebudou čelit sankcím. Zajímavé je, že na seznamu signatářů chybí společnost Meta, ačkoliv ta uvedla, že je otevřená budoucím jednáním.

Tento pakt slouží jako předvoj k Aktu o umělé inteligenci, který bude právně závazný od roku 2026. V té době budou muset AI platformy dodržovat autorská práva, jinak jim hrozí pokuty až do výše 7 % celosvětového obratu. Vysokorizikové systémy budou podléhat přísným požadavkům, jako je logování aktivit, kybernetická bezpečnost a rizikové řízení.

Regulace technologických gigantů v EU

Evropská unie v posledních letech zavedla několik významných předpisů zaměřených na kontrolu technologických firem, včetně Nařízení o digitálních službách a Nařízení o digitálních trzích, které se snaží omezit moc těchto firem a zavést přísnější pravidla v oblasti ochrany soukromí.

EU také ukázala, že se nebojí ukládat vysoké pokuty společnostem, které nedodržují předpisy. Některé firmy, jako například Apple, se rozhodly omezit určité funkce umělé inteligence na evropském trhu kvůli regulační nejistotě.

Zdroj ilustračního obrázku: Christian Lue on Unsplash