Mnohé systémy AI jsou vysoce specializované, například na hraní šachu, ale v jiných oblastech mají omezené schopnosti.

AI přináší řadu nových možností, ale zároveň vzbuzuje obavy z nejrůznějších orwellovských scénářů a rizik možného zneužití. Právě tato rizika se snaží omezit nařízení (EU) č. 2024/1689, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci, známé jako AI Act.

Toto nařízení upravuje některé postupy v rámci AI tak, aby nedošlo k jejímu zneužívání způsoby, které jsou neetické nebo by se dokonce mohly dotýkat svobody jednotlivých osob. Dále stanovuje poměrně přísná pravidla pro další systémy AI, kde by jejich ledabylé použití mohlo napáchat velké škody.

AI Act zakazuje například dálkovou identifikaci osob v reálném čase na veřejných prostranstvích, mimo jiné prostřednictvím kamerových záznamů. Dalším zakázaným využitím je přidělování „sociálního skóre“ nebo manipulace s lidmi prostřednictvím podprahového působení.
Dále jsou zde vymezeny systémy, které sice zakázány nejsou a mohou být i společensky přínosné, ale po celou dobu jejich života musí být vyhodnocována a minimalizována jejich rizika, musí splňovat podmínky na správu dat, ze kterých se umělá inteligence učí a další předpoklady. Do této kategorie spadá i využití AI v dopravě (třeba pro „samořídící“ vozidla), v soudnictví nebo v oblasti náborového procesu do zaměstnání –například AI, která by vyhodnocovala, kterého uchazeče o zaměstnání přijmout a kterého nikoliv. I zde je celkový výčet takto vysoce rizikových systémů o poznání obsáhlejší.

V případě dalších určitých systémů AI jsou pak stanoveny požadavky na transparentnost – tedy pokud budete komunikovat s chatbotem, vyžaduje AI Act například, abyste byli informováni, že se jedná o chatbota, a nikoliv o opravdového člověka. Transparentnost se vyžaduje také u systémů, které umí produkovat tzv. deepfaky.

Některé systémy AI pak AI Act neřeší, jelikož nejsou rizikové, anebo jsou rizikové jen minimálně – zde se jedná třeba o umělou inteligenci používanou v počítačových hrách nebo spamových filtrech.

Podstatná většina AI Actu pak bude použitelná od 2. srpna 2026.