Tak jako ovládnutí ohně v dobách prehistorických přineslo skok v rozvoji lidstva, tak souběžně přineslo i s tím související rizika a výzvy. Rovněž umělá inteligence v sobě skrývá jak potenciál, tak rizika – může velmi dobře posloužit, ale i zásadně uškodit.
Uvědomění si existujících i potenciálních rizik umělé inteligence vede k legislativním činnostem k její regulaci, aktuálně zejména na půdě Evropské unie v podobě AI Act (nařízení o umělé inteligenci), jehož cílem je předejít negativním důsledkům vývoje umělé inteligence, omezit její zneužití k zásahům do základních práv nebo soukromí, a současně podpořit digitální gramotnost v této oblasti.
Uvědomění si podstaty fungování umělé inteligence a jejích limitů je velice zásadní – zjednodušeně řečeno – i umělá inteligence je omylná, má někdy tendenci si domýšlet, co po ní chceme předpokládat, jakou odpověď bychom asi chtěli slyšet a někdy se nám chce zavděčit. Použití umělé inteligence je tak, resp. mělo by být, spojeno s neustálým ověřováním výstupů za pomoci jiných zdrojů informací.
Určitá míra nedůvěry a kontroly je pak o to zásadnější, že Podmínky užití (tj. dokument upravující práva a povinnosti uživatelů a poskytovatele této služby) – např. nejpoužívanějšího modelu ChatGPT – obsahují ustanovení o vyloučení jakékoliv garance mj. správnosti, vhodnosti či absence zásahu do práv – uživatel tedy přijímá, že veškeré výstupy bude používat na vlastní riziko a že se na získané výstupy nemá spoléhat jako na jediný zdroj pravdivých nebo faktických informací, ani je nepoužije jako náhradu za odborné poradenství. Stejně tak podmínky užití omezují jakoukoliv odpovědnost poskytovatele této služby za škodu, která by vznikla v důsledku jejího užívání. Předmětné výluky z odpovědnosti jsou stanoveny pouze v rozsahu, v jakém to připouští právo.
K umělé inteligenci je tak, zjednodušeně řečeno, vhodné přistupovat jako ke známému, který může mít i dobré a podnětné informace v konkrétní oblasti, ale pokud plánuji na jejich základě činit zásadní rozhodnutí, raději si je ověřím nebo se o nich poradím s odborníkem. Stejně tak je vhodné se zvýšenou opatrností na základě výstupů poskytovat rady a doporučení dalším osobám, kdy v takovém případě pak již primárně samotný rádce nese odpovědnost za svou radu a to, jak k ní dospěl.
