Certifikace ISO/IEC 42001 – Systém řízení umělé inteligence (AI)

Umělá inteligence označuje vývoj počítačových systémů, které mohou provádět úkoly, které obvykle vyžadují lidskou inteligenci, od učení a uvažování až po rozhodování a vnímání.

Umělá inteligence zahrnuje různé technologie, jako například:

• Strojové učení (ML) – trénování algoritmů pomocí dat za účelem předpovídání nebo rozhodování bez explicitního naprogramování
• Hluboké učení – typ strojového učení, který využívá vícevrstvé neuronové sítě k analýze mnoha aspektů dat
• Zpracování přirozeného jazyka (NLP) – umožňuje strojům porozumět, interpretovat a generovat lidský jazyk

Umělá inteligence nabízí úžasný potenciál, ale při nesprávném řízení přináší také významná rizika, včetně:

• Bezpečnostní rizika způsobená nezamýšlenými rozhodnutími autonomních systémů
• Nedostatečná transparentnost složitých modelů, která ztěžuje pochopení, jak jsou výsledky generovány
• Narušení soukromí zneužitím osobních údajů
• Kybernetické hrozby způsobené kybernetickými útoky nebo zranitelnostmi systému

Mezi příklady patří například chatbot využívající umělou inteligenci, který neúmyslně vyzradí citlivé informace, nebo prediktivní model, který v případě nedostatečné regulace posiluje předsudky. Vzhledem k tomu, že systémy umělé inteligence jsou stále více součástí kritických operací, stává se strukturovaný dohled naléhavějším.

Umělá inteligence se rychle vyvíjí a je zaváděna v mnoha průmyslových odvětvích, produktech a službách. Umělá inteligence nepochybně ovlivňuje a bude dále ovlivňovat společnost a naše životy.

Vzhledem k tomuto pokroku a vlivu je třeba se zabývat důvěrou, etikou a sociálními otázkami. Umělá inteligence musí být spolehlivá, spravedlivá a transparentní – musí být důvěryhodná.

Norma ISO/IEC 42001 poskytuje rámec pro certifikovatelný systém řízení umělé inteligence (AIMS), v jehož rámci lze systémy umělé inteligence vyvíjet a zavádět jako součást ekosystému zajišťování umělé inteligence.

Jakákoli organizace nebo odborník, kteří chtějí bezpečně vyvíjet, poskytovat nebo využívat systémy či služby umělé inteligence a zajistit jejich odpovědný vývoj a používání. Pokrývá všechna odvětví, veřejný sektor i neziskové organizace.

Vzhledem k tomu, že systémy umělé inteligence jsou složité, vyžaduje implementace AIMS skutečně multidisciplinární přístup. V závislosti na konkrétním případě se může jednat o manažery z oblastí práva, ochrany osobních údajů, provozu, marketingu, výzkumu a vývoje, prodeje, lidských zdrojů, IT a řízení rizik.

Vztahuje se na všechny oblasti použití a kontexty umělé inteligence.

Norma ISO/IEC 42001 AIMS představuje soubor vzájemně provázaných nebo na sebe působících prvků organizace, které pomáhají stanovit zásady a cíle, jakož i procesy k dosažení těchto cílů, týkající se odpovědného vývoje, poskytování nebo používání systémů umělé inteligence.

Hlavní výhody certifikace ISO/IEC 42001 jsou:

• Odpovědná a důvěryhodná umělá inteligence: Zajišťuje etické a odpovědné používání umělé inteligence
• Správa reputace: Zvyšuje důvěru v aplikace umělé inteligence
• Řízení umělé inteligence: Podporuje dodržování právních předpisů a regulačních požadavků
• Praktický návod: Efektivně řídí rizika specifická pro umělou inteligenci
• Identifikace příležitostí: Podporuje inovace v rámci strukturovaného systému

Mezinárodní norma přispívá k cílům udržitelného rozvoje OSN (SDG):

• 5 – Rovnost pohlaví
• 7 – Cenově dostupná a čistá energie
• 8 – Důstojná práce a ekonomický růst
• 9 – Průmysl, inovace a infrastruktura
• 10 – Snížení nerovností
• 12 – Odpovědná spotřeba a výroba
• 14 – Život pod vodou