Сертифікація ISO/IEC 42001 — Система управління штучним інтелектом (ШІ)

Штучний інтелект — це розробка комп’ютерних систем, здатних виконувати завдання, які зазвичай вимагають людського інтелекту, — від навчання та міркування до прийняття рішень і сприйняття.

Штучний інтелект поєднує різні технології, такі як:

• Машинне навчання (ML) — навчання алгоритмів на даних для прогнозування або прийняття рішень без явного програмування
• Глибоке навчання — різновид машинного навчання, що використовує багатошарові нейронні мережі для аналізу численних аспектів даних
• Обробка природної мови (NLP) — дозволяє машинам розуміти, інтерпретувати та генерувати людську мову

Штучний інтелект пропонує дивовижний потенціал, але він також створює значні ризики, якщо ним неправильно керувати, зокрема:

• Загрози безпеці, пов’язані з прийняттям непередбачених рішень автономними системами
• Низька прозорість у складних моделях, що приховує, як генеруються результати
• Порушення конфіденційності через неправомірне використання персональних даних
• Кіберзагрози від кібератак або системних вразливостей

Серед прикладів можна назвати випадки, коли чат-бот на базі штучного інтелекту ненавмисно розголошує конфіденційну інформацію або коли прогнозна модель посилює упередження, якщо її не контролювати належним чином. У міру того, як системи штучного інтелекту все ширше впроваджуються в критично важливі операції, необхідність у структурованому нагляді стає дедалі гострішою.

Штучний інтелект стрімко розвивається та впроваджується в багатьох галузях, продуктах і послугах. Безсумнівно, ШІ впливає і надалі впливатиме на суспільство та наше життя.

З огляду на цей прогрес і вплив необхідно приділити увагу питанням довіри, етики й соціальних проблем. Штучний інтелект має бути надійним, справедливим і прозорим — він має викликати довіру.

Стандарт ISO/IEC 42001 визначає структуру сертифікованої системи керування штучним інтелектом (AI Management System, AIMS), у межах якої системи штучного інтелекту можуть розроблятися та впроваджуватися як частина екосистеми забезпечення якості штучного інтелекту.

Будь-яка організація або фахівець, які прагнуть безпечно розробляти, надавати або використовувати системи чи послуги штучного інтелекту, забезпечуючи їх відповідальну розробку й використання. Це стосується всіх галузей промисловості, державного сектору й некомерційних організацій.

Оскільки системи штучного інтелекту є складними, впровадження AIMS вимагає справді міждисциплінарного підходу. Залежно від конкретного випадку, до цього переліку можуть входити менеджери з юридичних питань, питань конфіденційності, операційної діяльності, маркетингу, досліджень і розробок, продажів, керування персоналом, ІТ й керування ризиками.

Це стосується всіх програм на основі штучного інтелекту та будь-яких пов’язаних із ним ситуацій.

AIMS згідно з ISO/IEC 42001 — це сукупність взаємопов’язаних або взаємодійних елементів організації, що сприяють визначенню політик і цілей, а також процесів для досягнення цих цілей, пов’язаних із відповідальною розробкою, упровадженням або використанням систем штучного інтелекту.

Основні переваги сертифікації ISO/IEC 42001:

• Відповідальний і надійний штучний інтелект: забезпечує етичне та відповідальне використання штучного інтелекту
• Управління репутацією: підвищує довіру до застосунків штучного інтелекту
• Керування штучним інтелектом: підтримує дотримання законодавчих та нормативних вимог
• Практичні рекомендації: ефективно керує ризиками, пов’язаними зі штучним інтелектом
• Визначення можливостей: сприяє інноваціям у межах чіткої структури

Міжнародний стандарт сприяє досягненню цілей сталого розвитку ООН:

• 5 — Гендерна рівність
• 7 — Доступна та чиста енергія
• 8 — Гідна праця та економічне зростання
• 9 — Промисловість, інновації та інфраструктура
• 10 — Зменшення нерівностей
• 12 — Відповідальне споживання та виробництво
• 14 — Життя під водою