Сертификация ISO/IEC 42001 - Система менеджмента искусственного интеллекта (ИИ)

Под искусственным интеллектом понимается разработка компьютерных систем, которые могут выполнять задачи, обычно требующие человеческого интеллекта, от обучения и рассуждения до принятия решений и восприятия.

Искусственный интеллект включает в себя различные технологии, такие как:

• Машинное обучение (ML) — обучение алгоритмов на данных для прогнозирования или принятия решений без явного программирования
• Глубокое обучение — тип машинного обучения, в котором используются многослойные нейронные сети для анализа множества аспектов данных.
• Обработка естественного языка (NLP) — позволяет машинам понимать, интерпретировать и генерировать человеческий язык

Искусственный интеллект обладает удивительным потенциалом, но при неправильном управлении он также создает значительные риски, в том числе:

• Угрозы безопасности, связанные с автономными системами, принимающими непреднамеренные решения
• Недостаточная прозрачность сложных моделей, затрудняющая понимание того, как формируются результаты
• Нарушение конфиденциальности путем неправомерного использования персональных данных
• Угрозы кибербезопасности в результате кибератак или системных уязвимостей

В качестве примера можно привести чат-бот на базе искусственного интеллекта, который непреднамеренно приводит к утечке конфиденциальной информации, или же прогностическую модель, усиливающую предвзятое отношение, если она не управляется должным образом. По мере того, как системы ИИ все активнее внедряются в критически важные операции, структурированный надзор становится все более необходимым.

ИИ быстро развивается и находит все более широкое применение во многих отраслях, продуктах и услугах. Несомненно, искусственный интеллект оказывает и в дальнейшем все так же будет оказывать влияние на общество и нашу с вами жизнь.

В связи с таким прогрессом и влиянием крайне важно уделять внимание вопросам доверия, этики и социальной ответственности. ИИ должен быть надежным, справедливым и прозрачным в своих действиях – он должен стать достойным нашего доверия.

Стандарт ISO/IEC 42001 формулирует требования к сертифицируемой системе менеджмента ИИ (AIMS), в которой ИИ-решения разрабатываются и внедряются с использованием экосистемы по обеспечению надежности ИИ.

Для всех организаций и специалистов, стремящихся безопасно и отвественно разрабатывать, предоставлять либо использовать решения или услуги ИИ. Она охватывает все отрасли, государственный сектор и некоммерческие организации.

Поскольку системы ИИ сложны, внедрение системы менеджмента искусственного интеллекта требует подлинно междисциплинарного подхода. В зависимости от сценария использования в процесс могут быть вовлечены специалисты по юридическим вопросам, защите данных, операционной деятельности, маркетингу, исследованиям и разработкам, продажам, кадрам, ИТ и управлению рисками.

Он применим ко всем случаям использования и контекстам ИИ.

Система менеджмента искусственного интеллекта (AIMS) ISO/IEC 42001 представляет собой набор взаимосвязанных или взаимодействующих элементов организации, которые помогают устанавливать политику и цели, связанные с ответственной разработкой, предоставлением или использованием ИИ-решений, а также определять процессы для достижения этих целей.

Основные преимущества сертификации ISO/IEC 42001:

• Ответственный и надежный ИИ: Обеспечивает этичное и ответственное использование ИИ
• Управление репутацией: Повышает доверие к приложениям ИИ
• Управление ИИ: Обеспечивает соответствие нормативно-правовым требованиям
• Практическое руководство: Эффективно управляет рисками, связанными с ИИ
• Определение возможностей: Поощряет инновации в рамках структурированной системы

Международный стандарт вносит вклад в достижение ЦУР ООН:

• 5 – Гендерное равенство
• 7 – Доступная и чистая энергия
• 8 – Достойная работа и экономический рост
• 9 – Промышленность, инновации и инфраструктура
• 10 – Сокращение неравенства
• 12 – Ответственное потребление и производство
• 14 – Жизнь под водой