Chứng nhận ISO/IEC 42001 – Hệ thống quản lý trí tuệ nhân tạo (AI)

Trí tuệ nhân tạo (AI) đề cập đến việc phát triển các hệ thống máy tính có khả năng thực hiện các nhiệm vụ thường đòi hỏi trí thông minh của con người, từ học hỏi và suy luận đến ra quyết định và nhận thức.

Trí tuệ nhân tạo (AI) bao gồm nhiều công nghệ khác nhau, chẳng hạn như:

• Học máy (ML) – đào tạo các thuật toán dựa trên dữ liệu để đưa ra dự đoán hoặc quyết định mà không cần lập trình rõ ràng
• Học sâu (Deep learning) – một nhánh của ML sử dụng mạng nơ-ron đa lớp để phân tích vô số yếu tố của dữ liệu
• Xử lý ngôn ngữ tự nhiên (NLP) – giúp máy móc hiểu, diễn giải và tạo ra ngôn ngữ của con người

AI mang đến tiềm năng tuyệt vời, nhưng công nghệ này cũng đi kèm những rủi ro đáng kể nếu không được quản lý đúng cách, bao gồm:

• Nguy cơ mất an toàn từ các hệ thống tự động đưa ra những quyết định ngoài ý muốn.
• Sự thiếu minh bạch trong các mô hình phức tạp che khuất cách thức tạo ra kết quả.
• Vi phạm quyền riêng tư thông qua việc lạm dụng dữ liệu cá nhân.
• Mối đe dọa an ninh mạng từ các cuộc tấn công mạng hoặc lỗ hổng hệ thống

Ví dụ như một chatbot ứng dụng AI vô tình làm rò rỉ thông tin nhạy cảm, hoặc một mô hình dự đoán củng cố các định kiến nếu không được kiểm soát phù hợp. Khi hệ thống AI ngày càng tích hợp sâu vào các hoạt động trọng yếu, công tác giám sát bài bản lại càng trở nên cấp bách.

Trí tuệ nhân tạo (AI) đang phát triển và được ứng dụng nhanh chóng trong nhiều ngành công nghiệp, sản phẩm và dịch vụ. Không thể phủ nhận rằng trí tuệ nhân tạo đang và sẽ tiếp tục ảnh hưởng đến xã hội và cuộc sống của chúng ta.

Due to this progress and influence, trust, ethics and social concerns must be addressed. AI phải đáng tin cậy, công bằng và minh bạch – tức là AI phải tạo được sự tín nhiệm.

Thông qua khuôn khổ hệ thống quản lý AI (AIMS) có thể chứng nhận do ISO/IEC 42001 cung cấp, các hệ thống AI có thể được phát triển và triển khai như một phần của hệ sinh thái bảo chứng AI.

Mọi tổ chức hoặc chuyên gia mong muốn phát triển, cung cấp hoặc sử dụng các hệ thống hay dịch vụ AI một cách an toàn, nhằm đảm bảo việc phát triển và sử dụng có trách nhiệm. Tiêu chuẩn này bao trùm mọi ngành nghề, khu vực công và các tổ chức phi lợi nhuận.

Do các hệ thống AI rất phức tạp, việc triển khai AIMS đòi hỏi một phương pháp tiếp cận thực sự đa ngành. Tùy từng tình huống sử d, quá trình này có thể cần đến đội ngũ pháp lý, quyền riêng tư, vận hành, tiếp thị, R&D, kinh doanh, nhân sự, CNTT và quản lý rủi ro.

Tiêu chuẩn này áp dụng cho mọi ứng dụng và bối cảnh sử dụng AI.

AIMS theo tiêu chuẩn ISO/IEC 42001 là một tập hợp các yếu tố có liên quan hoặc tương tác lẫn nhau trong một tổ chức, nhằm giúp thiết lập các chính sách và mục tiêu, cũng như các quy trình để đạt được những mục tiêu đó, liên quan đến việc phát triển, cung cấp hoặc sử dụng các hệ thống AI một cách có trách nhiệm.

Những lợi ích chính của chứng nhận ISO/IEC 42001 là:

• AI có trách nhiệm và đáng tin cậy: đảm bảo việc sử dụng AI có đạo đức và trách nhiệm
• Quản lý danh tiếng: Tăng cường niềm tin vào các ứng dụng AI
• Quản trị AI: hỗ trợ việc tuân thủ pháp luật và quy định
• Hướng dẫn thực tế: quản lý hiệu quả các rủi ro đặc thù của AI
• Xác định cơ hội: khuyến khích sự đổi mới sáng tạo trong một khuôn khổ có cấu trúc

Tiêu chuẩn quốc tế này đóng góp vào các Mục tiêu Phát triển Bền vững (SDG) dưới đây của Liên Hợp Quốc:

• 5 – Bình đẳng giới
• 7 – Năng lượng sạch và giá cả phải chăng
• 8 – Công việc Tốt và Tăng trưởng Kinh tế
• 9 – Công nghiệp, Sáng tạo và Phát triển hạ tầng
• 10 – Giảm bất bình đẳng
• 12 – Tiêu dùng và sản xuất có trách nhiệm
• 14 – Tài nguyên và Môi trường Biển