ISO/IEC 42001 sertifikacija – sistem upravljanja veštačkom inteligencijom (AI)

AI se odnosi na razvoj računarskih sistema koji mogu da obavljaju zadatke koji obično zahtevaju ljudsku inteligenciju, od učenja i rasuđivanja do donošenja odluka i percepcije.

AI obuhvata različite tehnologije, kao što su:

• Mašinsko učenje (ML) – treniranje algoritama da na osnovu podataka predviđaju ili donose odluke bez izričitog programiranja
• Duboko učenje – vrsta mašinskog učenja koja koristi višeslojne neuronske mreže za analizu brojnih aspekata podataka
• Obrada prirodnog jezika (NLP) – omogućava mašinama da razumeju, tumače i generišu ljudski jezik

AI nudi neverovatan potencijal, ali takođe donosi značajne rizike u slučaju nepravilnog korišćenja, uključujući:

• Opasnosti po bezbednost ako autonomni sistemi donose nenamerne odluke
• Loša transparentnost u složenim modelima otežava razumevanje načina na koji se ishodi generišu
• Kršenje privatnosti putem zloupotrebe ličnih podataka
• Pretnje po kibernetičku bezbednost usled kibernetičkih napada ili ranjivosti sistema

Neki od primera su četbot kojeg pokreće veštačka inteligencija koji nenamerno otkriva osetljive informacije ili prediktivni model koji pojačava pristrasnost ako se ne koristi pravilno. Kako se AI sistemi uvode u kritične operacije, strukturisani nadzor postaje sve hitniji.

AI se brzo razvija i usvaja u mnogim delatnostima, proizvodima i uslugama. Nedvosumno, AI utiče i dalje će uticati na društvo i naše živote.

Zbog ovog napretka i uticaja, potrebno je da se poverenje, etika i društvena pitanja uzmu u obzir. Veštačka inteligencija (AI) mora da bude pouzdana, poštena i transparentna – mora da uliva poverenje.

ISO/IEC 42001 obezbeđuje okvir sistema upravljanja veštačkom inteligencijom (AIMS) koji može da se sertifikuje i u kojem se AI sistemi mogu razvijati i primenjivati kao deo ekosistema za osiguranje AI.

Svakoj organizaciji ili profesionalcu koji želi da razvije, obezbedi ili koristi AI sisteme ili usluge na bezbedan način, obezbeđujući odgovoran razvoj i upotrebu. Pokriva sve delatnosti, javni sektor i neprofitne organizacije.

Pošto su AI sistemi složeni, primena AIMS-a zahteva istinski multidisciplinarni pristup. U zavisnosti od slučaja upotrebe, ovo može da obuhvati pravni sektor, sektor za privatnost, operativni sektor, marketing, istraživanje i razvoj, prodaju, HR, IT i menadžere rizika.

Primenjuje se na sve AI aplikacije i kontekste.

ISO/IEC 42001 AIMS je skup međusobno povezanih i interaktivnih elemenata organizacije koji pomažu u uspostavljanju politika i ciljeva, kao i procesa za postizanje tih ciljeva, u vezi sa odgovornim razvojem, pružanjem ili korišćenjem AI sistema.

Glavne prednosti ISO/IEC 42001 sertifikacije su:

• Odgovorna i pouzdana veštačka inteligencija: osigurava etičku i odgovornu upotrebu AI
• Upravljanje reputacijom: povećava poverenje u AI aplikacije
• Upravljanje veštačkom inteligencijom: podržava pravnu i regulatornu usaglašenost
• Praktično uputstvo: Uspešno upravlja rizicima specifičnim za AI
• Identifikovanje mogućnosti: ohrabruje inovaciju u okviru strukturisanog okvira

Međunarodni standard doprinosi UN ciljevima održivog razvoja:

• 5 – Rodna ravnopravnost
• 7 – Pristupačna i čista energija
• 8 – Pristojan rad i ekonomski rast
• 9 – Industrija, inovacije i infrastruktura
• 10 – Smanjene nejednakosti
• 12 – Odgovorna potrošnja i proizvodnja
• 14 – Život ispod vode