ISO/IEC 42001 Belgelendirmesi – Yapay Zeka (AI) Yönetim Sistemi

Yapay zeka, öğrenme ve akıl yürütme aşamalarından karar verme ve algılamaya kadar genellikle insan zekası gerektiren görevleri yerine getirebilen bilgisayar sistemlerinin gelişimini ifade eder.

Yapay zekâ, çeşitli teknolojileri içerir, örneğin:

• Makine öğrenimi (ML): algoritmaların doğrudan programlanmaya ihtiyaç duymadan tahminde bulunmaları veya karar almaları için verilerle eğitilmesi
• Derin öğrenme: verilerdeki sayısız faktörü analiz etmek amacıyla çok katmanlı sinir ağlarını kullanan bir ML (makine öğrenimi) türü
• Doğal dil işleme (NLP): makinelerin insan dilini anlamasını, yorumlamasını ve üretmesini sağlayan teknoloji

Yapay zekâ inanılmaz bir potansiyel sunsa da doğru yönetilmediği takdirde aşağıdakiler gibi ciddi riskleri de beraberinde getirir:

• Otonom sistemlerin istenmeyen kararlar almasından kaynaklanan güvenlik tehlikeleri
• Karmaşık modellerdeki şeffaflık yetersizliğinin, sonuçların nasıl üretildiğini belirsizleştirmesi
• Kişisel verilerin kötüye kullanılması yoluyla gizlilik ihlalleri
• Siber saldırılardan veya sistem güvenlik açıklarından kaynaklanan siber güvenlik tehditleri

Yapay zekâ destekli bir sohbet botunun hassas bilgileri istenmeden sızdırması veya doğru yönetilmeyen öngörücü bir modelin mevcut ön yargıları pekiştirmesi buna örnek gösterilebilir. Yapay zeka sistemleri kritik operasyonlara daha fazla entegre hale geldikçe, yapılandırılmış gözetim daha acil hale gelir.

Yapay zekâ teknolojileri; pek çok sektörde, üründe ve hizmette hızla gelişmeye ve benimsenmeye devam ediyor. Hiç kuşkusuz yapay zekâ bugün toplumu ve yaşamlarımızı derinden etkiliyor ve gelecekte bu etkinin çok daha geniş bir alana yayılacağı açık.

Bu hızlı gelişim ve etki nedeniyle; güven, etik ve toplumsal kaygıların mutlaka ele alınması gerekmektedir. Yapay zekâ güvenilir, adil ve şeffaf olmalı; her şeyden önce güven vermelidir.

ISO/IEC 42001, yapay zekâ sistemlerinin bir yapay zekâ güvencesi ekosisteminin parçası olarak geliştirilip devreye alınmasını sağlayan, belgelendirilebilir bir Yapay Zekâ Yönetim Sistemi (YZYS) çerçevesi sunar.

Yapay zekâ sistemlerini veya hizmetlerini güvenli bir şekilde geliştirmeyi, sunmayı veya kullanmayı amaçlayan; sorumlu geliştirme ve kullanım süreçlerini güvence altına almak isteyen tüm kuruluş ve profesyoneller. Tüm sektörleri, kamu sektörünü ve kar amacı gütmeyen kuruluşları kapsar.

Yapay zekâ sistemleri karmaşık bir yapıya sahip olduğundan, bir YZYS'nin (Yapay Zekâ Yönetim Sistemi) hayata geçirilmesi gerçek anlamda çok disiplinli bir yaklaşım gerektirir. Kullanım senaryosuna bağlı olarak bu süreç; hukuk, gizlilik, operasyon, pazarlama, Ar-Ge, satış, İK, BT ekiplerini ve risk yöneticilerini kapsayabilir.

Tüm yapay zekâ uygulamaları ve bağlamları için geçerlidir.

ISO/IEC 42001 YZYS; yapay zekâ sistemlerinin sorumlu bir şekilde geliştirilmesi, sunulması veya kullanılmasına yönelik politikaların ve hedeflerin belirlenmesi ile bu hedeflere ulaşılmasını sağlayacak süreçlerin oluşturulmasına yardımcı olan, birbirleriyle ilişkili veya etkileşimli kurumsal unsurlar bütünüdür.

ISO/IEC 42001 sertifikasyonunun başlıca avantajları şunlardır:

• Sorumlu ve güvenilir yapay zekâ : Yapay zekâ kullanımının etik ve hesap verebilir olmasını sağlar
• İtibar yönetimi: Yapay zekâ uygulamalarına duyulan güveni artırır
• Yapay zekâ yönetişimi: Yasalara ve düzenlemelere uygunluğu destekler
• Pratik rehberlik: Yapay zekâya özgü riskleri etkili bir şekilde yönetir
• Fırsatların belirlenmesi: Yapılandırılmış bir çerçeve içinde yenilikçiliği teşvik eder

Uluslararası standart, şu BM Sürdürülebilir Kalkınma Hedeflerine katkıda bulunur:

• 5 – Toplumsal Cinsiyet Eşitliği
• 7 – Erişilebilir ve Temiz Enerji
• 8 – İnsana Yakışır İş ve Ekonomik Büyüme
• 9 – Sanayi, İnovasyon ve Altyapı
• 10 – Eşitsizliklerin Azaltılması
• 12 – Sorumlu Tüketim ve Üretim
• 14 – Su Altı Yaşamı