Yapay zeka sistemlerinin riskini nasıl değerlendireceğinizi öğrenin | Amazon Web Hizmetleri

Yapay zeka (AI), toplumun birçok yönünü iyileştirme ve dönüştürme potansiyeline sahip, hızla gelişen bir alandır. 2023 yılında, güçlü temel modellerin (FM'ler) geliştirilmesi ve bunun sonucunda üretken yapay zeka yeteneklerindeki ilerlemeyle birlikte yapay zeka teknolojilerinin benimsenme hızı daha da hızlandı.

Amazon'da aşağıdakiler gibi çok sayıda üretken yapay zeka hizmetini başlattık: Amazon Ana Kayası ve Amazon Kodu Fısıltıve aracılığıyla oldukça yetenekli bir dizi üretken model sunmuş olduk. Amazon SageMaker Hızlı Başlangıç. Bu hizmetler, gelişmiş yaratıcılık, kişiselleştirilmiş ve dinamik içerik oluşturma ve yenilikçi tasarım da dahil olmak üzere, üretken yapay zekanın ortaya çıkan yeteneklerinin kilidini açma konusunda müşterilerimizi desteklemek üzere tasarlanmıştır. Ayrıca yapay zeka uygulayıcılarının, dil engellerini, iklim değişikliğini, hızlanan bilimsel keşifleri ve daha fazlasını ele alarak dünyayı daha önce hiç olmadığı şekilde anlamalarını sağlayabilirler.

Ancak üretken yapay zekanın tam potansiyelini gerçekleştirmek için olası riskleri dikkatle düşünmek önemlidir. Her şeyden önce bu, sorumlu ve güvenli geliştirme ve dağıtımı teşvik ederek ve potansiyel etkiyi ele almak için proaktif önlemlerin benimsenmesini teşvik ederek yapay zeka sisteminin paydaşlarına fayda sağlar. Sonuç olarak, riski değerlendirmek ve yönetmek için mekanizmalar oluşturmak, yapay zeka uygulayıcılarının dikkate alması gereken önemli bir süreçtir ve yeni ortaya çıkan birçok yapay zeka endüstrisi standardının temel bir bileşeni haline gelmiştir (örneğin, ISO 42001, ISO 23894, ve NIST RMF) ve mevzuat (örneğin AB Yapay Zeka Yasası).

Bu yazıda yapay zeka sisteminizin potansiyel riskini nasıl değerlendireceğinizi tartışıyoruz.

Farklı risk seviyeleri nelerdir?

Bireysel bir makine öğrenimi (ML) modeline ve ilgili risklere ayrı ayrı bakmaya başlamak daha kolay olsa da, böyle bir modelin spesifik uygulamasının ayrıntılarını ve eksiksiz bir yapay zeka sisteminin parçası olarak karşılık gelen kullanım durumunu dikkate almak önemlidir. . Aslında, tipik bir yapay zeka sisteminin birlikte çalışan birden fazla farklı makine öğrenimi modeline dayanması muhtemeldir ve bir kuruluş birden fazla farklı yapay zeka sistemi oluşturmanın yollarını arıyor olabilir. Sonuç olarak riskler her kullanım durumu için ve model riski, yapay zeka sistem riski ve kurumsal risk gibi farklı düzeylerde değerlendirilebilir.

Kurumsal risk, bir kuruluşun karşı karşıya kalabileceği finansal, operasyonel ve stratejik riskler de dahil olmak üzere geniş bir risk yelpazesini kapsar. Yapay zeka sistemi riski, yapay zeka sistemlerinin uygulanması ve işletilmesiyle ilişkili etkiye odaklanırken, makine öğrenimi modeli riski, özellikle makine öğrenimi modellerinin doğasında bulunan güvenlik açıkları ve belirsizliklerle ilgilidir.

Bu yazıda öncelikle yapay zeka sistemi riskine odaklanıyoruz. Ancak, bir kuruluş içindeki tüm farklı risk yönetimi düzeylerinin dikkate alınması ve uyumlu hale getirilmesi gerektiğini unutmamak önemlidir.

Yapay zeka sistemi riski nasıl tanımlanır?

Yapay zeka sistemi bağlamında risk yönetimi, belirsizliğin veya potansiyel olumsuz etkilerin etkisini en aza indirmenin bir yolu olabilirken, aynı zamanda olumlu etkileri en üst düzeye çıkarma fırsatları da sağlayabilir. Riskin kendisi potansiyel bir zarar değil, belirsizliğin hedefler üzerindeki etkisidir. Göre NIST Risk Yönetimi Çerçevesi (NIST RMF) uyarınca risk, bir olayın gerçekleşme olasılığının, karşılık gelen olayın sonuçlarının büyüklüğü ile zamanlanan çarpımsal bir ölçüsü olarak tahmin edilebilir.

Riskin iki yönü vardır: doğal risk ve artık risk. Doğal risk, hafifletme veya kontrollerin olmadığı durumlarda yapay zeka sisteminin sergilediği risk miktarını temsil eder. Artık risk, azaltma stratejilerini hesaba kattıktan sonra kalan riskleri kapsar.

Risk değerlendirmesinin organizasyon çapında çaba gerektiren, insan merkezli bir faaliyet olduğunu her zaman aklınızda bulundurun; Bu çabalar, ilgili tüm paydaşların (ürün, mühendislik, bilim, satış ve güvenlik ekipleri gibi) değerlendirme sürecine dahil edilmesini sağlamaktan, sosyal perspektiflerin ve normların belirli olayların algılanan olasılığını ve sonuçlarını nasıl etkilediğinin değerlendirilmesine kadar uzanır.

Kuruluşunuz risk değerlendirmesini neden önemsemeli?

Yapay zeka sistemleri için risk yönetimi çerçevelerinin oluşturulması, yapay zeka sistemlerinin güvenli ve sorumlu bir şekilde tasarlanmasını, geliştirilmesini ve işletilmesini teşvik ederek toplumun geneline fayda sağlayabilir. Risk yönetimi çerçeveleri kuruluşlara aşağıdaki yollarla da fayda sağlayabilir:

• Geliştirilmiş karar verme – Kuruluşlar, yapay zeka sistemleriyle ilişkili riskleri anlayarak bu riskleri nasıl azaltacakları ve yapay zeka sistemlerini güvenli ve sorumlu bir şekilde nasıl kullanacakları konusunda daha iyi kararlar alabilirler.
• Artan uyumluluk planlaması – Risk değerlendirme çerçevesi, kuruluşların ilgili yasa ve düzenlemelerdeki risk değerlendirme gereksinimlerine hazırlanmalarına yardımcı olabilir
• Güven oluşturma – Kuruluşlar, yapay zeka sistemlerinin risklerini azaltmak için adımlar attıklarını göstererek müşterilerine ve paydaşlarına yapay zekayı güvenli ve sorumlu bir şekilde kullanmaya kararlı olduklarını gösterebilirler.

Risk nasıl değerlendirilir?

İlk adım olarak bir kuruluş, değerlendirilmesi gereken yapay zeka kullanım durumunu tanımlamayı ve ilgili tüm paydaşları tanımlamayı düşünmelidir. Kullanım senaryosu, kullanıcıların belirli bir hedefe ulaşmak için yapay zeka sistemiyle nasıl etkileşime girdiğini açıklayan belirli bir senaryo veya durumdur. Bir kullanım senaryosu açıklaması oluştururken, çözülmekte olan iş sorununu belirtmek, ilgili paydaşları listelemek, iş akışını karakterize etmek ve sistemin temel girdi ve çıktılarına ilişkin ayrıntıları sağlamak yararlı olabilir.

Paydaşlar söz konusu olduğunda bazılarını gözden kaçırmak kolaydır. Aşağıdaki şekil, yapay zeka paydaş rollerinin haritasını çıkarmak için iyi bir başlangıç ​​noktasıdır.

Yapay zeka sistemi risk değerlendirmesinin bir sonraki önemli adımı, kullanım senaryosuyla ilişkili potansiyel olarak zararlı olayları tanımlamaktır. Bu olayları değerlendirirken, örneğin adalet ve sağlamlık gibi sorumlu yapay zekanın farklı boyutları üzerinde düşünmek faydalı olabilir. Farklı paydaşlar, farklı boyutlarda, farklı derecelerde etkilenebilir. Örneğin, bir son kullanıcı için düşük sağlamlık riski, küçük aksaklıklar sergileyen bir yapay zeka sisteminin sonucu olabilirken, düşük adalet riski, farklı demografik gruplar için göz ardı edilebilecek kadar farklı çıktılar üreten bir yapay zeka sisteminden kaynaklanabilir.

Bir olayın riskini tahmin etmek için, gerçekleşme olasılığını ve sonuçların derecesini ölçmek için olasılık ölçeğini şiddet ölçeğiyle birlikte kullanabilirsiniz. Bu ölçekleri geliştirirken yararlı bir başlangıç ​​noktası, çok düşükten çok yüksek riske kadar değişen niteliksel sayısal olmayan kategorilerin veya ölçekler (1-10 gibi), kutular veya başka türlü yarı niceliksel değerlendirme ilkelerinin kullanılmasını öneren NIST RMF olabilir. temsili sayılar. İlgili tüm boyutlar için olasılık ve şiddet ölçeklerini tanımladıktan sonra, ilgili her boyut boyunca paydaş başına genel riski ölçmek için bir risk matrisi şeması kullanabilirsiniz. Aşağıdaki şekil örnek bir risk matrisini göstermektedir.

Bu risk matrisini kullanarak, şiddeti düşük ve gerçekleşme olasılığı nadir olan bir olayı çok düşük riskli olarak değerlendirebiliriz. İlk değerlendirmenin doğal riskin bir tahmini olacağını ve risk azaltma stratejilerinin risk seviyelerini daha da düşürmeye yardımcı olabileceğini unutmayın. İşlem daha sonra olay başına kalan kalan risk için bir derecelendirme oluşturmak üzere tekrarlanabilir. Aynı boyutta tanımlanan birden fazla olay varsa, nihai değerlendirme özeti oluşturmak için hepsi arasından en yüksek risk düzeyini seçmek yararlı olabilir.

Nihai değerlendirme özetini kullanarak kuruluşların, yapay zeka sistemleri için hangi risk seviyelerinin kabul edilebilir olduğunu tanımlamaları ve ilgili düzenlemeleri ve politikaları dikkate almaları gerekecek.

AWS taahhüdü

İle yapılan görüşmeler yoluyla Beyaz Saray ve UNDiğerlerinin yanı sıra, yapay zekanın sorumlu ve güvenli kullanımını geliştirmek için bilgi ve uzmanlığımızı paylaşmaya kararlıyız. Bu doğrultuda Amazon'dan Adam Selipsky yakın zamanda AWS'yi temsil etti. Yapay Zeka Güvenliği Zirvesi devlet başkanları ve endüstri liderlerinin katılımıyla, yapay zekanın sorumlu bir şekilde ilerlemesi konusunda işbirliği yapmaya olan bağlılığımızı daha da gösteriyor.

Sonuç

Yapay zeka ilerlemeye devam ettikçe risk değerlendirmesi, yapay zekayı sorumlu bir şekilde oluşturmak ve dağıtmak isteyen kuruluşlar için giderek daha önemli ve yararlı hale geliyor. Kuruluşlar, bir risk değerlendirme çerçevesi ve risk azaltma planı oluşturarak, yapay zeka ile ilgili potansiyel olay riskini azaltabilir ve müşterilerinin güvenini kazanabilir, ayrıca daha fazla güvenilirlik, farklı demografik gruplar için daha iyi adalet ve daha fazlası gibi avantajlardan da yararlanabilirler.

Devam edin ve kuruluşunuzda bir risk değerlendirme çerçevesi geliştirme yolculuğunuza başlayın ve düşüncelerinizi yorumlarda paylaşın.

Ayrıca Amazon Science'da yayınlanan üretken yapay zeka risklerine ilişkin genel bakışa da göz atın: Üretim çağında sorumlu yapay zekave risk değerlendirmesi ve risk azaltma yolculuğunuzda size destek olabilecek AWS hizmetleri yelpazesini keşfedin: Amazon SageMaker Netleştirin, Amazon SageMaker Model Monitörü, AWS CloudTrailYanı sıra, model yönetişim çerçevesi.

---

Yazarlar Hakkında

Mia C. Mayer AWS Machine Learning University'de Uygulamalı Bilim Adamı ve ML eğitimcisidir; Burada Makine Öğrenimi ve Yapay Zeka sistemlerinin güvenliğini, açıklanabilirliğini ve adilliğini araştırıyor ve öğretiyor. Mia, kariyeri boyunca çeşitli üniversite sosyal yardım programları oluşturdu, konuk konuşmacı ve açılış konuşmacısı olarak görev yaptı ve çok sayıda büyük öğrenme konferansında sunum yaptı. Ayrıca dahili ekiplerin ve AWS müşterilerinin sorumlu yapay zeka yolculuklarına başlamalarına yardımcı oluyor.

Denis V.Batalov 17 yıllık Amazon uzmanı ve Makine Öğrenimi alanında doktora sahibi olan Denis, Search Inside the Book, Amazon Mobile uygulamaları ve Kindle Direct Publishing gibi heyecan verici projelerde çalıştı. 2013'ten beri Çözüm Mimarı olarak AWS müşterilerinin AI/ML teknolojisini benimsemesine yardımcı olmuştur. Denis, şu anda dünya çapında AWS ML Uzman Çözüm Mimarlarının işleyişinden sorumlu bir AI/ML Dünya Çapında Teknoloji Lideridir. Denis sık sık bir konuşmacıdır, onu Twitter @dbatalov'da takip edebilirsiniz.

Dr.Sara Liu AWS Sorumlu Yapay Zeka ekibinde Kıdemli Teknik Program Yöneticisidir. AWS AI hizmetlerinde sorumlu AI çıtasını yükseltmek için bilim adamlarından, veri kümesi liderlerinden, makine öğrenimi mühendislerinden, araştırmacılardan ve diğer işlevler arası ekiplerden oluşan bir ekiple birlikte çalışıyor. Mevcut projeleri arasında yapay zeka hizmet kartlarının geliştirilmesi, sorumlu yapay zeka için risk değerlendirmeleri yapılması, yüksek kaliteli değerlendirme veri kümeleri oluşturulması ve kaliteli programların uygulanması yer alıyor. Ayrıca şirket içi ekiplerin ve müşterilerin gelişen yapay zeka endüstri standartlarını karşılamalarına yardımcı oluyor.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/learn-how-to-assess-risk-of-ai-systems/