AWS CISO: ใส่ใจกับวิธีที่ AI ใช้ข้อมูลของคุณ

องค์กรต่างๆ กำลังนำ AI เจนเนอเรชั่นมาใช้มากขึ้นเพื่อทำให้กระบวนการไอทีเป็นอัตโนมัติ ตรวจจับภัยคุกคามด้านความปลอดภัย และเข้าควบคุมฟังก์ชันการบริการลูกค้าระดับแนวหน้า หนึ่ง การสำรวจของไอบีเอ็มในปี 2023 พบว่า 42% ขององค์กรขนาดใหญ่ใช้งาน AI อย่างจริงจัง และอีก 40% กำลังสำรวจหรือทดลองใช้ AI

ในการมาบรรจบกันของ AI และคลาวด์อย่างหลีกเลี่ยงไม่ได้ องค์กรต่างๆ จำเป็นต้องคิดถึงวิธีรักษาความปลอดภัยให้กับเครื่องมือ AI บนคลาวด์ คนหนึ่งที่คิดมากเกี่ยวกับเรื่องนี้คือ Chris Betz ซึ่งกลายเป็น CISO ที่ Amazon Web Services เมื่อเดือนสิงหาคมปีที่แล้ว

ก่อนที่จะมี AWS Betz ดำรงตำแหน่งรองประธานบริหารและ CISO ของ Capital One Betz ยังทำงานในตำแหน่งรองประธานอาวุโสและประธานเจ้าหน้าที่รักษาความปลอดภัยที่ Lumen Technologies และในตำแหน่งด้านความปลอดภัยที่ Apple, Microsoft และ CBS

Dark Reading เพิ่งพูดคุยกับ Betz เกี่ยวกับ ความปลอดภัยของปริมาณงาน AI ในระบบคลาวด์. บทสนทนาฉบับแก้ไขจะตามมา

Dark Reading: อะไรคือความท้าทายครั้งใหญ่ในการรักษาความปลอดภัยปริมาณงาน AI ในระบบคลาวด์

คริส เบตซ์: เมื่อฉันพูดคุยกับลูกค้าของเราจำนวนมากเกี่ยวกับ AI เชิงสร้างสรรค์ บทสนทนาเหล่านั้นมักจะเริ่มต้นด้วย "ฉันมีข้อมูลที่ละเอียดอ่อนจริงๆ และฉันต้องการมอบความสามารถให้กับลูกค้าของฉัน ฉันจะทำเช่นนั้นอย่างปลอดภัยได้อย่างไร” ฉันซาบซึ้งจริงๆ กับการสนทนานั้น เพราะมันสำคัญมากที่ลูกค้าของเราจะมุ่งเน้นไปที่ผลลัพธ์ที่พวกเขาพยายามบรรลุ

Dark Reading: ลูกค้ากังวลเรื่องอะไรมากที่สุด?

เบตซ์: การสนทนาต้องเริ่มต้นด้วยแนวคิดที่ว่า “ข้อมูลของคุณคือข้อมูลของคุณ” เรามีข้อได้เปรียบอย่างมากจากการที่ฉันสามารถสร้างโครงสร้างพื้นฐานด้านไอทีที่ทำงานได้ดีมากในการเก็บข้อมูลนั้นไว้ในที่ที่มันอยู่ คำแนะนำแรกที่ฉันให้คือ: ทำความเข้าใจว่าข้อมูลของคุณอยู่ที่ไหน มันถูกป้องกันอย่างไร? มีการนำไปใช้ในโมเดล AI ทั่วไปอย่างไร

สิ่งที่สองที่เราพูดถึงคือการโต้ตอบกับโมเดล AI เชิงสร้างสรรค์มักจะใช้ข้อมูลที่ละเอียดอ่อนที่สุดของลูกค้าบางส่วน เมื่อคุณถามโมเดล AI ทั่วไปเกี่ยวกับธุรกรรมเฉพาะ คุณจะใช้ข้อมูลเกี่ยวกับบุคคลที่เกี่ยวข้องในธุรกรรมนั้น

Dark Reading: องค์กรต่างๆ กังวลกับสิ่งที่ AI ทำกับข้อมูลภายในบริษัทและข้อมูลลูกค้าหรือไม่?

เบตซ์: ลูกค้าส่วนใหญ่ต้องการใช้ generative AI ในการโต้ตอบกับลูกค้าของพวกเขา และในการขุดและการใช้ประโยชน์จากข้อมูลจำนวนมหาศาลที่พวกเขามีภายใน และทำให้สิ่งนั้นใช้งานได้สำหรับพนักงานภายในหรือเพื่อลูกค้าของพวกเขา เป็นสิ่งสำคัญมากสำหรับบริษัทที่พวกเขาจัดการข้อมูลที่ละเอียดอ่อนอย่างไม่น่าเชื่อด้วยวิธีที่ปลอดภัย เนื่องจากเป็นส่วนสำคัญของธุรกิจของพวกเขา

บริษัทต่างๆ จำเป็นต้องคำนึงถึงว่าข้อมูลของตนอยู่ที่ไหน และเกี่ยวกับวิธีการป้องกันข้อมูลดังกล่าวเมื่อแจ้งคำสั่ง AI และเมื่อใดที่พวกเขาได้รับการตอบกลับ

Dark Reading: คุณภาพของการตอบสนองและความปลอดภัยของข้อมูลเกี่ยวข้องกันหรือไม่?

เบตซ์: ผู้ใช้ AI จะต้องคิดเสมอว่าพวกเขาได้รับการตอบกลับที่มีคุณภาพหรือไม่ เหตุผลด้านความปลอดภัยคือเพื่อให้ผู้คนเชื่อถือระบบคอมพิวเตอร์ของตน หากคุณกำลังรวบรวมระบบที่ซับซ้อนนี้ซึ่งใช้โมเดล AI เชิงสร้างสรรค์เพื่อส่งมอบบางสิ่งให้กับลูกค้า คุณต้องการให้ลูกค้าวางใจได้ว่า AI จะให้ข้อมูลที่ถูกต้องแก่พวกเขาในการดำเนินการ และจะปกป้องข้อมูลของพวกเขา

Dark Reading: มีวิธีเฉพาะที่ AWS สามารถแบ่งปันเกี่ยวกับวิธีการป้องกันการโจมตี AI ในระบบคลาวด์หรือไม่ ฉันกำลังคิดถึงการฉีดยาทันที การโจมตีด้วยพิษ การโจมตีฝ่ายตรงข้าม อะไรแบบนั้น

เบตซ์: ด้วยรากฐานที่แข็งแกร่งอยู่แล้ว AWS จึงเตรียมพร้อมที่จะก้าวไปสู่ความท้าทายในขณะที่เราทำงานร่วมกับ AI มาหลายปีแล้ว เรามีโซลูชัน AI ภายในจำนวนมากและบริการจำนวนมากที่เรานำเสนอให้กับลูกค้าของเราโดยตรง และการรักษาความปลอดภัยถือเป็นข้อพิจารณาหลักในการพัฒนาโซลูชันเหล่านี้ นั่นคือสิ่งที่ลูกค้าของเราถามถึงและเป็นสิ่งที่พวกเขาคาดหวัง

ในฐานะหนึ่งในผู้ให้บริการคลาวด์รายใหญ่ที่สุด เรามองเห็นความต้องการด้านความปลอดภัยที่เปลี่ยนแปลงไปทั่วโลกในวงกว้าง ข้อมูลภัยคุกคามที่เรารวบรวมได้จะถูกรวบรวมและใช้ในการพัฒนาข้อมูลเชิงลึกที่นำไปใช้ได้จริงซึ่งใช้ในเครื่องมือและบริการของลูกค้า เช่น หน้าที่ยาม. นอกจากนี้ ข้อมูลภัยคุกคามของเรายังใช้เพื่อสร้างการดำเนินการรักษาความปลอดภัยแบบอัตโนมัติในนามของลูกค้าเพื่อรักษาข้อมูลให้ปลอดภัย

การอ่านแบบเข้ม: เราได้ยินมามากมายเกี่ยวกับผู้จำหน่ายความปลอดภัยทางไซเบอร์ที่ใช้ AI และการเรียนรู้ของเครื่องเพื่อตรวจจับภัยคุกคามโดยมองหาพฤติกรรมที่ผิดปกติบนระบบของพวกเขา บริษัทต่างๆ ใช้ AI เพื่อช่วยสร้างความปลอดภัยให้กับตนเองด้วยวิธีอื่นๆ อย่างไรบ้าง

เบตซ์: ฉันเคยเห็นลูกค้าทำสิ่งที่น่าทึ่งกับ generative AI เราได้เห็นพวกเขาใช้ประโยชน์จาก CodeWhisperer [ตัวสร้างโค้ดที่ขับเคลื่อนด้วย AI ของ AWS] เพื่อสร้างต้นแบบและพัฒนาเทคโนโลยีอย่างรวดเร็ว ฉันเคยเห็นทีมต่างๆ ใช้ CodeWhisperer เพื่อช่วยพวกเขา สร้างรหัสที่ปลอดภัย และตรวจสอบให้แน่ใจว่าเราจะจัดการกับช่องว่างในโค้ด

นอกจากนี้เรายังสร้างโซลูชัน AI เจนเนอเรชั่นที่ติดต่อกับระบบรักษาความปลอดภัยภายในบางระบบของเรา ดังที่คุณคงจินตนาการได้ ทีมรักษาความปลอดภัยจำนวนมากจัดการกับข้อมูลจำนวนมหาศาล AI เจนเนอเรชั่นช่วยให้การสังเคราะห์ข้อมูลนั้นทำให้ทั้งผู้สร้างและทีมรักษาความปลอดภัยสามารถใช้งานได้อย่างมาก เพื่อทำความเข้าใจว่าเกิดอะไรขึ้นในระบบ ถามคำถามที่ดีขึ้น และดึงข้อมูลนั้นมารวมกัน

เมื่อฉันเริ่มคิดถึงเรื่อง ปัญหาการขาดแคลนบุคลากรด้านความปลอดภัยทางไซเบอร์generative AI ไม่เพียงแต่ช่วยปรับปรุงความเร็วของการพัฒนาซอฟต์แวร์และปรับปรุงการเข้ารหัสที่ปลอดภัยเท่านั้น แต่ยังช่วยรวบรวมข้อมูลอีกด้วย มันจะช่วยเราต่อไปเพราะมันขยายความสามารถของมนุษย์ของเรา AI ช่วยให้เรารวบรวมข้อมูลเพื่อแก้ไขปัญหาที่ซับซ้อน และช่วยนำข้อมูลไปให้วิศวกรและนักวิเคราะห์ความปลอดภัย เพื่อให้พวกเขาสามารถเริ่มถามคำถามได้ดีขึ้น

Dark Reading: คุณเห็นภัยคุกคามด้านความปลอดภัยที่เกี่ยวข้องกับ AI และคลาวด์โดยเฉพาะหรือไม่

เบตซ์: ฉันใช้เวลาส่วนใหญ่กับนักวิจัยด้านความปลอดภัยในการดูการโจมตี AI เชิงสร้างสรรค์ที่ล้ำสมัย และวิธีที่ผู้โจมตีมองมัน มีสองประเภทของสิ่งที่ฉันคิดถึงในพื้นที่นี้ ประการแรกคือเราเห็นผู้ไม่หวังดีเริ่มใช้ AI เจนเนอเรชั่นเพื่อทำงานให้เร็วขึ้นและดีขึ้นในสิ่งที่พวกเขาทำอยู่แล้ว เนื้อหาวิศวกรรมสังคมเป็นตัวอย่างของสิ่งนี้

ผู้โจมตียังใช้เทคโนโลยี AI เพื่อช่วยให้เขียนโค้ดได้เร็วขึ้น นั่นคล้ายกันมากกับตำแหน่งการป้องกัน พลังส่วนหนึ่งของเทคโนโลยีนี้คือทำให้กิจกรรมประเภทต่างๆ ง่ายขึ้น และนั่นก็เป็นจริงสำหรับผู้โจมตี แต่ก็เป็นเรื่องจริงสำหรับผู้พิทักษ์ด้วย

อีกด้านที่ฉันเห็นนักวิจัยเริ่มพิจารณาเพิ่มเติมคือความจริงที่ว่าโมเดล AI เชิงสร้างสรรค์เหล่านี้เป็นโค้ด เช่นเดียวกับโค้ดอื่นๆ โค้ดเหล่านี้มีแนวโน้มที่จะมีจุดอ่อน สิ่งสำคัญคือเราต้องเข้าใจวิธีการรักษาความปลอดภัยและตรวจสอบให้แน่ใจว่ามีอยู่ในสภาพแวดล้อมที่มีการป้องกัน

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads