ความสามารถด้านความปลอดภัยทางไซเบอร์ของกองทัพสหรัฐฯ เพื่อเพิ่ม OpenAI

OpenAI กำลังพัฒนาความสามารถด้านความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วย AI สำหรับกองทัพสหรัฐฯ และเปลี่ยนงานรักษาความปลอดภัยในการเลือกตั้งเป็นเกียร์สูง ผู้บริหารของห้องปฏิบัติการกล่าวกับ World Economic Forum (WEF) ในเมืองดาวอสในสัปดาห์นี้

การเผชิญหน้าของสาธารณชนเกี่ยวกับการทำงานร่วมกับกองทัพเกิดขึ้นไม่กี่วันหลังจากเหตุการณ์หนึ่ง มีการเปลี่ยนแปลงใน ภาษานโยบายของ OpenAI ซึ่งก่อนหน้านี้ห้ามไม่ให้ใช้โมเดล AI ที่สร้างสำหรับแอปพลิเคชัน "การทหารและการสงคราม" รวมถึง "การสร้างมัลแวร์" ด้วยเทคโนโลยี ข้อจำกัดเหล่านั้นได้หายไปจากงานพิมพ์ที่ดีของผู้สร้าง ChatGPT แล้ว อย่างไรก็ตาม ซุปเปอร์แล็บย้ำว่าเทคโนโลยีของตนยังไม่ควรใช้เพื่อความรุนแรง การทำลายล้าง หรือการจารกรรมการสื่อสาร

“นโยบายของเราไม่อนุญาตให้ใช้เครื่องมือของเราเพื่อทำร้ายผู้คน พัฒนาอาวุธ เพื่อสอดแนมการสื่อสาร หรือทำให้ผู้อื่นได้รับบาดเจ็บ หรือทำลายทรัพย์สิน” โฆษกของ OpenAI กล่าว ลงทะเบียน ในวันนี้

“อย่างไรก็ตาม มีกรณีการใช้งานด้านความมั่นคงของชาติที่สอดคล้องกับภารกิจของเรา

“เรากำลังทำงานร่วมกับ DARPA อยู่แล้วเพื่อกระตุ้นการสร้างเครื่องมือรักษาความปลอดภัยทางไซเบอร์ใหม่ๆ เพื่อรักษาความปลอดภัยซอฟต์แวร์โอเพ่นซอร์สที่โครงสร้างพื้นฐานและอุตสาหกรรมที่สำคัญต้องพึ่งพา ไม่ชัดเจนว่ากรณีการใช้งานที่เป็นประโยชน์เหล่านี้จะได้รับอนุญาตภายใต้ "การทหาร" ในนโยบายก่อนหน้านี้ของเราหรือไม่ ดังนั้นเป้าหมายในการอัปเดตนโยบายของเราคือการให้ความชัดเจนและความสามารถในการหารือเหล่านี้” 

เมื่อวันอังคาร ระหว่าง. สัมภาษณ์ ที่งาน WEF สำหรับผู้นำของโลก Anna Makanju รองประธาน OpenAI ฝ่ายกิจการระดับโลกกล่าวว่าความร่วมมือกับกระทรวงกลาโหมรวมถึงการพัฒนาซอฟต์แวร์รักษาความปลอดภัยทางไซเบอร์แบบโอเพ่นซอร์ส OpenAI กำลังเริ่มพูดคุยกับรัฐบาลสหรัฐฯ ว่าเทคโนโลยีสามารถช่วยป้องกันการฆ่าตัวตายของทหารผ่านศึกได้อย่างไร เธอกล่าว

“เนื่องจากก่อนหน้านี้เรามีสิ่งที่เป็นข้อห้ามโดยรวมสำหรับกองทัพ หลายคนจึงคิดว่าจะห้ามกรณีการใช้งานเหล่านี้จำนวนมาก ซึ่งผู้คนคิดว่าสอดคล้องกับสิ่งที่เราอยากเห็นในโลกนี้เป็นอย่างมาก” มาคันจูกล่าว 

อย่างไรก็ตาม แม้จะลบ "การทหารและการสงคราม" ออกไปพร้อมกับ "การใช้งานที่ไม่ได้รับอนุญาต" อื่นๆ สำหรับ ChatGPT แล้ว Makanju กล่าวว่า OpenAI ยังคงห้ามใช้แบบจำลองเพื่อพัฒนาอาวุธเพื่อทำร้ายผู้คน 

ในระหว่างการสัมภาษณ์เดียวกัน Sam Altman ซีอีโอของ OpenAI กล่าวว่าธุรกิจกำลังดำเนินการเพื่อให้แน่ใจว่าเครื่องมือ AI ดั้งเดิมจะไม่ถูกใช้เพื่อเผยแพร่ข้อมูลที่บิดเบือนเกี่ยวกับการเลือกตั้ง 

มันก็เป็นไปตามที่คล้ายกัน ผลักดันโดย Microsoftซึ่งเป็นนักลงทุนรายใหญ่ที่สุดของ OpenAI ซึ่งในเดือนพฤศจิกายนได้ประกาศกลยุทธ์การคุ้มครองการเลือกตั้งห้าขั้นตอนสำหรับ "สหรัฐอเมริกาและประเทศอื่น ๆ ที่การเลือกตั้งที่สำคัญจะเกิดขึ้นในปี 2024" 

“การเลือกตั้งครั้งนี้มีความเสี่ยงมากมาย” อัลท์แมนกล่าวเมื่อวันอังคาร

เรื่องนี้เกิดขึ้นหนึ่งวันหลังจากอดีตประธานาธิบดีโดนัลด์ ทรัมป์ของสหรัฐฯ ชนะที่ยิ่งใหญ่ ในการประชุมคอคัสไอโอวาเมื่อวันจันทร์

และหัวข้อทั้งหมดเหล่านี้ เช่น AI ความปลอดภัยทางไซเบอร์ และการบิดเบือนข้อมูล มีบทบาทสำคัญในวาระการประชุมเช่นกัน ผู้นำโลกมาพบกัน สัปดาห์นี้ที่ดาวอส

อ้างอิงจาก WEF รายงานความเสี่ยงทั่วโลก พ.ศ. 2024ซึ่งเผยแพร่เมื่อสัปดาห์ที่แล้ว “ข้อมูลที่ผิดและการบิดเบือนข้อมูล” เป็นความเสี่ยงระยะสั้นระดับโลกอันดับต้นๆ โดยมี “ความไม่มั่นคงทางไซเบอร์” เข้ามาอยู่ในอันดับที่สี่

การเพิ่มขึ้นของ generative AI ทำให้ความท้าทายเหล่านี้รุนแรงขึ้น โดย 56 เปอร์เซ็นต์ของผู้บริหารที่ทำการสำรวจที่ WEF การประชุมประจำปีด้านความปลอดภัยทางไซเบอร์ ในเดือนพฤศจิกายน 2023 ว่า generative AI จะให้ผู้โจมตีและความได้เปรียบ เหนือกองหลังภายในสองปีข้างหน้า

“ความกังวลโดยเฉพาะเกี่ยวกับการใช้เทคโนโลยี AI เพื่อเพิ่มขีดความสามารถในการทำสงครามไซเบอร์ด้วยเหตุผลที่ดี” Bernard Montel ผู้อำนวยการด้านเทคนิคของ EMEA ของ Tenable กล่าว ลงทะเบียน. 

“ในขณะที่ AI ได้สร้างความก้าวหน้าทางเทคโนโลยีทางดาราศาสตร์ในช่วง 12 ถึง 24 เดือนที่ผ่านมา แต่การปล่อยให้อุปกรณ์อัตโนมัติทำการตัดสินขั้นสุดท้ายนั้นเป็นเรื่องที่ไม่อาจเข้าใจได้ในปัจจุบัน” เขากล่าวเสริม

“แม้ว่า AI จะสามารถระบุและดำเนินการบางอย่างที่จำเป็นได้อย่างรวดเร็วโดยอัตโนมัติ แต่ก็จำเป็นที่มนุษย์จะต้องตัดสินใจอย่างมีวิจารณญาณว่าจะดำเนินการที่ไหนและเมื่อใดจากความฉลาดที่ AI มอบให้” ®

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://go.theregister.com/feed/www.theregister.com/2024/01/16/us_military_openai/