บริษัทเทคโนโลยีลงนามในจดหมายเปิดผนึกเพื่อลดความเสี่ยงจาก AI

บริษัทเทคโนโลยีลงนามในจดหมายเปิดผนึกเพื่อลดความเสี่ยงจาก AI

ประทับเวลา: 7 มีนาคม 2024 8:00 น

ผู้นำด้านเทคโนโลยี รวมถึง Sam Altman จาก OpenAI ร่วมมือกันในจดหมายเปิดผนึกโดย Ron Conway เพื่อสนับสนุนการพัฒนา AI อย่างมีความรับผิดชอบ โดยมีเป้าหมายเพื่อสร้างสมดุลระหว่างผลประโยชน์และความเสี่ยงทางสังคม

ในความพยายามล่าสุดของอุตสาหกรรมเทคโนโลยีในการสนับสนุนการพัฒนาที่รับผิดชอบของ ปัญญาประดิษฐ์, OpenAI, Salesforce Inc. และบริษัทเทคโนโลยีอื่นๆ ลงนามในจดหมายเปิดผนึกโดยเน้น "ความรับผิดชอบร่วมกัน" เพื่อ "เพิ่มผลประโยชน์ของ AI ให้สูงสุดและลดความเสี่ยง" ต่อสังคม

ความเสี่ยงที่เกิดจาก AI

นับตั้งแต่การเปิดตัวของ ChatGPT ในปีที่แล้ว และการแพร่หลายของภาค AI ทำให้หลาย ๆ คนในอุตสาหกรรมต่างสนับสนุนคุณประโยชน์ของเทคโนโลยีไปพร้อม ๆ กัน และหยิบยกข้อกังวลเกี่ยวกับความเสี่ยงที่สำคัญ

อ่านเพิ่มเติม: ผู้พิพากษาสหรัฐฯ ชี้ X ของ Elon Musk อาจแพ้คดีคำพูดแสดงความเกลียดชัง

ผู้นำ AI รวมถึง Altman ได้ลงนามในจดหมายเมื่อเดือนพฤษภาคมเตือนว่าปัญญาประดิษฐ์อาจนำไปสู่การสูญพันธุ์ของมนุษยชาติ กลุ่มผู้บริหารธุรกิจระบุว่าวันหนึ่งเทคโนโลยีปัญญาประดิษฐ์ที่พวกเขาพัฒนาอาจเป็นอันตรายต่อมนุษยชาติได้พอๆ กับอาวุธนิวเคลียร์และโรคระบาด

จากการวิเคราะห์เพื่อบรรลุเป้าหมายของ คำสั่ง โดยศูนย์ความปลอดภัย AI "การลดความเสี่ยงของการสูญพันธุ์จาก AI ควรเป็นเรื่องสำคัญระดับโลกควบคู่ไปกับความเสี่ยงระดับสังคมอื่นๆ เช่น โรคระบาดและสงครามนิวเคลียร์" ผู้บริหาร นักวิจัย และวิศวกรที่ทำงานเกี่ยวกับ AI กว่า 350 คนลงนามในจดหมายดังกล่าว ผู้บริหารระดับสูงจากบริษัทปัญญาประดิษฐ์ชั้นนำ XNUMX แห่งลงนามในคำร้อง ได้แก่ Dario Amodei ซีอีโอของ Anthropic; เดมิส ฮาสซาบิส ซีอีโอของ Google DeepMind; และ Sam Altman ซีอีโอของ OpenAI

ผู้ลงนามในแถลงการณ์ดังกล่าวประกอบด้วยนักวิจัยที่มีชื่อเสียงในสาขานี้ รวมถึง Yoshua Bengio และ Geoffrey Hinton นักวิจัยสองในสามคนที่ได้รับรางวัล Turing Award จากผลงานของพวกเขาเกี่ยวกับโครงข่ายประสาทเทียม และมักถูกเรียกว่า "เจ้าพ่อ" ของ AI ยุคใหม่ ความเคลื่อนไหว.

การประกาศดังกล่าวเกิดขึ้นในช่วงเวลาที่ความกังวลเกี่ยวกับข้อบกพร่องที่เป็นไปได้ของปัญญาประดิษฐ์ทวีความรุนแรงมากขึ้น มีความกังวลว่าในไม่ช้าปัญญาประดิษฐ์ (AI) จะถูกนำมาใช้ในวงกว้างเพื่อเผยแพร่ข้อมูลเท็จและการโฆษณาชวนเชื่อ หรืออาจเข้ามาแทนที่งานปกขาวนับล้านได้ เนื่องจากการพัฒนาล่าสุดที่เรียกว่าโมเดลภาษาขนาดใหญ่ ประเภทของ AI ระบบที่ใช้โดย ChatGPT และแชทบอทอื่น ๆ

บริษัทเทคโนโลยีลงนามในจดหมายเปิดผนึกโดยให้คำมั่นว่าจะลดความเสี่ยงด้าน AI จาก PlatoBlockchain Data Intelligence ค้นหาแนวตั้ง AI.

จดหมาย SV Angel

OpenAI Sam Altman ซีอีโอแสดงความตื่นเต้นต่อจิตวิญญาณของจดหมายนี้ในโพสต์บนแพลตฟอร์มโซเชียลมีเดีย X จดหมายฉบับนี้ริเริ่มโดย Ron Conway ผู้ร่วมลงทุนและบริษัทของเขา SV Angel

ตามที่ Altman กล่าวว่า "หนึ่งในปัจจัยที่ใหญ่ที่สุดในการปรับปรุงคุณภาพชีวิตของผู้คน" คือความก้าวหน้าใน AI จดหมายดังกล่าวยังระบุ Hugging Face, Scale AI และบริษัทสตาร์ทอัพและบริษัทเทคโนโลยีอื่นๆ อีกมากมายเป็นผู้ลงนาม

ผลกระทบของ AI นั้นตรงกันข้ามกับความก้าวหน้าทางเทคโนโลยีอื่น ๆ เช่น แท่นพิมพ์ เครื่องยนต์สันดาป ไฟฟ้า และอินเทอร์เน็ตในตัวอักษร SV Angel ตามที่ระบุไว้ในจดหมาย “การกระทำของมนุษย์และความรอบคอบจะกำหนดสมดุลของผลกระทบที่ดีและไม่ดีต่อมนุษย์” “เราทุกคนต้องทำงานร่วมกันเพื่อตัดสินใจเพื่อเพิ่มความได้เปรียบของ AI และลดความเสี่ยงทั้งสำหรับคนรุ่นปัจจุบันและอนาคต” อย่างไรก็ตาม จดหมายดังกล่าวไม่ได้ให้รายละเอียดเกี่ยวกับวิธีการดำเนินการดังกล่าว

วันหลัง อีลอน มัสก์ ฟ้อง OpenAI ผู้นำตลาดด้านปัญญาประดิษฐ์อ้างว่าสตาร์ทอัพได้ละเมิดภารกิจในการก่อตั้งโดยให้ความสำคัญกับผลกำไรมากกว่าประโยชน์ของมนุษยชาติ จดหมายถูกส่งไป OpenAI แสดงจุดยืน "ไม่เห็นด้วยอย่างเด็ดขาด" กับการฟ้องร้องของ Musk ในบันทึกภายใน

ประทับเวลา:

เพิ่มเติมจาก เมตานิวส์