ร่างข้อบังคับ EU AI Act อาจส่งผลกระทบร้ายแรงต่อซอฟต์แวร์โอเพนซอร์ซ

สั้นๆ กฎใหม่ที่ร่างโดยสหภาพยุโรปซึ่งมีจุดมุ่งหมายเพื่อควบคุม AI สามารถป้องกันไม่ให้นักพัฒนาปล่อยโมเดลโอเพ่นซอร์สตามที่ Brookings นักคิดชาวอเมริกันกล่าว

พื้นที่ เสนอ EU AI Act ที่ยังไม่ได้ลงนามในกฎหมาย ระบุว่านักพัฒนาโอเพ่นซอร์สต้องตรวจสอบให้แน่ใจว่าซอฟต์แวร์ AI ของตนมีความถูกต้อง ปลอดภัย และโปร่งใสเกี่ยวกับความเสี่ยงและการใช้ข้อมูลในเอกสารทางเทคนิคที่ชัดเจน 

Brookings ระบุ ว่าหากบริษัทเอกชนนำโมเดลสาธารณะไปใช้หรือใช้ในผลิตภัณฑ์ และประสบปัญหาจากผลกระทบที่คาดไม่ถึงหรือควบคุมไม่ได้จากโมเดล บริษัทก็อาจจะพยายามตำหนินักพัฒนาโอเพ่นซอร์สและฟ้องพวกเขา . 

มันอาจจะบังคับให้ชุมชนโอเพ่นซอร์สคิดทบทวนเกี่ยวกับการปล่อยโค้ดของพวกเขา และน่าเสียดายที่หมายความว่าการพัฒนา AI จะถูกขับเคลื่อนโดยบริษัทเอกชน รหัสที่เป็นกรรมสิทธิ์นั้นยากต่อการวิเคราะห์และสร้างต่อ หมายความว่านวัตกรรมจะถูกขัดขวาง

Oren Etzioni ซีอีโอของ Allen Institute of AI กล่าวว่านักพัฒนาซอฟต์แวร์โอเพ่นซอร์สไม่ควรอยู่ภายใต้กฎเกณฑ์ที่เข้มงวดเช่นเดียวกับวิศวกรซอฟต์แวร์ในบริษัทเอกชน

“นักพัฒนาโอเพ่นซอร์สไม่ควรรับภาระเช่นเดียวกับการพัฒนาซอฟต์แวร์เชิงพาณิชย์ ควรเป็นกรณีที่สามารถจัดหาซอฟต์แวร์ฟรี 'ตามที่เป็น' ได้เสมอ - ให้พิจารณากรณีของนักเรียนคนเดียวที่พัฒนาความสามารถด้าน AI พวกเขาไม่สามารถที่จะปฏิบัติตามกฎระเบียบของสหภาพยุโรปและอาจถูกบังคับให้ไม่แจกจ่ายซอฟต์แวร์ของตน ซึ่งส่งผลต่อความก้าวหน้าทางวิชาการและความสามารถในการทำซ้ำของผลลัพธ์ทางวิทยาศาสตร์ "เขา บอก TechCrunch

ผลลัพธ์ MLPerf ใหม่สำหรับการอนุมานออกมาแล้ว

ผลการทดสอบการอนุมาน MLPerf ประจำปี ซึ่งเปรียบเทียบประสิทธิภาพของชิป AI จากผู้จำหน่ายต่างๆ ในงานจำนวนมากในการกำหนดค่าต่างๆ การตีพิมพ์ ในสัปดาห์นี้

ปีนี้รายงานผลการดำเนินงานเกือบ 5,300 รายการและมาตรการด้านพลังงาน 2,400 รายการสำหรับการอนุมานในดาต้าเซ็นเตอร์และในอุปกรณ์เอดจ์ การทดสอบจะพิจารณาว่าระบบฮาร์ดแวร์สามารถเรียกใช้โมเดลการเรียนรู้ของเครื่องได้เร็วเพียงใด มีการรายงานอัตราการกระทืบข้อมูลในสเปรดชีต

ไม่น่าแปลกใจเลยที่ Nvidia จะกลับมาติดอันดับอีกครั้งในปีนี้ “ในการเปิดตัวครั้งแรกกับเกณฑ์มาตรฐาน AI ของอุตสาหกรรม MLPerf นั้น Nvidia H100 Tensor Core GPUs ได้สร้างสถิติโลกในการอนุมานปริมาณงานทั้งหมด โดยให้ประสิทธิภาพมากกว่า GPU รุ่นก่อนถึง 4.5 เท่า” Nvidia กล่าวในบล็อกโพสต์ “ผลการทดลองแสดงให้เห็นว่า Hopper เป็นตัวเลือกระดับพรีเมียมสำหรับผู้ใช้ที่ต้องการประสิทธิภาพสูงสุดในโมเดล AI ขั้นสูง”

แม้ว่าผู้ขายจำนวนมากขึ้นจะเข้าร่วมในความท้าทาย MLPerf แต่ก็อาจเป็นเรื่องยากที่จะได้แนวคิดที่ดีเกี่ยวกับการแข่งขัน ตัวอย่างเช่นไม่มีรายงานผลลัพธ์สำหรับชิป TPU ของ Google ในแทร็กดาต้าเซ็นเตอร์ในปีนี้ อย่างไรก็ตาม Google ดูเหมือนจะ เอซ การแข่งขันฝึกอบรมของ MLPerf เมื่อต้นปีนี้ 

ศิลปิน AI ค้นพบใบหน้าที่น่ากลัวที่ซ่อนอยู่หลังภาพ

เธรด Twitter ของไวรัสที่โพสต์โดยศิลปินดิจิทัลเผยให้เห็นว่าโมเดลข้อความเป็นรูปภาพแปลก ๆ ได้อย่างไรภายใต้พื้นผิว

ชาวเน็ตหลายคนพบกับความสุขและสิ้นหวังในการทดลองกับระบบเหล่านี้เพื่อสร้างภาพโดยการพิมพ์ข้อความแจ้ง มีการแฮ็กหลายประเภทเพื่อปรับเอาต์พุตของโมเดล หนึ่งในนั้นเรียกว่า "พรอมต์เชิงลบ" ช่วยให้ผู้ใช้สามารถค้นหาภาพที่ตรงกันข้ามกับภาพที่อธิบายไว้ในพรอมต์ 

เมื่อศิลปินคนหนึ่งที่ใช้ชื่อ Supercomposite บน Twitter พบข้อความเชิงลบสำหรับคำอธิบายภาพโลโก้ปลอมที่ดูไร้เดียงสา พวกเขาพบบางสิ่งที่น่ากลัวอย่างแท้จริง นั่นคือ ใบหน้าของสิ่งที่ดูเหมือนผู้หญิงผีสิง ซูเปอร์คอมโพสิทได้ตั้งชื่อผู้หญิงที่สร้างด้วย AI คนนี้ว่า "โลบ" และเมื่อพวกเขานำภาพของเธอมาผสมกับคนอื่นๆ พวกเขาก็มักจะดูเหมือนฉากจากหนังสยองขวัญเสมอ

🧵: I discovered this woman, who I call Loab, in April. The AI reproduced her more easily than most celebrities. Her presence is persistent, and she haunts every image she touches. CW: Take a seat. This is a true horror story, and veers sharply macabre. pic.twitter.com/gmUlf6mZtk

— Supercomposite (@supercomposite) September 6, 2022

ซูเปอร์คอมโพสิตบอก เอล เร็ก ภาพสุ่มของคนที่สร้างโดย AI มักจะแสดงออกมาในแง่ลบ พฤติกรรมประหลาดยัง ตัวอย่างอื่น ของคุณสมบัติแปลก ๆ บางอย่างที่โมเดลเหล่านี้สามารถมีได้ซึ่งผู้คนเพิ่งจะเริ่มสอบสวน 

ไม่มีแชทบอทที่มีความรู้สึกที่นี่ที่ Google กล่าวว่า CEO Sundar Pichai

Sundar Pichai แย้งคำกล่าวอ้างของอดีตวิศวกร Blake Lemoine ว่า Google ได้สร้างแชทบ็อตที่มีความรู้สึกในระหว่างการพูดคุยของเขาในการประชุม Code Conference ในสัปดาห์นี้

Lemoine ทำข่าวในเดือนกรกฎาคมเมื่อเขา ประกาศ เขาคิดว่าแชทบ็อต LaMDA ของ Google มีสติและอาจมีจิตวิญญาณ เขาต่อมา ยิง เนื่องจากมีรายงานว่าละเมิดนโยบายความเป็นส่วนตัวของบริษัท หลังจากที่เขาจ้างทนายความเพื่อพูดคุยกับ LaMDA และประเมินสิทธิ์ทางกฎหมายของบริษัท โดยอ้างว่าเครื่องได้บอกให้เขาทำเช่นนั้น

คนส่วนใหญ่ รวมทั้ง CEO ของ Google ไม่เห็นด้วยกับ Lemoine “ฉันยังคิดว่าหนทางยังอีกยาวไกล ฉันรู้สึกเหมือนได้พูดคุยเชิงปรัชญาหรืออภิปรัชญาบ่อยครั้งเกี่ยวกับสิ่งที่เป็นความรู้สึกและสิ่งที่เป็นจิตสำนึก” พิชัยกล่าว ตาม สู่ฟอร์จูน “เราอยู่ไกลจากมัน และเราอาจไม่มีวันไปถึงที่นั่น” เขากล่าวเสริม

เพื่อเน้นประเด็นของเขาเพิ่มเติม เขายอมรับว่าบางครั้งผู้ช่วยเสียงของ Google ไม่เข้าใจและตอบสนองต่อคำขออย่างเหมาะสม “ข่าวดีก็คือทุกคนที่คุยกับ Google Assistant ในขณะที่ฉันคิดว่ามันเป็นผู้ช่วยที่ดีที่สุดสำหรับ AI ในการสนทนา คุณยังคงเห็นว่าในบางกรณีมันพังแค่ไหน” เขากล่าว ®