Llama 3 กำลังจะมาในเดือนพฤษภาคม OpenAI ควรจะกังวลไหม?

เผยแพร่ซ้ำโดยเพลโต

ผู้ติดตาม: 0

ในงาน AI ที่มีชื่อเสียงในลอนดอน ผู้บริหาร Meta เมื่อวันอังคารได้ให้การยืนยันอย่างเป็นทางการครั้งแรกและรายละเอียดเกี่ยวกับการเปิดตัว Llama 3 ที่ใกล้เข้ามา ซึ่งเป็นการทำซ้ำครั้งต่อไปของโมเดลภาษาโอเพ่นซอร์สขนาดใหญ่ของบริษัทที่คาดหวังไว้สูง

“ภายในเดือนหน้า จริงๆ แล้วน้อยกว่านี้ หวังว่าในระยะเวลาอันสั้นมาก เราหวังว่าจะเริ่มเปิดตัวชุดรูปแบบพื้นฐานรุ่นใหม่ของเรา Llama 3” Nick Clegg ประธานฝ่ายกิจการทั่วโลกของ Meta ประกาศที่ Meta AI เดย์ลอนดอน รายงาน TechCrunch.

Clegg กล่าวว่า Llama 3 ประกอบด้วย "โมเดลที่แตกต่างกันจำนวนหนึ่งที่มีความสามารถที่แตกต่างกัน และความสามารถรอบด้านที่แตกต่างกัน" ซึ่งจะเริ่มเปิดตัวในปีนี้

เมื่อเปิดตัวแล้ว Llama 3 ก็คือ ที่คาดหวัง เพื่อเป็นโมเดลโอเพ่นซอร์สที่ทันสมัยที่สุดที่มีอยู่ โดย Meta ลงทุนอย่างมากในการพัฒนา โมเดลดังกล่าวได้รับการฝึกฝนด้วยพารามิเตอร์ 140 พันล้านพารามิเตอร์ Meta กล่าวว่าความจุเป็นสองเท่าของ Llama 2 Mark Zuckerburg ซีอีโอของ Meta มี แกล้ง รายละเอียดทางเทคนิคบางส่วนในเดือนมกราคม

“เรากำลังสร้างโครงสร้างพื้นฐานการประมวลผลขนาดใหญ่เพื่อรองรับแผนงานในอนาคตของเรา รวมถึง H350 จำนวน 100 ตัวภายในสิ้นปีนี้ และโดยรวมแล้วเกือบ 600 H100 เทียบเท่ากับการประมวลผลหากคุณรวม GPU อื่น ๆ ด้วย” Zuckerberg กล่าวในขณะนั้น พลังการประมวลผลจำนวนนี้มากกว่าที่ OpenAI ใช้เพื่อฝึก GPT-4 อย่างมาก ซึ่งก็คือ ประมาณ ต้องใช้ GPU ประมาณ 25,000 ตัวใน 90 ถึง 100 วัน

ซักเคอร์เบิร์กด้วย เปิดเผย Meta AI ซึ่งเป็นผู้ช่วย AI นั้นได้รับการตั้งค่าให้ขับเคลื่อนโดย Llama 3

Chris Cox ประธานเจ้าหน้าที่ฝ่ายผลิตภัณฑ์กล่าวว่า Llama 3 จะถูกรวมเข้ากับ Meta

“แผนของเราคือการให้ Llama 3 ขับเคลื่อนผลิตภัณฑ์และประสบการณ์ที่หลากหลายทั่วทั้งกลุ่มแอพของเรา” เขากล่าว

กลยุทธ์โอเพ่นซอร์ส

ผลกระทบของการเปิดตัว Llama 3 ขยายไปไกลกว่า Meta เนื่องจากความมุ่งมั่นทางปรัชญาของบริษัทในการพัฒนาให้เป็นโมเดลโอเพ่นซอร์ส ซึ่งตรงกันข้ามกับแนวทางปิดที่เป็นกรรมสิทธิ์ของคู่แข่งอย่าง OpenAI กับ ChatGPT อย่างชัดเจน

ด้วยการใช้โมเดลภาษาแบบโอเพ่นซอร์ส Meta มีเป้าหมายที่จะรักษาระบบนิเวศของการพัฒนา AI แบบเปิด และวางตำแหน่งตระกูล Llama ให้เป็นรากฐานสำหรับเครื่องมือและแอปพลิเคชันที่หลากหลายที่สร้างขึ้นโดยนักพัฒนาและนักวิจัยบุคคลที่สาม

Yann LeCun หัวหน้าฝ่ายวิจัย AI ของ Meta ทวีตเมื่อเดือนที่แล้วว่า "เป็นเรื่องสำคัญมากที่จะต้องตระหนักว่านวัตกรรมต่างๆ มักจะสร้างขึ้นจากการมีส่วนร่วมก่อนหน้านี้จากผู้อื่น ซึ่งบางครั้งก็คล้ายกันมาก" “นี่คือสาเหตุที่การวิจัยแบบเปิดมีความสำคัญมาก: ช่วยให้ความก้าวหน้าในสาขานี้เร็วขึ้นสำหรับทุกคน”

จากระยะไกล ดูเหมือนว่านวัตกรรมต่างๆ จะปรากฏออกมาจากสุญญากาศโดยธรรมชาติ
แต่สิ่งสำคัญมากคือต้องตระหนักว่านวัตกรรมมักจะต่อยอดจากการมีส่วนร่วมก่อนหน้านี้จากผู้อื่น ซึ่งบางครั้งก็คล้ายกันมาก
นี่คือสาเหตุที่การวิจัยแบบเปิดมีความสำคัญมาก: ทำให้สาขา... https://t.co/JMvQD2h5OZ

– ยานน์ เลอคุน (@ylecun) March 20, 2024

จริยธรรมแบบเปิด ได้สร้างชุมชนที่มีชีวิตชีวาที่รวมตัวกันรอบๆ ลามะแล้ว โมเดลภาษาโอเพ่นซอร์สที่ทันสมัยที่สุดบางส่วนในปัจจุบัน เช่น Mistral, เหยี่ยวนกเขาและเบลูก้าถูกสร้างขึ้นโดยการปรับแต่งโมเดลรากฐาน Llama 2 รุ่นก่อนหน้านี้อย่างละเอียด โมเดลชุมชนเหล่านี้หลายรุ่นมีคุณสมบัติตรงหรือเหนือกว่า GPT-3.5 ในการวัดประสิทธิภาพบางอย่าง

การเปิดตัว Llama-3 ที่เป็นโมเดลพื้นฐานแบบโอเพ่นซอร์สอีกรูปแบบหนึ่งน่าจะปูทางไปสู่ LLM รุ่นใหม่ ซึ่งจะสร้างมาตรฐานให้สูงขึ้นอีกทั้งในด้านคุณภาพและประสิทธิภาพใน AI

การครอบงำ OpenAI ที่ท้าทาย

สถานที่ตั้งแบบโอเพ่นซอร์สของ Llama 3 ก่อให้เกิดความท้าทายที่น่ากลัวและมีหลายชั้นต่อการครอบงำตลาดของ OpenAI ในปัจจุบัน และโดยการขยายไปสู่โมเดลที่เป็นกรรมสิทธิ์อื่นๆ เช่น Claude และ Gemini

ชุมชนโอเพ่นซอร์สจะสามารถสร้าง Llama 3 ได้ในไม่ช้าและทำซ้ำรูปแบบต่างๆ อย่างรวดเร็วจนถึงศักยภาพ ตรงหรือเกินความสามารถของ GPT-4—เช่นเดียวกับที่พวกเขาทำกับ GPT-3.5 ด้วยต้นทุนการฝึกอบรมที่ถูกกว่าซึ่งแบ่งกันระหว่างผู้ร่วมให้ข้อมูล ระบบนิเวศแบบเปิดสามารถก้าวกระโดดการพัฒนาโมเดลที่เป็นกรรมสิทธิ์ของ OpenAI ซึ่งต้องใช้ทรัพยากรและต้นทุนการประมวลผลจำนวนมหาศาล

หากข้อเสนอโอเพ่นซอร์สบรรลุความเท่าเทียมกับข้อเสนอเชิงพาณิชย์เป็นประจำ องค์กรต่างๆ อาจมุ่งสู่ระบบนิเวศที่เข้าถึงได้ง่ายกว่าและคุ้มค่ากว่า เช่น Llama แทนที่จะพึ่งพาและจ่ายเงินให้กับ OpenAI ปัจจุบัน GPT-4 เป็นรุ่นที่แพงที่สุดในตลาดในแง่ของต้นทุนต่อโทเค็น

นอกจากนี้ ชุมชนโอเพ่นซอร์สยังแข็งแกร่งขึ้นเมื่อมีผู้คนเข้ามามีส่วนร่วมมากขึ้น Meta ได้รับประโยชน์จากการมีการสร้างชุมชนขนาดใหญ่บนโมเดล ปรับแต่ง พัฒนาเทคโนโลยีใหม่ และปรับปรุงฟรี สิ่งนี้ทำให้ง่ายขึ้นสำหรับ Meta ในการพัฒนาโมเดลเวอร์ชันที่ดีขึ้นในขณะที่สร้างรายได้ผ่านรูปแบบอื่นเช่น การออกใบอนุญาตเพื่อใช้ในเชิงพาณิชย์โดยอุตสาหกรรมขนาดใหญ่.

กล่าวอีกนัยหนึ่ง ความเฉื่อยอย่างต่อเนื่องและผลกระทบจากเครือข่ายอาจทำให้โมเดลที่เป็นกรรมสิทธิ์ของ OpenAI ดึงดูดผู้ใช้และลูกค้าได้ยากขึ้นในอนาคต

เพื่อให้มั่นใจว่าปัจจุบัน OpenAI เป็นผู้นำที่แข็งแกร่งในแง่ของการทำกำไร Anthropic สามารถอวดอ้างว่ามี LLM ที่มีประสิทธิภาพดีที่สุดในพื้นที่ AI แต่ Llama 3 จะเป็นตัวแทนของการโจมตีเชิงกลยุทธ์อีกครั้งโดย Meta เพื่อปรับปรุงภูมิทัศน์ AI ดั้งเดิม

แน่นอนว่าขึ้นอยู่กับประสิทธิภาพในโลกแห่งความเป็นจริงและการนำไปใช้งานของ Llama 3 ในปีต่อๆ ไป แต่ชุมชน AI แบบโอเพ่นซอร์สค่อนข้างกระตือรือร้น — และชื่นชอบ Llama-2 อยู่แล้ว สิ่งต่างๆ จะน่าสนใจมากในอีกไม่กี่เดือนข้างหน้า โดยเฉพาะกับ GPT-5 ของ OpenAI ตรงหัวมุม.

แก้ไขโดย ไรอัน โอซาว่า.