Meta โซเชียลเน็ตเวิร์กจะเข้าสู่ยุคดิจิทัลใหม่ โดยจะเปิดตัว Llama 3 เร็วๆ นี้ อัญมณีทางเทคโนโลยีที่ทุกคนตั้งตารอคอยนี้จะเปิดตัวในต้นปี 2567
Le mystère entourant le développement de Llama 3
มีข่าวลือแพร่สะพัดไปทั่ว Llama 3 อันที่จริงมันเป็นโมเดลปัญญาประดิษฐ์ที่ Meta วางแผนไว้ในปี 2024 สิ่งนี้กระตุ้นให้เกิดความอยากรู้อยากเห็นและการเก็งกำไรมากมายในการแข่งขันเพื่อครอบครองสนาม AI Llama 2 รุ่นก่อนหน้าของ Meta ได้รับความนิยมในตลาดแล้วนับตั้งแต่เปิดตัวในเดือนกรกฎาคม เครือข่าย Meta ยังไม่ยืนยันข่าวลืออย่างเป็นทางการ แต่เมื่อเร็ว ๆ นี้ Mark Zuckerberg ได้บอกใบ้ถึงอนาคตของ Language Meta Models (LMM) เขายอมรับว่า Llama 3 อยู่ระหว่างการพัฒนา ในการให้สัมภาษณ์ในพอดแคสต์เกี่ยวกับ AI และ Metaverse นั้น Zuckerberg กล่าวว่าพวกเขากำลังฝึกอบรมโมเดลใหม่ๆ อยู่ตลอดเวลา และ Llama 2 ก็เปิดตัวในรูปแบบโอเพ่นซอร์ส
- ข่าวลือเกี่ยวกับการเปิดตัว Llama 3 ในต้นปี 2024
- Llama 2 ความสำเร็จของ Meta
- Zuckerberg แย้มถึงการพัฒนา Llama 3
เบาะแสที่เชื้อเพลิงเก็งกำไร
ตามประวัติของวงจรการพัฒนาแบบจำลองที่ Meta ผู้ใช้ Reddit ชื่อ llamaShill นำเสนอการวิเคราะห์โดยละเอียด สิ่งนี้ตอกย้ำสมมติฐานของการเปิดตัว Llama 3 ในต้นปี 2024 ตามที่เขาพูด ลามะ 1 ได้รับการฝึกอบรมตั้งแต่เดือนกรกฎาคม 2022 ถึงมกราคม 2023 จากนั้น Llama 2 จนถึงเดือนกรกฎาคม 2023 สิ่งนี้จึงแนะนำการฝึกอบรม Llama 3 ระหว่างเดือนกรกฎาคม 2023 ถึงมกราคม 2024 นอกจากนี้ ข้อสรุปเหล่านี้สอดคล้องกับความปรารถนาของ Meta ที่จะรักษาตำแหน่งโพลโพซิชั่นไว้กับ OpenAI และโมเดลคู่แข่งอย่าง GPT-4
- การวิเคราะห์รอบการพัฒนาแบบจำลองในอดีตอย่างรอบคอบ
- การแข่งขันที่เป็นไปได้กับ OpenAI และ GPT-4
- การลงทุนใน AI เพื่อหลีกเลี่ยงถูกคู่แข่งทิ้งไว้ข้างหลัง
ความร่วมมืออันแข็งแกร่งกับ Dell
แหล่งที่ไม่เปิดเผยตัวตนอ้างว่า Meta จะมีพลังในการคำนวณเพียงพอ พลังนี้เพียงพอที่จะฝึกฝนไม่เพียงแต่ลามะ 3 เท่านั้น แต่ยังรวมถึงลามะ 4 ที่มีศักยภาพด้วย ดังนั้น Méta จึงสามารถเสนอพวกมันให้เป็นโอเพ่นซอร์สได้ ความร่วมมือกับ Dell แสดงให้เห็นถึงความมุ่งมั่นของบริษัทในการเรียนรู้ข้อมูลและความปลอดภัย สิ่งนี้จะช่วยปกป้องผู้ใช้ทางธุรกิจจากโมเดล Llama เวอร์ชันภายในองค์กร
- การประมวลผลอันทรงพลังเพื่อฝึกฝน Llama 3 และ Llama 4
- ความมุ่งมั่นต่อความปลอดภัยของข้อมูลและความเป็นส่วนตัว
Llama 3 อาจกลายเป็นโอเพ่นซอร์สได้
Zuckerberg หยิบยกแนวคิดของ Llama 3 แบบโอเพ่นซอร์สด้วย แนวคิดนี้จะช่วยกระตุ้นการอภิปรายเกี่ยวกับความทะเยอทะยานของ Meta ในด้านนี้
La puissance des paramètres
ตัวชี้วัดมีบทบาทสำคัญในความมีประสิทธิผลของ LLM กำหนดความสามารถของโมเดลในการทำความเข้าใจและสร้างภาษา นอกจากนี้ จำนวนมักสัมพันธ์กับความซับซ้อนและคุณภาพการผลิตของแบบจำลอง ดังนั้น Meta จึงฝึกฝน AI โดยอิงจากคลังข้อมูลขนาดใหญ่จำนวน 2 ล้านล้านโทเค็น ทำให้สามารถสร้างข้อความที่คล้ายกับงานเขียนของมนุษย์ในหัวข้อและบริบทต่างๆ
- พารามิเตอร์ที่จำเป็นสำหรับการปรับปรุงความเข้าใจและการสร้างภาษา
- โทเค็นจำนวน 2 ล้านล้านโทเค็นสำหรับ AI ที่มีประสิทธิภาพ
การลงทุนครั้งใหญ่ในฮาร์ดแวร์ AI
ตามข้อมูลที่ Decrypt ระบุไว้ Meta กำลังอยู่ในขั้นตอนการเตรียมศูนย์ข้อมูลแห่งใดแห่งหนึ่ง จะใช้ Nvidia H100 ซึ่งเป็นหน่วยฮาร์ดแวร์ประสิทธิภาพสูงสำหรับการฝึกอบรม AI การลงทุนครั้งนี้เป็นการยืนยันถึงความมุ่งมั่นอย่างแข็งขันของ Meta ในการบรรลุเป้าหมาย AI นอกจากนี้ยังคำนึงถึงเวลาการฝึกอบรม ข้อกำหนดด้านฮาร์ดแวร์ และปัญหาสำคัญของความพร้อมใช้งานของโอเพ่นซอร์สด้วย
Nouvelles infrastructures solides pour un futur prometteur
ด้วยความก้าวหน้าต่างๆ เหล่านี้ ดูเหมือนว่า Meta ยังคงมุ่งเน้นไปที่การบูรณาการ AI ในผลิตภัณฑ์ต่างๆ ของตนอย่างต่อเนื่อง การพัฒนา Llama 3 สามารถพิสูจน์ให้เห็นถึงความเด็ดขาดสำหรับวิวัฒนาการทางเทคโนโลยีของบริษัท และเหนือสิ่งอื่นใด เพื่อให้สามารถแข่งขันกับคู่แข่งได้ และยังมุ่งมั่นที่จะครองตลาดปัญญาประดิษฐ์อีกด้วย