Jejaring sosial Meta akan memasuki era digital baru, dengan segera meluncurkan Llama 3. Permata teknologi yang sangat dinanti ini diumumkan pada awal tahun 2024.
Misteri seputar perkembangan Llama 3
Rumor yang berkembang seputar Llama 3. Faktanya, ini adalah model kecerdasan buatan yang rencananya akan diluncurkan Meta pada tahun 2024. Hal ini menimbulkan banyak rasa penasaran dan spekulasi dalam perebutan dominasi bidang AI. Model Meta sebelumnya, Llama 2, telah mendapatkan popularitas di pasar sejak dirilis pada bulan Juli. Jaringan Meta belum secara resmi mengkonfirmasi rumor tersebut. Namun Mark Zuckerberg baru-baru ini mengisyaratkan masa depan Language Meta Models (LMMs). Diakuinya, Llama 3 saat ini masih dalam tahap pengembangan. Dalam wawancara di podcast tentang AI dan Metaverse, Zuckerberg menyebutkan bahwa mereka terus melatih model baru dan Llama 2 dirilis sebagai model sumber terbuka.
- Rumor seputar perilisan Llama 3 pada awal tahun 2024
- Llama 2, sukses untuk Meta
- Zuckerberg mengisyaratkan pengembangan Llama 3
Petunjuk yang memicu spekulasi
Menurut sejarah siklus pengembangan model di Meta, pengguna Reddit bernama llamaShill menyajikan analisis mendetail. Hal ini memperkuat hipotesis pelepasan Llama 3 pada awal tahun 2024. Menurutnya, Llama 1 dilatih pada Juli 2022 hingga Januari 2023, kemudian Llama 2 hingga Juli 2023. Hal ini kemudian menyarankan adanya pelatihan Llama 3 antara Juli 2023 hingga Januari 2024. Selain itu, kesimpulan ini bertepatan dengan keinginan Meta untuk mempertahankan posisi terdepan melawan OpenAI dan model saingannya, GPT-4.
- Analisis yang cermat terhadap siklus pengembangan model historis
- Kemungkinan persaingan dengan OpenAI dan GPT-4
- Investasi pada AI agar tidak tertinggal dari pesaing
Kemitraan yang kuat dengan Dell
Sumber anonim mengklaim bahwa Meta akan memiliki daya komputasi yang cukup. Kekuatan ini cukup untuk melatih tidak hanya Llama 3, tetapi juga calon Llama 4. Oleh karena itu, Méta juga dapat menawarkannya sebagai sumber terbuka. Kemitraan dengan Dell menunjukkan komitmen perusahaan dalam menguasai data dan keamanan. Hal ini kemudian akan membantu melindungi pengguna bisnis dari model Llama versi lokal.
- Komputasi yang kuat untuk melatih Llama 3 dan Llama 4
- Komitmen terhadap keamanan dan privasi data
Llama 3 bisa menjadi open-source
Zuckerberg mengangkat ide Llama 3 yang juga open-source. Ide ini akan membantu memicu diskusi mengenai ambisi Meta di bidang ini.
Kekuatan pengaturan
Metrik memainkan peran penting dalam efektivitas LLM. Mereka menentukan kemampuan model untuk memahami dan menghasilkan bahasa. Selain itu, jumlahnya sering kali berkorelasi dengan kecanggihan dan kualitas produksi model. Oleh karena itu, Meta melatih AI-nya berdasarkan kumpulan besar 2 triliun token, yang memungkinkannya menghasilkan teks yang mirip dengan tulisan manusia tentang berbagai topik dan konteks.
- Parameter penting untuk meningkatkan pemahaman dan generasi bahasa
- Kumpulan 2 triliun token untuk AI yang efisien
Investasi besar pada perangkat keras AI
Menurut informasi yang diberikan Decrypt, Meta sedang dalam proses melengkapi salah satu pusat datanya. Ini akan menggunakan Nvidia H100s, unit perangkat keras berkinerja tinggi untuk melatih AI. Investasi ini menegaskan fokus aktif Meta dalam mencapai tujuan AI-nya. Hal ini juga memperhitungkan waktu pelatihan, persyaratan perangkat keras, dan masalah penting ketersediaan sumber terbuka.
Infrastruktur baru yang kokoh untuk masa depan yang menjanjikan
Dengan berbagai kemajuan tersebut, terlihat jelas bahwa Meta terus fokus pada integrasi AI pada produknya. Pengembangan Llama 3 terbukti menentukan evolusi teknologi perusahaan dan yang terpenting, untuk tetap kompetitif melawan pesaing yang juga bertekad untuk mendominasi pasar kecerdasan buatan.
