ソーシャル ネットワーク Meta は、まもなく Llama 3 をリリースすることにより、新たなデジタル時代に突入します。この待望のテクノロジーの逸品は、2024 年の初めに発表されます。
Llama 3の開発にまつわる謎
ラマ 3 に関する噂が高まっています。実際、これは 2024 年にメタ社が発売する予定の人工知能モデルです。これは、AI 分野の優位性をめぐる競争において多くの好奇心と憶測を呼び起こしています。 Meta の前モデルである Llama 2 は、7 月の発売以来、すでに市場での地位を確立していました。メタネットワークはまだこの噂を正式に認めていない。しかし、マーク・ザッカーバーグは最近、言語メタモデル(LMM)の将来について示唆しました。同氏は、Llama 3が現在開発中であることを認めた。 AI とメタバースに関するポッドキャストのインタビューで、ザッカーバーグ氏は、常に新しいモデルをトレーニングしていること、および Llama 2 がオープンソース モデルとしてリリースされたことについて言及しました。
- 2024 年初頭に Llama 3 がリリースされるという噂
- Llama 2、メタの成功
- ザッカーバーグ氏、Llama 3の開発を示唆
憶測を煽る手がかり
Meta でのモデル開発サイクルの履歴によると、llamaShill という名前の Reddit ユーザーが詳細な分析を発表しました。これは、ラマ 3 が 2024 年初めにリリースされるという仮説を裏付けるものです。彼によると、ラマ 1 は 2022 年 7 月から 2023 年 1 月まで訓練され、その後ラマ 2 は 2023 年 7 月まで訓練されました。これは、ラマ 3 の訓練が 2023 年 7 月から 2024 年 1 月の間に行われたことを示唆しています。さらに、これらの結論は、OpenAI およびそのライバル モデルである GPT-4 に対してポールポジションを維持したいという Meta の願望とも一致します。
- 過去のモデル開発サイクルを注意深く分析
- OpenAI および GPT-4 との競合の可能性
- 競合他社に取り残されないためのAIへの投資
デルとの強力なパートナーシップ
匿名の情報筋は、メタには十分な計算能力があるだろうと主張している。この能力は、Llama 3 だけでなく、潜在的な Llama 4 を訓練するのに十分です。したがって、Méta は、Llama 4 をオープンソースとして提供することもできます。デルとのパートナーシップは、データとセキュリティの習得に対する同社の取り組みを示しています。これは、オンプレミス バージョンの Llama モデルからビジネス ユーザーを保護するのに役立ちます。
- Llama 3 と Llama 4 をトレーニングするための強力なコンピューティング
- データのセキュリティとプライバシーへの取り組み
Llama 3はオープンソースになる可能性がある
ザッカーバーグ氏は、同じくオープンソースの Llama 3 のアイデアを提起しています。このアイデアは、この分野におけるメタの野心についての議論を促進するのに役立つだろう。
設定の力
メトリクスは、LLM の有効性において重要な役割を果たします。これらは、言語を理解して生成するモデルの能力を決定します。さらに、その数はモデルの洗練さと生産品質と相関関係があることがよくあります。したがって、Meta は 2 兆トークンの膨大なコーパスに基づいて AI をトレーニングし、さまざまなトピックや文脈に関する人間の文章に似たテキストを生成できるようにしました。
- 言語の理解と生成を向上させるための必須パラメータ
- 効率的な AI のための 2 兆トークンのコーパス
AIハードウェアへの大規模投資
Decrypt が提供した情報によると、Meta はデータ センターの 1 つに設備を整えているところです。 AI のトレーニングには高性能ハードウェア ユニットである Nvidia H100 が使用されます。この投資は、Meta が AI 目標の達成に積極的に注力していることを裏付けています。これには、トレーニング時間、ハードウェア要件、オープンソースの可用性という重要な問題も考慮されます。
有望な未来のための強固な新しいインフラ
これらのさまざまな進歩により、Meta が自社製品全体にわたる AI の統合に引き続き注力していることは明らかであるように思えます。 Llama 3 の開発は、同社の技術進化にとって、そして何よりも、同様に人工知能市場を支配しようとしている競合他社に対して競争力を維持するために決定的なものとなる可能性があります。