A rede social Meta entrará em uma nova era digital, ao lançar em breve o Llama 3. Esta tão aguardada joia tecnológica é anunciada para o início de 2024.
O mistério em torno do desenvolvimento do Llama 3
O boato cresce em torno do Llama 3. Na verdade, trata-se de um modelo de inteligência artificial planejado para ser lançado pela Meta em 2024. Isso tem despertado muita curiosidade e especulação na corrida pelo domínio do campo da IA. O modelo anterior da Meta, o Llama 2, já havia ganhado espaço no mercado desde seu lançamento em julho. A rede Meta ainda não confirmou oficialmente os rumores. Mas Mark Zuckerberg recentemente sugeriu o futuro dos metamodelos de linguagem (LMMs). Ele admitiu que o Llama 3 está atualmente em desenvolvimento. Em entrevista a um podcast sobre IA e o Metaverso, Zuckerberg mencionou que eles estão constantemente treinando novos modelos e que o Llama 2 foi lançado como um modelo de código aberto.
- Rumores sobre o lançamento do Llama 3 no início de 2024
- Llama 2, um sucesso para Meta
- Zuckerberg sugere desenvolvimento do Llama 3
As pistas que alimentam a especulação
De acordo com o histórico dos ciclos de desenvolvimento de modelos na Meta, um usuário do Reddit chamado llamaShill apresentou uma análise detalhada. Isso reforça a hipótese de um lançamento da Lhama 3 no início de 2024. Segundo ele, a Lhama 1 foi treinada de julho de 2022 a janeiro de 2023, depois a Lhama 2 até julho de 2023. Isso sugere então um treinamento da Lhama 3 entre julho de 2023 e janeiro de 2024. Além disso, essas conclusões coincidem com o desejo da Meta de manter a pole position contra a OpenAI e seu modelo rival, o GPT-4.
- Uma análise cuidadosa dos ciclos históricos de desenvolvimento de modelos
- Possível rivalidade com OpenAI e GPT-4
- Investimento em IA para evitar ser deixado para trás pelos concorrentes
Uma forte parceria com a Dell
Uma fonte anônima afirma que Meta teria poder computacional suficiente. Este poder é suficiente para treinar não só o Llama 3, mas também um potencial Llama 4. Assim, a Méta também poderia oferecê-los como código aberto. A parceria com a Dell demonstra o compromisso da empresa em dominar os dados e a segurança. Isso deve ajudar a proteger os usuários empresariais de versões locais dos modelos Llama.
- Computação poderosa para treinar Llama 3 e Llama 4
- Compromisso com a segurança e privacidade dos dados
Llama 3 pode se tornar de código aberto
Zuckerberg levanta a ideia de um Llama 3 também de código aberto. Esta ideia ajudará a alimentar as discussões sobre as ambições da Meta nesta área.
O poder das configurações
As métricas desempenham um papel crucial na eficácia dos LLMs. Eles determinam a capacidade do modelo de compreender e gerar linguagem. Além disso, o seu número muitas vezes se correlaciona com a sofisticação e qualidade de produção do modelo. Assim, a Meta treinou sua IA com base em um corpus massivo de 2 trilhões de tokens, permitindo gerar textos semelhantes a escritos humanos sobre vários tópicos e contextos.
- Parâmetros essenciais para melhorar a compreensão e geração da linguagem
- Corpus de 2 trilhões de tokens para IA eficiente
Grande investimento em hardware de IA
De acordo com informações do Decrypt, a Meta está equipando um de seus data centers. Ele usaria Nvidia H100s, unidades de hardware de alto desempenho para treinamento de IA. Este investimento confirma o foco ativo da Meta em alcançar os seus objetivos de IA. Isso também leva em consideração os tempos de treinamento, os requisitos de hardware e a questão crucial da disponibilidade do código aberto.
Nova infraestrutura sólida para um futuro promissor
Com estes vários avanços, parece óbvio que a Meta continua a concentrar-se na integração da IA em todos os seus produtos. O desenvolvimento do Llama 3 poderá ser decisivo para a evolução tecnológica da empresa e, sobretudo, para se manter competitiva face a concorrentes também determinados a dominar o mercado da inteligência artificial.