Sieć społecznościowa Meta wkroczy w nową erę cyfrową wraz z wkrótce uruchomieniem Llama 3. Premiera tej długo oczekiwanej perełki technologicznej zapowiadana jest na początek 2024 roku.
Tajemnica otaczająca rozwój Lamy 3
Wokół Lamy 3 krążą plotki. W rzeczywistości jest to model sztucznej inteligencji, który Meta planuje wypuścić na rynek w 2024 roku. Wzbudziło to wiele ciekawości i spekulacji w wyścigu o dominację w dziedzinie AI. Poprzedni model Meta, Llama 2, zyskał już popularność na rynku od czasu swojej premiery w lipcu. Sieć Meta nie potwierdziła jeszcze oficjalnie tych plotek. Jednak Mark Zuckerberg wspomniał niedawno o przyszłości metamodeli językowych (LMM). Przyznał, że Llama 3 jest obecnie w fazie rozwoju. W wywiadzie dla podcastu o sztucznej inteligencji i Metaverse Zuckerberg wspomniał, że stale szkolą nowe modele i że Llama 2 została wydana jako model typu open source.
- Plotki o premierze Lamy 3 na początku 2024 roku
- Lama 2, sukces Meta
- Zuckerberg sugeruje rozwój Lamy 3
Wskazówki podsycające spekulacje
Jak wynika z historii cykli rozwoju modeli w Meta, szczegółową analizę przedstawił użytkownik Reddita o imieniu llamaShill. To wzmacnia hipotezę o wypuszczeniu Lamy 3 na początku 2024 r. Według niego Lama 1 była szkolona od lipca 2022 r. do stycznia 2023 r., następnie Lama 2 do lipca 2023 r. Sugeruje to zatem szkolenie Lamy 3 w okresie od lipca 2023 r. do stycznia 2024 r. Ponadto wnioski te pokrywają się z dążeniem Meta do utrzymania czołowej pozycji w stosunku do OpenAI i jego konkurencyjnego modelu, GPT-4.
- Dokładna analiza historycznych cykli rozwoju modelu
- Możliwa rywalizacja z OpenAI i GPT-4
- Inwestycje w sztuczną inteligencję, aby uniknąć pozostania w tyle przez konkurencję
Silna współpraca z firmą Dell
Anonimowe źródło twierdzi, że Meta miałaby wystarczającą moc obliczeniową. Ta moc wystarczy, aby wytrenować nie tylko Lamę 3, ale także potencjalną Lamę 4. W ten sposób Méta mogłaby zaoferować je również jako oprogramowanie typu open source. Współpraca z firmą Dell pokazuje zaangażowanie firmy w doskonalenie danych i bezpieczeństwo. Powinno to następnie pomóc chronić użytkowników biznesowych przed lokalnymi wersjami modeli Lamy.
- Potężne obliczenia do trenowania Lamy 3 i Lamy 4
- Zaangażowanie w bezpieczeństwo danych i prywatność
Lama 3 może stać się oprogramowaniem typu open source
Zuckerberg podnosi pomysł stworzenia Lamy 3, również o otwartym kodzie źródłowym. Pomysł ten pomoże ożywić dyskusję na temat ambicji Meta w tym obszarze.
Siła ustawień
Metryki odgrywają kluczową rolę w efektywności LLM. Określają zdolność modelu do rozumienia i generowania języka. Dodatkowo ich liczba często koreluje z wyrafinowaniem i jakością wykonania modelu. W ten sposób Meta przeszkoliła swoją sztuczną inteligencję w oparciu o ogromny zbiór 2 bilionów tokenów, co umożliwiło jej generowanie tekstów podobnych do pism ludzkich na różne tematy i konteksty.
- Parametry niezbędne do poprawy rozumienia i generowania języka
- Korpus 2 bilionów tokenów dla wydajnej sztucznej inteligencji
Duża inwestycja w sprzęt AI
Z informacji przekazanych przez Decrypt wynika, że Meta jest w trakcie wyposażania jednego ze swoich centrów danych. Wykorzystywałby Nvidia H100, wysokowydajne jednostki sprzętowe do szkolenia sztucznej inteligencji. Inwestycja ta potwierdza aktywne skupienie Meta na osiąganiu celów związanych ze sztuczną inteligencją. Uwzględnia to również czas szkolenia, wymagania sprzętowe i kluczową kwestię dostępności oprogramowania typu open source.
Solidna nowa infrastruktura zapewniająca obiecującą przyszłość
Biorąc pod uwagę te różne postępy, wydaje się oczywiste, że Meta w dalszym ciągu koncentruje się na integracji sztucznej inteligencji w swoich produktach. Rozwój Llama 3 może okazać się decydujący dla ewolucji technologicznej firmy, a przede wszystkim dla utrzymania konkurencyjności wobec konkurentów zdeterminowanych również na zdominowanie rynku sztucznej inteligencji.
