<ビデオ>
<ソース src="ipfs://bafybeibaqvkuglnuaw2qns7skt4kqalbjb5thwiy6oph3hc4ywimcqryse" type="video/mp4" />
</ ビデオ>
Meta AI は火曜日に最新世代のオープンソース大規模モデル Llama 2 をリリースしました。今年 2 月にリリースされた Llama 1 と比較して、Llama 2 のトレーニングに使用されるトークンの数は 2 倍に増え、2 兆個に達し、コンテキストの長さ制限も 2 倍に増えました。Llama 2 には 70 億、130 億、700 億のパラメータを持つモデルが含まれています。
さらに、Meta は Microsoft のクラウドサービス Azure との提携を発表し、Llama 2 モデルを基にしたクラウドサービスを世界の開発者に最初に提供します。この提携は Meta と Microsoft の深い協力を象徴しており、次世代のオープンソース大規模言語モデル Llama 2 を正式に発表し、研究および商業利用に無料で提供することを発表しています。Llama 1 と比較して、Llama 2 のトレーニングデータは 40%増加し、コンテキストの長さは Llama 1 の 2 倍になり、グループ化されたクエリの注意機構が採用されています。
具体的には、Llama 2 のプレトレーニングモデルは 2 兆のトークンでトレーニングされ、チャットモデルのファインチューニングは 100 万の人間の注釈付きデータでトレーニングされます。
Meta AI Llama 2 公式紹介ページ:https://941ai.com/zyur
Llama 2 公式論文アドレス:https://941ai.com/dyog
Llama Github 公式オープンソースコードウェブサイト:https://github.com/facebookresearch/llama
人工知能の新しい世界を発見するために、
現在の人気のある AI チュートリアルと動向を定期的に更新しています!
AI Exploration Station を継続的にフォローし、AI の神秘的な世界を一緒に探索しましょう!
https://941ai.com/meta-llama2-1188.html