・最新のLlamaについて知りたい
・性能はどれくらいなのか
・日本語のサポートについて知りたい
今回は最新のLLMであるLlama3について紹介します。Llama3は、Facebookなどで有名なMeta社によって、2024年4月18日にリリースされた生成AIのモデルです。
Llamaシリーズの中で最大の性能を持つモデルとのことで、容量も4GB程度とかなり軽く手元の環境で動かしてみてどれくらい使えるかを調べてみました。
まずはLlama3の概要を述べたうえで利用結果を以降でまとめています。
AIモデル「Llama3」とは
そもそも「Llama」って
Llamaは、Facebook、MetaQuestなどを提供している大手企業Meta社が開発したLLMです。
Llamaシリーズは2023年2月にスタートし、Llama2(2023年7月)、そして今回のLlama3へと改良されていきました。
今でも無償のLLMといえば、Llamaは有名なモデルの一つです。開発者によってカスタマイズもされることがあり、例えばLlamaをベースとした日本語に対応するElyzaもあります。
Llama3の特徴
15兆を超えるトークンの事前学習データを使ってトレーニング済みで、「Llama2」の7倍の水準のようです。パラメータ数が80憶と700憶で学習したモデルがすでにHugging Faceで取り込める状態で、さらに現在、4000憶パラメータに挑戦しているようです。
またAWSやGoogle Cloudなどのクラウドサービスでも使えるというのも売りの一つです。クラウドサービスで使えるようにするというのも、現状のクラウドで運用するというものにマッチしています。
ダウンロード状況
インサイトを見るとリリースから4日、まずは80憶パラメータ版で見たところ17万ダウンロードです。
700憶パラメータ版も、11万ダウンロードです。パラメータ多くて重い分、使われるケースが限られるといった感じでしょうか。
総合的にみると１日平均7万ダウンロードとみれば、以前紹介したCommand R+よりかは使われている印象です。
OllamaでLlama3を利用してみた
本章では実際にOllamaを利用してみたので紹介します。Ollamaのインストール方法は以下の通りです。
やはり軽量なこともあってか普通にダウンロードおよび起動できました。
レビュー
本章ではLlama3を試行利用した結果のレビューをまとめました。
良かった点は以下です。
- 有名どころという安心感
- 軽量なので多少スペック低くても動く
- レスポンスが結構具体的で、ブログ向け
悪かった点は以下です。
- 日本語で出力できない
良かった点１：有名どころという安心感があること
もはや説明が不要な感じもしますが、やはりFacebookを出しているMeta社というのはいいですね。さらにオープンソースのLLMではかなり有名なところもあります。
とりあえずLLMに迷ったらLlamaというイメージが強く、それの最新版となると非常にうれしい話だと思いました。
良かった点２：軽量なので多少スペック低くても動くこと
筆者が持っているNVIDIA 1650 Superは、最近の進化しつつあるLLMでは動かなくなりつつあります。まぁ16系はリリースをやめたという声もあるぐらいなので、徐々に遅れつつありますね。。。
そんな中でもLlama3は80憶パラメータ版が4.9GBなので、入りやすいし多少低スペックでも動いてくれました。
良かった点３：レスポンスが結構具体的で、ブログ向けに感じること
ニュース等で言及はされてませんが、ある意味特徴に感じました。例えば「AIについて教えて」とつぶやいたら以下の結果になりました。
かなり章立てしながらAIの特徴を具体的に抑えて、レスポンスを返してくれます。しかも回答精度もよい気がしています。
こういう書き方はブログには向いているのではないか。
悪かった点：日本語で出力できない
致命的ですね・・・自分で読む分には英語でも問題ないかと思います。ただ良かった点３のように、人に見せるものに対して、活かそうものなら日本語で出力する必要があります。
筆者がLLMを調査している理由の一つとして、手元の環境でブログの効率を上げたいというのもあるので、その達成につながらないのは残念でした。
ちなみに「〇〇を日本語で出力して」は通じないです。日本語がデータとして入っていないなら無理ですね。。。
最近Rinnaがコレの日本語対応であるYoukoを開発されたそうで改善に期待です。
まとめ
この記事では、Meta社によって最近リリースされた新しいLLMモデル「Llama3」について詳しく解説しました。Llama3は、15兆トークン以上の事前学習データを使用し、パラメータ数で他のモデルを凌駕する最新技術を採用しています。また、AWSやGoogle Cloudといったクラウドサービスでの利用が可能であり、ダウンロード数も多く、一般的な利用に適しています。
記事を通して、Llama3のインストール方法や実際の利用経験に至るまで、その性能と機能性を検証しました。その結果、Llama3は軽量で、多少スペックが低い環境でも十分に動作すること、そしてブログ向けに具体的で有用なレスポンスを提供することが明らかになりました。ただし、日本語出力に対応していない点は、一部のユーザーにとっては大きなデメリットとなるかもしれません。
Llama3は、その画期的な仕様と性能で、今後のLLMの標準を新たに定める可能性を秘めていますが、言語サポートの範囲を広げることが今後の課題として残っています。
参考文献
- Meta : Llama（https://llama.meta.com/）
- Gigazine：Metaが次世代のオープンLLM「Llama 3」を公開、無料で商用利用可能なモデルの中では過去最高の性能（https://gigazine.net/news/20240419-meta-llama-3/）
- 日経xTECH：Metaが次世代オープンソースLLM「Llama 3」公開、4000億パラメーター版も学習中（https://xtech.nikkei.com/atcl/nxt/news/24/00603/）
コメント