Llama 4 Scout 17B-16E は、そのサイズクラスで最先端の結果を提供し、複数のベンチマークで以前の Llama 世代や他のオープンモデルやプロプライエタリ モデルを上回っています。このモデルは、総パラメータ数 1,090 億のうち 170 億がアクティブになり、16 のエキスパートを持つ MoE アーキテクチャを採用しています。
Llama 4 Scout 17B-16E は、長大なコンテキスト内での検索タスクや、大量の情報を推論しながら扱うタスクに向いています。具体的には、複数の大規模なドキュメントの要約、パーソナライズのための広範なユーザー インタラクション ログの分析、大規模なコードベース全体をまたいだ推論などに適しています。
マネージド API(MaaS)の仕様
Agent Studio で試す Model Garden でモデルカードを表示する
| モデル ID | llama-4-scout-17b-16e-instruct-maas |
|
|---|---|---|
| リリース ステージ | GA | |
| サポートされている入出力 |
|
|
| 機能 |
|
|
| 使用タイプ |
|
|
| ナレッジ カットオフ日 | 2024 年 8 月 | |
| バージョン |
|
|
| サポートされるリージョン | ||
|
モデルの提供 |
|
|
|
ML 処理 |
|
|
| 割り当て制限 |
us-east5:
|
|
| 料金 | 料金をご覧ください。 | |
セルフデプロイ モデルとしてデプロイする
モデルをセルフデプロイするには、Model Garden コンソールの Llama 4 Scout 17B-16E モデルカードに移動し、[モデルをデプロイ] をクリックします。パートナー モデルのデプロイと使用の詳細については、パートナー モデルをデプロイして予測リクエストを行うをご覧ください。
考慮事項
- リクエストごとに最大 3 つの画像を含めることができます。
- 以前のバージョンとは異なり、MaaS エンドポイントは Llama Guard を使用しません。Llama Guard を使用するには、Model Garden から Llama Guard をデプロイし、プロンプトとレスポンスをそのエンドポイントに送信します。ただし、Llama 4 と比較すると、Llama Guard のコンテキストはより限定的(128,000)であり、プロンプトの先頭に 1 つの画像を含むリクエストのみを処理できます。
- バッチ予測はサポートされていません。