Llama 4 Scout 17B-16E 在同类模型中取得了出色的结果,在多项基准测试中超越了之前的 Llama 模型以及其他开放模型和专有模型。它采用 MoE 架构,在 1,090 亿个总参数中,有 170 亿个有效参数和 16 个专家。
Llama 4 Scout 17B-16E 适用于长上下文中的检索任务,以及需要在海量信息基础上进行推理的任务,例如总结多份大型文档、分析海量用户互动日志以实现个性化,以及在大型代码库上进行推理。
受管理 API (MaaS) 规范
在 Agent Studio 中试用 在 Model Garden 中查看模型卡片
| 模型 ID | llama-4-scout-17b-16e-instruct-maas |
|
|---|---|---|
| 发布阶段 | GA | |
| 支持的输入和输出 |
|
|
| 功能 |
|
|
| 使用类型 | ||
| 知识截点日期 | 2024 年 8 月 | |
| 版本 |
|
|
| 支持的区域 | ||
|
模型可用性 |
|
|
|
机器学习处理 |
|
|
| 配额限制 |
us-east5:
|
|
| 价格 | 请参阅价格。 | |
部署为自行部署的模型
如需自行部署模型,请前往 Model Garden 控制台中的 Llama 4 Scout 17B-16E 模型卡片,然后点击部署模型。如需详细了解如何部署和使用合作伙伴模型,请参阅部署合作伙伴模型并发出预测请求。
注意事项
- 每个请求最多可以包含三张图片。
- 与之前的版本不同,MaaS 端点不使用 Llama Guard。如需使用 Llama Guard,请从 Model Garden 部署 Llama Guard,然后将提示和回答发送到该端点。不过,与 Llama 4 相比,Llama Guard 的上下文更有限(128,000),并且只能处理提示开头包含单张图片的请求。
- 不支持批量预测。