使用 3.5 Flash-Lite 时,您可以使用不同的思考级别来优化质量、速度和 token 输出:
- 对于对延迟敏感或较简单的分类和提取任务,请使用
thinking_level.MINIMAL:3.5 Flash-Lite 默认采用最少的思考,从而优化速度和成本效益。这非常适合高吞吐量分类、路由或 JSON 提取任务。 - 将
thinking_level.LOW用于需要轻度推理的高吞吐量任务:使用较少的思考 token,以便在复杂度较低的任务中更快地给出回答。 - 将
thinking_level.MEDIUM或thinking_level.HIGH用于子智能体:如果您将 3.5 Flash-Lite 用作自主子智能体来编写代码、运行终端命令或调用外部 API,请将思考级别设置为中或高。使用最低思考级别可能会导致多步任务中的工具过早终止。
与之前的 Gemini 模型相比,3.5 Flash-Lite 包含以下可能具有破坏性的更改:
- 不支持温度、Top-K 和 Top-P 等参数的自定义值。如果您为这些参数设置了自定义值,该值将被忽略。
- 不支持频率和存在惩罚参数的自定义值。为这些参数设置自定义值会抛出错误。
- 不支持最后一个输入轮次具有
Model角色的 API 请求。以下类型的请求将返回错误:- 使用 Interactions API 时:
input数组中最后一个对象具有"type": "model_output"的请求。 - 使用 GenerateContent API 时:
contents数组中最后一个对象具有"role": "model"的请求。
- 使用 Interactions API 时:
| 模型 ID | gemini-3.5-flash-lite |
|
|---|---|---|
| 模态 |
|
|
| token 数量上限 | 上下文窗口 | 1,048,576 |
| 输出词元数上限 | 65536 | |
| 功能 | ||
| 工具 |
|
|
| API |
|
|
| 使用选项 |
|
|
| 技术规格 | 图片 |
|
| 文字 |
|
|
| 视频 |
|
|
| 音频 |
|
|
| 参数默认值 |
|
|
| 支持的区域 |
|
|
|
||
|
||
|
||
| 版本 |
|
|
| 安全控制 | 在线预测 |
|
| 批量推理 |
|
|
| 上下文缓存 |
|
|
| 如需了解详情,请参阅安全控制。 | ||
† 列出的弃用日期是指 Gemini Enterprise Agent Platform 停止支持该模型的日期。在这些日期过后,您可能仍可通过 Gemini API 访问这些模型。Gemini API 并非 Cloud de Confiance by S3NS 产品,须遵守其自身的服务条款。如需了解详情,请参阅 Gemini API 文档。