批量推理
批量推理 (Batch Inference)：模型在非实时、离线状态下，对累积的大量数据（如一天的用户日志、历史记录）集中、一次性进行预测计算，结果通常批量输出到数据库或文件。批量推理注重处理吞吐量和资源利用率，适用于报表生成、用户分群、历史数据分析等场景。
体验链接：批量推理
批量推理点
新建
- 权限申请：
- 主账号（即溪流湖账户）拥有账号下所有项目的访问/管理权限，无需权限申请；
- 子账号：可由主账号为名下子账号设置某项目的只读/管理权限；
- 若账户余额不足，请先充值。
点击「新建批量推理点」进入信息填写页面，用户需填写以下信息：
页面截图 | 需填写字段 |
|
用户填写完成后点击「下一步」进入信息确认与提交页面，提交成功后将自动跳转至推理点详情-API 调用页面。
任务详情
用户在此页面可查看某个推理点的API调用方式及推理点基本信息。
API调用
API调用页面可以查看模型推理接入点的调用方法，点击「查看API Key」获取API Key，在环境变量中进行设置，参考API示例对模型推理接入点进行调用。查看API Key调用详细说明请点击：API调用。
基本信息
用户在此页面可查看选中推理点的名称、标签、描述、接入模型、模型限额，点击「编辑」按钮可修改该接入点的名称、标签及描述。
推理点列表
当某个项目下存在多个批量推理接入点时，用户可在批量推理列表页面查看该项目下的所有推理点信息，包括批量推理点名称、状态、模型服务、标签等信息。该页面支持通过接入点名称/ID、描述进行搜索。用户在该页面可对选中的推理点进行以下操作：
页面截图 | 参数说明 |
|
批量推理任务
新建
点击「新建批量推理任务」进入信息填写页面，用户需填写以下信息：
页面截图 | 需填写字段 |
|
用户填写完成后点击「下一步」进入信息确认与提交页面，提交成功后将自动跳转至批量推理-任务详情页面。
任务详情
用户在此页面可查看选中批量推理任务的名称、标签、描述、任务开始时间及接入配置等信息，点击「编辑」按钮可修改该接入点的名称、标签及描述。任务执行成功/异常/结果文件过期提醒将通过短信方式告知用户。
任务列表
当某个项目下存在多个批量推理任务时，用户可在批量推理列表页面查看该项目下的所有推理任务信息，包括批量推理任务名称、状态、任务进度、模型服务、标签等信息。该页面支持通过接入点名称/ID、描述进行搜索。用户在该页面可对选中的推理点进行以下操作：
页面截图 | 参数说明 |
|
