Skip to main content
Batch API 专为处理大规模数据请求而设计,适用于无需即时反馈的任务。通过 Batch API,开发者可以通过文件提交大量任务,且价格降低 50%(GLM-4-Flash 免费)、无并发限制。

典型应用场景

文章分类

为大量文章、帖子或产品描述添加分类标签。

情感分析

评估客户反馈、社交媒体帖子和商品评价的情感倾向。

信息提取

从文本数据中识别和抽取关键内容。

批量使用教程

我们将通过一个情感分析的实际案例来演示如何使用 Batch API。在这个示例中,我们将使用 GLM-4 对商品评价进行情感分类(正面、中性、负面),并添加特定问题标签(如产品缺陷、配送延迟、客服态度等)。

步骤 1:创建 Batch 文件

Batch 文件的格式应为 .jsonl,其中每个请求占据一行(JSON 对象)。每一行包含 API 单个请求的详细信息。

GLM-4-PLUS 文本处理示例

GLM-4V-PLUS 图像处理示例

CogView-3 图像生成示例

Embedding 向量化示例

JSONL文件示例

构建的 .jsonl 文件如下,本示例中包含 10 个请求,单个文件最多支持 50000 个请求且大小不超过 100M:

步骤 2:上传 Batch 文件

首先需要将准备好的 .jsonl 文件上传到平台:

步骤 3:创建 Batch 任务

使用上传文件的 ID 创建批处理任务:

步骤 4:监控任务状态

定期检查批处理任务的执行状态:

步骤 5:下载结果

Batch 任务完成后,您可以使用 Batch 对象中的 output_file_id 字段下载结果,并将其保存到本地。
  1. 系统会对 Batch 结果文件分开保存,请分别进行下载:
  • output_file_id:保存成功执行请求的输出文件的ID。
  • error_file_id:保存出现错误请求的输出文件的ID。
  1. 系统只保留您的数据 30 天。请及时下载和备份您的数据,过期后文件将自动删除,无法恢复。
最终处理完成的结果如下:

删除文件

上传 Batch 文件时,每次最多上传 1000 个。若任务量巨大,请及时删除已处理完毕的文件,以便继续上传新文件。

文件限制

  • 单个文件最多支持 50,000 个请求
  • 文件大小不超过 100MB
  • 每个 batch 文件只能包含对单个模型的请求
  • 每个请求必须包含 custom_id 且是唯一的,用来将结果和输入进行匹配

接口信息

接口文档:API 调用方式

接口详情

  • 传输方式: https
  • 请求地址: https://open.bigmodel.cn/api/paas/v4/batches
  • 调用方式: 同步调用
  • 请求格式: JSON
  • 响应格式: JSON
  • 接口请求类型: POST

请求参数

请求示例

安装 SDK
验证安装

响应内容

返回 Batch 对象。

Batch 对象结构

常见问题

价格是标准 API 的 50%。参考 产品定价
Batch API 的并发限制与现有的每个模型并发限制是分开的。Batch API 引入了两种新的限制:
  • 单个 Batch 文件中包含最多 50,000 个请求且不超过 100M。
  • 每个模型的 Batch 有最大排队限制。当达到请求队列上限时,请等待当前任务完成后再提交新任务。
  • 向量模型(Embedding-2、Embedding-3)Batch 文件请求数量限制为不超过 10000 次。
调用 Batch API 必须实名认证,请先前往 实名认证 页面完成个人认证或企业认证,成功认证后,将免费获得 500 万 tokens。
当批处理任务完成后,系统会生成两个文件,请分别进行下载:
  1. 输出文件 (output_file_id): 包含成功执行的请求结果
  2. 错误文件 (error_file_id): 包含出现错误的请求信息
如果 Batch 未能及时完成,该批次将被标记为过期状态;批次中未完成的请求将被取消。对于批次中已完成的请求,用户可以通过文件获取,并且需要支付这些请求消耗的费用。
Batch 文件最多上传 1000 个文件。系统只保留您的文件 30 天,过期后文件将自动删除,无法恢复。
请前往 Batch 页面 进行删除、或通过调用接口删除。