使用扩展进行并行处理

此任务演示了基于通用模板运行多个作业（Jobs）。您可以使用此方法并行处理批量工作。

在此示例中，只有三个项目：apple、banana 和 cherry。示例作业通过打印字符串然后暂停来处理每个项目。

请参阅在实际工作负载中使用作业，了解此模式如何适应更实际的用例。

开始之前

您应该熟悉作业（Job）的基本非并行用法。

您需要有一个 Kubernetes 集群，并且必须配置 kubectl 命令行工具以与您的集群通信。建议在至少有两个不充当控制平面主机的节点的集群上运行本教程。如果您还没有集群，可以使用 minikube 创建一个集群，或者可以使用以下 Kubernetes 游乐场之一

对于基本模板，您需要命令行实用程序 sed。

要遵循高级模板示例，您需要一个可用的 Python 安装，以及用于 Python 的 Jinja2 模板库。

设置好 Python 后，可以通过运行以下命令安装 Jinja2

pip install --user jinja2

基于模板创建作业

首先，将以下作业模板下载到名为 job-tmpl.yaml 的文件中。这是您将下载的内容

application/job/job-tmpl.yaml

apiVersion: batch/v1
kind: Job
metadata:
  name: process-item-$ITEM
  labels:
    jobgroup: jobexample
spec:
  template:
    metadata:
      name: jobexample
      labels:
        jobgroup: jobexample
    spec:
      containers:
      - name: c
        image: busybox:1.28
        command: ["sh", "-c", "echo Processing item $ITEM && sleep 5"]
      restartPolicy: Never

# Use curl to download job-tmpl.yaml
curl -L -s -O https://k8s.io/examples/application/job/job-tmpl.yaml

您下载的文件还不是有效的 Kubernetes 清单（manifest）。相反，该模板是 Job 对象的 YAML 表示，其中包含一些需要在使用前填充的占位符。$ITEM 语法对 Kubernetes 没有意义。

从模板创建清单

以下 shell 代码段使用 sed 将字符串 $ITEM 替换为循环变量，写入名为 jobs 的临时目录。现在运行此命令

# Expand the template into multiple files, one for each item to be processed.
mkdir ./jobs
for i in apple banana cherry
do
  cat job-tmpl.yaml | sed "s/\$ITEM/$i/" > ./jobs/job-$i.yaml
done

检查是否正常工作

ls jobs/

输出类似于这样

job-apple.yaml
job-banana.yaml
job-cherry.yaml

您可以使用任何类型的模板语言（例如：Jinja2；ERB），或编写程序来生成 Job 清单。

从清单创建作业

接下来，使用一个 kubectl 命令创建所有作业

kubectl create -f ./jobs

输出类似于这样

job.batch/process-item-apple created
job.batch/process-item-banana created
job.batch/process-item-cherry created

现在，检查作业

kubectl get jobs -l jobgroup=jobexample

输出类似于这样

NAME                  COMPLETIONS   DURATION   AGE
process-item-apple    1/1           14s        22s
process-item-banana   1/1           12s        21s
process-item-cherry   1/1           12s        20s

使用 kubectl 的 -l 选项仅选择属于此作业组的作业（系统中可能存在其他不相关的作业）。

您也可以使用相同的标签选择器检查 Pod

kubectl get pods -l jobgroup=jobexample

输出类似于

NAME                        READY     STATUS      RESTARTS   AGE
process-item-apple-kixwv    0/1       Completed   0          4m
process-item-banana-wrsf7   0/1       Completed   0          4m
process-item-cherry-dnfu9   0/1       Completed   0          4m

我们可以使用此单个命令一次检查所有作业的输出

kubectl logs -f -l jobgroup=jobexample

输出应为

Processing item apple
Processing item banana
Processing item cherry

清理

# Remove the Jobs you created
# Your cluster automatically cleans up their Pods
kubectl delete job -l jobgroup=jobexample

使用高级模板参数

在第一个示例中，模板的每个实例都有一个参数，并且该参数也用于作业的名称。但是，名称被限制为只能包含某些字符。

这个稍微复杂的示例使用 Jinja 模板语言来生成清单，然后从这些清单生成对象，每个作业都有多个参数。

对于此任务的这一部分，您将使用一个单行 Python 脚本将模板转换为一组清单。

首先，将以下 Job 对象模板复制并粘贴到名为 job.yaml.jinja2 的文件中

{% set params = [{ "name": "apple", "url": "http://dbpedia.org/resource/Apple", },
                  { "name": "banana", "url": "http://dbpedia.org/resource/Banana", },
                  { "name": "cherry", "url": "http://dbpedia.org/resource/Cherry" }]
%}
{% for p in params %}
{% set name = p["name"] %}
{% set url = p["url"] %}
---
apiVersion: batch/v1
kind: Job
metadata:
  name: jobexample-{{ name }}
  labels:
    jobgroup: jobexample
spec:
  template:
    metadata:
      name: jobexample
      labels:
        jobgroup: jobexample
    spec:
      containers:
      - name: c
        image: busybox:1.28
        command: ["sh", "-c", "echo Processing URL {{ url }} && sleep 5"]
      restartPolicy: Never
{% endfor %}

上面的模板使用 Python 字典列表（第 1-4 行）为每个 Job 对象定义两个参数。for 循环为每组参数发出一个 Job 清单（其余行）。

此示例依赖于 YAML 的一个功能。一个 YAML 文件可以包含多个文档（在本例中为 Kubernetes 清单），文档之间用单独一行的 --- 分隔。您可以将输出直接通过管道传递给 kubectl 以创建作业。

接下来，使用此单行 Python 程序展开模板

alias render_template='python -c "from jinja2 import Template; import sys; print(Template(sys.stdin.read()).render());"'

使用 render_template 将参数和模板转换为包含 Kubernetes 清单的单个 YAML 文件

# This requires the alias you defined earlier
cat job.yaml.jinja2 | render_template > jobs.yaml

您可以查看 jobs.yaml 以验证 render_template 脚本是否正常工作。

一旦您确信 render_template 的工作方式符合您的预期，您可以将其输出通过管道传递到 kubectl

cat job.yaml.jinja2 | render_template | kubectl apply -f -

Kubernetes 接受并运行您创建的作业。

清理

# Remove the Jobs you created
# Your cluster automatically cleans up their Pods
kubectl delete job -l jobgroup=jobexample

在实际工作负载中使用作业

在实际用例中，每个作业都会执行一些大量的计算，例如渲染电影的帧，或处理数据库中的一系列行。如果要渲染电影，则可以将 $ITEM 设置为帧号。如果要处理数据库表中的行，则可以将 $ITEM 设置为表示要处理的数据库行范围。

在任务中，您运行了一个命令来通过获取 Pod 的日志来收集 Pod 的输出。在实际用例中，作业的每个 Pod 在完成之前都会将其输出写入持久存储。您可以为每个作业使用 PersistentVolume，或使用外部存储服务。例如，如果要渲染电影的帧，请使用 HTTP 将渲染的帧数据 PUT 到 URL，每个帧使用不同的 URL。

作业和 Pod 上的标签

创建作业后，Kubernetes 会自动添加其他标签，以区分一个作业的 Pod 和另一个作业的 Pod。

在此示例中，每个作业及其 Pod 模板都有一个标签：jobgroup=jobexample。

Kubernetes 本身不会关注名为 jobgroup 的标签。为您从模板创建的所有作业设置标签可以方便地一次操作所有这些作业。在第一个示例中，您使用模板创建了多个作业。该模板确保每个 Pod 也获得相同的标签，因此您可以使用单个命令检查这些模板化作业的所有 Pod。

注意

标签键 jobgroup 不是特殊的或保留的。您可以选择自己的标签方案。如果您愿意，可以使用推荐标签。

替代方案

如果您计划创建大量 Job 对象，您可能会发现

即使使用标签，管理如此多的作业也很麻烦。
如果您批量创建许多作业，则可能会对 Kubernetes 控制平面造成高负载。或者，Kubernetes API 服务器可能会对您进行速率限制，并临时以 429 状态拒绝您的请求。
您受到 Jobs 的资源配额的限制：当您在一个批次中创建大量工作时，API 服务器会永久拒绝您的某些请求。

您可以使用其他作业模式来处理大量工作，而无需创建大量 Job 对象。

您还可以考虑编写自己的控制器来自动管理 Job 对象。

上次修改时间：太平洋标准时间 2023 年 8 月 24 日下午 6:38：使用 code_sample shortcode 而不是 code shortcode (e8b136c3b3)

使用扩展进行并行处理

开始之前

基于模板创建作业

从模板创建清单

从清单创建作业

清理

使用高级模板参数

清理

在实际工作负载中使用作业

作业和 Pod 上的标签

注意

替代方案

反馈