示例:使用 StatefulSet 部署 Cassandra
本教程向您展示如何在 Kubernetes 上运行 Apache Cassandra。Cassandra 是一种数据库,需要持久存储来提供数据持久性(应用程序状态)。在此示例中,自定义 Cassandra 种子提供程序允许数据库在新的 Cassandra 实例加入 Cassandra 集群时发现它们。
StatefulSets 使您可以更轻松地将有状态应用程序部署到 Kubernetes 集群中。有关本教程中使用的功能的更多信息,请参见 StatefulSet。
注意
Cassandra 和 Kubernetes 都使用术语“节点”来表示集群的成员。在本教程中,属于 StatefulSet 的 Pod 是 Cassandra 节点,并且是 Cassandra 集群(称为环)的成员。当这些 Pod 在您的 Kubernetes 集群中运行时,Kubernetes 控制平面会将这些 Pod 调度到 Kubernetes 节点上。
当 Cassandra 节点启动时,它使用种子列表来引导发现环中的其他节点。本教程部署了一个自定义 Cassandra 种子提供程序,该提供程序允许数据库在新的 Cassandra Pod 出现在您的 Kubernetes 集群内部时发现它们。
目标
- 创建并验证 Cassandra 无头 服务。
- 使用 StatefulSet 创建一个 Cassandra 环。
- 验证 StatefulSet。
- 修改 StatefulSet。
- 删除 StatefulSet 及其 Pod。
准备开始
您需要有一个 Kubernetes 集群,并且必须配置 kubectl 命令行工具以与您的集群通信。建议在至少有两个不充当控制平面主机的节点的集群上运行本教程。如果您还没有集群,可以使用 minikube 创建一个,或者可以使用以下 Kubernetes 游乐场之一
要完成本教程,您应该已经基本熟悉 Pod、服务和 StatefulSet。
其他 Minikube 设置说明
警告
Minikube 默认使用 2048MB 内存和 2 个 CPU。使用默认资源配置运行 Minikube 会导致本教程期间出现资源不足错误。要避免这些错误,请使用以下设置启动 Minikube
minikube start --memory 5120 --cpus=4
为 Cassandra 创建无头服务
在 Kubernetes 中,服务描述了一组执行相同任务的 Pod。
以下服务用于 Cassandra Pod 与集群内部的客户端之间的 DNS 查找
apiVersion: v1
kind: Service
metadata:
labels:
app: cassandra
name: cassandra
spec:
clusterIP: None
ports:
- port: 9042
selector:
app: cassandra
从 cassandra-service.yaml
文件创建一个服务以跟踪所有 Cassandra StatefulSet 成员
kubectl apply -f https://k8s.io/examples/application/cassandra/cassandra-service.yaml
验证(可选)
获取 Cassandra 服务。
kubectl get svc cassandra
响应为
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
cassandra ClusterIP None <none> 9042/TCP 45s
如果您没有看到名为 cassandra
的服务,则表示创建失败。请阅读 调试服务以获取有关排除常见问题的帮助。
使用 StatefulSet 创建 Cassandra 环
下面包含的 StatefulSet 清单会创建一个由三个 Pod 组成的 Cassandra 环。
注意
此示例使用 Minikube 的默认配置器。请为您的云更新以下 StatefulSet。apiVersion: apps/v1
kind: StatefulSet
metadata:
name: cassandra
labels:
app: cassandra
spec:
serviceName: cassandra
replicas: 3
selector:
matchLabels:
app: cassandra
template:
metadata:
labels:
app: cassandra
spec:
terminationGracePeriodSeconds: 500
containers:
- name: cassandra
image: gcr.io/google-samples/cassandra:v13
imagePullPolicy: Always
ports:
- containerPort: 7000
name: intra-node
- containerPort: 7001
name: tls-intra-node
- containerPort: 7199
name: jmx
- containerPort: 9042
name: cql
resources:
limits:
cpu: "500m"
memory: 1Gi
requests:
cpu: "500m"
memory: 1Gi
securityContext:
capabilities:
add:
- IPC_LOCK
lifecycle:
preStop:
exec:
command:
- /bin/sh
- -c
- nodetool drain
env:
- name: MAX_HEAP_SIZE
value: 512M
- name: HEAP_NEWSIZE
value: 100M
- name: CASSANDRA_SEEDS
value: "cassandra-0.cassandra.default.svc.cluster.local"
- name: CASSANDRA_CLUSTER_NAME
value: "K8Demo"
- name: CASSANDRA_DC
value: "DC1-K8Demo"
- name: CASSANDRA_RACK
value: "Rack1-K8Demo"
- name: POD_IP
valueFrom:
fieldRef:
fieldPath: status.podIP
readinessProbe:
exec:
command:
- /bin/bash
- -c
- /ready-probe.sh
initialDelaySeconds: 15
timeoutSeconds: 5
# These volume mounts are persistent. They are like inline claims,
# but not exactly because the names need to match exactly one of
# the stateful pod volumes.
volumeMounts:
- name: cassandra-data
mountPath: /cassandra_data
# These are converted to volume claims by the controller
# and mounted at the paths mentioned above.
# do not use these in production until ssd GCEPersistentDisk or other ssd pd
volumeClaimTemplates:
- metadata:
name: cassandra-data
spec:
accessModes: [ "ReadWriteOnce" ]
storageClassName: fast
resources:
requests:
storage: 1Gi
---
kind: StorageClass
apiVersion: storage.k8s.io/v1
metadata:
name: fast
provisioner: k8s.io/minikube-hostpath
parameters:
type: pd-ssd
从 cassandra-statefulset.yaml
文件创建 Cassandra StatefulSet
# Use this if you are able to apply cassandra-statefulset.yaml unmodified
kubectl apply -f https://k8s.io/examples/application/cassandra/cassandra-statefulset.yaml
如果需要修改 cassandra-statefulset.yaml
以适合您的集群,请下载 https://k8s.io/examples/application/cassandra/cassandra-statefulset.yaml,然后从保存修改版本的文件夹中应用该清单
# Use this if you needed to modify cassandra-statefulset.yaml locally
kubectl apply -f cassandra-statefulset.yaml
验证 Cassandra StatefulSet
获取 Cassandra StatefulSet
kubectl get statefulset cassandra
响应应类似于
NAME DESIRED CURRENT AGE cassandra 3 0 13s
StatefulSet
资源按顺序部署 Pod。获取 Pod 以查看有序创建状态
kubectl get pods -l="app=cassandra"
响应应类似于
NAME READY STATUS RESTARTS AGE cassandra-0 1/1 Running 0 1m cassandra-1 0/1 ContainerCreating 0 8s
部署所有三个 Pod 可能需要几分钟。部署完成后,同一命令返回类似于以下的输出
NAME READY STATUS RESTARTS AGE cassandra-0 1/1 Running 0 10m cassandra-1 1/1 Running 0 9m cassandra-2 1/1 Running 0 8m
在第一个 Pod 中运行 Cassandra nodetool,以显示环的状态。
kubectl exec -it cassandra-0 -- nodetool status
响应应类似于
Datacenter: DC1-K8Demo ====================== Status=Up/Down |/ State=Normal/Leaving/Joining/Moving -- Address Load Tokens Owns (effective) Host ID Rack UN 172.17.0.5 83.57 KiB 32 74.0% e2dd09e6-d9d3-477e-96c5-45094c08db0f Rack1-K8Demo UN 172.17.0.4 101.04 KiB 32 58.8% f89d6835-3a42-4419-92b3-0e62cae1479c Rack1-K8Demo UN 172.17.0.6 84.74 KiB 32 67.1% a6a1e8c2-3dc5-4417-b1a0-26507af2aaad Rack1-K8Demo
修改 Cassandra StatefulSet
使用 kubectl edit
修改 Cassandra StatefulSet 的大小。
运行以下命令
kubectl edit statefulset cassandra
此命令会在您的终端中打开一个编辑器。您需要更改的行是
replicas
字段。以下示例是 StatefulSet 文件的一部分# Please edit the object below. Lines beginning with a '#' will be ignored, # and an empty file will abort the edit. If an error occurs while saving this file will be # reopened with the relevant failures. # apiVersion: apps/v1 kind: StatefulSet metadata: creationTimestamp: 2016-08-13T18:40:58Z generation: 1 labels: app: cassandra name: cassandra namespace: default resourceVersion: "323" uid: 7a219483-6185-11e6-a910-42010a8a0fc0 spec: replicas: 3
将副本数更改为 4,然后保存清单。
StatefulSet 现在将扩展到运行 4 个 Pod。
获取 Cassandra StatefulSet 以验证您的更改
kubectl get statefulset cassandra
响应应类似于
NAME DESIRED CURRENT AGE cassandra 4 4 36m
清理
删除或缩减 StatefulSet 不会删除与 StatefulSet 关联的卷。此设置是为了您的安全,因为您的数据比自动清除所有相关的 StatefulSet 资源更有价值。
警告
根据存储类和回收策略,删除 PersistentVolumeClaims 可能会导致关联的卷也被删除。如果其卷声明被删除,请永远不要假设您可以访问数据。运行以下命令(链接在一起成为一个命令)以删除 Cassandra StatefulSet 中的所有内容
grace=$(kubectl get pod cassandra-0 -o=jsonpath='{.spec.terminationGracePeriodSeconds}') \ && kubectl delete statefulset -l app=cassandra \ && echo "Sleeping ${grace} seconds" 1>&2 \ && sleep $grace \ && kubectl delete persistentvolumeclaim -l app=cassandra
运行以下命令以删除您为 Cassandra 设置的服务
kubectl delete service -l app=cassandra
Cassandra 容器环境变量
本教程中的 Pod 使用来自 Google 容器注册表的 gcr.io/google-samples/cassandra:v13
镜像。上面的 Docker 镜像基于 debian-base 并包含 OpenJDK 8。
此镜像包含来自 Apache Debian 仓库的标准 Cassandra 安装。通过使用环境变量,您可以更改插入到 cassandra.yaml
中的值。
环境变量 | 默认值 |
---|---|
CASSANDRA_CLUSTER_NAME | 'Test Cluster' |
CASSANDRA_NUM_TOKENS | 32 |
CASSANDRA_RPC_ADDRESS | 0.0.0.0 |
下一步
- 了解如何扩展 StatefulSet。
- 了解有关 KubernetesSeedProvider 的更多信息
- 查看更多自定义种子提供程序配置