Kubernetes 1.18.3高可用集群快速升级及扩容

Kubernetes 1.18.3已经正式发布，高可用集群也可以直接升级(这里改用hub.docker.com的镜像，可以快速更新整个集群、增加新的master和worker节点)。

快速升级（含国内镜像快速下载链接）包括升级kubeadm/kubectl/kubelet版本、拉取镜像、升级Kubernetes集群三个主要步骤。参考《Ubuntu上软件锁定版本不更新》安装特定DockerCE版本。

实现将镜像传送到相应节点上，然后在任何一个master节点运行下面的命令即可完成升级。

kubeadm upgrade apply v1.18.3

在当前的集群中新增节点：

• 第一步，重新创建certificate key和token：

sudo kubeadm init phase upload-certs --upload-certs

### Got:
# [upload-certs] Using certificate key:
# 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78

# Add certificate-key for Multi Master Node.
kubeadm token create --print-join-command --certificate-key 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78

• 第二步，增加Worker节点：

kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt 
    --discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383

• 第三步，增加master节点：

kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt 
    --discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383 
    --control-plane --certificate-key 440a880086e7e9cbbcebbd7924e6a9562d77ee8de7e0ec63511436f2467f7dde

在arm上部署kubernetes参考：

• Kubernetes for arm 1.18.0快速安装
• kubernetes on arm发展现状

升级时出现一些小错误，后来解决了：

• kubernetes高可用集群升级的etcd错误
• Ubuntu跨版本升级出错问题解决
• Ubuntu apt upgrade出现error "NO_PUBKEY"的解决

1、升级kubeadm/kubectl/kubelet版本

sudo apt install kubeadm=1.18.3-00 kubectl=1.18.3-00 kubelet=1.18.3-00

• 设置中国区的软件源，参考： kubernetes for china

查看该版本的容器镜像版本：

kubeadm config images list

输出如下：

~# kubeadm config images list

k8s.gcr.io/kube-apiserver:v1.18.3
k8s.gcr.io/kube-controller-manager:v1.18.3
k8s.gcr.io/kube-scheduler:v1.18.3
k8s.gcr.io/kube-proxy:v1.18.3
k8s.gcr.io/pause:3.2
k8s.gcr.io/etcd:3.4.3-0
k8s.gcr.io/coredns:1.6.7

2、拉取容器镜像

原始的kubernetes镜像文件在gcr上，不能直接下载。我原来是把镜像到了阿里云的杭州机房的容器仓库里，拉取还是比较快的。现在hub.docker.com的访问没有问题了，有同学把镜像放到料里面，而且更新还挺及时，可以直接用。

MY_REGISTRY=mirrorgcrio
K8S_VERSION="1.18.3"

echo ""
echo "=========================================================="
echo "Pull Kubernetes for x64 v$K8S_VERSION Images from docker.io ......"
echo "=========================================================="
echo ""


## 拉取镜像
docker pull ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION
docker pull ${MY_REGISTRY}/etcd:3.4.3-0
docker pull ${MY_REGISTRY}/pause:3.2

#docker pull ${MY_REGISTRY}/coredns-arm64:1.6.7
docker pull coredns/coredns:1.6.7

## 添加Tag
docker tag ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION k8s.gcr.io/kube-apiserver:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION k8s.gcr.io/kube-scheduler:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION k8s.gcr.io/kube-controller-manager:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION k8s.gcr.io/kube-proxy:v$K8S_VERSION
docker tag ${MY_REGISTRY}/etcd:3.4.3-0 k8s.gcr.io/etcd:3.4.3-0
docker tag ${MY_REGISTRY}/pause:3.2 k8s.gcr.io/pause:3.2

#docker tag ${MY_REGISTRY}/coredns-arm64:1.6.7 k8s.gcr.io/coredns:1.6.7
docker tag coredns/coredns:1.6.7 k8s.gcr.io/coredns:1.6.7

echo ""
echo "=========================================================="
echo "Pull Kubernetes for x64 v$K8S_VERSION Images FINISHED."
echo "into docker.io/mirrorgcrio, "
echo " by openthings@https://my.oschina.net/u/2306127."
echo "=========================================================="

echo ""

保存为shell脚本，然后执行。

• 或者，下载脚本：https://github.com/openthings/kubernetes-tools/blob/master/kubeadm/2-images/

3、升级Kubernetes集群

全新安装：

#指定IP地址，1.18.3版本：
sudo kubeadm init --kubernetes-version=v1.18.3 --apiserver-advertise-address=10.1.1.199 --pod-network-cidr=10.244.0.0/16

高可用安装（多master节点）：

sudo kubeadm init --kubernetes-version=v1.18.0 
--apiserver-advertise-address=192.168.199.173 
--control-plane-endpoint=192.168.199.173:6443 
--pod-network-cidr=10.244.0.0/16 
--upload-certs

• 使用kubeadm部署高可用Kubernetes 1.17.0 

先查看一下需要升级的各个组件的版本。

使用kubeadm upgrade plan ，输出的版本升级信息如下：

Components that must be upgraded manually after you have upgraded the control plane with 'kubeadm upgrade apply':
COMPONENT   CURRENT       AVAILABLE
Kubelet     1 x v1.18.2   v1.18.3
            8 x v1.18.2   v1.18.3

Upgrade to the latest version in the v1.18 series:

COMPONENT            CURRENT   AVAILABLE
API Server           v1.18.2   v1.18.3
Controller Manager   v1.18.2   v1.18.3
Scheduler            v1.18.2   v1.18.3
Kube Proxy           v1.18.2   v1.18.3
CoreDNS              1.6.7     1.6.7
Etcd                 3.4.3-0     3.4.3-0

You can now apply the upgrade by executing the following command:

    kubeadm upgrade apply v1.18.3

确保上面的容器镜像已经下载（如果没有提前下载，可能被网络阻隔导致挂起），然后执行升级：

kubeadm upgrade apply v1.18.3

看到下面信息，就OK了。

[upgrade/successful] SUCCESS! Your cluster was upgraded to "v1.18.3". Enjoy!

然后，配置当前用户环境：

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

就可以使用 kubectl version 来查看状态和 kubectl cluster-info 查看服务地址。

• 如果服务没有起来，测试一下：
  • 查看服务版本，kubectl version
  • 查看集群信息，kubectl cluster-info
  • 查看服务状态，sudo systemctl status kubelet
  • 查看服务日志，journalctl -xefu kubelet

4、工作节点的升级

每个工作节点需要拉取上面对应版本的镜像，以及安装kubelet的对应版本。

检查版本：

~$ kubectl version

查看Pod信息：

kubectl get pod --all-namespaces

完成。

⚠️注意：1.17后版本，如果使用kubeadm安装为高可用模式，所有master节点都可以被升为最新版本（需要提前把k8s的容器镜像放到节点上去）。

更多参考：

• Kubernetes 1.17.4快速升级
• Kubernetes 1.17.2快速升级
• Kubernetes 1.17.1快速升级 
• Kubernetes 1.17.0 已发布
• 使用kubeadm部署高可用Kubernetes 1.17.0 
• Kubernetes 1.17.0管理界面Dashboard 2 
• 设置Kubernetes的Master节点运行应用pod 
• Kubernetes pod中systemctl状态探针失败问题 
• 运用Jupyter Notebook进行系统管理
• 将Jupyter/JupyterHub/JupyterLab运行为系统服务
• 快速设置JupyterHub for K8s 
• 在JupyterHub for K8s使用GlusterFS存储

来源：oschina

链接：https://my.oschina.net/u/2306127/blog/4298008