Flink Native Kubernetes实战
<h3 id="欢迎访问我的github">欢迎访问我的GitHub</h3><p>https://github.com/zq2599/blog_demos</p>
<p>内容：所有原创文章分类汇总及配套源码，涉及Java、Docker、Kubernetes、DevOPS等；</p>
<h3 id="回顾flink-kubernetes">回顾Flink Kubernetes</h3>
<p><font color="blue">Flink Kubernetes</font>与<font color="blue">Flink Native Kubernetes</font>是不同的概览，先回顾一下Flink Kubernetes：</p>
<ol>
<li>如下图，从1.2版本到目前最新的1.10，Flink官方都给出了Kubernetes上部署和运行Flink的方案：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093024016-465046598.png"></li>
<li>在kubernetes上有两种方式运行flink：<font color="blue">session cluster</font>和<font color="blue">job cluster</font>，其中session cluster是一套服务可以提交多个任务，而job cluster则是一套服务只对应一个任务；</li>
<li>下图是典型的session cluster部署操作，可见关键是准备好service、deployment等资源的yaml文件，再用kubectl命令创建：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093024396-272190963.png"></li>
</ol>
<h3 id="关于flink-native-kubernetes">关于Flink Native Kubernetes</h3>
<ol>
<li>先对比官方的1.9和1.10版本文档，如下图和红框和蓝框所示，可见<font color="blue">Flink Native Kubernetes</font>是1.10版本才有的新功能：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093025056-2041136517.png"></li>
<li>看看Native Kubernetes是如何运行的，如下图，创建session cluster的命令来自Flink安装包：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093025494-773161093.png"></li>
<li>更有趣的是，提交任务的命令也来自Flink安装包，就是我们平时提交任务用到<font color="blue">flink run</font>命令，如下图：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093025901-1044926168.png"></li>
<li>结合官方给出的提交和部署流程图就更清晰了：kubernetes上部署了Flink Master，由Flink Client来提交session cluster和job的请求：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093026483-331533418.png"></li>
</ol>
<h3 id="flink-kubernetes和flink-native-kubernetes的区别">Flink Kubernetes和Flink Native Kubernetes的区别</h3>
<p>至此，可以小结Flink Kubernetes和Flink Native Kubernetes的区别：</p>
<ol>
<li><font color="blue">Flink Kubernetes</font>自<strong>1.2</strong>版本首次出现，<font color="red">Flink Native Kubernetes</font>自<strong>1.10</strong>版本首次出现；</li>
<li><font color="blue">Flink Kubernetes</font>是把JobManager和TaskManager等进程放入容器，在kubernetes管理和运行，这和我们把java应用做成docker镜像再在kubernetes运行是一个道理，都是用kubectl在kubernetes上操作；</li>
<li><font color="red">Flink Native Kubernetes</font>是在Flink安装包中有个工具，此工具可以向kubernetes的Api Server发送请求，例如创建Flink Master，并且可以和Flink Master通讯，用于提交任务，我们只要用好Flink安装包中的工具即可，无需在kubernetes上执行kubectl操作；</li>
</ol>
<h3 id="flink-native-kubernetes在flink-110版本中的不足之处">Flink Native Kubernetes在Flink-1.10版本中的不足之处</h3>
<ol>
<li>Flink Native Kubernetes只是Beta版，属于实验性质（官方原话：still experimental），<font color="red">请勿用于生产环境！</font></li>
<li>只支持session cluster模式（一个常驻session执行多个任务），还不支持Job clusters模式(一个任务对应一个session)</li>
</ol>
<p>尽管还没有进入Release阶段，但这种操作模式对不熟悉kubernetes的开发者来说还是很友好的，接下来通过实战来体验吧；</p>
<h3 id="官方要求">官方要求</h3>
<p>为了体验Native Kubernetes，flink官方提出了下列前提条件：</p>
<ol>
<li>kubernetes版本不低于<font color="blue">1.9</font></li>
<li>kubernetes环境的DNS是正常的</li>
<li>KubeConfig文件，并且这个文件是有权对pod和service资源做增删改查的（kubectl命令有权对pod和service做操作，也是因为它使用了对应的KubeConfig文件），这个文件一般在kubernetes环境上，全路径：<font color="blue">~/.kube/config</font></li>
<li>pod执行时候的身份是service account，这个service account已经通过RBAC赋予了pod的增加和删除权限；</li>
</ol>
<p>前面两点需要您自己保证已达到要求，第三和第四点现在先不必关心，后面有详细的步骤来完成；</p>
<h3 id="实战环境信息">实战环境信息</h3>
<p>本次实战的环境如下图所示，一套kubernetes环境（版本是1.15.3），另外还有一台CentOS7电脑，上面已部署了flink-1.10（这里的部署是说把安装包解压，不启动任何服务）：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093026851-2082585661.png"><br>
准备完毕，开始实战了~</p>
<h3 id="实战内容简介">实战内容简介</h3>
<p>本次实战是在kubernetes环境创建一个session cluster，然后提交任务到这个sessionc cluster运行，与官方教程不同的是本次实战使用自定义namespace和service account，毕竟生产环境一般是不允许使用default作为namespace和service account的；</p>
<h3 id="实战">实战</h3>
<ol>
<li>在CetnOS7电脑上操作时使用的是root账号；</li>
<li>在kubernetes的节点上，确保有权执行kubectl命令对pod和service进行增删改查，将文件<font color="blue">~/.kube/config</font>复制到CentOS7电脑的<font color="blue">~/.kube/</font>目录下；</li>
<li>在kubernetes的节点上，执行以下命令创建名为<font color="blue">flink-session-cluster</font>的namespace：</li>
</ol>
<pre><code class="language-shell">kubectl create namespace flink-session-cluster
</code></pre>
<ol start="4">
<li>执行以下命令创建名为<font color="blue">flink</font>的serviceaccount：</li>
</ol>
<pre><code class="language-shell">kubectl create serviceaccount flink -n flink-session-cluster
</code></pre>
<ol start="5">
<li>执行以下命令做serviceaccount和角色的绑定：</li>
</ol>
<pre><code class="language-shell">kubectl create clusterrolebinding flink-role-binding-flink \
--clusterrole=edit \
--serviceaccount=flink-session-cluster:flink
</code></pre>
<ol start="6">
<li>SSH登录部署了flink的CentOS7电脑，在flink目录下执行以下命令，即可创建名为<font color="blue">session001</font>的session cluster，其中-Dkubernetes.namespace参数指定了namespace，另外还指定了一个TaskManager实例使用一个CPU资源、4G内存、内含6个slot：</li>
</ol>
<pre><code class="language-shell">./bin/kubernetes-session.sh \
-Dkubernetes.namespace=flink-session-cluster \
-Dkubernetes.jobmanager.service-account=flink \
-Dkubernetes.cluster-id=session001 \
-Dtaskmanager.memory.process.size=8192m \
-Dkubernetes.taskmanager.cpu=1 \
-Dtaskmanager.numberOfTaskSlots=4 \
-Dresourcemanager.taskmanager-timeout=3600000
</code></pre>
<ol start="7">
<li>如下图，控制台提示创建成功，并且红框中提示了flink web UI的访问地址是<font color="blue">http://192.168.50.135:31753</font>：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093027297-202152392.png"></li>
<li>下载镜像和启动容器需要一定的时间，可以用<font color="blue">kubectl get</font>和<font color="blue">kubectl describe</font>命令观察对应的deployment和pod的状态：</li>
</ol>
<p><img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093027899-1457519575.png"><br>
9. pod启动成功后访问flink web，如下图，此时还没有创建TaskManager，因此Slot为零：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093028400-719848168.png"><br>
10. 回到CentOS7电脑，在flink目录下执行以下命令，将官方自带的<font color="blue">WindowJoin</font>任务提交到session cluster：</p>
<pre><code class="language-shell">./bin/flink run -d \
-e kubernetes-session \
-Dkubernetes.namespace=flink-session-cluster \
-Dkubernetes.cluster-id=session001 \
examples/streaming/WindowJoin.jar
</code></pre>
<ol start="11">
<li>控制台提示提交任务成功：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093028853-1961022777.png"></li>
<li>页面上也会同步显示增加了一个TaskManager，对应6个slot，已经用掉了一个：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093029223-544951838.png"></li>
<li>再连续提交5次相同的任务，将此TaskManager的slot用光：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093029566-1000627731.png"></li>
<li>这时候再提交一次任务，按理来说应该增加一个TaskManager，可是页面如下图所示，TaskManager数量还是1，并没有增加，并且红框中显示新增的任务并没有正常运行起来：</li>
</ol>
<p><img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093029939-1443374246.png"><br>
15. 在kubernetes环境查看pod情况，如下图红框所示，有个新建的pod状态是Pending，看来这就是第七个任务不能执行就是因为这个新建的pod无法正常工作导致的：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093030343-14619680.png"><br>
16. 再看看这个namespace的事件通知，如下图红框所示，名为session001-taskmanager-1-2的pod有一条通知信息：<font color="blue">由于CPU资源不足导致pod创建失败</font>：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093031784-498878615.png"><br>
17. 穷到没钱配置kubernetes环境，连一核CPU都凑不齐：</p>
<p><img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093032395-185072793.png"><br>
18. 一时半会儿也找不出多余的CPU资源，唯一能做的就是降低TaskManager的CPU要求，刚才配置的是一个TaskManager使用一核CPU，我打算降低一半，即<font color="red">0.5核</font>，这样就够两个TaskManager用了；<br>
19. 您可能会疑惑：怎么会有0.5个CPU这样的配置？这个和kubernetes的资源限制有关，kubernetes对pod的CPU限制粒度是千分之一个CPU，也是就是在kubernetes中，配置1000单位的CPU表示使用1核，我们配置0.5核，不过是配置了500单位而已（所以我还可以更穷....）<br>
20. 接下来的操作是先停掉当前的session cluster，再重新创建一个，创建的时候参数<font color="blue">-Dkubernetes.taskmanager.cpu</font>的值从1改为<font color="red">0.5</font><br>
21. 在CentOS7电脑上执行以下命令，将session cluster停掉，释放所有资源：</p>
<pre><code class="language-shell">echo 'stop' | \
./bin/kubernetes-session.sh \
-Dkubernetes.namespace=flink-session-cluster \
-Dkubernetes.cluster-id=session001 \
-Dexecution.attached=true
</code></pre>
<ol start="22">
<li>控制台提示操作成功：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093033697-761026229.png"></li>
<li>稍等一分钟左右，再去查看pod，发现已经全部不见了：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093034157-184971987.png"></li>
<li>在CentOS7电脑的flink目录下，执行以下命令，和之前相比，唯一变化就是<font color="blue">-Dkubernetes.taskmanager.cpu</font>参数的值：</li>
</ol>
<pre><code class="language-shell">./bin/kubernetes-session.sh \
-Dkubernetes.namespace=flink-session-cluster \
-Dkubernetes.jobmanager.service-account=flink \
-Dkubernetes.cluster-id=session001 \
-Dtaskmanager.memory.process.size=4096m \
-Dkubernetes.taskmanager.cpu=0.5 \
-Dtaskmanager.numberOfTaskSlots=6 \
-Dresourcemanager.taskmanager-timeout=3600000
</code></pre>
<ol start="25">
<li>从控制台提示得到新的flink web UI端口值，再访问网页，发现启动成功了：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093034619-651080018.png"></li>
<li>像之前那样提交任务，连续提交7个，这一次很顺利，在提交了第七个任务后，新的TaskManager创建成功，7个任务都成功执行了：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093034995-710330444.png"></li>
<li>用<font color="blue">kubectl describe pod</font>命令查看TaskManager的pod，如下图红框所示，可见该pod的CPU用量是<font color="red">500单位</font>，符合之前的推测：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093035627-267785695.png"><br>
这里再提醒一下，降低CPU用量，意味着该pod中的进程获取的CPU执行时间被降低，会导致任务执行变慢，所以这种方法不可取，正确的思路是确保硬件资源能满足业务需求(像我这样穷到一核CPU都凑不齐的情况还是不多的....)</li>
</ol>
<h3 id="清理资源">清理资源</h3>
<p>如果已完成Flink Native Kubernetes体验，想彻底清理掉前面的所有资源，请按照以下步骤操作：</p>
<ol>
<li>在web页面点击Cancel Job停止正在运行的任务，如下图红框：<br>
<img src="https://img2020.cnblogs.com/other/485422/202011/485422-20201118093036261-1846407130.png"></li>
<li>在CentOS7电脑上停止session cluster：</li>
</ol>
<pre><code class="language-shell">echo 'stop' | \
./bin/kubernetes-session.sh \
-Dkubernetes.namespace=flink-session-cluster \
-Dkubernetes.cluster-id=session001 \
-Dexecution.attached=true
</code></pre>
<ol start="3">
<li>在kubernetes节点清理service、clusterrolebinding、serviceaccount、namespace：</li>
</ol>
<pre><code class="language-shell">kubectl delete service session001 -n flink-session-cluster
kubectl delete clusterrolebinding flink-role-binding-flink
kubectl delete serviceaccount flink -n flink-session-cluster
kubectl delete namespace flink-session-cluster
</code></pre>
<ol start="4">
<li>所有cluster session相关的ConfigMap、Service、Deployment、Pod等资源，都通过kubernetes的<font color="blue">ownerReferences</font>配置与service关联，因此一旦service被删除，其他资源被被自动清理掉，无需处理；</li>
</ol>
<p>至此，Flink Native Kubernetes相关的实战就完成了，如果您也在关注这个技术，希望本文能给您一些参考</p>
<h3 id="欢迎关注公众号程序员欣宸">欢迎关注公众号：程序员欣宸</h3>
<blockquote>
<p>微信搜索「程序员欣宸」，我是欣宸，期待与您一同畅游Java世界...<br>
https://github.com/zq2599/blog_demos</p>
</blockquote><br><br>
来源：https://www.cnblogs.com/bolingcavalry/p/13997993.html
頁:
[1]