Docker容器日志管理最佳实践

秋枫糖糖 發表於 2019-5-23 08:53:00

<p></p><div class="toc"><div class="toc-container-header">目录</div><ul><li>一、Docker 引擎日志</li><li>二、容器日志<ul><li>2.1、常用查看日志命令——docker logs</li><li>2.2 、Docker 日志驱动<ul><li>Docker 日志驱动常用命令</li><li>Docker 日志驱动全局配置更改</li><li>Docker 单一容器日志驱动配置</li><li>日志驱动一、local</li><li>日志驱动二、默认的日志驱动—JSON</li><li>日志驱动三、syslog</li><li>日志驱动四、Journald</li></ul></li></ul></li><li>三、生产环境中该如何储存容器中的日志<ul><li><ul><li>容器日志分类</li></ul></li><li>一、当是完全是标准输出的类型的容器</li><li>二、当有文件文本日志的类型容器<ul><li>方案一挂载目录bind</li><li>方案二使用数据卷 volume</li><li>方案三计算容器 rootfs 挂载点</li><li>方案四在代码层中实现直接将日志写入redis</li></ul></li></ul></li></ul></div><p></p>
<p>博文样式在手机观看比较差，<code>GitHub</code> 对应文章地址：点我<br>
<strong>本文所有内容基于：</strong></p>
<pre><code class="language-txt">Docker-CE
Server Version: 18.09.6
Storage Driver: overlay2
Kernel Version: 3.10.0-862.el7.x86_64
Operating System: CentOS Linux 7 (Core)
</code></pre>
<p>Docker日志分为两类：</p>
<ul>
<li>Docker 引擎日志(也就是 dockerd 运行时的日志)，</li>
<li>容器的日志，容器内的服务产生的日志。</li>
</ul>
<h2 id="一-docker-引擎日志">一、Docker 引擎日志</h2>
<p>Docker 引擎日志一般是交给了 Upstart(Ubuntu 14.04) 或者 systemd (CentOS 7, Ubuntu 16.04)。前者一般位于 /var/log/upstart/docker.log 下，后者我们一般通过<code>journalctl -udocker </code>来进行查看。</p>
<table>
<thead>
<tr>
<th>系统</th>
<th>日志位置</th>
</tr>
</thead>
<tbody>
<tr>
<td>Ubuntu(14.04)</td>
<td><code>/var/log/upstart/docker.log</code></td>
</tr>
<tr>
<td>Ubuntu(16.04)</td>
<td><code>journalctl -u docker.service</code></td>
</tr>
<tr>
<td>CentOS 7/RHEL 7/Fedora</td>
<td><code>journalctl -u docker.service</code></td>
</tr>
<tr>
<td>CoreOS</td>
<td><code>journalctl -u docker.service</code></td>
</tr>
<tr>
<td>OpenSuSE</td>
<td><code>journalctl -u docker.service</code></td>
</tr>
<tr>
<td>OSX</td>
<td><code>~/Library/Containers/com.docker.docker/Data/com.docker.driver.amd64-linux/log/d‌ocker.log</code></td>
</tr>
<tr>
<td>Debian GNU/Linux 7</td>
<td><code>/var/log/daemon.log</code></td>
</tr>
<tr>
<td>Debian GNU/Linux 8</td>
<td><code>journalctl -u docker.service</code></td>
</tr>
<tr>
<td>Boot2Docker</td>
<td><code>/var/log/docker.log</code></td>
</tr>
</tbody>
</table>
<p>以上内容来自：https://blog.lab99.org/post/docker-2016-07-14-faq.html</p>
<h2 id="二容器日志">二、容器日志</h2>
<h3 id="21常用查看日志命令docker-logs">2.1、常用查看日志命令——docker logs</h3>
<p><code>docker logs CONTAINER</code> 显示当前运行的容器的日志信息， UNIX 和 Linux 的命令有三种输入输出，分别是 STDIN(标准输入)、STDOUT(标准输出)、STDERR(标准错误输出)，docker logs显示的内容包含 STOUT 和 STDERR。在生产环境，如果我们的应用输出到我们的日志文件里，所以我们在使用dockerlogs 一般收集不到太多重要的日志信息。</p>
<blockquote>
<ul>
<li>nginx 官方镜像，使用了一种方式，让日志输出到 STDOUT，也就是创建一个符号链接 <code>/var/log/nginx/access.log</code> 到 <code>/dev/stdout</code>。</li>
<li>httpd 使用的是让其输出到指定文件，正常日志输出到 <code>/proc/self/fd/1</code> (STDOUT) ，错误日志输出到 <code>/proc/self/fd/2</code> (STDERR)。</li>
<li>当日志量比较大的时候，我们使用 docker logs 来查看日志，会对 docker daemon 造成比较大的压力，容器导致容器创建慢等一系列问题。</li>
<li><strong>只有使用了 <code>local 、json-file、journald</code>的日志驱动的容器才可以使用 docker logs 捕获日志，使用其他日志驱动无法使用 <code>docker logs</code></strong></li>
</ul>
</blockquote>
<h3 id="22-docker-日志-驱动">2.2 、Docker 日志驱动</h3>
<p>Docker 提供了两种模式用于将消息从容器到日志驱动。</p>
<ul>
<li>(默认)拒绝，阻塞从容器到容器驱动</li>
<li>非阻塞传递,日志将储存在容器的缓冲区。</li>
</ul>
<blockquote>
<p>当缓冲区满，旧的日志将被丢弃。</p>
</blockquote>
<p>在 mode 日志选项控制使用 <code>blocking(默认)</code> 或者 <code>non-blocking</code>, 当设置为 <code>non-blocking</code> 需要设置 <code>max-buffer-size</code> 参数(默认为 1MB)。</p>
<p>支持的驱动</p>
<table>
<thead>
<tr>
<th style="text-align: left"></th>
<th style="text-align: left">描述</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align: left"><code>none</code></td>
<td style="text-align: left">运行的容器没有日志，<code>docker logs</code>也不返回任何输出。</td>
</tr>
<tr>
<td style="text-align: left"><code>local</code></td>
<td style="text-align: left">日志以自定义格式存储，旨在实现最小开销。</td>
</tr>
<tr>
<td style="text-align: left"><code>json-file</code></td>
<td style="text-align: left">日志格式为JSON。Docker的默认日志记录驱动程序。</td>
</tr>
<tr>
<td style="text-align: left"><code>syslog</code></td>
<td style="text-align: left">将日志消息写入<code>syslog</code>。该<code>syslog</code>守护程序必须在主机上运行。</td>
</tr>
<tr>
<td style="text-align: left"><code>journald</code></td>
<td style="text-align: left">将日志消息写入<code>journald</code>。该<code>journald</code>守护程序必须在主机上运行。</td>
</tr>
<tr>
<td style="text-align: left"><code>gelf</code></td>
<td style="text-align: left">将日志消息写入Graylog扩展日志格式（GELF）端点，例如Graylog或Logstash。</td>
</tr>
<tr>
<td style="text-align: left"><code>fluentd</code></td>
<td style="text-align: left">将日志消息写入<code>fluentd</code>（转发输入）。该<code>fluentd</code>守护程序必须在主机上运行。</td>
</tr>
<tr>
<td style="text-align: left"><code>awslogs</code></td>
<td style="text-align: left">将日志消息写入Amazon CloudWatch Logs。</td>
</tr>
<tr>
<td style="text-align: left"><code>splunk</code></td>
<td style="text-align: left">使用HTTP事件收集器将日志消息写入<code>splunk</code>。</td>
</tr>
<tr>
<td style="text-align: left"><code>etwlogs</code></td>
<td style="text-align: left">将日志消息写为Windows事件跟踪（ETW）事件。仅适用于Windows平台。</td>
</tr>
<tr>
<td style="text-align: left"><code>gcplogs</code></td>
<td style="text-align: left">将日志消息写入Google Cloud Platform（GCP）Logging。</td>
</tr>
<tr>
<td style="text-align: left"><code>logentries</code></td>
<td style="text-align: left">将日志消息写入Rapid7 Logentries。</td>
</tr>
</tbody>
</table>
<p>使用 Docker-CE 版本，<code>docker logs </code>命令仅仅适用于以下驱动程序(前面 docker logs 详解也提及到了)</p>
<ul>
<li>local</li>
<li>json-file</li>
<li>journald</li>
</ul>
<p><img src="https://djxblog.oss-cn-shenzhen.aliyuncs.com/picture/docker/docker-log-driver.png" alt="1558055133186" loading="lazy"></p>
<h4 id="docker-日志驱动常用命令">Docker 日志驱动常用命令</h4>
<p>查看系统当前设置的日志驱动</p>
<pre><code class="language-bash">dockerinfo |grep"Logging Driver"/ docker info --format '{{.LoggingDriver}}'
</code></pre>
<p>查看单个容器的设置的日志驱动</p>
<pre><code class="language-bash">docker inspect-f '{{.HostConfig.LogConfig.Type}}' 容器id
</code></pre>
<h4 id="docker-日志驱动全局配置更改">Docker 日志驱动全局配置更改</h4>
<p>修改日志驱动，在配置文件 <code>/etc/docker/daemon.json</code>（注意该文件内容是 JSON 格式的）进行配置即可。</p>
<p>示例：</p>
<pre><code>{
"log-driver": "syslog"
}
</code></pre>
<p>以上更改是针对所有的容器的日志驱动的。我们也可以单独为单一容器设置日志驱动。</p>
<h4 id="docker-单一容器日志驱动配置">Docker 单一容器日志驱动配置</h4>
<p>在运行容器的时候指定日志驱动 <code>--log-driver</code>。</p>
<pre><code class="language-bash">dockerrun-itd --log-driver none alpine ash # 这里指定的日志驱动为 none
</code></pre>
<h4 id="日志驱动-一-local">日志驱动一、local</h4>
<p><code>local</code>日志驱动记录从容器的 <code>STOUT/STDERR</code> 的输出，并写到宿主机的磁盘。</p>
<p>默认情况下，local日志驱动为每个容器保留 100MB 的日志信息，并启用自动压缩来保存。(经过测试，保留100MB 的日志是指没有经过压缩的日志)</p>
<p>local 日志驱动的储存位置 <code>/var/lib/docker/containers/容器id/local-logs/</code> 以 <code>container.log</code> 命名。</p>
<p><strong>local 驱动支持的选项</strong></p>
<table>
<thead>
<tr>
<th style="text-align: left">选项</th>
<th style="text-align: left">描述</th>
<th style="text-align: left">示例值</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align: left"><code>max-size</code></td>
<td style="text-align: left">切割之前日志的最大大小。可取值为(k,m,g)，默认为20m。</td>
<td style="text-align: left"><code>--log-opt max-size=10m</code></td>
</tr>
<tr>
<td style="text-align: left"><code>max-file</code></td>
<td style="text-align: left">可以存在的最大日志文件数。如果超过最大值，则会删除最旧的文件。**仅在max-size设置时有效。默认为5。</td>
<td style="text-align: left"><code>--log-opt max-file=3</code></td>
</tr>
<tr>
<td style="text-align: left"><code>compress</code></td>
<td style="text-align: left">对应切割日志文件是否启用压缩。默认情况下启用。</td>
<td style="text-align: left"><code>--log-opt compress=false</code></td>
</tr>
</tbody>
</table>
<p><strong>全局日志驱动设置为—local</strong></p>
<p>在配置文件 <code>/etc/docker/daemon.json</code>（注意该文件内容是 JSON 格式的）进行配置即可。</p>
<pre><code>{
"log-driver": "local",
"log-opts": {
"max-size": "10m"
}
}
</code></pre>
<p>重启 docker即可生效。</p>
<p><strong>单个容器日志驱动设置为—local</strong></p>
<p>运行容器并设定为 <code>local</code> 驱动。</p>
<pre><code class="language-bash">#运行一个容器，并设定日志驱动为 local ，并运行命令 ping www.baidu.com
# docker run-itd--log-driverlocalalpineping www.baidu.com
3795b6483534961c1d5223359ad1106433ce2bf25e18b981a47a2d79ad7a3156
#查看运行的容器的日志驱动是否是 local
# docker inspect-f '{{.HostConfig.LogConfig.Type}}' 3795b6483534961c
local
# 查看日志
# tail -f/var/lib/docker/containers/3795b6483534961c1d5223359ad1106433ce2bf25e18b981a47a2d79ad7a3156/local-logs/container.log
NNdoutםѰ͕̈:64 bytes from 14.215.177.38: seq=816 ttl=55 time=5.320 ms
NNdoutهµ͕̈͡:64 bytes from 14.215.177.38: seq=817 ttl=55 time=4.950 ms
</code></pre>
<blockquote>
<p>注意事项：经过测试，当我们产生了100 MB 大小的日志时会有四个压缩文件和一个 <code>container.log</code>：</p>
<pre><code class="language-bash"># ls -l
total 32544
-rw-r-----. 1 root root 18339944 May 16 09:41 container.log
-rw-r-----. 1 root root3698660 May 16 09:41 container.log.1.gz
-rw-r-----. 1 root root3726315 May 16 09:41 container.log.2.gz
-rw-r-----. 1 root root3805668 May 16 09:41 container.log.3.gz
-rw-r-----. 1 root root3744104 May 16 09:41 container.log.4.gz
</code></pre>
<p>那么当超过了 100MB 的日志文件，日志文件会继续写入到<code>container.log</code>，但是会将<code>container.log</code> 日志中老的日志删除，追加新的，也就是当写满 100MB 日志后，再产生一条新日志，会删除<code>container.log</code> 中的一条老日志，保存 100MB 的大小。<strong>这个对我们是会有一些影响的，</strong></p>
<pre><code class="language-tex">当我运行系统时第一天由于bug产生了 100MB 日志，那么之前的日志就已经有 80MB 日志变成的压缩包，所以我在后续的运行中，只能获取最近的 20MB日志。

</code></pre>
</blockquote>
<h4 id="日志驱动-二-默认的日志驱动json">日志驱动二、默认的日志驱动—JSON</h4>
<p><strong>所有容器默认的日志驱动 <code>json-file</code></strong>。</p>
<p><code>json-file</code> 日志驱动记录从容器的 <code>STOUT/STDERR</code> 的输出，用 JSON 的格式写到文件中，日志中不仅包含着输出日志，还有时间戳和输出格式。下面是一个 <code>ping www.baidu.com</code>对应的 JSON 日志</p>
<pre><code class="language-json">{"log":"64 bytes from 14.215.177.39: seq=34 ttl=55 time=7.067 ms\r\n","stream":"stdout","time":"2019-05-16T14:14:15.030612567Z"}

</code></pre>
<p>json-file日志的路径位于 <code>/var/lib/docker/containers/container_id/container_id-json.log</code>。</p>
<p><code>json-file</code> 的日志驱动支持以下选项：</p>
<table>
<thead>
<tr>
<th style="text-align: left">选项</th>
<th style="text-align: left">描述</th>
<th style="text-align: left">示例值</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align: left"><code>max-size</code></td>
<td style="text-align: left">切割之前日志的最大大小。可取值单位为(k,m,g)，默认为-1（表示无限制）。</td>
<td style="text-align: left"><code>--log-opt max-size=10m</code></td>
</tr>
<tr>
<td style="text-align: left"><code>max-file</code></td>
<td style="text-align: left">可以存在的最大日志文件数。如果切割日志会创建超过阈值的文件数，则会删除最旧的文件。<strong>仅在max-size设置时有效。</strong>正整数。默认为1。</td>
<td style="text-align: left"><code>--log-opt max-file=3</code></td>
</tr>
<tr>
<td style="text-align: left"><code>labels</code></td>
<td style="text-align: left">适用于启动Docker守护程序时。此守护程序接受的以逗号分隔的与日志记录相关的标签列表。</td>
<td style="text-align: left"><code>--log-opt labels=production_status,geo</code></td>
</tr>
<tr>
<td style="text-align: left"><code>env</code></td>
<td style="text-align: left">适用于启动Docker守护程序时。此守护程序接受的以逗号分隔的与日志记录相关的环境变量列表。</td>
<td style="text-align: left"><code>--log-opt env=os,customer</code></td>
</tr>
<tr>
<td style="text-align: left"><code>env-regex</code></td>
<td style="text-align: left">类似于并兼容<code>env</code>。用于匹配与日志记录相关的环境变量的正则表达式。</td>
<td style="text-align: left">`--log-opt env-regex=^(os</td>
</tr>
<tr>
<td style="text-align: left"><code>compress</code></td>
<td style="text-align: left">切割的日志是否进行压缩。默认是<code>disabled</code>。</td>
<td style="text-align: left"><code>--log-opt compress=true</code></td>
</tr>
</tbody>
</table>
<p><strong><code>json-file</code> 的日志驱动示例</strong></p>
<pre><code class="language-bash"># 设置日志驱动为 json-file ，我们也可以不设置，因为默认就是 json-file
docker run-itd--nametest-log-json--log-driver json-file alpineping www.baidu.com
199608b2e2c52136d2a17e539e9ef7fbacf97f1293678aded421dadbdb006a5e

# 查看日志,日志名称就是容器名称-json.log
tail -f /var/lib/docker/containers/199608b2e2c52136d2a17e539e9ef7fbacf97f1293678aded421dadbdb006a5e/199608b2e2c52136d2a17e539e9ef7fbacf97f1293678aded421dadbdb006a5e-json.log

{"log":"64 bytes from 14.215.177.39: seq=13 ttl=55 time=15.023 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:54.003118877Z"}
{"log":"64 bytes from 14.215.177.39: seq=14 ttl=55 time=9.640 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:54.999011017Z"}
{"log":"64 bytes from 14.215.177.39: seq=15 ttl=55 time=8.938 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:55.998612636Z"}
{"log":"64 bytes from 14.215.177.39: seq=16 ttl=55 time=18.086 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:57.011235913Z"}
{"log":"64 bytes from 14.215.177.39: seq=17 ttl=55 time=12.615 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:58.007104112Z"}
{"log":"64 bytes from 14.215.177.39: seq=18 ttl=55 time=11.001 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:59.007559413Z"}

</code></pre>
<h4 id="日志驱动-三syslog">日志驱动三、syslog</h4>
<p>syslog 日志驱动将日志路由到 syslog 服务器，syslog 以原始的字符串作为日志消息元数据，接收方可以提取以下的消息：</p>
<ul>
<li>level日志等级，如<code>debug</code>，<code>warning</code>，<code>error</code>，<code>info</code>。</li>
<li>timestamp时间戳</li>
<li>hostname事件发生的主机</li>
<li>facillty系统模块</li>
<li>进程名称和进程 ID</li>
</ul>
<p><strong><code>syslog</code> 日志驱动全局配置</strong></p>
<p>编辑 <code>/etc/docker/daemon.json</code>文件</p>
<pre><code class="language-json">{
"log-driver": "syslog",
"log-opts": {
"syslog-address": "udp://1.2.3.4:1111"
}
}

</code></pre>
<p>重启 docker即可生效。</p>
<table>
<thead>
<tr>
<th style="text-align: left">Option</th>
<th style="text-align: left">Description</th>
<th style="text-align: left">Example value</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align: left"><code>syslog-address</code></td>
<td style="text-align: left">指定syslog 服务所在的服务器和使用的协议和端口。格式：`[tcp</td>
<td style="text-align: left">udp</td>
</tr>
<tr>
<td style="text-align: left"><code>syslog-facility</code></td>
<td style="text-align: left">使用的 <code>syslog</code> 的设备，具体设备名称见 syslog documentation.</td>
<td style="text-align: left"><code>--log-opt syslog-facility=daemon</code></td>
</tr>
<tr>
<td style="text-align: left"><code>syslog-tls-ca-cert</code></td>
<td style="text-align: left">如果使用的是 <code>tcp+tls</code> 的地址，指定CA 证书的地址，如果没有使用，则不设置该选项。</td>
<td style="text-align: left"><code>--log-opt syslog-tls-ca-cert=/etc/ca-certificates/custom/ca.pem</code></td>
</tr>
<tr>
<td style="text-align: left"><code>syslog-tls-cert</code></td>
<td style="text-align: left">如果使用的是 <code>tcp+tls</code> 的地址，指定 TLS 证书的地址，如果没有使用，则不设置该选项。</td>
<td style="text-align: left"><code>--log-opt syslog-tls-cert=/etc/ca-certificates/custom/cert.pem</code></td>
</tr>
<tr>
<td style="text-align: left"><code>syslog-tls-key</code></td>
<td style="text-align: left">如果使用的是 <code>tcp+tls</code> 的地址，指定 TLS 证书 key的地址，如果没有使用，则不设置该选项。**</td>
<td style="text-align: left"><code>--log-opt syslog-tls-key=/etc/ca-certificates/custom/key.pem</code></td>
</tr>
<tr>
<td style="text-align: left"><code>syslog-tls-skip-verify</code></td>
<td style="text-align: left">如果设置为 true ，会跳过 TLS 验证，默认为 false</td>
<td style="text-align: left"><code>--log-opt syslog-tls-skip-verify=true</code></td>
</tr>
<tr>
<td style="text-align: left"><code>tag</code></td>
<td style="text-align: left">将应用程序的名称附加到 <code>syslog</code> 消息中，默认情况下使用容器ID的前12位去标记这个日志信息。</td>
<td style="text-align: left"><code>--log-opt tag=mailer</code></td>
</tr>
<tr>
<td style="text-align: left"><code>syslog-format</code></td>
<td style="text-align: left"><code>syslog</code> 使用的消息格式如果未指定则使用本地 UNIX syslog 格式，rfc5424micro 格式具有微妙时间戳。</td>
<td style="text-align: left"><code>--log-opt syslog-format=rfc5424micro</code></td>
</tr>
<tr>
<td style="text-align: left"><code>labels</code></td>
<td style="text-align: left">启动 docker 时，配置与日志相关的标签，以逗号分割</td>
<td style="text-align: left"><code>--log-opt labels=production_status,geo</code></td>
</tr>
<tr>
<td style="text-align: left"><code>env</code></td>
<td style="text-align: left">启动 docker 时，指定环境变量用于日志中，以逗号分隔</td>
<td style="text-align: left"><code>--log-opt env=os,customer</code></td>
</tr>
<tr>
<td style="text-align: left"><code>env-regex</code></td>
<td style="text-align: left">类似并兼容 <code>env</code>，</td>
<td style="text-align: left"><code>--log-opt env-regex=^(os|customer)</code></td>
</tr>
</tbody>
</table>
<p>**单个容器日志驱动设置为—syslog **</p>
<p><code>Linux</code> 系统中我们用的系统日志模块时<code>rsyslog</code> ，它是基于<code>syslog</code> 的标准实现。我们要使用 syslog 驱动需要使用系统自带的 <code>rsyslog</code> 服务。</p>
<pre><code class="language-bash"># 查看当前 rsyslog 版本和基本信息
# rsyslogd-v
rsyslogd 8.24.0, compiled with:
PLATFORM: x86_64-redhat-linux-gnu
PLATFORM (lsb_release -d):
FEATURE_REGEXP: Yes
GSSAPI Kerberos 5 support: Yes
FEATURE_DEBUG (debug build, slow code): No
32bit Atomic operations supported: Yes
64bit Atomic operations supported: Yes
memory allocator: system default
Runtime Instrumentation (slow code): No
uuid support: Yes
Number of Bits in RainerScript integers: 64

See http://www.rsyslog.com for more information.

</code></pre>
<p>配置 syslog , 在配置文件 <code>/etc/rsyslog.conf</code>大约14-20行，我们可以看到两个配置，一个udp，一个tcp ，都是监听 514 端口，提供 syslog 的接收。选择 tcp 就将 tcp 的两个配置的前面 # 号注释即可。</p>
<pre><code># Provides UDP syslog reception
#$ModLoad imudp
#$UDPServerRun 514

# Provides TCP syslog reception
#$ModLoad imtcp
#$InputTCPServerRun 514

</code></pre>
<p>然后重启 rsyslog，我们可以看到514端口在监听。</p>
<pre><code class="language-bash">systemctl restartrsyslog
# netstat -ntul |grep 514
tcp 0 0 0.0.0.0:514 0.0.0.0:* LISTEN
tcp6 0 0 :::514 :::* LISTEN

</code></pre>
<p>启动一个以<code>syslog</code> 为驱动的容器。</p>
<pre><code class="language-bash">dockerrun -d -it-p 87:80 --log-driver syslog --log-opt syslog-address=tcp://127.0.0.1:514--name nginx-syslog nginx

</code></pre>
<p>访问并查看日志</p>
<pre><code class="language-bash"># 访问nginx
curl 127.0.0.1:87
# 查看访问日志
tail -f/var/log/messages
May 17 15:56:48 localhost fe18924aefde: 172.17.0.1 - - "GET / HTTP/1.1" 200 612 "-" "curl/7.29.0" "-"#015
May 17 15:58:16 localhost fe18924aefde: 172.17.0.1 - - "GET / HTTP/1.1" 200 612 "-" "curl/7.29.0" "-"#015

</code></pre>
<h4 id="日志驱动-四journald">日志驱动四、Journald</h4>
<p><code>journald</code> 日志驱动程序将容器的日志发送到 <code>systemd journal</code>, 可以使用 <code>journal API</code> 或者使用 <code>docker logs</code> 来查日志。</p>
<p>除了日志本身以外， <code>journald</code>日志驱动还会在日志加上下面的数据与消息一起储存。</p>
<table>
<thead>
<tr>
<th style="text-align: left">Field</th>
<th style="text-align: left">Description</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align: left"><code>CONTAINER_ID</code></td>
<td style="text-align: left">容器ID,为 12个字符</td>
</tr>
<tr>
<td style="text-align: left"><code>CONTAINER_ID_FULL</code></td>
<td style="text-align: left">完整的容器ID，为64个字符</td>
</tr>
<tr>
<td style="text-align: left"><code>CONTAINER_NAME</code></td>
<td style="text-align: left">启动时容器的名称，如果容器后面更改了名称，日志中的名称不会更改。</td>
</tr>
<tr>
<td style="text-align: left"><code>CONTAINER_TAG</code>, <code>SYSLOG_IDENTIFIER</code></td>
<td style="text-align: left">容器的tag.</td>
</tr>
<tr>
<td style="text-align: left"><code>CONTAINER_PARTIAL_MESSAGE</code></td>
<td style="text-align: left">当日志比较长的时候使用标记来表示(显示日志的大小)</td>
</tr>
</tbody>
</table>
<p>选项</p>
<table>
<thead>
<tr>
<th style="text-align: left">选项</th>
<th style="text-align: left">是否必须</th>
<th style="text-align: left">描述</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align: left"><code>tag</code></td>
<td style="text-align: left">可选的</td>
<td style="text-align: left">指定要在日志中设置<code>CONTAINER_TAG</code>和<code>SYSLOG_IDENTIFIER</code>值的模板。</td>
</tr>
<tr>
<td style="text-align: left"><code>labels</code></td>
<td style="text-align: left">可选的</td>
<td style="text-align: left">以逗号分隔的标签列表，如果为容器指定了这些标签，则应包含在消息中。</td>
</tr>
<tr>
<td style="text-align: left"><code>env</code></td>
<td style="text-align: left">可选的</td>
<td style="text-align: left">如果为容器指定了这些变量，则以逗号分隔的环境变量键列表（应包含在消息中）。</td>
</tr>
<tr>
<td style="text-align: left"><code>env-regex</code></td>
<td style="text-align: left">可选的</td>
<td style="text-align: left">与env类似并兼容。用于匹配与日志记录相关的环境变量的正则表达式。</td>
</tr>
</tbody>
</table>
<p><strong><code>journald</code> 日志驱动全局配置</strong></p>
<p>编辑 <code>/etc/docker/daemon.json</code>文件</p>
<pre><code>{
"log-driver": "journald"
}

</code></pre>
<p><strong>单个容器日志驱动设置为—<code>journald</code></strong></p>
<pre><code>dockerrun-d -it --log-driver=journald \
--log-opt labels=location \
--log-opt env=TEST \
--env "TEST=false" \
--label location=china \
--namenginx-journald\
-p 80:80\
nginx

</code></pre>
<p>查看日志 <code>journalctl</code></p>
<pre><code class="language-bash"># 只查询指定容器的相关消息
journalctl CONTAINER_NAME=webserver
# -b 指定从上次启动以来的所有消息
journalctl -b CONTAINER_NAME=webserver
# -o 指定日志消息格式，-o json 表示以json 格式返回日志消息
journalctl -o json CONTAINER_NAME=webserver
# -f 一直捕获日志输出
journalctl -f CONTAINER_NAME=webserver

</code></pre>
<blockquote>
<p>如果我们的容器在启动的时候加了 -t 参数，启用了 TTY 的话，那么我查看日志是会像下面一样</p>
<pre><code class="language-text">May 17 17:19:26 localhost.localdomain 2a338e4631fe:
May 17 17:19:32 localhost.localdomain 2a338e4631fe:

</code></pre>
<p>显示<code></code> 而不是完整日志原因是因为有 <code>\r</code> 的存在，如果我们要完整显示，需要加上参数 <code>--all</code> 。</p>
</blockquote>
<h2 id="三-生产环境中该如何储存容器中的日志">三、生产环境中该如何储存容器中的日志</h2>
<p>我们在上面看到了 Docker 官方提供了很多日志驱动，但是上面的这些驱动都是针对的标准输出的日志驱动。</p>
<h4 id="容器日志分类">容器日志分类</h4>
<p>容器的日志实际是有两大类的：</p>
<ul>
<li>
<p><strong>标准输出的</strong> ，也就是 STDOUT 、STDERR ,<strong>这类日志我们可以通过 Docker 官方的日志驱动进行收集。</strong></p>
<p>示例：Nginx 日志，Nginx 日志有 <code>access.log</code> 和 <code>error.log</code> ，我们在 Docker Hub 上可以看到Nginx 的 dockerfile对于这两个日志的处理是：</p>
<pre><code class="language-dockerfile">RUN ln -sf /dev/stdout /var/log/nginx/access.log \
&& ln -sf /dev/stderr /var/log/nginx/error.log

</code></pre>
<p>都软连接到 <code>/dev/stdout</code> 和 <code>/dev/stderr</code>，也就是标准输出，所以这类容器是可以使用 Docker 官方的日志驱动。</p>
</li>
<li>
<p><strong>文本日志</strong>，存在在于容器内部，并没有重定向到容器的标准输出的日志。</p>
<p>示例： Tomcat 日志，Tomcat 有 catalina、localhost、manager、admin、host-manager，我们可以在 Docker Hub 看到 Tomcat 的 dockerfile 只有对于 catalina 进行处理，其它日志将储存在容器里。</p>
<pre><code class="language-dockerfile">CMD ["catalina.sh", "run"]

</code></pre>
<p>我们运行了一个 Tomcat 容器，然后进行访问后，并登陆到容器内部，我们可以看到产生了文本日志：</p>
<pre><code class="language-bash">root@25ba00fdab97:/usr/local/tomcat/logs# ls -l
total 16
-rw-r-----. 1 root root 6822 May 17 14:36 catalina.2019-05-17.log
-rw-r-----. 1 root root 0 May 17 14:36 host-manager.2019-05-17.log
-rw-r-----. 1 root root459 May 17 14:36 localhost.2019-05-17.log
-rw-r-----. 1 root root 1017 May 17 14:37 localhost_access_log.2019-05-17.txt
-rw-r-----. 1 root root 0 May 17 14:36 manager.2019-05-17.log

</code></pre>
<p>这类容器我们下面有专门的方案来应对。</p>
</li>
</ul>
<h3 id="一当是完全是标准输出的类型的容器">一、当是完全是标准输出的类型的容器</h3>
<p>我们可以选择json-file 、syslog、local 等 Docker 支持的日志驱动。</p>
<h3 id="二当有文件文本日志的类型容器">二、当有文件文本日志的类型容器</h3>
<h4 id="方案一-挂载目录--bind">方案一挂载目录bind</h4>
<p>创建一个目录，将目录挂载到容器中产生日志的目录。</p>
<pre><code class="language-bash">--mounttype=bind,src=/opt/logs/,dst=/usr/local/tomcat/logs/

</code></pre>
<p>示例：</p>
<pre><code class="language-bash"># 创建挂载目录/opt/logs
# mkdir/opt/logs
# 创建容器tomcat-bind 并将 /opt/logs 挂载至 /usr/local/tomcat/logs/
# dockerrun -d--nametomcat-bind-P--mounttype=bind,src=/opt/logs/,dst=/usr/local/tomcat/logs/ tomcat
# ls -l /opt/logs/
total 12
-rw-r----- 1 root root 6820 May 22 17:31 catalina.2019-05-22.log
-rw-r----- 1 root root 0 May 22 17:31 host-manager.2019-05-22.log
-rw-r----- 1 root root459 May 22 17:31 localhost.2019-05-22.log
-rw-r----- 1 root root 0 May 22 17:31 localhost_access_log.2019-05-22.txt
-rw-r----- 1 root root 0 May 22 17:31 manager.2019-05-22.log

</code></pre>
<h4 id="方案二-使用数据卷-volume">方案二使用数据卷 volume</h4>
<p>创建数据卷，创建容器时绑定数据卷，</p>
<pre><code class="language-bash">--mounttype=volumesrc=volume_namedst=/usr/local/tomcat/logs/

</code></pre>
<p>示例：</p>
<pre><code class="language-bash"># 创建tomcat应用数据卷名称为 tomcat
# docker volumecreatetomcat
# 创建容器tomcat-volume 并指定数据卷为 tomcat，绑定至 /usr/local/tomcat/logs/
# dockerrun -d--nametomcat-volume -P--mounttype=volume,src=tomcat,dst=/usr/local/tomcat/logs/ tomcat
# 查看数据卷里面的内容
# ls -l /var/lib/docker/volumes/tomcat/_data/
total 12
-rw-r----- 1 root root 6820 May 22 17:33 catalina.2019-05-22.log
-rw-r----- 1 root root 0 May 22 17:33 host-manager.2019-05-22.log
-rw-r----- 1 root root459 May 22 17:33 localhost.2019-05-22.log
-rw-r----- 1 root root 0 May 22 17:33 localhost_access_log.2019-05-22.txt
-rw-r----- 1 root root 0 May 22 17:33 manager.2019-05-22.log

</code></pre>
<h4 id="方案三-计算容器-rootfs-挂载点">方案三计算容器 rootfs 挂载点</h4>
<p>此方案的文字内容摘抄于 https://yq.aliyun.com/articles/672054</p>
<p>使用挂载宿主机目录的方式采集日志对应用会有一定的侵入性，因为它要求容器启动的时候包含挂载命令。如果采集过程能对用户透明那就太棒了。事实上，可以通过计算容器 rootfs 挂载点来达到这种目的。</p>
<p>和容器 rootfs 挂载点密不可分的一个概念是 storage driver。实际使用过程中，用户往往会根据 linux 版本、文件系统类型、容器读写情况等因素选择合适的 storage driver。不同 storage driver 下，容器的 rootfs 挂载点遵循一定规律，因此我们可以根据 storage driver 的类型推断出容器的 rootfs 挂载点，进而采集容器内部日志。下表展示了部分 storage dirver 的 rootfs 挂载点及其计算方法。</p>
<table>
<thead>
<tr>
<th style="text-align: left">Storage driver</th>
<th style="text-align: left">rootfs 挂载点</th>
<th style="text-align: left">计算方法</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align: left">aufs</td>
<td style="text-align: left">/var/lib/docker/aufs/mnt/<id></id></td>
<td style="text-align: left">id 可以从如下文件读到。 <code>/var/lib/docker/image/aufs/layerdb/mounts/<container-id>/mount-id</code></td>
</tr>
<tr>
<td style="text-align: left">overlay</td>
<td style="text-align: left">/var/lib/docker/overlay/<id>/merged</id></td>
<td style="text-align: left">完整路径可以通过如下命令得到。 <code>docker inspect -f '{{.GraphDriver.Data.MergedDir}}' <container-id></code></td>
</tr>
<tr>
<td style="text-align: left">overlay2</td>
<td style="text-align: left">/var/lib/docker/overlay2/<id>/merged</id></td>
<td style="text-align: left">完整路径可以通过如下命令得到。 <code>docker inspect -f '{{.GraphDriver.Data.MergedDir}}' <container-id></code></td>
</tr>
<tr>
<td style="text-align: left">devicemapper</td>
<td style="text-align: left">/var/lib/docker/devicemapper/mnt/<id>/rootfs</id></td>
<td style="text-align: left">id 可以通过如下命令得到。 <code>docker inspect -f '{{.GraphDriver.Data.DeviceName}}' <container-id></code></td>
</tr>
</tbody>
</table>
<p>示例：</p>
<pre><code class="language-bash"># 创建容器 tomcat-test
# dockerrun -d--nametomcat-test-Ptomcat
36510dd653ae7dcac1d017174b1c38b3f9a226f9c4e329d0ff656cfe041939ff
# 查看tomcat-test 容器的挂载点位置
# docker inspect -f '{{.GraphDriver.Data.MergedDir}}' 36510dd653ae7dcac1d017174b1c38b3f9a226f9c4e329d0ff656cfe041939ff
/var/lib/docker/overlay2/c10ec54bab8f3fccd2c5f1a305df6f3b1e53068776363ab0c104d253216b799d/merged
# 查看挂载点的目录结构
# ls -l /var/lib/docker/overlay2/c10ec54bab8f3fccd2c5f1a305df6f3b1e53068776363ab0c104d253216b799d/merged
total 4
drwxr-xr-x 1 root root179 May8 13:05 bin
drwxr-xr-x 2 root root 6 Mar 28 17:12 boot
drwxr-xr-x 1 root root 43 May 22 17:27 dev
lrwxrwxrwx 1 root root 33 May8 13:08 docker-java-home -> /usr/lib/jvm/java-8-openjdk-amd64
drwxr-xr-x 1 root root 66 May 22 17:27 etc
drwxr-xr-x 2 root root 6 Mar 28 17:12 home
drwxr-xr-x 1 root root 6 May 16 08:50 lib
drwxr-xr-x 2 root root 34 May6 08:00 lib64
drwxr-xr-x 2 root root 6 May6 08:00 media
drwxr-xr-x 2 root root 6 May6 08:00 mnt
drwxr-xr-x 2 root root 6 May6 08:00 opt
drwxr-xr-x 2 root root 6 Mar 28 17:12 proc
drwx------ 1 root root 27 May 22 17:29 root
drwxr-xr-x 3 root root 30 May6 08:00 run
drwxr-xr-x 2 root root 4096 May6 08:00 sbin
drwxr-xr-x 2 root root 6 May6 08:00 srv
drwxr-xr-x 2 root root 6 Mar 28 17:12 sys
drwxrwxrwt 1 root root 29 May 16 08:50 tmp
drwxr-xr-x 1 root root 19 May6 08:00 usr
drwxr-xr-x 1 root root 41 May6 08:00 var
# 查看日志
# ls -l /var/lib/docker/overlay2/c10ec54bab8f3fccd2c5f1a305df6f3b1e53068776363ab0c104d253216b799d/merged/usr/local/tomcat/logs/
total 20
-rw-r----- 1 root root 14514 May 22 17:40 catalina.2019-05-22.log
-rw-r----- 1 root root 0 May 22 17:27 host-manager.2019-05-22.log
-rw-r----- 1 root root1194 May 22 17:40 localhost.2019-05-22.log
-rw-r----- 1 root root 0 May 22 17:27 localhost_access_log.2019-05-22.txt
-rw-r----- 1 root root 0 May 22 17:27 manager.2019-05-22.log

</code></pre>
<h4 id="方案四--在代码层中实现直接将日志写入redis">方案四在代码层中实现直接将日志写入redis</h4>
<p>docker——》redis ——》Logstash——》Elasticsearch</p>
<p>通过代码层面，直接将日志写入<code>redis</code>,最后写入 <code>Elasticsearch</code>。</p>
<p>以上就是对 Docker 日志的所有的概念解释和方提供，具体采用什么方案，根据公司的具体的业务来选择。合适的才是最好的。</p>

</div>
<div id="MySignature" role="contentinfo">
<div>作者：理想三旬</div>
<div>出处：</div>
<div> 本人承接各种项目维护和python项目开发，如果觉得文章写得不错，或者帮助到您了，请点个赞，加个关注哦。运维学习交流群:544692191 </div><div>本文版权归作者所有，欢迎转载，如果文章有写的不足的地方，或者是写得错误的地方，请你一定要指出，因为这样不光是对我写文章的一种促进，也是一份对后面看此文章的人的责任。谢谢。 </div><br><br>
来源：https://www.cnblogs.com/operationhome/p/10907591.html

頁: [1]

琼殿技术论坛's Archiver

Docker容器日志管理最佳实践