生产环境(基于docker)故障排除？有感于博客园三番五次翻车

前言

　　如题，有感于博客园最近多次翻车，感觉像胡子眉毛一把抓，定位不了生产环境的问题。

抛开流程问题，思考在生产环境中如何做故障排除，发现博客园里面这方面的文章比较少。

.Net 本身是提供了sos.dll工具帮助我们在生产中故障排除，通过提供有关内部公共语言运行时（CLR）环境的信息，帮助您在Visual Studio和Windows调试器（WinDbg.exe）中调试托管程序。

头脑风暴

故障排除的核心是：调试待分析进程的dump文件

常规思路

① ps aux 找到待分析进程PID

② .netcore runtime自带createdump工具

③ 执行 ./createdump -f -u {PId} 命令导出coredump文件，默认生成 /tmp/coredump.%d dump文件，使用Visual Studio 或者Windebug调试dump文件

容器中遇到的障碍

.netcore app容器中需要有容器特权模式才能执行createdump命令，否则会如下图错误

ps：可通过在docker run 生成该容器时增加--privileged = true操作特权

常规.netcore app容器内不包含ps命令，难以明确容器内dotnet 进程PID
容器内导出的coredump文件，还需要使用 docker cp 命令导出到docker 主机，再行调试。

针对容器内.NetCore app生产调试，国外大牛已经针对 .NetCore特定runtime版本制成了工具镜像

Analyze running container

　　以下假设待分析容器使用的.netcore runtime与6opuc/lldb-netcore 工具镜像内runtime 相同。

1.找到待分析容器id (docker ps)，例如： b5063ef5787c

2.运行包含createdump工具的容器（需要sys_admin,sys_ptrace特权），如果运行的容器已经包含这个特权，可附加待分析容器并在容器中执行createdump工具

docker run --rm -it --cap-add sys_admin --cap-add sys_ptrace --net=container:b5063ef5787c --pid=container:b5063ef5787c -v /tmp:/tmp 6opuc/lldb-netcore /bin/bash

--net=container:b5063ef5787c 重用待分析容器的网络堆栈

--pid=container:b5063ef5787c 加入待分析容器的PID命名空间

Joining another container’s pid namespace can be used for debugging that container

3. 找到待分析dotnet进程PID: px aux

4. 生成dotnet进程的 coredump文件，并退出容器

createdump -u -f  /tmp/coredump 7            # 7是dotnet进程id
exit

5. 使用debugger打开coredump文件

docker run --rm -it -v /tmp/coredump:/tmp/coredump 6opuc/lldb-netcore

output：

(lldb) target create "/usr/bin/dotnet" --core "/tmp/coredump"
Core file '/tmp/coredump' (x86_64) was loaded.
(lldb) plugin load /coreclr/libsosplugin.so
(lldb) sos PrintException
There is no current managed exception on this thread
(lldb)