自己动手制作MySQL Internals Manual For Dash文档

老实说，我刚用Dash没几天，感觉还不错，毕竟有份本地化文档还是比较方便，不用总实时打开MySQL官档网页。不过，目前Dash只有MySQL 5.5 ~ 8.0的官档，没有其他相关文档，有时候想查看Internals Manual或Release Notes就没那么方便了，于是就萌生了自己动手制作Dash文档的念头。

1. 准备工作

1.1 下载MySQL文档

用wget批量、自动下载Internals Manual及MySQL 8.0 Release Notes文档。

[root@yejr.me]# cd /data/mysql-docs
[root@yejr.me]# wget -r -p -np -k --no-check-certificat "https://dev.mysql.com/doc/internals/en/index.html"
[root@yejr.me]# wget -r -p -np -k --no-check-certificat "https://dev.mysql.com/doc/relnotes/mysql/8.0/en/"
[root@yejr.me]# ls -l dev.mysql.com
drwxr-xr-x 3 root root 16Feb2913:25 internals
drwxr-xr-x 3 root root 19Feb2922:19 relnotes

1.2 构建Python环境

制作Dash docset文档，需要用到Python的beautifulsoup4模块，因此要先安装上。安装beautifulsoup4模块挺简单的，用Python的pip就可以了，如果不知道的话，可以先自行搜索一番。

[root@yejr.me]# pip install beautifulsoup4

此外，还需要sqlite数据库，如果没有的话，也先自行安装，用yum就可以了，也挺方便的。

2. 构建Dash docset环境

2.1 创建docset目录结构，复制文件

[root@yejr.me]# cd /data/mysql-docs/dev.mysql.com/doc/internals/
# 以MySQL Internal Manual文档为例，先创建下面的目录
[root@yejr.me]# mkdir -p MySQL_Internal.docset/Contents/Resources/Documents/
# 复制所有文件到docset目录下
[root@yejr.me]# cp en/* MySQL_Internal.docset/Contents/Resources/Documents/

2.2 编辑Info.plist文件

接下来就是要编辑Info.plist文件了，这也是docset的metadata文件了，存储基本信息，以及定义一些配置等。

[root@yejr.me]# cat MySQL_Internal.docset/Contents/Info.plist
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE plist PUBLIC "-//Apple//DTD PLIST 1.0//EN""http://www.apple.com/DTDs/PropertyList-1.0.dtd">
<plist version="1.0">
<dict>
<key>CFBundleIdentifier</key>
<string>MySQLInternalManual</string>
<key>CFBundleName</key>
<string>MySQLInternalManual</string>
<key>DocSetPlatformFamily</key>
<string>MySQLInternalManual</string>
<key>dashIndexFilePath</key>
<string>index.html</string>
<key>isDashDocset</key>
<true/>
</dict>
</plist>

2.3 生成docset文档索引

Dash的文档索引采用SQLite数据库，SQLite是一个很小巧的、开源的关系型数据库，据说很可能是使用量最大的关系数据库。

先创建docset索引表：

[root@yejr.me]# sqlite3 MySQL_Internal.docset/Contents/Resources/docSet.dsidx
SQLite version 3.28.02019-04-1514:49:49
Enter".help"for usage hints.
sqlite> CREATE TABLE searchIndex(id INTEGER PRIMARY KEY, name TEXT, type TEXT, path TEXT);
sqlite> .exit
[root@yejr.me]#

然后用一个Python脚本解析所有文档页面文件，并且生成索引记录，写入到 docSet.dsidx 索引文件中。

这步的工作比较重要，因为后面我们阅读文档时，可能会搜索一些关键词，因此需要尽可能把这些关键词都写到索引文件里。

写入时，各个关键词可以分属不同的类型，常见文档中的类型几乎都支持，像Category、Class、Command、Constant、Function、Interface、Keyword、Module、Namespace等，不一一列举了。

我为了图省事，写入索引时，全部都指定为Keyword了，重点是能搜索到这些关键词就好。

脚本蓝本：https://github.com/drbraden/pgdash/blob/master/pgdoc2set.py

先看下解析文档的Python脚本：

[root@yejr.me]# cat dsidx.py
#!/usr/local/bin/python3
import os, re, sqlite3, sys
from bs4 importBeautifulSoup, NavigableString, Tag
try:
# 指定sqlite数据文件
db = sqlite3.connect('MySQL_Internal.docset/Contents/Resources/docSet.dsidx')
cur = db.cursor()
except:
print("Open sidx file failed, exit.")
exit
docpath = 'MySQL_Internal.docset/Contents/Resources/Documents'
# 接收参数，便于逐个解析每个文件
doc = "%s"% sys.argv[1];
page = open(os.path.join(docpath, doc)).read()
soup = BeautifulSoup(page, features="html.parser")
any = re.compile('.*')
for tag in soup.find_all('a', {'href':any}):
# 删除空格及换行
name = tag.text.strip()
name = name.replace("\n","")
if len(name) > 0:
path = tag.attrs['href'].strip()
if path.split('#')[0] notin('index.html', 'index.htm', 'bookindex.html'):
# 插入索引记录
sql='INSERT OR IGNORE INTO searchIndex(name,type,path) VALUES ("%s","KEYWORD","%s");'%(name,path);
cur.execute(sql)
# 最后一次性批量提交
db.commit()
db.close()