pickle

什么时模块 　　　　Python中的模块其实就是XXX.py 文件 模块分类 　　　　Python内置模块(标准库) 　　　　自定义模块 　　　　第三方模块 使用方法 　　　import 模块名 　　　form 模块名 import 方法名 　　　说明：实际就是运行了一遍XX.py 文件 导入模块也可以取别名 　　　如： import time as t import time as t print(t.time()) 定位模块 当前目录 如果不在当前目录，Python则搜索在shell变量PYTHONPATH下的每个目录。 如果都找不到，Python会察看默认路径。UNIX下，默认路径一般为/usr/local/lib/python/ 模块搜索路径存储在 system模块的sys.path变量中。变量里包含当前目录，PYTHONPATH和由安装过程决定的默认目录。 自定义模块 　　　我们自己写的XX.py 文件就是一个模块，在项目中可以引用这个模块调用里面的方法。 __all__[]关键字 　　　 __all__ = ["函数名","类名","方法名"] 没有all关键字 所有方法都可以访问到 使用all关键字 　　 总结 如果一个文件中有__all__变量，那么也就意味着不在这个变量中的元素，不会被from xxx import *时导入 模块包 　　模块包就是为了防止模块重名

Contents 理论基础 熵 信息增益 算法实现 Python 模型的保存与读取 总结 理论基础 决策树(Decision Tree, DT)： 决策树是一种基本的分类与回归方法。由于模型呈树形结构，可以看做是if-then规则的集合，具有一定的可读性，可视化效果好。 决策树的建立包括3个步骤： 特征选择、决策树生成和决策树的修剪。 　　模型的建立实际上就是 通过某种方式，递归地选择最优的特征，并通过数据的划分，将无序的数据变得有序。（ 对于分类而言，希望的是 将一些多类别的数据划分到各自的类别中 ，实现 从数据的混杂到条理 ，这也就是无序到有序的概念 ） 　　 如下图所示，PLAN1和PLAN2描述了 通过两个不同的特征，数据从无序变到有序的情况 。从划分结果可以看出，特征1相对于特征2要更优一些，划分结果数据的有序程度更高。 　　因此，在构造决策树时，第一个需要解决的问题就是 如何确定出哪个特征划分数据是起决定性作用的 ，或者说 先使用哪个特征进行划分能够使数据的不确定性减少的更多 ，从而使数据变得更有序，分类效果更好，也就是接下来要介绍的 熵 和 信息增益 的概念（Id3）。当找到最优的特征后，数据集依据此特征划分为几个数据子集，这些数据会分布在该决策点的所有分支中。此时， 如果某个分支下的数据属于同一类型，则该分支下的数据分类已经完成 ，无需进行下一步的数据集分类；如果