GBDT的整体是串行运行的，但在每一轮迭代时，以下是可以并行计算的：
1 计算(更新)每个样本的负梯度。(第m-1轮迭代完毕时，第m轮的每个样本的负梯度就可以全部更新出来了)
2 在拟合残差树时某个节点分类时，求各种可能的分类情况时的增益(基尼系数)是可以并行计算的。(GBDT没有做，xgboost做到了，用一个block结构存储这些特征增益)。但对于拟合一整棵残差树，增益是无法并行计算的，下一个节点的最大增益要在它的父节点生成后才可以求。
3 最后预测过程中，每个样本将之前的所有树的结果累加的时候。因为f(最终) = f(初) + f(残1) + f(残2) + …，一个测试样本最终的预测值等于各个子模型预测结果线性相加。各个子模型对于测试样本的预测是可以同时进行的，最后将各个模型的结果累加就是最终的预测值。
注：能并行的条件是在计算时数据都是已知，不需要得到以往的数据(这里指上一轮迭代得到的数据)才能进行就算。比如，如果求特征2的增益要知道特征1的增益，那这样增益计算就无法并行了。
来源：https://blog.csdn.net/weixin_40363423/article/details/98878459