MMDetection官方教程技术细节 | 四

作者|open-mmlab 编译|Flin 来源|Github

技术细节

在本节中,我们将介绍训练检测器的主要单元：数据管道,模型和迭代管道。

数据管道

按照规定, 我们使用Dataset和DataLoader用于多个处理的数据加载。Dataset返回对应于模型的forward方法的参数的数据项字典。由于对象检测中的数据大小可能不同(图像大小,gt bbox大小等),因此我们在MMCV中引入了一种新类型DataContainer,以帮助收集和分配不同大小的数据。有关更多详细信息,请参见此处(https://github.com/open-mmlab/mmcv/blob/master/mmcv/parallel/data_container.py) 。

对数据准备管道和数据集进行分解。通常,数据集定义了如何处理注释,数据管道定义所有准备数据字典的步骤。流水线由一系列操作组成。每个操作都将一个dict作为输入,并为下一个转换输出一个dict。

在下图中,我们展示了经典管道。蓝色块是管道操作。随着管道的进行,每个操作员可以向结果字典添加新键(标记为绿色)或更新现有键(标记为橙色)。

这些操作分为数据加载, 预处理, 格式化和测试时间扩充。

这是Faster R-CNN的管道示例。

img_norm_cfg = dict(
    mean=[123.675, 116.28, 103.53], std=[58.395, 57.12, 57.375], to_rgb=True)
train_pipeline = [
    dict(type='LoadImageFromFile'),
    dict(type='LoadAnnotations', with_bbox=True),
    dict(type='Resize', img_scale=(1333, 800), keep_ratio=True),
    dict(type='RandomFlip', flip_ratio=0.5),
    dict(type='Normalize', **img_norm_cfg),
    dict(type='Pad', size_divisor=32),
    dict(type='DefaultFormatBundle'),
    dict(type='Collect', keys=['img', 'gt_bboxes', 'gt_labels']),
]
test_pipeline = [
    dict(type='LoadImageFromFile'),
    dict(
        type='MultiScaleFlipAug',
        img_scale=(1333, 800),
        flip=False,
        transforms=[
            dict(type='Resize', keep_ratio=True),
            dict(type='RandomFlip'),
            dict(type='Normalize', **img_norm_cfg),
            dict(type='Pad', size_divisor=32),
            dict(type='ImageToTensor', keys=['img']),
            dict(type='Collect', keys=['img']),
        ])
]

对于每个操作,我们都列出了添加/更新/删除的相关字典字段。

数据加载

LoadImageFromFile

添加: img, img_shape, ori_shape

LoadAnnotations

添加: gt_bboxes, gt_bboxes_ignore, gt_labels, gt_masks, gt_semantic_seg, bbox_fields, mask_fields

LoadProposals

添加: proposals

预处理

Resize

添加: scale, scale_idx, pad_shape, scale_factor, keep_ratio
更新: img, img_shape, *bbox_fields, *mask_fields, *seg_fields

RandomFlip

添加: flip
更新: img, *bbox_fields, *mask_fields, *seg_fields

Pad

add: pad_fixed_size, pad_size_divisor
更新: img, pad_shape, *mask_fields, *seg_fields

RandomCrop

更新: img, pad_shape, gt_bboxes, gt_labels, gt_masks, *bbox_fields

Normalize

添加: img_norm_cfg
更新: img

SegRescale

更新: gt_semantic_seg

PhotoMetricDistortion

更新: img

Expand

更新: img, gt_bboxes

MinIoURandomCrop

更新: img, gt_bboxes, gt_labels

Corrupt

更新: img

格式化

ToTensor

更新: specified by keys.

ImageToTensor

更新: specified by keys.

Transpose

更新: specified by keys.

ToDataContainer

更新: specified by fields.

DefaultFormatBundle

更新: img, proposals, gt_bboxes, gt_bboxes_ignore, gt_labels, gt_masks, gt_semantic_seg

Collect

添加: img_meta (img_meta的键由meta_keys指定)
删除: 除 keys指定的键以外的所有其他键

测试时间增加

MultiScaleFlipAug

模型

在MMDetection中,模型组件基本上分为4种类型。

backbone: 通常是FCN网络,用于提取特征图,例如ResNet。
neck: backbones 和 heads之间的部分, 例如FPN, ASPP.
head: 用于特定任务的部分,例如bbox 预测和 mask 预测.
roi 提取器: 用于从特征图中提取特征部分,例如RoI Align。

我们还使用上述组件编写了一些通用的检测管道,例如SingleStageDetector 和 TwoStageDetector.

建立与基本部件的模型

遵循一些基本流程(例如two-stage detectors),可以通过配置文件轻松定制模型结构。

如果我们要实现一些新组件,例如,路径聚合网络中用于实例分段的路径聚合FPN结构(https://arxiv.org/abs/1803.01534) ,则有两件事要做。

在 mmdet/models/necks/pafpn.py中创建一个新文件。.

from ..registry import NECKS

@NECKS.register
class PAFPN(nn.Module):

    def __init__(self,
                in_channels,
                out_channels,
                num_outs,
                start_level=0,
                end_level=-1,
                add_extra_convs=False):
        pass

    def forward(self, inputs):
        ### 忽略实现
        pass

在 mmdet/models/necks/__init__.py中导入模块
```
from .pafpn import PAFPN
```

修改配置文件,从

neck=dict(
    type='FPN',
    in_channels=[256, 512, 1024, 2048],
    out_channels=256,
    num_outs=5)

变成

neck=dict(
    type='PAFPN',
    in_channels=[256, 512, 1024, 2048],
    out_channels=256,
    num_outs=5)

我们将发布更多组件(backbones, necks, heads) 用于研究的目的。

写一个新的模型

要编写新的检测管道,你需要继承BaseDetector,它定义了以下抽象方法。

extract_feat()：给定一批形状（n，c，h，w）的图像，提取特征图。
forward_train()：训练模式的forward方法
simple_test()：无扩展的单尺度测试
aug_test()：扩展测试（多尺度、翻转等）

TwoStageDetector (https://github.com/hellock/mmdetection/blob/master/mmdet/models/detectors/two_stage.py) 是一个很好的例子,展示了如何做到这一点。

迭代管道

我们对单台机器和多台机器都采用分布式训练。假设服务器有8个GPU,将启动8个进程,并且每个进程都在单个GPU上运行。

每个过程都保持一个独立的模型,数据加载器和优化器。模型参数在开始时仅同步一次。在向前和向后传递之后,所有GPU之间的梯度都将减小,优化器将更新模型参数。由于所有梯度均减小,因此迭代后所有过程的模型参数均保持不变。

其他信息

有关更多信息,请参阅我们的技术报告。 (https://arxiv.org/abs/1906.07155).

原文链接：https://mmdetection.readthedocs.io/en/latest/TECHNICAL_DETAILS.html

欢迎关注磐创AI博客站： http://panchuang.net/

sklearn机器学习中文官方文档： http://sklearn123.com/

欢迎关注磐创博客资源汇总站： http://docs.panchuang.net/

来源：oschina

链接：https://my.oschina.net/u/4253699/blog/4268386

标签

python

NoRM

mmcv

Semantic

github

def

mmdetection

MMDetection官方教程 技术细节 | 四