学习迁移

概述 关于使用TensorRT对网络进行加速的基本工作在 深度学习系列五：使用TensorRT对网络进行加速 中描述很详细了，这里主要记录下在迁移到7.0时，顺便解决了之前ResizeNearestNeighbor这个层在uff模型中无法直接支持必须外挂plugin的问题。 Keras模型转ONNX模型 之前使用6.0时，采用的方案是Keras模型转uff模型，再创建engine，其实从官方文档可以看出来，目前TensorRT对onnx支持更好，它对onnx支持的层是最多的，这样容易理解，毕竟onnx可以由各种模型转化得到，因此本次使用onnx模型建立engine，转化可以使用 keras-onnx库 ，安装也很简单： pip3 install keras2onnx 安装完成后使用api进行转换，非常简单，当然还必须安装tensorflow或者keras： import keras2onnx import onnx # load keras model model = tf . compat . v1 . keras . models . load_model ( model_path ) # convert to onnx model onnx_model = keras2onnx . convert_keras ( model , model . name , target

修改Resnet 50 和VGG16 FC 层输出进行迁移学习方法仅供参考 Resnet50 方法一： resnet50 = models.resnet50(pretrained=True) print('Before:{%s}\n' % resnet50) for param in resnet50.parameters(): param.requires_grad = False fc_inputs = resnet50.fc.in_features resnet50.fc = nn.Linear(fc_inputs,config.class_number) # config.class_number 目标分类数 ***#注意后面Loss用cross_entropy, cross_entropy 相当于logsoftmax()+NLLloss()*** loss = nn.CrossEntropyLoss() 方法二： resnet50 = models.resnet50(pretrained=True) print('Before:{%s}\n' % resnet50) for param in resnet50.parameters(): param.requires_grad = False num_ftrs = resnet50.fc.in_features

DTS（Data Transmission Service）提供数据迁移、数据同步、数据订阅于一体的数据库数据传输服务，在业务不停服的前提下轻松完成数据库迁移，利用实时同步通道轻松构建异地容灾的高可用数据库架构。 数据迁移 迁移类型 结构迁移：结构对象定义语法的迁移，包括表、视图等结构对象的语法迁移。异构数据库迁移时可以实现数据类型的映射，将源库语法调整为目标库对应的语法。 全量数据迁移：将源库中的所有数据迁移到目标库中，不包含结构对象定义的语法。如果迁移过程中源库有新增数据，且迁移类型只选择了全量迁移，则新增数据不会迁移到目标库。 增量数据迁移：将源库迁移过程中新增的数据同步到目标库中，主要用于源库和目标库的增量数据实时同步。如果创建数据迁移任务时，同时选择了全量数据迁移和增量数据迁移，则迁移过程中会先将源库中静态数据迁移到目标库，然后将增量数据同步到目标库。增量数据迁移不会自动结束，如果需要结束实时同步，需要在控制台手动结束该迁移任务。 迁移限制 源端必须存在主键，否则目标端将可能出现重复数据 目前不支持存储过程、存储函数、触发器和外键的迁移，需要用户手动迁移 源端binlog_format必须为row 源端binlog_row_image必须为full 迁移权限要求 当源端为公网自建数据库或BCC自建数据库时，用户需要提供一个满足权限要求的迁移账号。

数据的读取 import tensorflow as tf from tensorflow.python import keras from tensorflow.python.keras.preprocessing.image import ImageDataGenerator class TransferModel(object): def __init__(self): #标准化和数据增强 self.train_generator = ImageDataGenerator(rescale=1.0/255.0) self.test_generator = ImageDataGenerator(rescale=1.0/255.0) #指定训练集数据和测试集数据目录 self.train_dir = "./data/train" self.test_dir = "./data/test" self.image_size = (224,224) self.batch_size = 32 def get_loacl_data(self): ''' 读取本地的图片数据以及类别 :return: ''' train_gen = self.train_generator.flow_from_directory(self.train_dir, target_size=self.image

文章全名为《Catastrophic Forgetting Meets Negative Transfer:Batch Spectral Shrinkage for Safe Transfer Learning》 1、摘要 这篇文章主要针对模型的fine-tune问题进行优化。众所周知，在许多模型的训练中，使用预训练好的模型进行fine-tune可以使模型的训练更加容易且结果更好。但是因为两个原因：灾难性遗忘（catastrophic forgetting）和负面迁移（negative transfer），使得fine-tune的效果降低了。本文提出了一种方法Batch Spectral Shrinkage (BSS)，暂且翻译为批量光谱收缩，来克服这一情况。 2、介绍 主要介绍这两种导致fine-tune效果变差的原因。 首先是灾难性遗忘，即模型在学习与目标任务相关的信息时，容易突然失去之前所学的知识，导致过度拟合。第二个是负迁移，并非所有预先训练得到的知识都可以跨领域迁移，且不加选择地迁移所有知识对模型是有害的。 这里作者提到增量学习，并指出本文所提出的算法与增量学习的不同之处。增量学习可以学习新数据中的新知识，同时保证旧知识不被遗忘。但是与本文算法的目的不同，增量学习最终的目标是使得模型可以应用于新旧两个任务上，而BSS的目标是只作用于新的任务上。

迁移文件 *分两步实现 ——生成迁移文件 ——执行迁移文件 *迁移文件的生成 ——根据models文件生成对应的迁移文件 ——根据modules和已迁移文件差别 生成新的迁移文件 *执行迁移文件 ——先去迁移记录查找，哪些文件未迁移过 *app_label + 迁移文件名字 ——执行未迁移的文件 ——执行完毕，记录执行过程的迁移文件 ——重新迁移 *删除迁移文件 *删除迁移文件产生的表 *删除迁移记录 模型关系： 1:1 a.应用场景 b.实现： ——使用外键实现的 ——对外键添加了唯一约束 1 对1重点 pythom manage.py --help 指定在哪个目录中生成 指定某个生成迁移文件生成 python manage.py makemigrations --help 模型关系 1:1 应用场景 ：用于复杂表的拆分；扩展新功能 Django中OneToOneFiled:使用的使用，关系声明还有细微差别 实现 ：使用外键实现的，对外键添加了唯一约束 数据删除 ：级联表,主表/从表，谁声明关系谁就是从表；在开发中如何确认主从；当系统遭遇不可避免毁灭，只能保留一张表，这个表就是你的主表。 默认特性: 从表数据删除，主表不受影响 主表数据删除，从表数据直接删除 PROTECT 保护模式: *开发中为了防止误操作，我们通常会设置为此模式 *主表如果存在级联数据，删除动作受保护

初试Code First（附Demo） 写在前面 新建项目 安装EntityFramework程序包 创建模型 创建上下文DbContext 创建数据库、读/写数据 配置连接字符串 Code First 迁移 示例Demo下载 后记 　　以前逛园子的时候，很多大牛写的一些东西，什么AOP、DDD之类的，看过之后一头雾水，远望大牛，回过头看看自己，原来程序员的差距还可以这么大。每个程序员都有个大牛梦想，当然小菜我也是，只是还在开始的路上。 　　因为前几天研究easyui，准备写个mvc+ef+easyui的简单示例，当然这对很多人来说很简单，有段时间也研究过别人写的，但这是小菜我第一次自己写，勿喷。而且这周安排给自己的任务：设计模式第五篇-控制反转（ioc），前段时间做些其他方面的事，设计模式也好久没写了，所以这周必须把它完成，想研究完ioc之后，试着再写上面的简单示例，把ioc融入到mvc中，想想应该有搞头。 　　关于Code First，昨晚无意间看到一位园友翻译的相关教程： http://www.cnblogs.com/qouoww/archive/2011/12/31/2309066.html ，这边小弟先谢过，前面几篇还可以看下去，但是后面几篇就有点不知所云了，学习是一方面，实践是另一方面，做的过程中才能学到更多的东西，这边也试着写个关于Code First的小示例。 　

原文: 初试Code First（附Demo） 写在前面 新建项目 安装EntityFramework程序包 创建模型 创建上下文DbContext 创建数据库、读/写数据 配置连接字符串 Code First 迁移 示例Demo下载 后记 　　以前逛园子的时候，很多大牛写的一些东西，什么AOP、DDD之类的，看过之后一头雾水，远望大牛，回过头看看自己，原来程序员的差距还可以这么大。每个程序员都有个大牛梦想，当然小菜我也是，只是还在开始的路上。 　　因为前几天研究easyui，准备写个mvc+ef+easyui的简单示例，当然这对很多人来说很简单，有段时间也研究过别人写的，但这是小菜我第一次自己写，勿喷。而且这周安排给自己的任务：设计模式第五篇-控制反转（ioc），前段时间做些其他方面的事，设计模式也好久没写了，所以这周必须把它完成，想研究完ioc之后，试着再写上面的简单示例，把ioc融入到mvc中，想想应该有搞头。 　　关于Code First，昨晚无意间看到一位园友翻译的相关教程： http://www.cnblogs.com/qouoww/archive/2011/12/31/2309066.html ，这边小弟先谢过，前面几篇还可以看下去，但是后面几篇就有点不知所云了，学习是一方面，实践是另一方面，做的过程中才能学到更多的东西，这边也试着写个关于Code First的小示例

基础 安装 介绍 Vue 实例 模板语法 计算属性和侦听器 Class 与 Style 绑定 条件渲染 列表渲染 事件处理 表单输入绑定 组件基础 深入了解组件 组件注册 Prop 自定义事件 插槽 动态组件 & 异步组件 处理边界情况 过渡 & 动画 进入/离开 & 列表过渡 状态过渡 可复用性 & 组合 混入 自定义指令 渲染函数 & JSX 插件 过滤器 工具 单文件组件 单元测试 TypeScript 支持 生产环境部署 规模化 路由 状态管理 服务端渲染 内在 深入响应式原理 迁移 从 Vue 1.x 迁移 从 Vue Router 0.7.x 迁移 从 Vuex 0.6.x 迁移到 1.0 更多 对比其他框架 加入 Vue.js 社区 认识团队 来源： https://www.cnblogs.com/liuguiqian/p/11009435.html

https://paulswith.github.io/2018/02/24/%E8%BF%81%E7%A7%BB%E5%AD%A6%E4%B9%A0InceptionV3/ 上文记录了如何从一个别人训练好的模型, 切入我们自己的图片, 改为我们自己的模型. 本来以为移植到手机很简单, 但是不简单的是我的模型本身就是迁移学习别人的模型,有很多莫名其面的坑, 在CoreML经历了N个坑后,1点14分我搞掂了. 项目源码和转换源码已经上传到git. https://github.com/Paulswith/machineLearningIntro/tree/master/classification_101 转化为mlmodel 说说转换为mlmodel的工具有两个: coremltools, 它目前只支持五种模型的转换, 不包括tensorflow: 若你跟我一样是tensorflow , 那么必须使用tfcoreml https://github.com/tf-coreml 有安装方法. 转换Example: https://github.com/tf-coreml/tf-coreml/tree/master/examples 接着往下看: 是否是graph-pb? 如果你跟我一样, 训练的模型, 从tensorflow的代码保存下来的, 调用的: 1 saver.save