Cruise007
论坛版主
论坛版主
  • 最后登录2020-10-19
  • 发帖数100
  • 金币4145枚
  • 贡献勋章0枚
  • 原创写手
  • 喜欢达人
  • 社区居民
  • 忠实会员
阅读:273回复:0

深度学习基本概念入门-8

楼主#
更多 发布于:2020-04-01 11:13
常用术语
1、数据集分类:Train Set/Validation Set/Test Set
      训练集(train set):用来估计模型;
      验证集(validation set):确定网络结构或者控制模型复杂程度的参数;
      测试集(test set):检验最终选择最优的模型的性能如何,推广能力。
2、迭代相关参数:
     batch_size: 每次训练在训练集中取batch_size个样本训练
      iteration: 1个iteration等于使用batch_size个样本训练一次
      epoch: 1个epoch等于使用训练集中的全部样本训练一次

      Eample: 训练集有500个样本,batchsize = 10 ,那么训练完整个样本集:iteration=50,epoch=1.
3、SGD(Stochastic Gradient Decent,随机梯度下降):梯度下降就是从山顶找一条最短的路走到山脚最低的地方

图片:1-1.PNG



4、learning_rate(学习率): λ,影响迭代的速度
5、momentum(动量,势能): μ,考虑当前梯度与上一次梯度下降方向的向量和,作为本次梯度向量下降的方向
6、解决过拟合常用方法:regularization(正则化)
     a、 L1/L2 regularization:
     b、Dropout:
     c、 Batch Normalization:
7、Normalization(归一化):归一化的目标是找到某种映射关系,将原数据映射到[a,b]区间上。一般a,b会取[−1,1], [0,1]这些组合。
8、Standardization(标准化):(x-μ)/σ
9、Confusion Matrix
      True positives (TP: predicted positive, labeled positive)
       true negatives (TN: predicted negative, labeled negative)
       false positives (FP: predicted positive, labeled negative)
       false negatives (FN: predicted negative, labeled positive)
10、常用评价指标
       precision = TP/(TP+FP)
       recall = TP/(TP+FN)
       F-1 score = 2 * (precision*recall)/(precision+recall)
       IoU(Intersection over Union):分割时重要评价指标
11、RoI Pooling&RoI Alignment
12、loss(cost function/object dunction)
13、weight_prior(regularization相关参数)
14、pooling(池化):相关参数size, stride
15、目标检测去重复使用方法:class agnotic
       class agnotic:只回归2类bounding box,即前景和背景,结合每个box在classification 网络中对应着所有类别的得分,以及检测阈值条件,就可以得到图片中所有类别的检测结果。当然,这种方式最终不同类别的检测结果,可能包含同一个前景框,但实际对精度的影响不算很大,最重要的是大幅减少了bbox回归参数量。
       class specific(class aware):是早期Faster RCNN等众多算法采用的方式。它利用每一个RoI特征回归出所有类别的bbox坐标,最后根据classification 结果索引到对应类别的box输出。
[Cruise007于2020-04-01 21:07编辑了帖子]
喜欢0

最新打赏:0人

努力到无能为力,拼搏到感动自己
游客

返回顶部
支付

欢迎打赏,请选择打赏金额

  • 1元
  • 6元
  • 10元
  • 66元
  • 100元

支付即代表同意《本站支付协议》 有疑问请联系客服