基于特征约束蒸馏学习的视觉异常检测
作者:
作者单位:

作者简介:

邢鹏(1998-),男,博士生,主要研究领域为异常检测,计算机视觉;蒋鑫(2001-),男,博士生,主要研究领域为深度学习,计算机视觉;潘永华(1990-),男,博士生,主要研究领域为深度学习,视觉问答,机器学习;唐金辉(1981-),男,博士,教授,博士生导师,CCF杰出会员,主要研究领域为多媒体分析与检索,社交媒体分析,计算机视觉,人工智能;李泽超(1985-),男,博士,教授,博士生导师,CCF高级会员,主要研究领域为图像视频分析,目标检测,模式识别.

通讯作者:

李泽超,E-mail:zechao.li@njust.edu.cn

中图分类号:

基金项目:

国家自然科学基金(U20B2064, U21B2043)


Feature Constrained Restricted Distillation Learning for Visual Anomaly Detection
Author:
Affiliation:

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    针对视觉异常检测任务, 提出一种基于特征约束的蒸馏学习方法, 充分利用教师网络模型的特征来指导学生模型高效的识别异常图像. 具体地, 引入vision transformer (ViT)作为异常检测任务的主干网络, 并提出中心特征策略约束学生网络的输出特征. 由于教师网络的特征表达能力较强, 特征中心策略从教师网络中动态地为学生网络生成正常样本的特征表示中心, 从而提升学生网络对正常数据特征输出的描述能力, 进而扩大了学生网络和教师网络对于异常数据的特征差异; 另一方面, 为了最小化学生网络和教师网络在正常图像特征表示上的差异, 引入格拉姆(Gram)损失函数对学生网络编码层之间的关系进行约束. 在3个异常检测通用数据集和1个真实工业异常检测数据集上进行了实验验证, 相比当前最优方法, 所提方法取得了显著的性能提升.

    Abstract:

    This study proposes a new feature constrained distillation learning method for visual anomaly detection, which makes full use of the features of the teacher model to instruct the student model to efficiently identify abnormal images. Specifically, the vision transformer (ViT) model is introduced as the backbone network of anomaly detection tasks, and a central feature strategy is put forward to constrain the output features of the student network. Considering the strong feature expressiveness of the teacher network, the central feature strategy is developed to dynamically generate the feature representation centers of normal samples for the student network from the teacher network. In this way, the ability of the student network to describe the feature output of normal data is improved, and the feature difference between the student and teacher networks in abnormal data is widened. In addition, to minimize the difference between the student and teacher networks in the feature representation of normal images, the proposed method leverages the Gram loss function to constrain the relationship between the coding layers of the student network. Experiments are conducted on three general anomaly detection data sets and one real-world industrial anomaly detection data set, and the experimental results demonstrate that the proposed method significantly improves the performance of visual anomaly detection compared with the state-of-the-art methods.

    参考文献
    相似文献
    引证文献
引用本文

邢鹏,蒋鑫,潘永华,唐金辉,李泽超.基于特征约束蒸馏学习的视觉异常检测.软件学报,2023,34(9):4378-4391

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:2021-06-26
  • 最后修改日期:2021-09-27
  • 录用日期:
  • 在线发布日期: 2022-12-22
  • 出版日期:
您是第位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号