基于多模态联合语义感知的零样本目标检测

零样本目标检测借助语义嵌入作为引导信息，将未见过的物体的视觉特征与类别语义嵌入映射到同一空间，根据其在映射空间的距离进行分类，但由于语义信息获取的单一性，视觉信息缺乏可靠表示，易混淆背景信息和未见过对象信息，使得视觉和语义之间很难无差别对齐。基于此，借助视觉上下文模块捕捉视觉特征的上下文信息，并通过语义优化模块对文本上下文和视觉上下文信息进行交互融合，增加视觉表达的多样化，使模型感知到前景的辨别性语义，从而有效地实现零样本目标检测。在MS-COCO的2个划分数据集上进行实验，在零样本目标检测和广义零样本目标检测的准确率和召回率上取得了提升，结果证明了所提方法的有效性。