期刊：IEEE Transactions on Image Processing，2023

作者：程浩洋；李宏亮；邱荷茜；吴庆波；张效良；孟凡满

论文简介：近年来，基于增强不变性和实例判别性的对比学习取得了显著成就，这得益于其无需任何人工标注即可学习有益表征的卓越能力。然而，实例之间的自然相似性与将每个实例视为独立个体的实例判别性相冲突。为了探索实例之间的自然关系并将其融入对比学习，本文提出了一种新方法，即关系对齐（简称RA），该方法强制当前批次实例的不同增强视图与其他实例保持一致的关系。为了在现有的对比学习框架中有效执行RA，该论文设计了一种交替优化算法，分别优化关系探索步骤和对齐步骤。此外，该论文还为RA添加了一个平衡约束，以避免退化解，并引入了扩展处理程序以在实践中近似满足该约束。为了更好地捕获实例之间的复杂关系，该论文还提出了多维关系对齐（简称MDRA），旨在从多个维度探索关系。在实践中，该论文将最终的高维特征空间分解为几个低维子空间的笛卡尔积，并分别在每个子空间执行RA。该论文在多个自监督学习基准上验证了该方法的有效性，并与当前流行的对比学习方法相比取得了一致的改进。在最常用的ImageNet线性评估协议上，该论文的RA方法相比其他方法取得了显著改进，而该论文的MDRA方法在RA的基础上进一步改进，达到了最佳性能。该论文的方法源代码将很快发布。