FastFlow は 製品異常画像データセット MVTech AD で、99.4% AUC を達成したモデルです。

Jiawei Yu, Ye Zheng, Xiang Wang, Wei Li, Yushuang Wu, Rui Zhao, Liwei Wu, FastFlow: Unsupervised Anomaly Detection and Localization via 2D Normalizing Flows, arXiv:2111.07677 [cs.CV] https://arxiv.org/pdf/2111.07677v2.pdf

FastFlow は以下のようなアーキテクチャになっています。

ここで、Flow というのは、一種の Normalizing Flow のことです。Normalizing Flow とは、単純な確率分布に非線形変換を繰り返しかけることで分類に有利な複雑な確率分布を作り出す方法のことです。くわしくは、Flow Based Deep Genetic Modelを参照するとよいでしょう。この論文では、効率の良い、2D Flow である、Fast Flow を提案し、上記の精度を達成しています。

ベースネットとしては、ResNet か ViT（ヴィジョントランスフォーマー）を利用できます。他のモデルはベースネットを ViT に単純に置き換えるだけでは、性能が劣化してしまいます。これは、ViT が得意とする大域的特徴を CNN がうまく扱えないためです。FastFlow は大域的と局所的なモデリングにすぐれるため、ViT をベースネットに利用することができます。実際に、先述の精度を達成したモデルのベースネットは、ViT の一種であるCaiTです。

以下に、FastFlow による予測結果を示します。FastFlow ではピクセルレベルの異常箇所の可視化ができます。

今回は、FastFlow を紹介しました。Flow の概念は興味深いですね。