7Revealing Ways AIs FAIL(7つのAIのバグパターン), IEEE Spectrum Oct 2021

AIのソフトウェアテストの難しいのは、期待値が設定が著しく困難なところにある。一般のソフトウェアテストケースは

  1. Step 1
  2. Step 2
  3. Step 3

期待結果

になる。しかしAIのソフトウェアは期待結果が抽象的に書いてある、もしくは書いてない。要求仕様書には。テストというのは明確なステップと、明確なアウトプットがあって成り立っている技術である。AIに関してはひょっとしたら明確なステップもないかもしれない。今後は明確なアウトプットとステップをどう記述していくかが、AIソフトウエアの研究の焦点になっていくかもしれない(結構その辺最近よくお客さんから聞かれる)。

この論文には7つのAIの失敗パターンがのっている。Spectrumは論文誌というより技術紹介紙面なので、確固たる技術検証はないけど、今後役に立つ情報である。ちなみにソフトウェア研究者が一番信頼性の置く、IEEE Trans. of Soft. Engにはこの手のAIの品質の論文はまだ掲載されない、まあ難しいんでしょうね。

  • Brittleness
  • Embedded BIAS
  • Catastrophic Forgetting
  • Explainability
  • Quantifying Uncertainity
  • Common Sence
  • Math

この論文のいいところは、一つ一つ例をもって紹介されている。AIのバグのパターンは無限大にあるだろう、でも今後この分野の一つのアプローチとしては。無限大の事象を抽象化したり、パターン化するのが一つのAI品質の手法であるような気がする。