コロナ禍によって社会課題解決のためのAI研究が進む中で、注目を集めているのが「説明可能なAI」と呼ばれる「XAI」（Explainable AI）です。島田氏は、XAIの登場によって、AIのビジネス活用への道が大きく拓かれつつあると説明します。

　「たとえば、画像に写っているのが犬なのか猫なのかを、AIが判断する画像解析技術がありますが、これまではAIがなぜそう判断したのかの根拠がわかりませんでした。しかしXAIは、画像のどこを見てそれを犬や猫と判断しているのかを示してくれるのです。

　これまでAIのビジネス活用でボトルネックとなっていたのは、データ取得や分析の精度以上に、『AIが出した答えが信用できるのかどうかの判断がつかない』ことでした。XAIによってAIが分析根拠を『人が分かる形』で示してくれるようになることで、そのデータを信用すべきかどうか、メリットやリスクなども含めて人間が判断できるようになります。これはAIのビジネス活用において非常に価値のあることです」

　このXAIの領域において、島田氏が実際に関わっているのが製造プラントなどでの「予測/推定モデル」です。ここでポイントとなるのが、現場の知見とXAI を組み合わせることだといいます。

　「たとえば、プラントに入れる原材料や設定温度、圧力や流量といったデータから製造物の時間ごとの状態変化をAIが予測する技術があります。プラントを制御する現場の方々には、この化合物を入れると30分後にどういう効果が出る、ここで温度を上げれば10分後にこうなるなど、長年で培われた知見があります。

　XAIを使えば、こういった現場の知見に対して、AIが出した予測結果が妥当かどうかを突き合わせることができます。AIの判断の根拠を示すことができれば、現場にAIを導入するための関係者への説明材料にもなります。

　XAIは現在、人間に合わせてインターフェースがどんどん進化しています。言語処理技術の発展も目覚ましいので、将来的には、猫の画像に対して『これは猫です。その理由は耳がこういう形で2つあって、サンプルである他のこれこれと似ています』といったことまで言語で説明してくれるようになっていくでしょう。そこまでのレベルまで出来上がってくると、実用性はさらに高まるはずです」