日立、複雑なブラックボックス型AIを判断基準が明確なAIに変換する「AI単純化技術」を開発

従来のブラックボックス型AIは、予測精度を高めるために複雑な数式で構成されており判断基準が不明確であるため、未知のデータに対して意図しない予測結果を導く不安やリスクがあったという。一方、本技術を用いたAIは、あらゆる入力に対して人が理解できる単純な予測式を創出することにより、明確な判断基準の下で予測結果を提示する。さらに、顧客の経験や知識に基づき予測式を調整できるため、予測精度を維持・向上しながら安心してAIを利用することが可能となり、顧客に寄り添った信頼できるAIの実現に貢献する。本技術の一部は、日立グループにおける製品出荷前の自動検査ラインに適用され、熟練者不足の解消や検査速度の向上効果が確認されたという。今後日立は、製造・金融・インフラ制御などさまざまな領域で、信頼できるAIの実装とそれを通じた社会全体のデジタルトランスフォーメーション(DX)加速に貢献するとのことだ。なお、本技術開発は日立のAI倫理原則の実践項目に定める透明性・説明責任重視に従った取り組みの一環だという。

近年、メタバース等に代表されるデジタル化の加速度的な進展、深刻化する地球環境の悪化や新型感染症の拡大など、企業を取り巻く環境は急速に変化している。このような中で、顧客の迅速なDX実現を支援するために、日立は信頼できるAIの実装に向けた研究開発に取り組んできたという。これまで、深層学習等の技術の進歩によりAIの予測精度は向上したが、AIには精度だけでなく、説明性、透明性、品質、公平性など、信頼できるAIとして複数の要件が求められる。特に、予測精度を高めるため多くの変数や複雑な数式により構成されたブラックボックス型AIは顧客がその内容を理解困難なため、AIを安心して業務に適用できないという説明性の問題が指摘されたという。このような中、日立はAIの判断基準を多角的に分析し、人に分かりやすく説明するeXplainable AI(以下、XAI)の技術を開発し、顧客のさまざまな業務に適用しその有用性を検証してきた。その結果、AIの予測精度が高く、その判断基準を顧客に説明できた場合でも、限られた条件下で顧客が想定できない予測結果をAIが出力する場合、顧客はAIを信頼･保証できず、対策に多くの時間を取られてしまうことが分かったという。そこで日立は、これまでさまざまな領域の顧客のDX支援で培ってきた知見を活かし、XAIの新たな方式として、複雑なブラックボックス型AIを判断基準が明確なAIに変換するAI単純化技術を開発したとのことだ。

1. ブラックボックス型AI変換技術
深層学習モデルや勾配ブースティング木など、予測精度が高い一方で内容が複雑なブラックボックス型AIを、判断基準が明確なAI（単純な予測式）に変換する技術を開発した。まず、従来のXAI分析技術により、AIへのさまざまな入力データに対し、要因(特徴量)が予測値に及ぼす影響の強さ(貢献度)を算出する。次に、特徴量が変化しても予測値への貢献度が一定である入力データの領域をクラスタリング技術により抽出。抽出された入力データ領域ではその特徴量は予測値に影響を与えないため、その領域で判断基準を単純化できることを期待してAIを単純な予測式に変換する。このような処理を全ての入力データ領域で繰り返し、全領域を顧客が理解可能な単純な予測式に変換する。

2. 信頼性向上のための単純さ調整技術
必要な予測精度が得られるように、顧客の経験や知識に基づきAIと対話・協調しながら、自身で予測式を調整する技術を開発した。上記の技術1で得られた単純な予測式に対して本技術を用いることで境界値や各領域における予測式を調整することができる。

A. 上記の技術1で説明したAIの入力データ領域を分割する際の境界値を、顧客の知識に合わせて調整可能だ。例えば、下図に示すように「耐震基準が2000年に変更されたので、1998年ではなく2000年の前後で判断基準がかわるようにしたい」という調整が可能だ。このように境界値を顧客の知識と整合させることで、データが少ない領域での予測精度を向上させることができる。

B. 顧客は、各領域における予測式として、業務内容に合わせた式の形を指定可能だ。予測精度より予測式の単純さを優先する場合は、より単純な形の式を指定できる。下図に示す例のように「予測式:y=築年数×0.5+土地の傾き×5+「木造なら+3」+「地域Aなら+2」+…が複雑であるため、変数を3つ以下にしたい」というような指定が可能だ。

上記1の技術で得られる式が単純だからこそ、顧客の経験や知識を予測式に容易に反映させることができるという。このように、顧客自身で予測式を調整でき、信頼できるAIを容易･迅速に構築できるとのことだ。