デロイト トーマツ グループは、日本企業の「AIガバナンス サーベイ」の2019年版を発表した。同調査は企業におけるAIの利活用状況やリスク管理・ガバナンス構築の実態調査を目的に、2019年9月18日～2019年11月15日の期間、日本に拠点を置く全業種の全部門を対象にオンラインによるアンケートで実施し、172件の有効回答を得た。
主な調査結果は以下の通り。
1. AI利活用企業の約5割がPoCを実施、その7割が本番運用、6割が目的達成まで実施
AIを「利活用している」、もしくは「利活用に向けた取り組みを始めている」と答えた回答者は56%だった。このうち、本格運用前の技術検証であるPoCを実施している企業は47%となった。
また、PoC実施後の本番運用（73%）および目的達成（62%）については、共に高い回答割合となった。本番運用から目的達成への達成割合が1割しか減少していないことから、PoCでの実現可能性の評価が機能している。一方で、5割がPoCを実施できておらず、「PoCどまり」以前にPoCを実施することができない回答者が多数存在することがわかった。
また、PoCから本番運用に達することができなかった理由に関しては「システム化や本番運用する体制・人材が準備できない」が51%、「PoCで目標としていた予測精度が達成できない」が47%、「ROIが期待していた基準に達しない」が40%となり、PoCの目的である品質やROI等に関する障壁だけでなく、運用人材も不足していることが明らかとなった。
一方で、「リスクがあるAIを未使用である」と答えた回答者が多く、該当リスクのAIを活用するケースがない、またはリスクの小さいAIから活用を進めていることからAIの利用範囲が限定的になっている可能性が示唆される。特にAIが偏見を含んだ判断を行ってしまうリスクを含むAIは「利用していない」との回答が多く、例えば採用や人事評価、与信などの領域でのAI利用には慎重になっていることが示された。
具体的には下記のようにAI固有のリスクへ適切に対処できれば、これまでリスクが大きいことを理由に断念していた領域でもAIを活用できるようになる。
- AIが特定の性別や国籍等のグループに、不公平な判断を行うことにより、社会的非難を受けるリスク
予め考慮しなければならないルール等から基準を整備し、予測結果に対するバイアスを軽減するモデルを開発する - AIがユーザーを高度にプロファイリングすることにより、ユーザーの機微情報が推定され、プライバシーを侵害してしまうリスク
データ提供者と合意する利用目的を汎用的な内容から具体的な内容に変更し、継続的に利用への同意を確認するスタイルへ変革する
