PwCでは、AI (人工知能） が財務部門やそこで働く専門職の人に大きなメリットをもたらすようになると強く信じています。一方では、AIがあらゆる問題を解決する万能なものとの幻想も抱いてはいません。
今回はAIに関する企業の考え方や現段階での問題点、そしてそれを解決するためのポイントをご紹介します。
企業におけるAIに対する現状認識
ほとんどの財務部門のリーダーや、多くのITプロフェッショナルでさえ、AIがどのような仕組みで機能するか理解していないため、AIからの推奨をなかなか信頼することができないと考えています。企業は、信頼できるAIを導入できるようになる前に、AIのことを理解して信頼する必要があります
AIはデータから多くのことを学べますが、その中には忘れておいたほうがよいこともあります。
ある有名な話の1つに、COMPASリスク評価システムがあります。このシステムは、アルゴリズムに基づいて検察官や判事に、各犯罪者の常習性のリスクについて助言をしていましたが、そのシステムに投入されていた履歴データから人種的な偏見が学習されていたことが判明しました。
AIのメリットとデメリット
ビジネスにおいては、AIアプリケーションによる推奨によって、運転資金状況が改善したり、企業の戦略が精緻化されたりする可能性があります。
財務担当者やFP&A（Financial Planning & Analysis）のリーダーは、実際に行動を取る前に、AIがどのようにしてその結論に達したのかという過程を知りたいと考えています。2017年PwC調査では、CEOの76%が、AIによるバイアスの可能性や透明性の欠如から、AI導入を躊躇していると回答しています。
AIのアルゴリズムでは、不透明な方法で確率的に判断がくだされます。そのため人間は、理由を知りたいと考えるようになります。リーダー、従業員、消費者、規制機関はすべて、説明できない動作をするAIを信頼することを躊躇しています。そのため、AIの「ブラックボックス」を解明し、説明や証明が可能で透明性があるものにすべきだという圧力が高まっています。
[RELATED_POSTS]AIはGRCソリューションとセットで考える
テクノロジーベンダーは、潜在的な問題点を認識し、世界経済フォーラムの第四次産業革命センター、自律インテリジェント システムにおける倫理に関するIEEEグローバル イニシアチブ、AI Now、The Partnership on AI、Future of Life、AI for Good、DeepMindなどでの共同作業に参加しています。
すべての参加者は、人類にとってのAIのメリットを最大化し、リスクを最小化することを目指していますが、PwCで以前まとめた「2018年AI予測」で示したように、信頼できるAIを求めるプレッシャーは、テクノロジー企業だけに向けられるものではありません。
組織に対するリスクは、プライバシーの侵害やアルゴリズムによる偏見から、ブランドに対する評判や企業の収益まで、テクノロジー以外の広範囲におよびます。取締役会もこのリスクを他にまかせることはできません。
信頼できるAIが不可欠と考える企業が増えるほど、財務の役割は大きくなります。
たとえAIが導入されたのが財務部門以外だとしても同様です。信頼できるAIには、テクノロジー ソリューションと同様のガバナンス・リスク・コンプライアンス ソリューションが必要なります。
関連記事：コンプライアンスとガバナンスってどう違う？基礎から解説
たとえば、Oracle ERP CloudのOracle Risk Management CloudなどのGRCソリューションを活用して、不正な犯罪者が偽のアカウントを作成しようとしたときなどに、自社独自のアルゴリズムが乱用される可能性がないかを評価することができます。
GRCソフトウェアは、監査証跡も提供します。また、内部の監査者は、ガバナンス・リスク・コンプライアンス プロセスの専門家です。内部監査者は、リスク フレームワークを開発して、データに「バイアスがかからない」方法を体系化したり、法律および倫理上の潜在的な問題点を回避するための学習アルゴリズムを導入したりすることができます。
また、管理プロセスの一環として動作の分類や説明を実施するために、プライマリAIと並行してセカンダリAIエージェントの学習をサポートすることもできます。そのようにして財務部門は、最終的にAIを信頼できるようになるループに人間を導くことになります。
※本ブログはOracle ERP Cloudブログ：アシュアランス イノベーション リーダー、マイク バッカラおよびPwC ファイナンス コンサルティング、プリンシパル、エド ポナガイ氏著「How Finance Will Make AI More Responsible」の抄訳です。
