for-phone-onlyfor-tablet-portrait-upfor-tablet-landscape-upfor-desktop-upfor-wide-desktop-up

アングル:「理由を説明するAI」実用化、ビジネス激変の可能性

[オークランド(米カリフォルニア州) 6日 ロイター] - 米マイクロソフト傘下のビジネス向け交流サイト(SNS)「リンクトイン」は、ある人工知能(AI)ソフトウエアを昨年7月に営業チームに導入して以来、登録料収入が8%増えた。

4月6日、米マイクロソフト傘下のビジネス向け交流サイト(SNS)「リンクトイン」は、ある人工知能(AI)ソフトウエアを昨年7月に営業チームに導入して以来、登録料収入が8%増えた。写真はイメージ。2013年6月撮影(2022年 ロイター/Kacper Pempel)

このAIは、例えば登録を解約しそうな顧客を予想するだけでなく、その結論に至った理由まで説明してくれる。AIが結論を導き出すプロセスを明らかにすることで、新たなビジネスチャンスを生み出す画期的なソフトだ。

AI科学者らにとって、ビジネスのあらゆる結果を正確に予測するシステムを設計するのは、わけもないことだ。しかし、運営側のヒトにとってより役立つ道具にするには、AIが別のアルゴリズムを通じて自らの考え方を説明する必要があるのではないか──。科学者らは、そうした考えに至り始めている。

「説明可能なAI(XAI)」と呼ばれるこの新分野は今、シリコンバレーで多額の投資を呼び込んでいる。スタートアップ企業や巨大クラウド企業が開発を競い合っている。

また、AIの意思決定が公正かつ透明に行われることを望む米国政府や欧州連合(EU)本部は、XAIの登場で議論を活発化させている。

AI技術は人種、ジェンダー、文化にまつわる社会的偏見を固定化させかねない。こうした問題を緩和する上で「説明可能性」が、重要な役割を担うとみるAI科学者らもいる。

米連邦取引委員会(FTC)など米消費者保護当局は過去2年間、説明が不可能なAIについて、調査を行う可能性があると警告を発してきた。

EUは来年、「人工知能法」を成立させる可能性がある。ユーザーがAI予想の背景を理解できるようにすることなど、AIに関する一連の義務が盛り込まれる見通しだ。

XAIにより、医療や営業などの分野にAIを導入することの有効性が高まったとの指摘もある。例えば、グーグルクラウドは、システムの精度向上を望む顧客に対し、写真の被写体を予測する上でどの画素が最も役立ったかを伝えるXAIサービスを販売している。

ただ、機械の考え方を解析するAI技術がまだ不十分なので、AIの説明はあてにならない、との批判もある。

XAIを開発しているリンクトインなどの企業も、個々のステップに改善の余地が残っていることを認識している。AIが出した予想を分析し、説明文を生成し、その精度を確認した上で、ユーザーにとって実用的なものにする、といったステップだ。

だが、2年にわたって試行錯誤を行ってきたリンクトインは、自社のXAI技術が実用的価値を生み出したと説明する。本会計年度の登録更新が、通常予想されるペースよりも8%高い伸びを示したことが、その証左だという。

リンクトインの営業員らはかつて、顧客がサービスを採用するかどうかについて、自身の直感と散発的な自動警告に頼っていた。

今では、AIが素早く調査と分析を行う。「クリスタルキャンドル」というリンクトインのシステムが、気付かなかったトレンドを検知して、その背景を説明してくれる。

担当者は逃げそうな顧客をつなぎとめたり、他の顧客には高機能サービスへのアップグレードを勧めたりと、営業戦術を磨き上げることができる。

リンクトインによると、今では人材採用から、広告、マーケティング、教育サービスに至るまで、幅広い部門で計5000人を超える営業担当者がXAIを利用するようになった。

リンクトインの機械学習担当ディレクター、パーベズ・アーマド氏は「(XAIによって)経験豊富な営業担当者は具体的な情報を武器に、しっかり先を見通して会話を運べるようになった。その一方で、新人はすぐに仕事に飛び込めるようになった」と話した。

<説明すべきか、説明しないべきか>

リンクトインは2020年、初めて「説明しない」AI予想を導入した。登録更新の時期が迫った顧客がアップグレードするか、登録を続けるか、キャンセルするかの確率をスコア表示するもので、精度は80%程度だった。

しかし、人材採用ソフトを売る営業担当者らは満足しなかった。特に顧客企業が更新するかしないか五分五分の場合などには、どのような営業戦略を採用すべきか不明だった。

ところが、昨年7月にXAIが導入されると営業担当者らは、スコアに影響した要因を示す自動生成の短文が読めるようになった。

例えば、ある顧客企業は過去1年間に従業員が240人増え、過去1カ月間に入社志望者の反応度が146%上がっているため、アップグレードの確率が高いと判断した、といった説明文だ。

しかも、顧客企業がリンクトインの人材採用ソフトを使って成功した確率を示す指数は、過去3カ月間で25%上昇した。

ただ、一部のAI専門家は「説明可能性」の必要性に疑問を呈している。AIについて誤った安心感を生み出したり、予想の正確性を落とすような設計上の犠牲を誘発したりと、むしろ有害になりかねないという。

スタンフォード大学・人間中心AI研究所のフェイフェイ・リー共同ディレクターは、人々は「グーグルマップ」などの製品について、必ずしも内部の仕組みを理解できずに使っていると指摘。こうした場合には、頑健な試験とモニターを行うことで、その有効性についての疑問は払拭されていると述べた。

個々の決定過程が不明でも、AIシステム全体が公正である可能性はある、との指摘もある。

しかし、リンクトインは、考え方が理解できなければアルゴリズムの整合性を評価できないと主張する。

また、クリスタルキャンドルのようなAIは、他の分野にも応用できるという。例えば、ある患者が特定の疾患にかかるリスクが高いとAIが予想した場合、医師はその理由を知ることができる。クレジットカードの審査に落ちた人々は、AIがなぜそう判断したのかを説明してもらえるかもしれない。

グーグルのAI研究者、ビーン・キム氏は、AIシステムが運営主体の望む概念や価値観に合致しているかどうかが、説明によって明白になるのが望ましいと言う。「説明可能性は、最終的にはヒトと機械の対話を可能にすると考えている。ヒトと機械の協力を本当に望むなら、説明可能性は必要だ」とキム氏は語った。

(Paresh Dave記者)

for-phone-onlyfor-tablet-portrait-upfor-tablet-landscape-upfor-desktop-upfor-wide-desktop-up