for-phone-onlyfor-tablet-portrait-upfor-tablet-landscape-upfor-desktop-upfor-wide-desktop-up

焦点:米IT大手、AI新技術の活用にブレーキ 倫理的問題に直面

[サンフランシスコ 8日 ロイター] - 米グーグルのクラウド部門は昨年9月、顧客金融機関から融資審査に人口知能(AI)を活用するサービスを提供してほしいと持ちかけられた。何週間も協議した末、出た結論は却下。AI技術は人種や性別にまつわる差別を永続化させかねず、倫理的に危うすぎる、というのがその理由だった。

 9月8日、米グーグルのクラウド部門は昨年9月、顧客金融機関から融資審査に人口知能(AI)を活用するサービスを提供してほしいと持ちかけられた。写真はグーグルクラウドのロゴ。ベルリンで8月撮影(2021年 ロイター/Annegret Hilse)

昨年初め以来、グーグルは感情を分析する新たなAI機能についても文化的配慮の欠如を懸念して阻止した。米マイクロソフトは声を模倣するソフトウエアの利用に制限をかけ、米IBMは顔認識システムの進化版を作って欲しいという顧客の要望を拒否した。

3社のAI倫理責任者への取材によると、いずれも経営幹部その他指導者でつくる委員会が決定を下した。3社の決定と、そこに至るまでの審議過程が報じられるのはこの記事が初めてとなる。

社会的責任を強く求められるようになった業界では今、莫大な利益をもたらすAIシステムを追求することと、社会的責任との間でバランスを図ろうとする機運が芽生えている。3社の動向はこうした背景を反映したものだ。

グーグル・クラウドの「責任あるAI」担当マネジングディレクター、トレーシー・ピッッゾ・フレイ氏は、「チャンスと有害性がある。われわれの仕事はチャンスを最大化し、有害性を最小化することだ」と語る。フレイ氏は社内にある2つの倫理委員会に名を連ねている。

しかし難しい判断もある。

マイクロソフトの場合、人の声の録音を修復するのに音声模倣技術を用いることのメリットと、政治的な「ディープフェイク」を可能にするリスクを天秤にかける必要があった。同社のAI責任者が明らかにした。

人権活動家は、社会全般に影響を与える可能性のある物事については社内だけで判断を下すべきではないと訴えている。社内倫理委員会が本当に独立性を保つことは不可能だし、他社との競争圧力により一般への情報公開も制限されるからだ。

「欧州のための市民の自由連合」の責任者、ジャスチャ・ギャラスキー氏は社内のAI倫理委員会について「本当に透明かつ独立したものになるとすれば――まったくもって夢物語だが――その他の解決法よりも、かえって良いかもしれない。しかし私は非現実的だと思う」と話した。

同氏は外部から監視すべきだと考えており、実際に欧米当局がルールの策定に取りかかろうとしている。

大手3社もAI利用についての明確な規制を歓迎すると表明。自動車の安全性規則と同様、顧客にとっても社会の信頼を得る上でも不可欠であり、責任ある行動は自社の経済的利益にも資するとの考えを示した。

もっとも各社は技術革新と、それに伴う新たなジレンマに対応できるよう規則に十分な柔軟性を持たせることも強く要望している。

IBMはロイターに対し、脳とコンピューターを結ぶインプラントやウエアラブル機器について、自社のAI倫理委員会が審議を始めたことを明らかにした。こうしたニューロ技術(脳神経科学を用いた技術)は、障害者が身体の動きをコントロールするのを助ける可能性があるが、ハッカーが思考を操作する可能性も懸念されると、IBMのクリスティナ・モンゴメリー最高プライバシー責任者は述べた。

<悲しみを見抜くAI>

IT企業はほんの5年前まで、ほとんど倫理上の安全性を確保することなくチャットボット(自動会話プログラム)や写真のタグ付け機能といったAIサービスを導入していたと認めている。誤用や偏った表示がなされるなどの問題には、その都度アップデートで対応してきたという。

しかしAIの欠点に対して政治や市民から厳しい目が向けられる中、マイクロソフトは2017年、グーグルとIBMは2018年に倫理委員会を設立し、新サービス導入当初から審査する体制を整えた。

グーグルは昨年9月に金融サービス企業から、AIの方が人々の信用審査をうまく行えるのではないかと提案され、ジレンマに直面した。

グーグル・クラウドは、AIベースの信用スコアリング(信用力の数値化)は年間数十億ドル(数千億円)規模の市場になる可能性を秘めていると考え、足場を築きたい気持ちはやまやまだった。

しかしフレイ氏によると、管理職、社会科学者、エンジニアなど約20人で構成する倫理委員会は10月の会議で、全員一致でこの案を却下した。

AIシステムは過去のデータやパターンから学ぶ必要があるため、有色人種その他、社会の主流から取り残された人々への差別的慣行を繰り返すリスクがある、と結論付けたのだ。

社内で「レモネード」の名で知られる倫理委員会はさらに、こうした懸念が解消されるまで信用力に関連する金融サービス案件には一切手を付けないとする規約も採択した。

レモネードはそれまでの1年間にも、クレジットカード会社や企業向け金融機関などから持ちかけられた同様の案件3件を却下していた。

グーグルにはクラウドに関するもう一つの倫理委員会「アイスティー」がある。こちらは今年、人々の写真を「喜び」、「悲しみ」、「怒り」、「驚き」の4つの表情に分類する2015年開始のサービスについて審査を始めた。グーグル全体の倫理委員会「先進技術審査評議会(ATRC)」が、表情認識関連の新サービスを差し止めたのを受けた措置だ。

ATRCは、文化によって表情と感情との結びつきは異なるため、感情を推察することは無神経な場合があると判断した。グーグルの「責任ある技術革新チーム」を率いるジェン・ジェンナイ氏が明らかにした。

アイスティーは「気まずさ」、「満足」など、グーグル・クラウド用に計画されていた13種類の感情の導入を阻止した。近くこうしたサービス全体を廃止し、「しかめ面」、「笑顔」など、顔の動きだけを表現してその解釈はしない新システムに切り替える可能性がある。フレイ、ジェンナイ両氏が明らかにした。

<声・顔認識>

一方マイクロソフトは、短いサンプルから人の声を再現する新ソフト「カスタム・ニューラル・ボイス」について、委員会が倫理面の問題を2年間審査。最終的にゴーサインを出したため、ソフトは2月に全面始動したが、対象者の同意を確認するなど、使用に当たって複数の制限を設けた。同社幹部が明らかにした。

またIBMのAI委員会は新型コロナウイルス感染拡大の初期にジレンマに見舞われた。高熱のある人やマスク着用の有無を識別するための顔認識技術をカスタマイズして欲しい、という顧客からの要望を審査した際だ。

委員会の共同座長を務めるモンゴメリー氏は、手作業でチェックすれば十分であり、プライバシー侵害も避けやすいとしてこの案を却下した。手作業ならAIのデータベス用に写真が保存されることもないからだ。

この6カ月後、IBMは顔認識サービスを中止すると発表した。

<欧米で規則策定の動き>

欧州連合(EU)と米国の議員らは、プライバシーなどの自由を保護するためにAIシステムの広範なコントロールを模索している。

来年成立する見通しのEUのAI法では、公共スペースでのリアルタイムの顔認識を禁じるとともに、IT企業に採用や信用スコアリング、法執行などリスクの高い分野で使われるアプリを厳しく精査するよう義務付ける予定だ。

ビル・フォスター米下院議員は、AIに関する新法ができれば企業の公平な競争環境が確保されると説明。「社会的な目的を達成するために利益が打撃を被るのを我慢してくれと企業に言うと『株主や同業他社はどうなる』と返されるだろう。だからこそ高度な規制が必要なのだ」と述べた。

フォスター氏は「あまりにもセンシティブな分野については、明確な規則ができるまでIT企業はあえて手を出さないかもしれない」との見方を示した。

(Paresh Dave記者 Jeffrey Dastin記者)

for-phone-onlyfor-tablet-portrait-upfor-tablet-landscape-upfor-desktop-upfor-wide-desktop-up