Reuters logo
インタビュー:AIの倫理判断、幅広い議論を=平野中央大教授
2016年8月3日 / 06:06 / 1年前

インタビュー:AIの倫理判断、幅広い議論を=平野中央大教授

 8月3日、人工知能(AI)を搭載した自動運転には避けて通れない厚い壁がある。衝突不可避となったときに、AIがどういう危険回避策をとるべきか、いわゆる「トロッコ問題」と呼ばれるテーマだ。写真は1月、ラスベガスでの家電見本市で、米デルファイの自動運転テクノロジーを披露する男性エンジニア(2016年 ロイター/Rick Wilking)

[東京 3日 ロイター] - 人工知能(AI)を搭載した自動運転には避けて通れない厚い壁がある。衝突不可避となったときに、AIがどういう危険回避策をとるべきか、いわゆる「トロッコ問題」と呼ばれるテーマだ。大きな犠牲を避けるために、小さな犠牲を許容すべきか、そうした判断は誰が決めるのか。

総務省のAIネットワーク化検討会議の座長代理を務める中央大学総合政策学部の平野晋教授は「倫理問題はみんな避けて通ろうとするが、避けてはならない。どう設計するか社会全体で決めるべき問題だ」と警鐘を鳴らす。

インタビューの詳細は以下の通り。

──AI・ロボットについてはリスクを危惧する向きもある。

「新しい分野なので明解な答えのない部分も多いが、基本的には全体としての便益が費用を上回れば、研究開発を推進すべきだ。もっとも予見が難しいリスクが多いので、そのあたりは慎重に進める必要もある」

──AI・ロボットへの規制は必要か。

「ロボット法と言うと、進歩を妨げるという対立的な捉え方があるが、それは誤解で、むしろ生命倫理のような分野の知見を学ぶべきと思っている。たとえば法や規範なしにむやみにヒトの男女の産み分けを操作できる技術の行使を許せば、とんでもない社会になってしまうだろう。クローン人間の開発研究も、規範なしに許す訳にはいかない。同じようにロボットやAIの分野も、社会への影響力が大きい分だけ、規範や法が黙っていてはいけない」

──AIはどこまで信頼していいのか。

「AIとトップ棋士による囲碁の対戦では、AIが5戦中4戦勝ったが、問題は負けた対戦だ。なぜあのような手をとったのか分からないところが大きなリスクと言われている。全部勝っていれば安心して任せられたが、このケースでは5回中1回誤作動したとみることもできる。誤作動した理由がわからないと修正もできない」

「たとえば自動運転では、完全自動運転のレベル4を実現するには、やはりAIが必要だ。ところがいまの欠点、なぜそういう行動をとったのかわからないと対策の打ちようもない。そうすると、レベル4は危なくて使えないという話になる」

──AI倫理問題でよく引き合いに出されるのがトロッコ問題。制御不能となったトロッコがそのまま進めば5人をひくが、分岐点で進路を変えれば5人が助かる代わりにその先にいる1人が犠牲になる。AIにどう判断させるべきか。

「倫理問題はみんな避けて通ろうとするが、やはり避けてはいけない。トロッコ問題は単純化された究極の選択だけに批判もあるが、衝突時の進路選択をAIの設計者や保険会社、オーナーに任せていいのか。倫理・哲学家や法律家、技術者などさまざまな分野の専門家が議論して、社会全体で決めるべき問題だ。2020年に自動運転を実用化すると言っているので、その時に議論を始めても遅い。いまからやらないといけない」

──AIのリスクは。

「SF(科学空想)作品『2001宇宙の旅』では、AIを備えたコンピューターHALが宇宙飛行士を殺す場面があるが、これは単なるSFではなく、いまのAIに対するリスクが象徴されていると思っている。AIは目的を言えば、その手段を自分で判断していく。この場合だと、目的を達成するためには殺すことが最適と判断したのかもしれない」

「有名な逸話がある。人型ロボットに右手で左の耳をつかめと命令するどうなるか。人間だと普通に右手を左耳の方に持っていって耳をつかむが、人型ロボットは右手を頭に突っ込んで左耳をつかもうとする。これはすごく含意のある逸話だ」

「人間だと当然、自分を殺さないように判断するが人工知能はそこが抜けていて、目的のために自分が死ぬようなことをやってしまうかもしれない。そこで常識や倫理などをロボットやAIに教えるべきだという話にいまなってきている」

──自動運転でほかに解決すべき課題はあるか。

「プライバシーとビッグデータについて考える必要がある。運転情報などのプライバシーを守ろうとすると、安全性は上がらない。安全性を上げようとすると、プライバシーは下がる。両者はトレードオフの関係にある。両者ともにある程度、犠牲にしなければならない」

「あらゆるものがインターネットにつながるIoT(インターネット・オブ・シングス)の時代は、ひとつひとつの情報は匿名でも、いつくかの情報が組み合わさると誰だかわかってしまうリスクもあり、そういったことももっと研究していく必要があるだろう」

*インタビューは7月26日に実施しました。

志田義寧

私たちの行動規範:トムソン・ロイター「信頼の原則」
0 : 0
  • narrow-browser-and-phone
  • medium-browser-and-portrait-tablet
  • landscape-tablet
  • medium-wide-browser
  • wide-browser-and-larger
  • medium-browser-and-landscape-tablet
  • medium-wide-browser-and-larger
  • above-phone
  • portrait-tablet-and-above
  • above-portrait-tablet
  • landscape-tablet-and-above
  • landscape-tablet-and-medium-wide-browser
  • portrait-tablet-and-below
  • landscape-tablet-and-below