［メルボルン １５日 トムソン・ロイター財団］ - ２０１６年のことだ。オーストラリアに住むミュージシャンのネイサン・カーニーさん（３３）は、社会保障当局から給付金の数千豪ドル分の過払いがあるとの通知を受けた時、何かまずいことが起きていることを感じ取った。だが八方手を尽くしても、このとんでもない間違いを訂正してくれる政府当局の「人間」は現れなかった。
それが、カーニーさんの５年にわたる苦難の日々の始まりだった。
まず、債権回収業者から不愉快な電話が何回もかかってきた。次いで、税の還付金が差し押さえられた。政府の主張する過払い金約２０００豪ドル（約１８万３０００円）の返還に充当するという。
最初の通知から１年後、次の通知が届いた。今度は、過払い額は約４０００豪ドルだと書かれていた。
「どうしてこんなお金を私に請求するのか、まったくもって理解不能だった」とカーニーさんは語る。彼は東部ブリスベンのシェアハウスを出て、何百キロメートルも離れた実家に戻らざるを得なかった。
「何とかやりくりしていくためには、それ以外は思いつきもしなかった」とカーニーさんは語る。「本当に、本当に打ちのめされた」彼は、苦難を乗り切るため何度となくカウンセリングを受け、負債はさらに膨らんでいった。
カーニーさんはトムソン・ロイター財団の取材に「立ち直るのに５年かかった」と語った。
豪州では彼を含めた社会保障受給者のうち約４０万人が、「当局への所得申告に虚偽があった」という、事実と異なる判定を受け、結果として罰金を科された。
こうしたエラーは、「ロボデット」と呼ばれる豪州の自動債権回収スキームによるものだ。保守系連立によるモリソン前政権が導入したもので、社会保障受給者への給付金過払いがあるという誤った計算をして、大量の返還請求を発行してしまった。
このスキームが運用されていたのは２０１５年７月から２０１９年１１月まで。アルゴリズムを駆使して社会保障の不正受給を算出し、１７億豪ドル（約１５５４億円）以上を回収した。だが２０１９年、このスキームを違法だとする裁判所の判決が出たことから、政府は回収済みの金額については返金を、そうでないものについては回収の取り消しを強いられた。
現在、政府の諮問機関として最も強力な権限を有する王立委員会がこのスキームに関する調査を進めており、官僚、閣僚経験者、そして被害者が各々証拠を提出することになっている。
現在のアルバニージー政権が８月に王立委員会による調査を発表した際、ショートン社会保障相はロボデットを「行政史に残る恥ずべき１章」「政策と法の極めてひどい失敗」と表現した。
＜人間が介入していれば……＞
膨れ上がる社会保障給付の申請処理をスピードアップしつつ不正を減らすため、各国政府は人工知能（ＡＩ）に注目している。だがこの技術は、運用上のトラブルや偏見を助長するとの批判に悩まされてきた。
国際連合の専門家は２０１９年、社会保障支出の削減と政府による監視を導入するために設計された「デジタル福祉国家」の出現に警鐘を鳴らした。
問題を理由にスキームを廃止した国もある。
オランダでは２０２０年、不正受給を自動的に検出するシステムが裁判所により人権侵害であると認定され、差し止めが命じられた。公式の報告によれば、このシステムは低所得世帯を狙い撃ちしており、その悪影響がマイノリティー（人種的少数派）に偏っていたことが明らかになっている。
英国政府も、社会保障制度の自動化に関して厳しく批判されている。人権擁護団体は、このシステムは弱い立場にある受給者の困窮と負債を深刻にする恐れがあると主張する。
公的機関によるＡＩの利用を研究するタパニ・リンタカヒラ教授（クイーンズランド大学）は、こうしたスキームには「本質的に問題」があり、人間性が完全に欠如しているせいで失敗する場合が多いと指摘する。
「どれほど優れたアルゴリズムがあり、いかに洗練されたものだとしても、社会保障のように繊細で根本的な人間の問題に対応することは不可能だ」とリンタカヒラ教授は言う。
さらに同教授は「こうしたサービスにＡＩアルゴリズムを導入することで、効率化や機能改善を図ることに反対はしない。ただ運用については、高いレベルでの慎重さ、つまり人間による監視と介入が必要になる」と続ける。
王立委員会の調査では、政府は早ければ２０１９年３月の段階でロボデットスキームがおそらく違法だという法的な助言を受けていたが、同１１月まで運用を停止しなかったことが明らかになっている。
２０２０年、当時のモリソン首相はロボデットが引き起こした「苦痛もしくは損害」について議会で謝罪したが、社会福祉における過払いの回収は「困難な業務」であると弁明した。
だがリンタカヒラ教授は、政府がこのスキームの運用を継続し過ぎ「欠陥のあるシステムを擁護し続けた」と指摘する。
＜抑制と均衡が不可欠＞
王立委員会は来年３月まで調査を続け、公聴会はライブストリーミングで中継されることになっている。
被害者の１人で、スパ施設の管理人として働くメラニー・クリーブさん（４９）は、ロボデットのせいで自分が「犯罪者」になったように感じたという。
クリーブさんは２０１６年に、約２５００豪ドルを返還するよう通告を受けた。この「見かけ上」の債務との相殺で給付金は減らされてしまい、経済的な苦境に陥った。
「当局に電話して、この支給額では生活できないと訴えたが、何もできることはない、通知したとおりだと言われた」という。そこで車を手放し、慈善団体の救世軍が配布する食料と燃料の引換券を利用し、両親から借金をして何とか食いつないだ。
「お先真っ暗だった。外出もできず、食料など何も買えなかったので、部屋に引きこもっていた」
ロボデットのような失敗を繰り返さないためには、「抑制と均衡」が不可欠だとクリーブさんは言う。「弱い立場の人々が苦しむようなことは、二度と起きてほしくない」
冒頭のカーニーさんは王立委員会で証言しないことを決めた。ロボデットのスキームを「取り返しのつかない愚行」と呼ぶが、テクノロジーのせいではないと語る。
「この問題の元凶がコンピューターシステムだとは思わない」とカーニーさん。システムに欠陥があるという度重なる警告を無視し、返還通告を送りつけた政府を厳しく非難した。
「最悪なのはコンピューターシステムを作った人間、その使用を許可した人間だ。元凶は人間なのだ」
（Seb Starcevic記者、翻訳：エァクレーレン）
私たちの行動規範：トムソン・ロイター「信頼の原則」