for-phone-onlyfor-tablet-portrait-upfor-tablet-landscape-upfor-desktop-upfor-wide-desktop-up

焦点:米刑務所に広がるAI監視、「一線越える」運用に懸念

[ロサンゼルス/ワシントン 15日 トムソン・ロイター財団] - 米ニューヨーク州サフォーク郡の保安官は、刑務所の電話を使った通話を傍受するための人工知能(AI)システムの予算として、連邦政府に70万ドル(約8000万円)を請求した。犯罪組織関連の暴力犯罪への対策に欠かせないツールとの位置づけだった。

米ニューヨーク州サフォーク郡の保安官は、刑務所の電話を使った通話を傍受するためのAIシステムの予算として、連邦政府に70万ドル(約8000万円)を請求した。犯罪組織関連の暴力犯罪への対策に欠かせないツールとの位置づけだった。写真はジョージア州チャタム郡の刑務所で2019年2月撮影(2021年 ロイター/Shannon Stapleton)

だが、トムソン・ロイター財団が入手した郡の公式記録によれば、郡の刑務所では、それよりもはるかに広範囲の内容にわたる通話を傍受する結果となった。システムは実に1カ月当たり60万分もの通話をスキャンしていたのである。

サフォーク郡では2019年から、カリフォルニア州に本社を置くLEOテクノロジーズが販売するAIスキャンシステム「ベラス」の初期実験を行った。「ベラス」は、アマゾン・ウェブ・サービスの自然言語処理・文字起こしツールを使い、キーワード検索でフラグを付けられた通話の文字起こしを行うものだ。

LEOテクノロジーズと法執行機関の当局者は、「ベラス」は刑務所・拘置所の安全を守り、犯罪に対抗するための重要なツールだとしている。しかし、こうしたシステムが収監者や外部にいる家族などのプライバシー権を踏みにじるものだという批判もある。

移民問題を専門とする法曹団体ジャスト・フューチャーズ・ローの副会長を務めるジュリー・マオ氏は、「これほど迅速かつ大規模な監視能力というのは、信じがたいほど恐ろしく、身の毛もよだつ思いだ」と語る。

LEOテクノロジーズによれば、サフォーク郡の他にも、テキサス州ヒューストンやアラバマ州バーミングハムなど国内7州にある数十カ所の郡拘置所・州刑務所で、すでに収監者の通話を監視するために「ベラス」が導入されているという。

サフォーク郡で「ベラス」の運用を支えてきたケビン・カタリナ保安官代理は、このシステムが「公共の安全、そして職員と収監者の安全に貢献していることは間違いない」と述べた。

8つの州から送られてきたメールと契約書によると、このツールを使ってスキャンされる通話は広い範囲に及んでいる。たとえば、スペイン語で「弁護士」を意味する単語を含む会話や、拘置施設が新型コロナウイルス感染症(COVID-19)の感染拡大を隠蔽(いんぺい)しているという非難などだ。

サフォーク郡の例では、保安官事務所からのメールによると、職員が複数の、ときには無難な意味を持つ単語を検索することもあるという。たとえば「mara」は、犯罪組織を意味することもあれば、単に友人グループを意味する場合もある。

またサフォーク郡の保安官代理らの間では、収監中に不正に失業手当を受給しているというフラグを立てられた収監者について、定期的な調査報告を回覧していた。

一連の裁判では、米当局に対し、安全確保や犯罪対策を目的として収監者の会話を監視する広範な裁量を与えている。

カタリナ保安官代理は「郡の収監者は全員、自分の通話が傍受されていることを告知されている」と語った。

LEOテクノロジーズからはコメントを得られなかったが、同社のウェブサイトには「ベラス」について、収監者に対する脅威を警告する「客観的な」方法であり、「矯正施設内での犯罪行為を阻止し、決定的な証拠によって進行中の捜査を支援する」と記されている。

<無実の人を巻き込む可能性>

LEOテクノロジーズの他にも、こうした監視サービスを提供、または提供に向けて取り組んでいる企業は複数ある。刑務所向け電話インフラを提供する大手2社であるセキュラスとGTLも、監視サービスを販売している。

セキュラスの広報担当者は文書による声明で「弊社製品の利用者すべての市民的自由を保護することにコミットしている」とした。

GTLに対しては、このようなテクノロジーの開発を今も進めているのか、どのような乱用防止手段を導入しているのか問い合わせたが、同社はコメントを控えた。

LEOテクノロジーズは、この市場における最も先進的なシステムとして「ベラス」を宣伝している。

ミズーリ州矯正局への開示請求で入手した文書では、「ベラス」について、ほぼリアルタイムの分析と有用なレポートを提供するという点で、競合製品に比べて独自性があると表現されている。

また「収監者とその関係者の行動パターン」にフラグを立てることで、法執行機関が犯罪組織の構成員を特定する手がかりになるとも評価されている。

カタリナ保安官代理は、このシステムを使えば、何時間分もの通話記録に目を通す代わりに、「特定の目的に合致するキーワードに狙いを定めることで、職員はより効率的に時間を使えるようになる」と話した。

だが、電子フロンティア財団(EFF)の研究者として刑務所の監視システムを調査しているベリル・リプトン氏は、「ベラス」を使って刑務所からの通話の相手を犯罪組織の活動に結びつけてしまえば、無実の人まで巻き込んでしまうリスクがあると語る。

リプトン氏は「自分がその種のリストに載っているかどうか、またそのリストから削除してもらう方法が分からない場合も多い」と述べ、サフォーク郡の法執行機関が中南米系の男性を犯罪組織の構成員として誤認した例があるとも指摘した。

こうした批判についてサフォーク郡にコメントを求めたが、回答は得られなかった。

<「一線を越える」運用も>

サフォーク郡の文書によると、「ベラス」のシステムで得られた情報は、すでにLEOテクノロジーズの既存・潜在顧客や、20を超える法執行機関、移民当局・担当部門に提供されているという。

昨年、新型コロナ禍が最も深刻だった時期、LEOテクノロジーズは複数の刑務所当局と提携し、監視対象とする通話の範囲を拘置施設内でのウイルスに関する話題にまで拡張したことが文書記録で判明している。

同社が顧客に配布したデータシートによれば、2020年春には「咳」や「感染」といったキーワードをもとに数千件の通話にフラグを立てており、収監者の中での感染拡大を封じ込めることに貢献したことが強調されている。

ただしこのテクノロジーは、COVID-19の感染拡大の可能性を検知するためだけに使われたわけではない。

メールの記録では、アラバマ州カルフーン郡の刑務所当局は「ベラス」を利用して、収監者が施設の清潔さを請け合っている通話を特定し、刑務所に対する訴訟に対抗するための材料を用意しようとしていたことが示されている。

LEOテクノロジーズのジェームズ・セクストン最高執行責任者(COO)は、イリノイ州クック郡の刑務所へのメールによる営業活動の中で、システムの潜在的な活用法の一例として、このアラバマ州のケースに言及した。

「保安官は、収監者や活動家による民事訴訟で争われている責任を免れるうえで、(こうして特定した通話が)役に立つと考えている」と同COOは書いている。

クック郡の広報担当者は、同郡ではLEOテクノロジーズと提携して施設内での「自傷行為」事例を特定するための試験運用を検討したが、「ベラス」は高額すぎると判断したと述べた。

コロンビア大学ナイト・ファースト・アメンドメント・インスティチュートの専属弁護士であるステファニー・クレント氏は、刑務所では「行刑学上、合法的な目的」に関連した監視を行うことが認められていると述べている。

公開記録によれば、「ベラス」は日常的に運用されており、たとえば自傷行為や自殺を考えている可能性のある収監者の特定や、矯正施設内外の殺人・強姦犯人の発見に用いられていることが分かる。

だがクレント氏は、アラバマ州で実施されたような監視活動は「まさに一線を越えている」と述べた。

サフォーク郡でも似たような運用が行われており、収監者が父親に「拘置所が新型コロナ感染の発生を隠蔽している」と告げ、メディアへの連絡について協議している通話に対し、「ベラス」のシステムがフラグを付与していた。

この通話に関する公式報告が10人以上の職員とLEO社員の間で共有されていたことが、サフォーク郡の文書から判明している。

クレント氏は、こうした事例は、AIを搭載した監視ツールが、虐待に対して声を上げる、あるいは内部告発者になろうとする収監者を特定するために使われる可能性があると指摘。

メールを検証した同氏は、「拘置所を運営している人々の利害や評判を守ることは正当な目標ではない」と語った。

<取り返しがつかない「なだれ効果」>

また、犯罪組織の活動や重大犯罪が強調される一方で、ニューヨーク州からのメールによれば、当局は「ベラス」を使って、不正に持ち込まれた携帯電話の使用から給付金の不正受給まで、より軽微な犯罪の手掛かりを得るようになっている。

テキサス州では今年に入り、このところ急増しているメキシコから国境を越えて入国しようとする移民に対応している施設とLEOテクノロジーズとの提携契約を結んだ。これに先立ち、州知事は移民流入に関する緊急事態宣言を発出している。

ニューヨークの米国自由人権協会に参加する弁護士ダニエル・シュワルツ氏は、文書の一部を検証して、「時間の経過とともに正当化の理由が変化していくのが分かる」と語った。

サフォーク郡の文書によれば、同郡だけでも、2019年4月の導入から2020年5月までの間に、「ベラス」を使って250万回以上の通話が監視対象となり、96件の「有用な調査レポート」をもたらしたという。

カタリナ保安官代理は「この技術によって受刑者の自殺を検知・予防し、人身売買を摘発し、暴力犯罪を予防・解決できた」と述べた。

だがクレント氏は、96件の有用なレポートが得られたからといって、数百万件という大量の通話傍受が正当化されるかどうかは微妙だとの考えを示した。「いわゆる『なだれ効果』というものがある。こうした技術がいったん導入されると、使うのを止めるのは難しくなる」

シュワルツ氏は、米国各地の刑務所で先進的な監視システムの導入が増加する中で、何らかの歯止めを設けなければならないと指摘した。

「家族や愛する人と取りうる唯一のコミュニケーション手段が、大がかりな監視の対象の一部になってしまった場合、人々はどうなってしまうのか。それを考えてみる必要がある」とシュワルツ氏は語った。

(Avi Asher-Schapiro記者、David Sherfinski記者、翻訳:エァクレーレン)

for-phone-onlyfor-tablet-portrait-upfor-tablet-landscape-upfor-desktop-upfor-wide-desktop-up