米国の刑務所は犯罪対策のためにAIを搭載した監視システムを導入していますが、これによってプライバシーが踏みにじられているという批判の声が上がっています。テキサス州ヒューストンやアラバマ州バーミンガムなどの大都市を含む米国7州の数十の郡刑務所および州刑務所が、受刑者の通話を監視するためのAIシステム”Verus”を導入しています。
”Verus”は、カリフォルニア州に本社を置くLEO Technologies社が販売するAIシステムであり、音声認識技術や自然言語処理技術を用いて、キーワード検索でフラグが立てられた電話の内容を書き起こすというものです。
*音声認識技術について詳しく知りたい方は、↓の参考記事をご参照ください。
*自然言語処理技術について詳しく知りたい方は、↓の参考記事をご参照ください。
今回批判の対象となっているサフォーク郡刑務所では、元々刑務所内の電話を盗聴するためのシステムとされていましたが、実際には、はるかに広い範囲の通話を盗聴していたと言われています。
これに対して同社や法執行機関は、「このシステムは刑務所や拘置所の安全を守り、犯罪と戦うための重要なツールである」としていますが、「このようなシステムは囚人や外部にいる家族などのプライバシー権を踏みにじるものだ」と批判されています。
Verusは何時間も録音された通話記録を調べるのではなく、特定のキーワードに絞り込むことで効率化を図っており、ある囚人が刑務所にいる間に失業手当を違法に集めているという情報を把握し、検挙することができたという実績もあります。
一方で、Verusを使って刑務所内の電話に出た人をギャングの活動に結びつけることは、無実の人をも巻き込んでしまう危険性があるとの指摘もあります。また、自分が調査対象に入っているかどうか、またどうすればその対象から外れることができるかを知る方法がない、と言われることもあります。
さらに、サフォーク郡刑務所では、受刑者が父親に対してした、刑務所がCOVID-19の発生を隠蔽しており、メディアへの連絡を検討しているという内容の電話をVerusが捕捉したと言われています。これについては、AIを搭載した監視ツールが、虐待に対して声を上げたり、内部告発者になろうとしている囚人を特定するのに使われる可能性があると批判されています。
このように、音声認識技術と自然言語処理技術を搭載した高度なAIシステムは刑務所内の様々な脅威を防止することができる一方で、家族や友人、恋人との唯一のコミュニケーションを盗聴することに対するプライバシーの問題や、その本来の使い方を考えた時、今一度使用方法やガイドラインを定め直す必要があるのではないでしょうか。