「マイノリティ・リポート」はもう来ている — AI行動予測のディストピア化リスク

そもそも、なぜ「予測して介入する」という発想が出てくるのか。背景にあるのは、犯罪学の主流理論の大きな転換です。ひとことで言うと、ここ30年ほどで「犯罪は 悪意 から起きる」という見方から、「犯罪は 気質 (生まれつき・育ちで決まる傾向) から起きる」という見方へ、軸足が移ってきました。

「目先の誘惑に弱い」という個人特性

犯罪学者の Gottfredson と Hirschi は1990年、自己統制理論 (A General Theory of Crime) という有名な本でこう主張しました——犯罪を犯す人は、「凶悪な意思」を持っているわけではなく、ただ セルフコントロール (自制心) が弱い だけだ、と。具体的には次のような特性の束です。

• 衝動的: イラッとしたらすぐ手が出る・口が出る
• 近視眼的: 「来月の支払い」より「今夜の飲み代」を優先する
• リスクに鈍感: 後で痛い目を見る確率が高くても突っ込む
• 共感が弱い: 相手が困ることが想像しづらい

この性質を持っている人は、犯罪「だけ」をするわけではありません。同じ性質は タバコがやめられない・ダイエットが続かない・無謀な借金をする・浮気を繰り返す・無保険で運転する・課金ガチャを止められない——といった「あとで自分が損をする行動」全般に表れます。専門用語ではこれを「将来割引率が高い」と言います。「将来の自分が払うコスト」を、今の自分はものすごく安く見積もってしまう、という意味です。

「ケーキを3等分できない」少年たちが教えてくれること

もう一歩踏み込むと、この「自制心の弱さ」の背景には 認知能力の問題 が隠れていることが多い、というのが近年の知見です。日本ではこれを広く知らせたのが、児童精神科医・宮口幸治氏のベストセラー 『ケーキの切れない非行少年たち』(2019) でした。

つまり「悪い子だから非行に走った」のではなく、学校の授業についていけない → 怒られる → 自己評価が下がる → 不良グループのほうが居心地が良い → 非行、という経路でそこに至っている。この見立ては、米国の犯罪心理学者 Terrie Moffitt が 二重類型論 (1993) で示した「人口の5%程度には、神経心理学的な欠損 (実行機能・言語能力・感情制御の弱さ) と劣悪環境の組み合わせから、生涯にわたって反社会的行動を続けるタイプがいる」という主張と重なります。

「悪意の清算」から「特性の管理」へ

そしてここがポイントです。「特性は事前に観測できる」「観測できるなら予測できる」「予測できるなら、犯罪が 起きる前に 介入したほうが効率的だ」——という三段論法は、論理的にはすぐそこまで来てしまう。これが映画『マイノリティ・リポート』の世界観の出発点であり、AI が乗った瞬間に現実化する出口でもあります。それを示しているのが、すでに20年以上稼働してきた米国の再犯予測システムです。

出典: Gottfredson & Hirschi (1990) A General Theory of Crime, Stanford UP / Moffitt (1993) Adolescence-limited and life-course-persistent antisocial behavior, Psychol Rev / 宮口幸治 (2019) ケーキの切れない非行少年たち, 新潮新書

2016年、調査報道メディア ProPublica が衝撃的な検証結果を発表した。フロリダ州の7,000人超のスコアを2年間追跡したところ、COMPAS は黒人被告について 「ハイリスク」と誤判定する割合が白人被告の約2倍 だった。具体的には、黒人被告は「将来の暴力犯罪を犯す」と予測される確率が白人より 77%高く、「何らかの犯罪を犯す」と予測される確率が 45%高く 出ていた——実際には再犯しなかったケースで、である。逆に白人被告は「ローリスク」と判定されたあとに再犯するケースが黒人より多かった。

さらに数学的に厳しい指摘もある。「グループ間で再犯率が異なる場合、すべての公平性基準を同時に満たすのは原理的に不可能」——いわゆる不可能性定理だ。「真陽性率を揃える」「偽陽性率を揃える」「予測精度をグループで揃える」——これらは三つ巴で、二つを満たせば残り一つは必ず崩れる。「人種に中立な公平な再犯予測 AI」は、現実の数字の上に存在しえないことが証明されている。

それでも COMPAS は使われ続けている。Wisconsin v. Loomis 事件 (2016) でウィスコンシン州最高裁は「COMPAS スコアの使用は被告の適正手続きを侵害しない」と判断した。アルゴリズムの中身が企業秘密で 被告にも判事にも開示されない にもかかわらず、である。

出典: ProPublica (2016) Machine Bias / ProPublica (2016) Bias in Criminal Risk Scores Is Mathematically Inevitable

欧州連合は2024年に AI Act を成立させ、2025年2月2日から禁止規定を、2026年8月2日から全面適用を始めている。Article 5 (禁止される AI 慣行) は、いくつかの用途を 絶対的なレッドライン として線引きした。違反企業には最大 3,500万ユーロまたは年間売上高の7% という罰則がかかる。

禁止対象として注目すべきは以下である。

出典: Article 5: Prohibited AI Practices, EU AI Act / Fair Trials (2024) Partial ban on predictive policing in final EU AI Act

「気質を見て介入する」という発想自体は、自己統制理論の射程からすれば公衆衛生モデルとして合理的である。早期介入で再犯率が下がるエビデンスもある (CBT・認知行動的介入は完全には消せないが、有意に下げる)。問題は、そこに AI を乗せた瞬間に 3つの力学 がディストピア側へ加速させることだ。

第一に、フィードバックループ。COMPAS の事例が示したように、「過去の差別的データで学習した AI → 監視強化 → さらに差別的データを生産」という循環が回る。AI は中立どころか、過去の差別を未来へ複利で運ぶ装置になる。これは技術の問題ではなく、教師あり学習の数学的構造に内在する性質だ。

第二に、説明責任の真空。判事が「あなたは再犯リスクが高い」と告げる従来の判決には、人間が責任を負っていた。COMPAS のスコアを引用した判決では、責任の所在が曖昧になる——判事は「AI がこう言っている」と言い、ベンダーは「アルゴリズムは企業秘密」と言い、誰もアカウンタブルでない。「機械が決めた」という構造は、人間社会の応報感情と被害者ケアの語彙を空洞化する。

第三に、被害者ケアの言語の貧困。気質論は加害者を理解する側からは正確で慈悲深い枠組みだ。「悪人ではなく特性の発露」と言える。だが被害者から見ると、それは「自分を殴った人間は病気だったので恨まないでください」と告げられているのに近い感触になる。社会が応報感情にコストを割いているのは、被害者の回復と社会の信頼維持のための機能であり、非合理ではない。気質論と AI 予測が組み合わさると、被害者の語彙はさらに痩せる——「あなたを傷つけた人物は統計的に高リスク群でしたが、本人の意思とは関係なく」。

逆に言えば、3つの力学を制御できれば、AI 行動予測は 公衆衛生モデルの拡張 として機能しうる。早期発見・早期介入・環境設計で犯罪・自殺・薬物依存を減らす——感染症対策と同じロジックを社会病理に適用するアプローチだ。分岐点は、以下の設計原則を立法・運用の段階で組み込めるかにある。

これらは技術の話というより、「AI を社会の制度の一部として組み込むときの言語と手続きの設計」の話である。Minority Report 的ディストピアは、技術の進化ではなく、言語と手続きを準備しないまま技術を入れた社会の帰結として訪れる。

本稿は刑事司法を主題にしたが、同じ構造は 採用 AI、職場監視ツール (bossware)、与信スコアリング、保険料率算定 などにそのまま転用される。これらはすでに日本の中小企業の現場にも導入が進んでおり、Computerworld の調査によれば 2025年時点で大企業の7割が従業員監視を実施、監視対象になった社員の 42%が1年以内の離職を計画、72%が「監視で生産性は上がらない」と回答している。EU AI Act が職場の感情認識を全面禁止したのは、こうした現場での副作用が見え始めているからだ。

「悪意ではなく特性を見る」という枠組みは、刑事司法と同じくらいの慎重さで人事や与信にも持ち込まれるべきである。AI 採用ツールや業務監視システムを導入する経営判断は、本稿で整理した4つの設計原則——透明性・人間介入・説明可能性・被害者ケアの保全——を、サプライヤー選定の評価軸に加えるところから始められる。