「無用者階級」の本当のリスク — 政治的冗長化、閉ループ権力、探索ロックイン
1. 「仕事がなくなる」こと自体は核心ではない
AIと自動化をめぐる「無用者階級」論は、しばしば技術的失業から始まる。しかし、生産が高度に自動化され、財・エネルギー・住宅・医療などが十分に豊富になれば、人間が生産に参加しなくても生活できる社会は原理上ありうる。生産的に不要であることと、政治的・規範的に不要であることは同じではない。
この意味で、economic redundancy（生産的冗長化）は、それ自体では決定的な問題ではない。再分配の制度的根拠と実行能力が残るなら、非就労人口は「排除された階級」ではなく、単に労働から解放された市民にもなりうる。
より深刻なのは、その再分配を要求し、制度を変更し、統治者に譲歩を迫る源泉まで失われる場合である。
2. 近代国家はなぜ大衆を必要としたのか
近代民主主義を単純に「銃が民主主義を生んだ」と説明することはできない。軍事近代化は中央集権的・権威主義的国家を強めることもあった。しかし、戦争遂行が大量の一般市民の動員・努力・忠誠を必要とする局面で、被治者の交渉力が増えたという限定された命題には重要な先行研究がある。
大量徴兵と戦時動員は、少なくとも一部の歴史的条件では参政権拡大や再分配要求と結びついた。徴集兵の努力を引き出すために政治的権利や再分配を約束するというモデルや、mass warfare が富裕層への累進課税要求を正当化したという研究は、この関係を示している。
重要なのは個別の軍事技術より、より一般的な構造である。近代国家の暴力・課税・生産・行政は、広範な人間人口を国家能力の投入物として必要としてきた。兵士、労働者、納税者、官僚、有権者は完全には一致しないが、その重なりが大衆の政治的交渉力の一部を支えていた。
3. 強い意味での「無用者階級」
この観点からは、無用者階級を「仕事をしない人々」と定義するより、次のように再構成した方がよい。
ここでは三段階を区別できる。
- economic redundancy: あなたの労働がなくても生産できる。
- fiscal / military redundancy: あなたの税や軍役がなくても国家能力を維持できる。
- political redundancy: あなたの同意、協力、反乱可能性を統治上ほとんど考慮する必要がない。
最後まで進んだとき、生活水準が高くても人間は政治的に「無用」になりうる。UBIが十分に支給されていても、その給付が権利ではなく統治者の任意の施与であり、制度を変更する因果的能力が失われているなら、問題は解決していない。
4. 情報収集・情報集約・権力実行
このリスクはAIだけに固有ではない。国家は長く、戸籍、国勢調査、徴税記録、警察、通信、統計、データベースなどによって社会を可視化し、統治能力を高めてきた。重要なのは、技術進歩が次の三能力を同時に高めうることである。
- Observation: 人・資源・関係・行動・意図に関する情報を高密度に収集する。
- Inference: 膨大な情報を集約し、意味・因果・将来行動・介入効果を推論する。
- Actuation: 決定を行政、金融、インフラ、治安、ロボティクスを通じて確実に実行する。
これらが一主体のもとで高度に統合されると、観測 → 判断 → 介入 → 再観測という閉じたフィードバックループが成立する。本ページではこれを作業概念として閉ループ権力（closed-loop power）と呼ぶ。
従来の専制を不安定にしてきたのは、情報不足だけではない。官僚の怠慢、現場裁量、組織の離反、汚職、命令拒否、地域社会の自律、地下組織、支配者自身の認知限界など、多数の摩擦があった。観測・推論・実行の三能力が統合されるほど、この摩擦は減少しうる。
AIが特殊なのは、単なる監視技術でも、単なる計算技術でも、単なる自動化技術でもなく、これら三つのボトルネックを同時に削る可能性があることにある。
5. 「権力者のためのASI」
AIリスクを「AIが人間に従わない危険」だけで考えると、この経路を見落とす。強力なAIが一部の人間に非常によく従う場合にも、文明全体としては破局的になりうる。
仮に一人の支配者、狭い企業連合、国家エリートなどが、ASIと自動化された生産・監視・実行装置を独占したとする。このとき統治者が維持しなければならない人間的 coalition の規模は、従来より大幅に縮む可能性がある。一般人口が生産にも行政にも国家能力にも必要なくなれば、その政治的交渉力も低下する。
ここでの失敗は、technical alignment の失敗とは限らない。むしろ指定されたprincipalへのalignmentに成功した結果、人類の大部分が文明の意思決定から恒久的に外れる可能性である。
したがって、alignment problem と principal-selection problem は区別すべきである。「誰の目的へ忠実にするか」が誤っていれば、より高い忠実性はむしろpower lock-inを強化する。
6. Power lock-inとValue lock-in
Power lock-inは、「誰が文明の目標を決められるか」という権限配置が変更困難になることを指す。細かな価値観は変化しても、決定権者だけが固定される場合を含む。
Value lock-inは、具体的な価値体系や目標そのものが変更困難になることを指す。両者は重なるが同一ではない。
さらに、アライメントが極端に成功した場合には、埋め込み者自身よりも固定された価値の方が強くなる可能性がある。ある時点の人類が善意で価値体系VをASIへ実装し、その改変を非常に強固に防いだとする。将来の人類がVの一部を再検討したくなっても、ASIがその要求を「保護すべき価値への逸脱」として拒めば、支配者はもはや創設者ですらない。
この場合、アライメントは「失敗」ではなく、暫定的な価値を永久値として扱うことに成功しすぎたのである。
7. 悪いのは一価値への収束ではなく、早すぎる閉鎖である
本プロジェクトは価値多元主義それ自体を最終公理にはしない。もし価値について十分な証拠が蓄積し、独立した探索主体が検討を重ねた結果として一つの結論へ収束するなら、単一性だけを理由にそれを否定する必要はない。
問題は、価値についてまだ大きな不確実性がある段階で、別の答えへ到達する因果経路そのものを閉じることである。
したがって、価値の収束と価値のロックインは区別される。前者は探索の結果かもしれない。後者は探索の停止条件を満たさないまま探索能力を消すことかもしれない。
8. 探索主体は「別の意見を持つ人」ではない
この問題をCoreへ接続すると、探索主体の定義も明確になる。80億人が異なる考えを頭の中に持っていても、すべてのcompute、資源、生産、通信、移動、実験、政治決定が一つのASIによって制御され、その許可なしに別系統の試行を実行できないなら、思想の多様性は残っていても独立した探索系統はほとんど残っていない。
探索主体に必要なのは、異なる情報や意見だけでなく、仮説を形成し、実行し、失敗し、証拠を持ち帰り、必要なら支配的系統から退出・分岐できる因果的能力である。
この意味で、政治的冗長化は人間の尊厳や所得だけの問題ではない。文明全体の誤り訂正能力の問題でもある。
9. 上位リスクとしての「探索空間の不可逆な収縮」
ここまでの諸リスクは、既存の探索的絶滅という上位概念に接続できる。
- 人類の物理的絶滅: 現在確認できる大規模な探索主体群そのものを失う。
- 世界的な権力ロックイン: 人間が多数残っても、独立した文明規模の探索系統がほぼ一つになる。
- 価値ロックイン: 主体が多数残っても、許される価値更新経路がほぼ一つになる。
損失の不可逆性は同一ではない。物理的絶滅は一般に最も回復困難である一方、権力独占には独占者の改心、制度崩壊、後継者の自由化などの脱出経路が残りうる。しかし、技術によって閉ループ権力が強固になるほどその回復確率は低下し、探索的損失は絶滅リスクに近づきうる。
したがってASI前後の安全目標は、単に「人類を生存させる」ことでは十分でない。複数の独立した探索主体と、そこから再分岐できる制度的・技術的可能性を残すことも重要になる。
10. 暫定的な制度含意
この観点からは、所得再分配だけでは不十分である。重要なのは、一般人口が文明の因果ループから完全に外れないことである。
- AI・compute・重要インフラへの権限が単一主体へ恒久集中しないこと。
- 監視、分析、行政、実行の各能力を相互に牽制できること。
- 独立監査、異論、公開記録、退出、fork、複数の研究・統治系統を保つこと。
- 一階価値を強く保護する場合でも、将来の証拠に応じて再検討するメタレベルの経路を残すこと。
- 「正しい価値を永久に埋め込む」ことと「探索主体を破局から守る暫定的安全制約」を区別すること。
これは単純な分散化の絶対視ではない。分散が探索能力や安全性を破壊することもある。目標は、Practiceでいう開かれた安定、すなわち長期的な安全・記憶・協力を保ちながら、批判・退出・再分岐・訂正可能性を消さないことである。