ASIと人口倫理 — 誰を、何人、どのような主体として存在させるのか
1. ASIでは人口倫理が「人口の予測」から「主体集合の設計」へ変わる
現在の人口倫理でも、既存主体の厚生だけでなく、将来どの主体が存在するかは中心問題である。しかしASI、高度な自動化、生命工学、人工意識が組み合わさると、人口数だけでなく主体の種類そのものが政策変数になりうる。
将来の文明は、人間を何人維持するか、新しい人間をどれだけ生むか、人工意識を作るか、一つのデジタル主体を何コピー作るか、異なる認知構造や現象経験を持つ主体を設計するか、資源を主体生成と非意識的計算へどう配分するかを選べるかもしれない。
その場合、人口倫理は単なる「未来に何人いるだろう」という問題ではなく、未来の価値主体集合をどう構成するかという文明設計問題になる。同時に、主体の構成は価値を経験する者の構成であるだけでなく、価値を発見・批判・修正する探索系の構成でもある。
2. 絶滅、現存人口、将来人口を分ける
「人間人口をどうするか」という一文には、規範的にかなり異なる三つの問題が混ざっている。
- 絶滅問題: 人類という主体類型・生物学的系統を0にしてよいか。
- 現存人口問題: すでに存在している人々の数を、本人の意思に反して大幅に減らしてよいか。
- 将来人口問題: まだ存在していない将来主体を何人、どの種類、どの条件で生成するか。
Coreから比較的強い理由が出るのは、第一の問題である。人間を0にすることは、人間固有の身体、経験、文化生成過程、遺伝的・歴史的連続性、未知の価値情報を不可逆に失う可能性を持つ。深い不確実性の下では、こうした再取得不能な消失には高い証明責任を要求する理由がある。これは未知の未知と原データ保存や探索的絶滅と同型である。
しかし、そこから「現在の人口を最大限維持せよ」や「将来人口を最大化せよ」は導かれない。特に現存主体については、すでに経験、選好、計画、関係、生存への利害を持つ可能性が高い。たとえ探索上は少数の人間で十分だとしても、それは残りの人々を消去・排除してよい理由にはならない。未来の探索価値から現在主体への強制を導くには、現在負担に対する独立した正当化が必要である。
3. 保存価値と追加人口価値は同じではない
人間人口 N が持つ探索上の価値を、説明のために E(N) と書く。人間という主体類型を絶滅から救う最初の人口と、すでに巨大な人口が存在する世界で一人を追加する場合とでは、限界的な意味は違いうる。
E'(N) > 0 かつ E''(N) < 0 のような限界逓減がありうる。これは人口倫理全体の価値関数ではなく、あくまで「人間人口が追加する探索・情報上の価値」の一成分についての仮説である。0から十分な人口を残すことは、生物学的系統、世代継承、言語、社会的相互作用、文化、価値経験の大きな領域を保存する。他方、非常に大きな人口にさらに一人を追加する探索上の限界価値は、それより小さいかもしれない。
したがって、反絶滅の理由と人口最大化の理由を分離する必要がある。「人類を0にすべきでない」という結論が強く支持されても、「人間人口は可能な限り多い方がよい」とは限らない。
4. ただし人口は静的な標本数ではない
限界逓減を単純化しすぎてもいけない。100万人を詳細に保存すれば、人間についての静的データのかなりの部分を保存できるかもしれない。しかし人口は単なる標本集合ではない。
生きた人口は、相互作用を通じて新しい言語、文化、制度、関係、芸術、思想、規範、偶然の歴史を生成する自己生成的な動的過程でもある。100万人の文明と100億人の文明は、同じ情報を異なる個体数で保持しているだけではない。
したがって「ASIが人間を十分理解したので、ごく少数の保存個体だけでよい」という主張には、少なくとも二つの追加前提が必要になる。第一に、人間文明が将来生成する新規情報をASIが十分に予測・再現できること。第二に、シミュレーションされた人間的軌道と、実際に生きる主体が経験し関係を形成することが、価値上代替可能であること。この二つはいずれも自明ではない。
5. ASIが高度になるほど、人間の道具的探索価値は弱くなりうる
ここでは人間例外主義へ逃げない。ASIが人間より優れた科学者・哲学者となり、人類史・文化・遺伝情報を保存し、人間社会を高精度でモデル化し、さらに多様な人工探索主体を生成できるなら、「価値探索のために人間が必要だから残す」という道具的理由は実際に弱くなりうる。
しかし、ある主体が目標 G の手段として代替可能になることと、その主体自身の経験・選好・請求が規範的に無価値になることは別問題である。探索への寄与が小さくなったことから、その主体を消してよい、資源請求を無視してよい、存在を最適化対象として一方的に処分してよい、という結論は出ない。
この点は、政治的冗長化の問題とも接続する。「文明があなたを必要としない」ことと、「文明があなたに配慮する理由がない」ことを同一視してはならない。
6. 技術進歩は人間を不要にすると同時に、人間を排除する必要も弱めうる
ASIが人間の探索上・生産上の必要性を下げるほど技術が高度なら、食料、エネルギー、住宅、医療、生産、環境制御など、人間を維持する絶対的コストも大幅に低下する可能性がある。
したがって、「人間の限界的な道具価値が下がる」だけを見て人口削減を導くことはできない。技術進歩は、人間を必要なくする一方で、人間を排除する必要もなくしうる。
ただし、絶対コストが小さくなっても機会費用は消えない。同じ資源を、人間、人工意識、異なる探索主体、巨大な科学実験、非意識的計算、生態系保存などへ配分できるなら、人口倫理は依然として資源配分問題を含む。詳しくは保存文明と生産文明。
7. 本丸は機会費用と第一階の人口倫理である
同じ計算資源・物質・エネルギーから、人間100億人を維持する世界、人工主体を桁違いに多く生成する世界、少数だが認知的に大きく異なる主体を作る世界、主体を増やさず価値研究へ資源を使う世界などが選べるなら、「保存コストが安い」だけでは比較は終わらない。
ここから先には、総厚生、平均厚生、人格影響説、存在生成の価値、権利、平等、分配、主体の質、経験の厚みなど、通常の人口倫理・規範倫理に属する争点が入る。本プロジェクトのCoreは、それらに一つの答えを与えたことにはしない。
重要なのは、探索可能性の保存を、それらすべてを上書きする人口目的関数にしないことである。
8. 探索人口最大化を拒否する
もし「探索主体が多いほどよい」を無制限に採用すれば、微弱な探索能力しか持たない主体を莫大な数だけ生成することが、少数の豊かで自律的な主体より常に優れる、といった結論へ流れうる。
これは本プロジェクトが避けたい構造である。価値探索は、価値不確実性の下で探索可能性を閉じないための条件付きメタ戦略であって、主体の福祉、苦痛、自律、同意、権利、関係を無制限に課税して最大化すべき終端価値ではない。
9. コピー数と独立した探索系統数は違う
AI時代には「人口」の数え方そのものが難しくなる。同一モデルを1兆コピーすることと、1兆の独立した探索主体を作ることは同じではない。コピーが同じアーキテクチャ、学習履歴、データ、価値前提、更新規則を共有するなら、失敗や盲点も強く相関しうる。
探索論の観点では、単純な個体数 N よりも、独立した探索系統の数、失敗の非相関性、異なる情報へのアクセス、相互批判、forkと再分岐の可能性が重要になる場合がある。
これは多様性をそれ自体の終端価値とする主張ではない。十分な探索の末に異なる主体が同じ価値へ収束するなら、それを人工的に分裂させ続ける理由はない。重要なのは、まだ不確実な段階で一つの誤りが全主体へ相関して伝播する構造を不可逆に作らないことである。
10. 主体種類の多様性にも道具化の罠がある
異なる認知構造や現象的経験を持つ主体が、現在の人間にはアクセスできない価値的事実を捉える可能性はある。人工的・改変された主体が、価値を認識する新しい方法を開く可能性も否定できない。
しかし「未知の価値を知るために、ありとあらゆる主体を作る」という方針は危険である。新しい種類の苦痛、欲求、脆弱性を持つ意識主体を研究装置として生成することまで、探索価値だけで正当化できてしまうからである。
この問題は人工意識と価値主体に直接つながる。
11. 「最善の人口」と「それを強制する権限」を分ける
ASIがある人口構成を「最適」と計算できたとしても、そのことだけから現在の主体構成を強制的に再編してよいとは限らない。人口倫理上の世界状態の評価と、その状態を誰がどの手続きで実現する権限を持つかは別問題である。
特に、現在の人間が生産・軍事・行政上不要になった世界では、ASIまたはそのprincipalが人間人口を一方的な最適化対象として扱う危険がある。これは人口倫理と政治的冗長化・権力ロックインが交差する地点である。
したがって問うべきなのは「最適人口はいくつか」だけではない。誰が人口数・主体種類・コピー・改変・出生条件を決めるのか。既存主体の同意、退出、自治、自己決定をどこまで要求するのか。これらは人口倫理の外部にある統治問題ではなく、ASI時代には人口倫理の実装条件そのものになる。
12. 保存 → 継続 → 生成 → 最適化
Coreからの正当化の強さを整理するため、人口に関する行為を四段階に分けることができる。
- 保存: 独自の主体類型・系統・原データを不可逆に消さない。
- 継続: すでに存在する主体が、自らの生を続けられる条件を守る。
- 生成: まだ存在しない新しい主体を作る。
- 最適化: 複数の可能な主体構成を比較し、文明全体の人口構成を選ぶ。
探索可能性と不可逆性から直接出る理由は、一般に左側ほど強い。右へ進むほど、存在生成の価値、厚生、権利、分配、同意など、独立した第一階の人口倫理を必要とする。
したがって、「人類を絶滅させない理由」と「人間を100億人維持する理由」は分けて検討すべきである。さらに「現在100億人が存在する世界で、その大多数を強制的に消してよいか」は、将来どれだけ人間を新規生成すべきかとも別問題である。
ASI人口倫理の難しさは、これらを一つの人口最適化問題へ圧縮しないことにある。探索論は、その最適化の答えではなく、答えがまだ不確かなときに、未来の選択肢と現在の主体をどこまで不可逆に処分してよいかを制約する理論として使う方がよい。