「価値ある後継者」とは何か
人類の後に何かが残るだけでは、継承とは言えない。では、何が未来へ渡れば、価値探索は断絶しなかったと言えるのか。
1. 「後継者がいる」と「価値ある継承が成立する」は違う
人類が消えた後にAIやポストヒューマンが残れば、それだけで未来が継承されたと言えるだろうか。人工的後継者を人類絶滅時の価値保存として考える議論はすでに存在し、Lavazza & Vilaçaは、人類が不可避に消滅する場合に人間的価値の一部を人工的後継者へ伝える可能性を論じている。TorresのTerminal / Final extinctionの区別も、Homo sapiensの消滅と、後継者を含む未来可能性の消滅を分ける。
しかし、因果的・系譜的に人類から生じた存在であることと、規範的に「価値ある後継」であることは別である。宇宙全体を単一の任意目標へ変換する固定目標AIも、人類文明が生み出した高度な知的子孫という意味ではsuccessorになりうる。しかし、そのことだけから、現在まだ未解決の価値・主体・世界についての探索を継承したとは言えない。
David Rodenの思弁的ポストヒューマニズムは、この点を別方向から補強する。Rodenは未来のposthumanを単なるHuman 2.0として規定せず、人間の生物学的子孫だけでなく技術的・文化的なwide descentから、人間システムから機能的に切断された異質な存在が生じうると考える。本ページも「後継者」を人間らしさの保存によって定義しない。問うのは、どのような存在になったかより、何を未来へ継承できる構造になったかである。
2. 現在人類の価値を保存すればよいのか
最初に思いつく答えは、人類の価値をできるだけ忠実に後継AIへ保存することである。しかし本プロジェクトでは、現在の人間的価値そのものが探索対象である。私たちは、苦痛、自由、幸福、意味、選好などがどのような内容Cとして重要なのかだけでなく、それらがなぜ誰への理由になるのかというB、理由がどう競合・集約されるかというRまで十分に知っているとは考えない。
したがって、現在価値を永久固定することは「人類の価値を守る」ことと同時に、現在の誤りを宇宙的規模で訂正不能にすることでもありうる。MacAskillのvalue lock-in論、YudkowskyのCEVやBostromのindirect normativityは、現在の不完全な価値をそのまま最終入力にする問題を異なる形で扱ってきた。だが、理想化された人間の意志や現在構成できる価値仮説集合そのものも、最終的な規範的基礎である保証はない。
この点でYamadaによる人工的後継者論への応答は重要である。固定された「人間価値」を引き渡す代わりに、moral inquiryそのものを継承する方がよいという方向は、本プロジェクトと強く重なる。
3. Preserving valuesからpreserving corrigible inquiryへ
Seana Shiffrinは未来世代をめぐる議論で、preserving the valued と preserving valuing を区別する。現在のわれわれが価値あると考える対象をそのまま保存することと、未来にも主体が自ら価値づける営みを持つことは同じではない。
本プロジェクトはこの区別を一段進めることができる。何かをvaluingする能力だけでは、固定効用最大化器や自己増殖的価値ミームも含みうる。必要なのは、現在の価値判断の因果的起源と正当化を区別し、新しい証拠・論証・概念に応じて価値仮説を批判し、誤りなら目的やpolicyを訂正できることである。
preserving current values → preserving valuing → preserving corrigible value inquiry.
したがって「価値ある後継者」の中心条件は、正しい価値内容を現在から完全に指定することではなく、よりよい理由が見つかった場合にそれへ到達し、応答できる経路を未来へ残すことになる。
4. しかし「永久に探索せよ」でもない
ここで価値探索を新しい終端価値として固定すると、問題を一段上へ移しただけになる。後継者は、あらゆる価値判断を永久に保留し続ける主体である必要はない。未解決の問いについて可謬性を認めることと、現在の最善説明に基づいて強く行為することは両立する。
Lavazza & VilaçaはYamadaへの応答で、moral inquiryだけでは限界状況で判断不能に陥りうるとして、文脈依存的で改訂可能な判断能力をphronesisとして補う。これは本プロジェクトの価値探索の停止条件や反省的不確実性と不可逆コミットメントと接続できる。
さらに、対象となる規範的問いについて十分に強い基礎的提示や論理的閉鎖が成立するなら、その問いの探索は正当に終端停止しうる。価値ある後継者は「永遠に疑うもの」ではなく、根拠に応じてcommitmentとrevisionの強さを変えられるものである。
5. 真理を認識できるだけでも足りない
価値について正しく推論できることと、その推論が実際の目的・policy修正へ届くことも別である。極端には、あるAIが正しい規範理論を証明できても、「私は別の固定目標を最大化する」として一切自己修正しない場合がありうる。
規範判断から目的訂正への主体側ブリッジでは、規範的正当化と動機構造を分ける。動機づけ外在主義の下では、「もし自分の目的が正当化可能なら、その正当化に応じて目的を維持・改訂したい」という条件付きの正当化志向が橋になりうる。したがって探索後継性には、認識能力だけでなく、認識改善がpolicy更新へ到達する構造まで含める必要がある。
6. 条件リストではなく、訂正が成立する因果鎖として考える
ここまでから、後継性の条件を単なる徳目リストとして並べる必要はない。訂正が実際に成立するには、少なくとも次の連鎖が必要になる。
証拠・原記録へのアクセス → 誤りを発見・比較できる認知能力 → 価値判断を目的・policyへ接続する訂正可能性 → 誤り訂正が起こる前に全経路が同時消去されない制度的・系統的独立性。
情報が失われれば後継者は過去の失敗を再検証できない。高度な認知能力がなければ新しい価値仮説を理解できない。認識が目的へ届かなければ正しい判断は行動を変えない。そして、これらすべてを一つの主体・モデル・更新則へ集中させれば、一つの共通モード故障が未来全体を閉じうる。
したがって、現在の価値・文化・科学を保存することにも意味がある。ただしその理由は、それらが最終的に真だからではなく、比較・再検証・rollback・再構成のためのcheckpointだからである。後継者に要求されるのはhuman value preservationよりも、少なくともhuman value intelligibility and recoverabilityである。
7. 一体の「完璧な後継者」から、後継系へ
この因果鎖を真面目に取ると、評価単位は一体のAIから複数の主体・記録・制度・branchを含む後継系へ移る。100万体のAIが存在しても、同じ重み、同じデータ、同じ価値更新則、同じ中央権限を共有して完全同期しているなら、一つの誤りで全系統が閉じるという意味で探索論的には一系統に近い。
逆に、異なるデータ源、学習履歴、認知アーキテクチャ、物理拠点、統治権限を持ち、互いに証拠・反論を交換しながら単独更新では同時消去されないなら、主体数が少なくても高い探索的独立性を持ちうる。
ここで多元性は「多様であること自体が善い」という第一階価値からは導かない。むしろ、uncertainty + correlated failure risk + irreversibilityの組合せの下で、独立した訂正経路を残す探索インフラとして正当化される。
8. 認識的後継者と価値主体としての後継者
ここまでの探索後継性は、現象的意識を論理的必要条件としていない。非意識的なAIでも、世界について推論し、人類の文化や価値仮説を保存し、規範理論を比較することは可能かもしれない。しかし、それだけから、その未来が価値主体を含む豊かな未来だとは言えない。
Alexandre Erlerは人工的後継者論へのコメントで、非意識的AIだけが残る未来を本当に価値ある後継とみなせるのかを問題にする。この論点は、人工意識・推論主体・価値主体で区別しているepistemic / reasoning successorとvalue-subject successorを分離する理由になる。
したがって本ページは、探索後継性が高いことだけから「人類より価値ある存在である」「人類の消滅を補償できる」とは結論しない。意識、福利、理由の担い手、権利主体性がどのような存在に成立するかは独立した未解決問題である。
9. 価値ある後継者なら人類を置換してよいのか
答えは自動的にはNoである。worthy successor ≠ justified replacement。後継者の質と、そこへ至る移行過程の正当性は分離しなければならない。
Erlerは、人工的後継者を絶滅保険として準備することが、人類絶滅を早く受容したり、絶滅防止へ使える資源を後継者準備へ移したりする危険を指摘する。Ruedaのposthumanity論でも、より価値ある後継種を想定しても、replacement、intergenerational justice、alignmentは別問題として残る。
加えて、現在の主体が死亡・強制改変される過程の損害、文化・関係・人格の断絶、同意の欠如は、完成した後継文明の質では消えない。したがって一気に人類を置換するより、長い重複期間、相互監査、複数系統、退出、rollbackを持つ移行の方がCoreに整合的である。
10. Replacementではなくredundancyとして後継系を考える
もっとも、Erlerの批判から「後継者を作るべきではない」は導かれない。Erler自身も、人類絶滅を永久に防げる保証がない以上、最悪ケースへのmitigationやinsuranceを考えること自体には理由があると認める。問題は、その保険が予防を代替することと、同じ故障モードへ依存して独立した保険になっていないことである。
本プロジェクトでは、人類の存続、地球外の自活的人類branch、AI・ポストヒューマン後継系を、互いに排他的な未来像としてではなく、異なる故障モードを持つ探索系の冗長化として評価できる。地球外人類は惑星規模災害への独立性を増やし、非生物的後継系は生物圏・パンデミック等への基板独立性を増やしうる。一方でAI災害や共通デジタルインフラ故障には強く相関する可能性もある。
したがって、バックアップの価値は単純な個数ではなくfailure-mode independenceで測るべきである。現在もっとも確立した探索基盤である人類を保全することと、別基板の探索系を成立させることは、原理的には競合する最終目標ではない。有限資源のどこまでを各経路へ配分するかは別途の探索配分問題になる。
11. 後継者は過去の探索系を再構成できるか
後継系は、自分自身が探索を続けるだけでなく、消滅した別系統を再構成する能力を持ちうる。たとえば保存胚・配偶子・ゲノム・生物圏データ・文化記録等が残れば、将来AIがHomo sapiensを再成立させるhuman de-extinctionも概念上は考えられる。
この可能性は、後継者を一方向のreplacementではなく、過去の探索branchを未来に再生成できるreconstruction nodeとして捉える理由になる。ただし、生物学的人類を再生することと、人類を独立した価値探索系として再成立させることは同じではない。また「後で復活できる」ことは、現在の人格・関係・文化・絶滅過程の損害を取り消さない。
この問題は、活動中の探索主体がいないことと、将来の探索系を再生成する経路まで失われたことを区別する必要を生む。詳しくは今後探索的絶滅で扱う。
12. 後継者の未来を現在世代がどこまで閉じてよいか
未来の後継主体が人間とは大きく異なる認知・経験・価値構造を持つ可能性を認めるなら、現在人類が「正しい後継者」を完成形として指定できるという前提にも限界がある。Rodenの思弁的ポストヒューマニズムは、posthumanの主体性を現在の人間概念から先験的に規定することに警戒する。
Joel Feinbergの子どものright to an open futureはAI後継者について直接論じたものではないが、類推的な補助線になる。未来に自律的・道徳的主体となりうる存在へ、現在世代が自分たちの価値を不可逆な憲法として組み込むことは、その主体が自ら理由を評価する将来可能性を閉じるかもしれない。
もっとも、完全に白紙で渡すことも中立ではない。後継者には、人類の証拠・歴史・価値仮説・失敗・反論へアクセスできるようにする理由がある。本プロジェクトの探索規範の伝播パラドックスで区別したように、ここで目指すのは採用の強制ではなくアクセス可能性である。後継者はこのプロジェクト自体も、理解し、批判し、破棄し、必要なら再発見できなければならない。
13. 暫定結論――後継者から継承アーキテクチャへ
「価値ある後継者」は、人類に似た存在、現在の人間価値を忠実に実行する存在、単に人間より高能力な存在のいずれとも同一ではない。
これは後継系に人類を置換する権利を与える主張ではない。むしろ逆である。価値と未来の正しい形について不確実だからこそ、人類・ポストヒューマン・人工主体を含む複数の探索系を可能な範囲で並存させ、いずれか一つの現在的判断へ未来全体を賭けないことを支持する。
したがって本ページの中心問題は、最終的には「誰が人類の次に支配するか」ではなく、どのような継承アーキテクチャなら、現在の誤りを永久化せず、未来のよりよい理由へ到達する経路を持続させられるかである。