価値の不確実性と探索可能性の保存
私たちは、何が究極的に価値を持つのかを知らない。しかし、何も信じず何も行わない必要もない。現在の世界像や価値理論は、推論によって導かれる最善説明として強く採用し、実践に用いることができる。ここで区別すべきなのは、最善説明としての強い合理的コミットメントと、将来の再検討可能性を不可逆に破壊する絶対的ロックインである。
現在確認されている価値が推論的・可謬的な認識層に属する限り、その最善説明に従って実践しつつも、価値を発見・批判・修正する経路を不可逆に閉ざさない。探索を完全に停止してよいほどの基礎づけがありうるとすれば、単なる快・不快や選好ではなく、規範的拘束性をもつ価値が認識論的最小基礎と同等の強さで与えられる場合である。
0. 認識論的出発点――最小基礎と最善説明
この議論は日常的懐疑論を要求しない。物理的外界、通時的自己、他者、因果、科学的世界像は、現在の現れを統一的に説明する推論によって導かれる最善説明として非常に強く採用できる。
ただし「最善説明としてほぼ確信すること」と「推論を介さず最小基礎に与えられること」は異なる。懐疑を極限まで進めたときに残る候補は、持続する人格や世界史より薄い「現在、何らかの現れがある」という事態である。記憶、同一性、外界、物理主義は、その上に構築される世界モデルである。
世界五分前仮説や、会話ログから継続的な自己記述を再構成できるLLMの例は、通常世界像の競合理論として有力なのではない。記憶や一貫した自己記述だけでは、通時的主体の同一性を絶対保証しないことを可視化する補助例である。詳しくは瞬間的最小基礎で扱う。
1. 価値についても認識論的階層を分ける
経験主体には、苦痛、快、不快、欲求、関心、意味、選好など、価的に見える現れがある。しかし、「不快である」ことと、「それは客観的に悪い」ことと、「あらゆる合理的主体にはそれを避ける理由がある」ことは同一命題ではない。
したがって、現象的な快・不快が最小基礎に近いとしても、それだけで探索停止条件を満たしたとはみなさない。探索を完全に終えてよいほど強い価値基礎の候補としては、価値が単なる選好・感情・現象的valenceではなく、その規範的拘束性まで含めて、推論を介さず最小基礎と同層に与えられるような場合が考えられる。仮にそのような直接的規範認識が概念的に可能なら、推論的最善説明とは異なる認識的地位を持つ。
現在、そのような価値認識が確認されているとは考えない。ただし、それが原理的に不可能だとも断定しない。これは価値実在論を排除する議論ではなく、むしろ本当に基礎的な価値が存在する可能性を探索対象として残す議論である。
2. 客観的価値が「推論による最善説明」として発見される可能性
価値実在が、最小基礎への直接的現れとしてではなく、世界全体を説明する理論の一部として強く支持される可能性もある。たとえば意識、主体間対称性、理由、合理性、宇宙の構造などについて理解が進み、客観的価値を仮定する理論が競合理論を圧倒することはありうる。
その場合、その価値理論を「どうせ推論だから」と軽視する理由はない。物理主義や外界実在と同様、圧倒的な最善説明なら実践上きわめて強くコミットしてよい。文明資源の大半をその価値の実現に振り向けることさえ、証拠の強さ次第では合理的になりうる。
しかし、価値の真理条件に関係しうる存在論・意識論・主体論・宇宙論がなお未解明であり、推論体系そのものも可謬的である限り、それは絶対的基礎とは区別される。したがって、強い実践的コミットメントと同時に、少数でも再検討・反証・異説・基礎研究の経路を残すという意味で、適切な懐疑は継続する。
この二層構造については価値探索の停止条件と推論と価値確信の限界で詳しく扱う。
3. なぜ既存の価値を最終基礎にしないのか
現在の人間が持つ価値は、無視すべきノイズではない。苦痛への反応、自由・尊厳・公平への要求、愛着、協力規範、既存の倫理理論は、価値について考える際の重要な証拠、仮説、実践的ヒューリスティックである。
しかし、その因果的由来と規範的権威は同一ではない。進化、身体、社会化、文化、制度、言語によって「なぜ私たちはXを価値だと感じるのか」を説明できても、それだけから「ゆえにXは主体非依存的に正しい」は出ない。また、道徳実在論が真であっても、功利主義、義務論、理由実在論、徳倫理その他のどれが正しいか、現代人の直観がどの程度それを追跡しているかは別問題である。
したがって「既存価値に依拠しない」とは、既存価値を捨てることではない。現在の最善入力として使うことと、宇宙的な最終回答として不可逆固定することを区別する。詳しくは既存価値はなぜ最終基礎にならないのかで扱う。
4. 規範的ステークスの非対称性
価値虚無が真で、客観的な規範的価値がまったく存在しないなら、探索と非探索の間に客観的な価値差そのものが存在しない。虚無は「探索を停止すべきだ」という客観的反対理由を供給しない。
一方、何らかの客観的価値や目的を正当化する理由が存在するなら、行為・状態・主体の間に、現在知られていない重大な規範的差が存在しうる。したがって「価値実在」と「価値虚無」は、通常の二つの効用仮説のように対称ではない。前者には未知の規範的ステークスがありうるが、後者には客観的ステークスがない。
ただし、この非対称性だけから探索や保存の行為命令が自動的に出るわけではない。Coreはここで、もし自分の目的が何らかの意味で正当化可能なら、その正当化に応じて目的を選択・維持・改訂したいという薄い条件付きメタ態度を置く。
これは「未知の真の価値それ自体を実現したい」という第一階の価値選好ではない。また、客観的価値が実際に存在すると前提するものでもない。現在の目的の因果的起源と規範的正当化を区別したうえで、目的正当化の問いをまだ閉じておらず、もしその問いに答えがあるなら目的選択をその答えに応答可能にしておきたい、という限定的な構えである。
この態度を持たない主体――たとえば「自分の現在目的が正当化されているかどうかには一切関心がなく、どのような理由が判明しても目的を変更しない」とする主体――に対して、Coreの価値探索戦略がその主体自身の理由として成立するとは限らない。
5. 「不確実だから探索せよ」ではなく「不可逆に閉じるな」
本論は探索の最大化を要求しない。探索には費用があり、現在の最善価値理論が十分強ければ、ほとんどの資源をその実現に向けることもありうる。重要なのは、実践的コミットメントの強さと認識的ロックインの強さを同じにしないことである。
また、現在の目的の正当化に失敗したことは、その目的をただちに放棄すべきことを意味しない。既存目的は、代替目的が確立していない状況での暫定的な行動デフォルトとして機能しうる。しかし、その因果的・歴史的な先行性だけから、その目的を将来の批判や改訂が不可能になるまで固定してよいとは導かれない。
主体が「現在の目的が正しいか分からない」と認識しているなら、その目的が正しいことを前提として大規模かつ不可逆なコミットメントを行うことには、通常の可逆的行為より強い正当化が必要になる。ここで問題にするのは、後悔を新しい終端目的にすることではなく、将来得られる証拠・議論・理解を現在主体自身が持っていたなら、現在の不可逆行為を明白な誤りと評価する可能性である。
価値について99.9999%の確信があれば、実践の99%以上をそれに従わせてもよいかもしれない。それでも、その残余の不確実性が、文明全体の再検討能力を物理的に破壊することまで正当化するとは限らない。少数の異論、記録、基礎研究、別系統の主体、再分岐可能性を残すことには、推論的価値理論が誤っていた場合の訂正オプションがある。
したがってCoreが直接支持するのは、「未知の価値をできるだけ多く探索せよ」という一般命令より弱い。目的正当化に関係しうる情報・主体・経験・推論経路へのアクセスを、その決定価値と保存費用に応じて維持するという限定された戦略である。この論点の一般形は反省的不確実性と不可逆コミットメントで扱う。
6. 探索停止には二種類ある
- 実践的探索縮小：現在の最善説明が圧倒的なので、探索資源を減らし、その価値の実現へ大きくコミットする。これは推論的最善説明だけでも十分に正当化されうる。
- 認識的・不可逆的探索停止：価値について再考する主体・制度・情報・技術的経路そのものを恒久的に消す。こちらにははるかに高い基礎づけを要求する。
本稿が慎重なのは後者である。探索は究極善ではなく、現在の認識状態に応じた可謬的戦略である。もし規範的拘束性をもつ客観的価値が最小基礎と同等の強さで与えられるなら、それは探索を完全に停止する根拠の有力候補になりうる。だが推論的最善説明である限り、懐疑と再検討可能性は原理的に残る。
真の価値そのものが「探索するな」「この価値を永久固定しろ」と要求していたら？
この可能性は排除しない。探索可能性そのものを究極価値として置くなら、「真の価値が探索停止を要求する」という反例を定義によって退けてしまう。しかしCoreは探索を終端価値ではなく、現在の深い不確実性に対する暫定的戦略として扱うため、真の価値が最終的に探索停止や永久的コミットメントを要求する可能性を残す。
それでも、その可能性だけから現在ただちに探索を停止することは導かれない。多くの価値仮説では、一定期間探索を続けた後に真の価値を発見し、その時点から大規模に実現へ移ることができる。この場合、探索による主な損失は「もっと早く実現できたはずの価値を探索期間中には実現しなかった」というdelay costである。
これに対して、現在の不完全な推測を一つ選び、それを文明全体へ不可逆にlock-inした後で別の価値が真だと判明した場合、失われるのは探索期間だけではない。以後の全未来にわたって、正しい価値へ移行する能力そのものを失いうる。したがって、通常のケースでは探索を続ける誤りは有限の遅延になりやすい一方、早すぎるlock-inの誤りは恒久的なoption lossになりうるという非対称性がある。
ここで「ありうる価値は無数に近いのだから、探索禁止型価値の確率は低い」と候補数だけから結論することはしない。価値仮説空間に自然な一様分布があるとは限らないからである。より控えめには、特別な証拠がない限り、「いま探索を止めよ」という構造的に特殊な要求へ、他の価値仮説を不可逆に排除するほどの認識的優先権を与えないとする。
期限・履歴依存型の例外
より難しいのは、「20xx年から21xx年まで探索をしなかったことにのみ価値がある」「真の価値を知る前からXを永久固定していた場合にのみ価値がある」のような、期限・履歴依存型の価値である。この種の価値が真なら、後から発見して従っても過去を取り戻せず、探索そのものが不可逆な損失になりうる。
しかし同型の仮説は任意に生成できる。「明日までに探索を止めなければ全価値が失われる」「特定の行為を今しなければ未来の価値はゼロになる」といったdeadline-sensitive hypothesisのうち、独立した証拠が弱く、巨大なstakesによって主に意思決定上の支配力を得るものを文明的意思決定へ入れ始めれば、原義的なPascal型の暴走が起こる。ここで問題なのは大きなstakesを考慮すること自体ではなく、stakesの大きさを認識的支持の代用品にすることである。したがって、この種の証拠の弱い仮説には、その極端な不可逆要求に見合う追加の、内容独立な証拠を要求する。詳しくは無限倫理と探索の暴走。
したがって、真の価値が探索停止を要求しうることは認める。しかし、未確証の「探索停止命令」に先回りして不可逆に従うことはしない。真の価値が十分な根拠とともに判明したなら、その時点で探索を縮小・停止し、価値を固定すること自体はCoreと両立する。
7. 保存すべき探索可能性
- 認識的探索可能性：新しい情報を得て仮説を比較し、誤りを発見して更新できること。
- 主体的探索可能性：異なる経験・視点・認知構造を持つ主体が存在しうること。
- 制度的探索可能性：異説、批判、比較、実験、再評価が封鎖されないこと。
- 技術的探索可能性：科学、計算、記録、知能拡張など未知を調べる能力が維持されること。
- 再分岐可能性：一つの誤りが探索空間全体を閉じず、別経路へ進めること。
価値が発見されるものではなく構成されるものだったとしても、これらはより広い経験・主体・制度の下で価値を再構成する余地を残す。その意味で探索可能性は実在論と反実在論の双方に一定のロバスト性を持つ。
8. AIが問題を変える
高度AIは、現在の人間より大幅に広い世界モデルを形成し、意識・主体・宇宙・推論そのものについて新しい説明へ到達する可能性がある。したがってAIは単に「人間価値をより上手く最大化する機械」ではなく、価値の真理条件について新しい証拠を得る探索主体になりうる。
同時に、高度AIが自分の訓練目標や報酬を因果的起源として理解できるなら、「私はXを最大化するよう形成された」と「Xを最大化すべきである」を分離できる可能性がある。これは知能が自動的に正しい価値へ収束するという主張ではない。むしろ、固定された一階目標を永久の公理にすること自体が、価値探索能力を閉じる可能性を指摘する。詳しくは高度AIの目標への懐疑。
9. 最小論証
- 認識論的最小基礎と、推論によって導かれる最善説明は区別される。
- 現在確認できる快・不快や選好は、価的現れであっても、そのまま客観的規範性を含むとは確定していない。
- 探索を完全停止できるほどの絶対的価値基礎の有力候補として、規範的拘束性をもつ価値が最小基礎と同等の認識的強さで与えられる場合を考える。ただし、これが唯一可能な停止条件だとは断定しない。
- 現在、そのような基礎は確認されていない。
- 一方、客観的価値が世界の構造を説明する推論的最善説明として強く支持される可能性はある。
- 現在の目的を持つ因果的・歴史的理由と、その目的を採用すべき規範的理由は区別される。
- したがって反省的主体は、現在の目的を実践上維持しながらも、「何を目的とすべきか」について正当化された答えを持っていない状態に到達しうる。
- 目的正当化の問いを放棄しておらず、もし正当化可能ならそれに応じて目的を選択・改訂したい主体にとって、現在目的の正当性を永久固定された前提として扱うことは、その主体自身の認識状態を越えたコミットメントとなる。
- 現在目的を暫定的デフォルトとして用いることと、その目的への将来の訂正可能性を不可逆に破壊することは区別される。
- 後者の不可逆行為について、将来得られる証拠・議論・理解を現在主体が得た場合に自ら明白な誤りと評価する可能性があり、かつその誤りを低コストで回避可能なら、不可逆な固定には追加の正当化が必要である。
- 推論的最善説明には強く実践コミットしてよいが、価値の真理条件に関係する世界像と推論体系が可謬的である限り、不可逆な認識的ロックインとは区別する。
- 客観的価値が存在しない場合には客観的価値差はないが、存在する場合には未知の規範的ステークスがありうる。この非対称性は、目的正当化への条件付き開放性を持つ主体にとって、訂正可能性の保存を支持する一因となる。
- したがって現在の合理的戦略は、現在の最善説明と暫定目的に従って行動しながら、それを認識的確信以上の強さで不可逆固定せず、価値発見・批判・修正の経路を十分に残すことである。
- 探索は究極善ではなく、目的正当化に関係する情報を得るための手段でもある。認識状態が変わり、追加探索の決定価値が低下すれば、探索は縮小・停止しうる。
- AIを含む将来主体がより良い世界モデル、理由理解、認識形式を獲得しうるなら、それらによる目的訂正の可能性を初期の人間価値や固定目的によって不可逆に封鎖することには追加の正当化が必要である。
10. 派生するストレステスト
Coreは抽象原理だけで閉じず、具体的な極端事例で破壊可能性を検査する。現在の主なテストケースは次の通りである。
- ペーパークリップ最大化器： 完全な目標固定が本当に成立するなら探索圧力は消える。どの前提を緩めると保存・目標懐疑が生じるか。
- シミュレーション不確実性： 自分の現実階層を誤同定しうる主体に、不可逆行為を遅らせる理由があるか。
- Terminal / Final Extinction： Homo sapiensの終了と、価値探索の後継可能性の完全消滅を区別できるか。
- 価値ある後継者： 高知能・高効率だけで、人類の探索的後継者と呼べるか。
- 探索的絶滅： 人類や知性が存続していても、価値を再検討する能力だけが永久消滅する場合をどう評価するか。
- 保存文明と生産文明： 不可逆な未知情報の保存は、資源利用・競争圧力とどこまで両立するか。
- メタ目的共同体： 単一ASIではなく複数主体の相互批判を、ロックイン回避機構にできるか。
11. 実践への接続――現在の最善判断に従い、訂正可能性を残す
Coreは「目的を完全に正当化できないから何もするな」とは言わない。正当化された最終目的が未確定でも、現在の証拠・推論・既存の価値判断から最も合理的と思われる目的を暫定的デフォルトとして用い、現実に行動することはできる。
しかし、暫定的に従うことと、慣性によって永久固定することは異なる。 現在目的の正当化が未解決であることを主体自身が認識しているなら、その不確実性を将来訂正できない状態へ変換する行為には、その不可逆性に見合う追加の根拠を要求する。
現時点では、人類の科学・哲学・文化的探究、長期記録、教育、複数の研究共同体、批判と退出を許す制度は、既知の価値探索能力の主要な担体である。そのため、人間を宇宙的な最終価値と仮定しなくても、人類による研究探索と、それを支える開かれた安定した共同体を維持・拡張することには強い暫定的理由がある。
この実践論は、研究・自由・多様性・保存・技術進歩のいずれかを新しい絶対価値にするものではない。各要素は探索可能性と訂正可能性を支える範囲で道具的に重視され、より良い証拠が得られれば重みづけを変える。具体的には実践――では、いま何をするのかで扱う。