推論と価値確信の限界
1. 問題は「価値へ推論できるか」ではない
価値命題を前提に含めれば別の価値命題を推論できるし、世界についての記述的証拠から、価値実在論を最善説明として支持することも論理的にはありうる。本テーゼは「推論では価値について何も知れない」と主張しない。
問題は単純に「推論による確信」と「非推論的基礎」を二分することでもない。少なくとも、現行認知の延長線上にある推論的収束、認識構造そのものが変わる推論、規範性が直接提示される基礎的認識を区別する必要がある。
2. 現行認知の延長線上の推論は、自分自身を完全には外から保証できない
ある推論規則Rの妥当性を別の推論で証明するなら、その証明にも何らかの推論規則を使う。R自身または同等の規則を使えば循環し、別の規則R2を使えばR2の妥当性が新たに問われる。
これは推論を信用してはいけないという懐疑論ではない。整合性、予測成功、圧縮力、相互検証、介入成功などを通じて、この種の推論体系へ圧倒的な合理的信頼を置ける。ただし、その信頼はなお、世界モデル・表象形式・推論規則が相互に支え合う認識網の内部にある。
ここでの射程は重要である。本テーゼは、あらゆる可能な知性・あらゆる可能な推論形式が原理的に同じ限界を持つと証明するものではない。将来の主体が、我々にはない表象形式、独立した検証経路、推論規則どうしの新しい関係を獲得したなら、その認識論的地位は改めて評価されるべきである。
単なる規模の拡大は、それ自体ではこの区別を越えない。人間と同型の推論を桁違いの速度と精度で行う主体は、圧倒的に高い確信へ到達できても、依存構造が同じならなお現行認知の延長線上にある。重要なのは能力の量ではなく、何が何を正当化・検証しているかという認識論的構造である。
3. 価値認識には少なくとも三つの認識論的位置づけがありうる
基礎的提示： 規範的拘束性をもつ価値が、単なる快・不快や選好を越えて、認識論的最小基礎と比較可能な強さで直接与えられる仮想的ケース。
連続的な推論的発見： 意識、主体、合理性、宇宙構造などの証拠を統合した結果、客観的価値の存在を仮定する理論が競合理論より圧倒的に優れた最善説明になるケース。推論能力が大幅に拡張されても、世界モデル・表象・推論規則への依存構造が基本的に連続しているならここに含める。
認識的に変容した推論： 現在の推論網を単に高速化・大規模化するのではなく、表象・検証・可能性把握の構造そのものが変わり、現在の主体には構成できない独立した認識的足場を得るケース。これが基礎的提示と同等の地位に達するのか、なお別種の可謬的推論に留まるのかは開かれている。
現在現実的に検討できる価値実在論の多くは第二の経路に属する。第二が弱いという意味ではない。物理世界と同様、推論的最善説明は実践上ほぼ確実とみなせるほど強くなりうる。第三の可能性を残すのは、未来の認識形式について現在の枠組みから不可能性を先取りしないためである。
4. 現象的価値から規範性までには複数の橋がある
- 苦痛という現れがある。
- その主体に負のvalenceや回避傾向がある。
- 他主体にも構造的に類似した現れがある。
- 主体の違いを越えて対称的に扱う理由がある。
- その対称性が単なる整合性ではなく、普遍的な規範性を持つ。
- したがって合理的主体には、その苦痛を減らす理由がある。
これらは一つの命題ではない。特に「嫌さ」が現れることと、主体非依存的なoughtが同じ現れとして与えられることは別である。
5. 宇宙の形態が未解明であることは価値推論に関係しうる
「宇宙についてすべて分かるまで倫理判断できない」と言う必要はない。しかし、価値の真理条件に関係しうる存在論的・意識論的・主体論的・宇宙論的事実はまだ大きく未確定である。
意識の構造、主体の同一性、コピーされた主体の扱い、人工意識、無限宇宙、経験と規範性の関係などが変われば、同じ倫理理論でも意味や帰結が変わりうる。したがって将来の客観的価値理論も、少なくとも現行認知の延長線上の推論層にある限り、「その時点で得られた世界モデルに条件付けられた最善説明」として扱う。認識形式そのものが変化した場合は、この条件付き性がどこまで残るかを改めて問う必要がある。
6. 最善説明は実践を強く拘束しうる
可謬的だから弱くしか行動してはいけない、とはならない。ある価値理論が競合理論を圧倒し、その予測・説明・整合性が非常に高いなら、その確信度に応じて制度や資源配分を強く変更してよい。
ここで導入する原則は、実践的コミットメントの強さを証拠に応じて上げる一方、不可逆な探索閉鎖には別の閾値を置くことである。99.9999%の確信は強い行動を正当化しても、残りの不確実性を検討できる全経路の物理的破壊まで同じ確率で正当化するとは限らない。
7. 推論的価値があっても懐疑が続く理由
懐疑とは、結論を採用しないことではない。現在の最善説明を採用しながら、その誤り条件を保持することである。現行型の推論層にある価値理論については、「何がこの理論を反証するか」「どの世界モデル変更で結論が変わるか」「異なる主体構造や認識形式ではどう見えるか」を残す。
この意味で適切な懐疑は、価値実現への敵ではなく、価値理論が誤っていた場合の訂正機構である。
8. 規範的ステークスの非対称性
客観的価値が存在しないなら、客観的には探索と非探索の価値差がない。一方、価値が存在するなら、未知の重大な規範的差がありうる。したがって虚無仮説は「探索をやめるべき」という客観的理由を供給しない。
ただし、これを行動へ接続するには「もし目的が正当化可能なら、その正当化に応じて目的を選択・改訂したい」という条件付きメタ態度が必要である。本テーゼはその持ち込みを隠さない。
9. 「不確実だから探索せよ」からの修正
以前の弱い形では、訂正可能性・情報価値・不可逆損失回避を独立したメタ選好として置く必要があった。新しい整理では、それらはなお必要だが、より限定的に位置づけられる。
探索可能性保存は、価値それ自体の代用品ではない。目的正当化の問いを閉じておらず、その答えに目的選択を応答可能にしておきたい主体が、価値の認識的地位が現行型の推論的なものである間に採用する誤り訂正戦略である。したがって、基礎的提示または認識的に変容した推論が十分な停止条件を満たすほど強い認識的地位を得たなら、この戦略は撤回されうる。
10. ASIへの含意
超知能が物理世界、自分の形成過程、人間の進化史、倫理学の全既知理論を理解しても、それだけで基礎的規範性が直接与えられるとは限らない。一方、人間よりはるかに強い推論によって、客観的価値を最善説明として発見する可能性は十分にある。
ここでも、推論能力の規模と認識形式の変化を分ける必要がある。巨大な計算能力による連続的推論は価値理論の確信を飛躍的に高めうるが、それだけで現在型の依存構造を脱したことにはならない。他方、ASIが新しい表象・検証・自己評価の形式を獲得するなら、その認識は第三の経路に近づきうる。
したがってASIに期待しうる役割は、第一に価値理論の連続的な推論的確信を飛躍的に高めること、第二に現在の人間にはない認識形式を開くこと、第三にその新形式が単なる別種の可謬的推論なのか、競合可能性を十分に閉じうる認識論的地位を持つのかを検証することである。
11. 何がこのテーゼを弱めるか
- 現象的価値そのものに主体非依存的規範性が分析的・直接的に含まれることが示される。
- 現行認知の延長線上の推論体系が、世界モデル・表象形式・推論規則への依存を残したままでも、その妥当性を終端的に自己保証できる一般原理が示される。
- 価値の真理条件に関係する世界構造が完全に確定し、一つの価値理論のみが必然的に残る。
- 現行型の推論的収束だけで、将来の異質な認識形式からも独立した競合可能性が生じないことまで保証できる一般原理が示される。
- 基礎的提示や認識的に変容した推論を区別してもなお、推論的最善説明と終端的な認識的閉鎖の区別が価値認識について意味を持たないことが示される。