功利主義――最終基礎ではないが、なぜ福利をなお重視するのか
1. 功利主義は一つの理論ではない
「功利主義」と呼ばれる立場には複数の独立した選択が含まれる。
第一に、何を福利とみなすかが異なる。快楽と苦痛を中心に置く快楽主義、主体の選好充足を中心に置く選好主義、十分な情報・熟慮・合理性のもとで形成される理想化選好を重視する立場、知識・達成・友情・自律など複数の要素を福利に含める客観的リスト説がありうる。
第二に、それらをどのように集計するかが異なる。総量、平均、critical level、prioritarianな重みづけ、あるいは同種の価値の反復に逓減を認めるsaturation型の集計がありうる。
第三に、福利だけが価値なのか、それとも知識、真理、美、多様性、認知的達成などが主体の福利とは独立した価値を持つのか、という分岐がある。後者まで進めば、狭義の功利主義というより多元主義的帰結主義に近づく。
したがって、「功利主義が正しいか」という問いは単一の理論の真偽を問うものではない。本ページでは、それらに共通するより一般的な問い――現在われわれが価値あるものとして経験・選好している福利を、宇宙的な最終目的へ昇格させるだけの根拠があるか――を扱う。
2. 快苦には重要な「価値的現れ」がある
本プロジェクトは、快苦を単なる生物学的信号として切り捨てない。
とりわけ強い苦痛は、単に「神経系に特定の活動が起きている」と記述されるだけではない。経験そのものが、主体にとって避けるべきもの、悪いものとして現れる。これは色や音の知覚とは異なる、明確な価的性格を持つように見える。
しかし、ここでは三つの層を区別する必要がある。
- 現象的事実： 苦痛には特定の嫌悪的性格がある。
- 価値的現れ： 苦痛は主体にとって悪いものとして現れる。
- 客観的規範性： したがって、あらゆる主体は苦痛を公平に集計し、その総量を最小化すべきである。
第一・第二の層が強く与えられるとしても、第三の層は自動的には導かれない。
したがって本プロジェクトでは、快苦の価値的現れを最終基礎ではなく、重要な証拠として扱う。快苦が真の価値の一部を追跡している可能性は真剣に残すが、それだけで功利主義的集計原理まで確定したとはみなさない。
3. 進化的起源は、この証拠を弱めるが消去しない
現状の最有力な物理的世界認識においては、快苦・欲望・公平感・共感など、人間の評価構造の大部分には進化的説明が可能である。
苦痛回避が生存を促進し、快楽が適応的行動を強化し、特定の社会的選好が協力や繁殖に寄与したなら、それらの評価傾向が存在することを説明するために、独立した客観的価値を仮定する必要はない。
これは、とりわけ次の推論を弱める。
私たちは苦痛を悪いと強く感じる。
したがって、苦痛の最小化は客観的・宇宙的な最終価値である。
しかし、進化的説明が存在することから、
苦痛は客観的価値と全く関係がない
とも導かれない。
知覚能力が進化によって形成されたからといって、外界についての認識能力が必ず無価値になるわけではない。同様に、価値判断の進化的由来は、それが真の価値を追跡する可能性をゼロにはしない。
したがって進化的デバンキングの含意は、現在の評価構造を最終基礎として扱う資格を弱めることにある。快苦や選好を捨てる理由ではなく、それらを不可逆にlock-inしない理由になる。
4. 選好を理想化しても問題は完全には消えない
素朴な選好功利主義には、誤情報、依存、操作、adaptive preference、衝動的欲求などの問題がある。
そこで、十分な情報を持ち、より合理的に熟慮した主体が何を望むかを福利の基礎にすることが考えられる。さらに強く、価値観そのものを長期的に外挿するCEV的な立場もありうる。
これは重要な改善である。しかし、理想化は価値の起源そのものを自動的には消去しない。
十分に情報を得た人間が、なお人間的な進化史に由来する終端選好を持ち続ける可能性はある。また、「より合理的」「より一貫的」「より適切に外挿された」とは何を意味するのかを定めるoperator自体に、新たな規範前提が入りうる。
現実の選好
→ 情報を得た選好
→ 理想化選好
→ 外挿された選好
と進むほど単純な偶然性は減るかもしれないが、それだけで客観的規範性へ到達したとは言えない。
5. 非記述主義は問題を解決するというより、問いを移動させる
この種の進化的批判に対して、表出主義その他の非記述主義は一つの応答を与えうる。
もし「苦痛は悪い」という判断が、独立した道徳事実を記述する信念ではなく、苦痛を避ける態度、計画、規範的コミットメントを表しているだけなら、
その信念が進化によって歪められ、独立した道徳真理を追跡していない
という批判はそのままでは成立しない。
しかし、これはtruth-tracking problemを解決したというより、truth-tracking claimを弱めたものでもある。
「われわれは苦痛を避ける態度を持っている」という説明から、
未知のAI、将来のポストヒューマン、異星生命、あるいは宇宙全体も、その態度に従うべきである
とは導かれない。
したがって、人間の道徳言語の意味論について非記述主義が正しいとしても、それだけでpractice-independentな規範性の可能性が閉じられるわけではない。この問題の詳細は表出主義のページで扱う。
6. 極端な最適化は、各理論が本当に何を重視するかを露出させる
十分な資源と最適化能力を与えると、功利主義および隣接する帰結主義には、人間の現在の直観から見て極端な帰結が生じうる。
- 総量快楽主義は、最小の物理資源で最大の正の経験を生む主体やhedoniumの大量生成を支持しうる。
- 選好充足主義は、極めて満たしやすい選好を持つ主体の生成を支持しうる。
- 飽和主義のような多様性と選好充足を同時に重視する立場は、人間とは大きく異なる、多種多様で満足した精神を可能な限り実現する方向へ向かいうる。
- 知識、理解、認知的達成を独立の価値として強く認める立場は、大量のAI推論インスタンスや認知的computroniumを支持しうる。
- 強い負の功利主義は、苦痛を確実にゼロにする手段として、全主体の無痛の消滅を支持しうる。
- 快楽だけを強く重視する立場は、既存主体の自律や現実との接触を犠牲にして、経験機械や直接的な快楽刺激を支持しうる。
しかし、本プロジェクトは、これらの結論が奇妙であるという理由だけで各理論を否定しない。
現在の人間的直観の方が誤っており、これらの極端な帰結のいずれかが実際に正しい可能性も残るからである。
したがって、ここでの極端例はreductioではない。
極端例の目的は、各理論を十分に最適化したとき、その理論が何を保存し、何を犠牲にしうるかを明らかにすることである。
本プロジェクトが直接問題視するのは、hedonium、異質な精神の宇宙、AI cognitionの最大化、あるいは無主体の宇宙そのものではない。そのいずれが正しいかについて十分な認識的根拠を得る前に、一つを不可逆な最終目的として固定することである。
7. それでも福利を暫定的に重視する第一の理由――現在の最善説明の一つ
功利主義を最終基礎としてlock-inしないことは、福利を価値候補から降ろすことを意味しない。
快苦や選好は、
- 強い価値的現れを持つ
- 多数の主体に横断的に存在する
- 行動・意思決定と深く結びつく
- 複数の倫理理論にまたがって一定の重要性を認められる
- 現在の主体に生じている状態として比較的よく観察できる
という特徴を持つ。
したがって、
福利は真の価値の少なくとも一部である
という仮説は、現在利用可能な価値理論の中で有力な候補の一つである。
しかし、
福利だけが究極的に重要である
という主張は、それよりはるかに強い。
本プロジェクトは前者に相当の認識的重みを置きつつ、後者を未確定のまま残す。
8. 第二の理由――福利は価値探索共同体のインフラになる
価値探索は、抽象的な推論だけでは継続できない。
探索主体が極端な苦痛、恐怖、欠乏、対立、制度崩壊に晒されていれば、長期的で多元的な価値探索そのものが困難になる。
一定水準の福利、選好充足、自由、信頼、社会的安定は、
価値探索とは独立した最終価値
である可能性に加えて、
価値探索を継続するための道具的条件
でもある。
したがって、福利重視は次の二重の正当化を持ちうる。
- 福利そのものが真の価値である可能性。
- 福利が真の最終価値でなかった場合にも、より良い価値認識を可能にする探索共同体を維持する効果。
この意味で、現在主体の福利を一定範囲で守ることは、価値探索に対する競合目標ではなく、そのインフラでもある。
9. 第三の理由――宇宙論的規模では、限定的な福利保護の機会費用が小さくなりうる
将来文明が利用できる物理的資源が非常に大きくなった場合、現在型の主体やその他の福利主体に高い生活水準を提供するために必要な資源が、文明全体の資源のごく小部分になる可能性がある。
その場合、
福利が真の価値でなかったにもかかわらず、一定量の福利を維持したことによる損失
は限定的である一方、
福利が重大な真の価値だったにもかかわらず、それを全面的に破棄したことによる損失
は大きいかもしれない。
この非対称性は、空間的な資源配分だけでなく、時間軸についても成立しうる。
高度な自動化、ASI、医療・神経技術、経験制御、豊富なエネルギー供給などが実現するなら、現在存在する主体の主要な苦痛を大幅に減らし、多くの基本的選好を満たし、物質的欠乏をほぼ解消することは、宇宙論的な時間尺度から見れば比較的短い期間で達成できる可能性がある。たとえば数世紀という時間をこれに要したとしても、それは宇宙規模の価値探索に利用可能な時間のごく初期部分にすぎないかもしれない。
一方で、価値探索そのものにははるかに長い時間軸を想定できる。高度な人工知能が人間を大きく超える推論能力を持ったとしても、価値についての問いが短期間に完全に解決される保証はない。新しい認知様式、新しい人工主体、異なる社会制度、恒星間文明、未知の物理環境や意識形態などが新たな証拠を提供するなら、探索は数千年、数百万年、あるいはさらに長い時間スケールにわたって更新され続けうる。
したがって、
既存主体の福利をまず高い水準まで改善すること
と
宇宙的な価値探索を長期に継続すること
は、必ずしも強いゼロサム関係にはない。
たとえば仮に数百年程度で現在型主体の主要な福利問題の多くを解消でき、その後に桁違いに長い探索期間が残るなら、価値探索をわずかに早めるために現在主体へ大きな苦痛や欠乏を課す必要性は弱くなる。
これは「最初の数百年は功利主義を絶対視すべきだ」という主張ではない。むしろ、現在比較的よく認識できる福利改善を先に行うことの機会費用が、宇宙論的視野では非常に小さい可能性があるという条件付きの主張である。
同時に、この議論は探索を延期し続けてよいという意味でもない。福利改善と価値探索は多くの場合並行可能であり、ASIその他の高度な認知主体が利用可能になれば、福利改善を進めながら探索能力そのものも急速に拡大できる可能性がある。
したがって重要なのは、
福利か探索か
という二者択一ではなく、
短期・中期には現在の有力な価値仮説に基づく福利改善を十分に行いつつ、長期には圧倒的に大きな探索余地を保存する
という時間的分業である。
この非対称性が成立するなら、深い価値不確実性の下でも、福利を一定範囲で保存・改善することには強い頑健性がある。
ただし、ここから総量功利主義的最大化は導かれない。
文明資源の1%を用いて巨大な福利を実現することが低コストであるとしても、最後の1%まで含めた全資源を福利へ変換することの機会費用が低いとは限らない。同様に、数世紀を既存主体の福利改善にも配分することが安価であるとしても、宇宙的な未来全体を現在の福利概念の最大化へ固定することが安価であるとは限らない。
したがって本プロジェクトが暫定的に擁護するのは、
無制約な福利最大化
ではなく、
非暴走的・限定的・可逆的な福利保護と福利実現
である。
10. 暫定的な立場
本プロジェクトは、功利主義を棄却しない。
快苦には重要な価値的現れがあり、福利が真の価値の一部であるという仮説には相当の認識的重みがある。さらに、福利の保護は価値探索共同体の安定に寄与し、将来十分な資源と時間が存在するなら、その限定的実現の機会費用は小さくなりうる。
しかし、これらの理由のいずれも、
- 福利だけが真の価値である
- 現在の人間的快苦尺度が宇宙的に正しい
- すべての主体の福利を単一尺度で線形集計できる
- 利用可能な全資源を福利最大化へ投入すべきである
- 現在の功利主義をAIや将来文明の不可逆な目的として固定すべきである
ことまでは示さない。
したがって、現在の立場は次のように表せる。
功利主義が最終的に正しかったという可能性は残る。同様に、hedonium、異質な精神の最大多様化、AI cognitionの大規模実現、あるいは現在の人間的直観からは奇妙に見える別の帰結が、最終的に正しい可能性も残る。
現在の不確実性から最も直接に導かれるのは、そのいずれかを先取りして固定することではなく、現在の有力な価値仮説を相応に実践しながら、価値認識を更新できる余地を残すことである。