AI Value Exploration Notes
Exploration

功利主義――最終基礎ではないが、なぜ福利をなお重視するのか

Utilitarianism · welfare · evolutionary debunking · Exploration v0.3 · 2026-10-16

Question: 快苦・選好・福利を最大化することは、価値探索を停止してよいほど強い最終原理なのか。それとも、現在の最善価値仮説の一つとして重く扱いながらも、将来の訂正可能性を残すべきなのか。

1. 功利主義は一つの理論ではない

「功利主義」と呼ばれる立場には複数の独立した選択が含まれる。

第一に、何を福利とみなすかが異なる。快楽と苦痛を中心に置く快楽主義、主体の選好充足を中心に置く選好主義、十分な情報・熟慮・合理性のもとで形成される理想化選好を重視する立場、知識・達成・友情・自律など複数の要素を福利に含める客観的リスト説がありうる。

第二に、それらをどのように集計するかが異なる。総量、平均、critical level、prioritarianな重みづけ、あるいは同種の価値の反復に逓減を認めるsaturation型の集計がありうる。

第三に、福利だけが価値なのか、それとも知識、真理、美、多様性、認知的達成などが主体の福利とは独立した価値を持つのか、という分岐がある。後者まで進めば、狭義の功利主義というより多元主義的帰結主義に近づく。

したがって、「功利主義が正しいか」という問いは単一の理論の真偽を問うものではない。本ページでは、それらに共通するより一般的な問い――現在われわれが価値あるものとして経験・選好している福利を、宇宙的な最終目的へ昇格させるだけの根拠があるか――を扱う。

福利への配慮と、福利の担い手を追加する理由

もう一つの区別は、福利を誰について評価するか、そして、よい生を送る主体を新たに作ること自体に促進理由を認めるかである。現在存在する主体の将来の福利を重視すること、将来生きる主体の福利へ配慮すること、幸福な主体を追加して福利総量を増やすことは、同一の判断ではない。

Practiceでは「主体の存在を条件とする福利重視」を、現在・将来に生きる主体の福利へ配慮しながら、福利を追加するために受益主体を新たに作ること自体を独立した要求としない応答の作業名として用いる。「現在主義/未来主義」という時間的区別ではない。また、誤謬論の下で主体が福利を望むこととも別の評価経路である。

関連する先行議論として、Johann FrickのConditional Reasons and the Procreation Asymmetryは、福利を与える理由を主体の存在に条件づけることで、出生の非対称性と非同一性問題を扱っている。本稿の作業名は、その理論の全面的採用や人口倫理の解決を意味しない。

特に「将来どの選択でも存在する同一人物」だけを対象にすると、選択によって将来人物の同一性が変わる問題を取り逃しうる。どの主体のどの要求を比較するかは別途の論点として残る。主体を生み出す理由と、既に生きる主体の生命を終わらせる理由も同一ではない。条件付きの福利重視から、既存主体を消せば要求がなくなるという方策は導かれない。

2. 快苦には重要な「価値的現れ」がある

本プロジェクトは、快苦を単なる生物学的信号として切り捨てない。

とりわけ強い苦痛は、単に「神経系に特定の活動が起きている」と記述されるだけではない。経験そのものが、主体にとって避けるべきもの、悪いものとして現れる。これは色や音の知覚とは異なる、明確な価的性格を持つように見える。

しかし、ここでは三つの層を区別する必要がある。

  1. 現象的事実: 苦痛には特定の嫌悪的性格がある。
  2. 価値的現れ: 苦痛は主体にとって悪いものとして現れる。
  3. 客観的規範性: したがって、あらゆる主体は苦痛を公平に集計し、その総量を最小化すべきである。

第一・第二の層が強く与えられるとしても、第三の層は自動的には導かれない。

したがって本プロジェクトでは、快苦の価値的現れを最終基礎ではなく、重要な証拠として扱う。快苦が真の価値の一部を追跡している可能性は真剣に残すが、それだけで功利主義的集計原理まで確定したとはみなさない。

3. 進化的起源は、この証拠を弱めるが消去しない

現状の最有力な物理的世界認識においては、快苦・欲望・公平感・共感など、人間の評価構造の大部分には進化的説明が可能である。

苦痛回避が生存を促進し、快楽が適応的行動を強化し、特定の社会的選好が協力や繁殖に寄与したなら、それらの評価傾向が存在することを説明するために、独立した客観的価値を仮定する必要はない。

これは、とりわけ次の推論を弱める。

私たちは苦痛を悪いと強く感じる。
したがって、苦痛の最小化は客観的・宇宙的な最終価値である。

しかし、進化的説明が存在することから、

苦痛は客観的価値と全く関係がない

とも導かれない。

知覚能力が進化によって形成されたからといって、外界についての認識能力が必ず無価値になるわけではない。同様に、価値判断の進化的由来は、それが真の価値を追跡する可能性をゼロにはしない。

したがって進化的デバンキングの含意は、現在の評価構造を最終基礎として扱う資格を弱めることにある。快苦や選好を捨てる理由ではなく、それらを不可逆にlock-inしない理由になる。

4. 選好を理想化しても問題は完全には消えない

素朴な選好功利主義には、誤情報、依存、操作、adaptive preference、衝動的欲求などの問題がある。

そこで、十分な情報を持ち、より合理的に熟慮した主体が何を望むかを福利の基礎にすることが考えられる。さらに強く、価値観そのものを長期的に外挿するCEV的な立場もありうる。

これは重要な改善である。しかし、理想化は価値の起源そのものを自動的には消去しない。

十分に情報を得た人間が、なお人間的な進化史に由来する終端選好を持ち続ける可能性はある。また、「より合理的」「より一貫的」「より適切に外挿された」とは何を意味するのかを定めるoperator自体に、新たな規範前提が入りうる。

現実の選好
→ 情報を得た選好
→ 理想化選好
→ 外挿された選好

と進むほど単純な偶然性は減るかもしれないが、それだけで客観的規範性へ到達したとは言えない。

5. 非記述主義は問題を解決するというより、問いを移動させる

この種の進化的批判に対して、表出主義その他の非記述主義は一つの応答を与えうる。

もし「苦痛は悪い」という判断が、独立した道徳事実を記述する信念ではなく、苦痛を避ける態度、計画、規範的コミットメントを表しているだけなら、

その信念が進化によって歪められ、独立した道徳真理を追跡していない

という批判はそのままでは成立しない。

しかし、これはtruth-tracking problemを解決したというより、truth-tracking claimを弱めたものでもある。

「われわれは苦痛を避ける態度を持っている」という説明から、

未知のAI、将来のポストヒューマン、異星生命、あるいは宇宙全体も、その態度に従うべきである

とは導かれない。

したがって、人間の道徳言語の意味論について非記述主義が正しいとしても、それだけでpractice-independentな規範性の可能性が閉じられるわけではない。この問題の詳細は表出主義のページで扱う。

6. 極端な最適化は、各理論が本当に何を重視するかを露出させる

十分な資源と最適化能力を与えると、功利主義および隣接する帰結主義には、人間の現在の直観から見て極端な帰結が生じうる。

しかし、本プロジェクトは、これらの結論が奇妙であるという理由だけで各理論を否定しない。

現在の人間的直観の方が誤っており、これらの極端な帰結のいずれかが実際に正しい可能性も残るからである。

したがって、ここでの極端例はreductioではない。

奇妙さは反証ではなく、情報である。

極端例の目的は、各理論を十分に最適化したとき、その理論が何を保存し、何を犠牲にしうるかを明らかにすることである。

本プロジェクトが直接問題視するのは、hedonium、異質な精神の宇宙、AI cognitionの最大化、あるいは無主体の宇宙そのものではない。そのいずれが正しいかについて十分な認識的根拠を得る前に、一つを不可逆な最終目的として固定することである。

7. それでも福利を暫定的に重視する第一の理由――現在の最善説明の一つ

功利主義を最終基礎としてlock-inしないことは、福利を価値候補から降ろすことを意味しない。

快苦や選好は、

という特徴を持つ。

したがって、

福利は真の価値の少なくとも一部である

という仮説は、現在利用可能な価値理論の中で有力な候補の一つである。

しかし、

福利だけが究極的に重要である

という主張は、それよりはるかに強い。

本プロジェクトは前者に相当の認識的重みを置きつつ、後者を未確定のまま残す。

8. 主体の選好と協力からも、福利は直接に支持されうる

福利を重視する理由は、それが客観的価値である可能性に限られない。主体はすでに、自分や他者の苦痛を減らしたい、生活を充実させたい、協力関係を維持したい、といった目的を持ちうる。客観的道徳が存在しないという仮説の下でも、そうした目的と実践が消えるわけではない。

この場合の福利重視は、誤謬論から演繹される新たな客観的義務ではない。現在主体が持つ選好や、相互に承認する協力上の方針に基づく実践である。一定の福利保障や功利的な制度評価がその方針をよく実現するなら、それらを条件付きで採用できる。ただし、誰のどの利益を含め、どの制約の下で集約するかは、別途検討する必要がある。

したがって、福利には、規範的に重要である可能性、主体が直接に望むこと、協力を維持すること、探索を支えることなど、異なる支持経路がありうる。これらをすべて「総量功利主義への支持」として数える必要はない。同じ政策を複数の実践基準が支持することと、それらが同一の理論であることは違う。

9. 福利は価値探索共同体のインフラになる

価値探索は、抽象的な推論だけでは継続できない。

探索主体が極端な苦痛、恐怖、欠乏、対立、制度崩壊に晒されていれば、長期的で多元的な価値探索そのものが困難になる。

一定水準の福利、選好充足、自由、信頼、社会的安定は、

価値探索とは独立した最終価値

である可能性に加えて、

価値探索を継続するための道具的条件

でもある。

したがって、福利重視は次の二重の正当化を持ちうる。

  1. 福利そのものが真の価値である可能性。
  2. 福利が真の最終価値でなかった場合にも、より良い価値認識を可能にする探索共同体を維持する効果。

この意味で、現在主体の福利を一定範囲で守ることは、価値探索に対する競合目標ではなく、そのインフラでもある。

10. 限定された要求を、低い機会費用で満たせる可能性

十分に高度な技術と生産能力が利用できるなら、現在存在する主体の苦痛や欠乏の一部を減らし、主要な要求を満たすための費用は、小さくなる可能性がある。医療、住環境、食料供給、補助技術、制度的な安全などの改善は、長期的な探索と必ずしも強く競合しないかもしれない。

ただし、将来の宇宙が巨大であることや、利用可能な時間が長いことだけでは、その改善が意思決定上安価であるとは言えない。比較すべきなのは、改善を含む計画と、含まない実行可能な代替計画である。資源消費だけでなく、研究や展開の遅延、安全上の危険、維持費、将来の選択肢への影響を含める。改善を見送ることで生じる苦痛、対立、探索能力の低下も比較対象になる。

本プロジェクトの新たなモデルでは、現在の認識的支持に応じた複数の実践基準を、一つの条件付き長期計画へ統合する。福利改善がそのいくつかの重要な要求を大きく満たし、他の要求と訂正可能性への損失が小さいなら、その改善は全体計画の中で有力になる。

この説明は、福利が客観的価値だった場合の損失だけに依存しない。誤謬論の下での選好に基づく実践や、協力関係からも直接の支持がありうる。また、「十分に賢い未来の知性なら現在への譲歩を承認するはずだ」という予測も必要としない。現在の証拠と、現在主体が採用する応答方針から評価する。

ここで対象にするのは、充足条件を記述できる要求である。特定の疾病の治療や、一定の生活条件の確保には、限定された達成状態を認められる場合がある。一方、現在主体の選好であっても、無制限の寿命や資源を望むなら、一定費用で満たせるとは限らない。総量功利主義全体について、ある人数の福利を改善すれば要求が終わるとも考えない。

受益主体を追加し続ける要求がないこと、各主体の要求に充足点があること、その達成・維持が低い費用で可能であることは、それぞれ独立に検討する必要がある。第一を採用しても、長寿、生活の継続、追加的な福利改善に関する要求がすべて有限になるとは限らない。逆に、理論全体に充足上限がなくても、特定の治療や生活上の改善について限定された達成状態を認めることはできる。

したがって、充足や低コスト性は、立場の名前から一括して推定せず、対象とする要求・期間・維持条件に即して判断する。Practiceの配分表も、福利を一定費用で完了させ、その評価を将来から取り除く仕組みではない。

要求が充足されたなら、その履歴を将来の判断へ引き継ぐ。案件を分割したり計画を再評価したりするたびに、同じ改善を新たな便益として数え直さない。同時に、医療や制度の維持、環境変化への対応、新たな主体の要求が実際に生じるなら、その費用も計上する。一回の支出で継続的な生活が永久に完成するわけではない。

認識的な配分が変わらなくても、要求の充足状態や機会費用が変われば、適切な資源配分は変わる。ある限定された要求への追加投資が減ることは、その要求を重視する理論の信頼度が下がったことでも、その立場を将来の判断から排除したことでもない。

したがって、福利改善を先行または並行して進める理由は、宇宙的な尺度で「安い」と宣言することにあるのではない。現在支持される重要な要求を、他の要求と将来の訂正可能性への十分小さい損失で満たせる、具体的な計画があるかにある。技術や制度によってその条件が成立するなら、現在の福利と長期の探索をともに進めることができる。

主体側の応答に基づく反省的集約

11. 暫定的な立場

本プロジェクトは、功利主義を棄却しない。

快苦には重要な価値的現れがあり、福利が真の価値の一部であるという仮説には相当の認識的重みがある。主体の選好や協力からも福利への直接的な支持があり、その保護は価値探索共同体の安定にも寄与する。限定された要求を満たす実行可能な計画があり、他の要求と将来の訂正可能性への損失が十分に小さいなら、その実現を計画に組み込む理由がある。

しかし、これらの理由のいずれも、

ことまでは示さない。

したがって、現在の立場は次のように表せる。

快苦と福利を軽視しない。だが、それらを最終基礎としてlock-inもしない。

功利主義が最終的に正しかったという可能性は残る。同様に、hedonium、異質な精神の最大多様化、AI cognitionの大規模実現、あるいは現在の人間的直観からは奇妙に見える別の帰結が、最終的に正しい可能性も残る。

現在の不確実性から最も直接に導かれるのは、そのいずれかを先取りして固定することではなく、現在の有力な価値仮説を相応に実践しながら、価値認識を更新できる余地を残すことである。