AI Value Exploration Notes
Exploration

未来の価値は現在の行為をどこまで正当化できるか――長期主義との比較と「規範的ブリッジ」問題

Future value · present justification · longtermism · Exploration v0.1 · 2026-08-11

Question: 将来、現在の人類にはまだ理解できない重大な価値が発見・実現されうるとして、その可能性は、現在存在する主体にコスト、犠牲、制約、あるいは強制を課すことをどこまで正当化できるのか。 「未来に価値がありうる」から「いまそう行為してよい」までの間に、どのような追加の規範的ブリッジが必要なのか。

1. この問題はCoreの外部ではなく、Core内部の未解決点である

Coreは、現在の価値理論を最終基礎として不可逆に固定せず、価値を発見・批判・修正する探索可能性を残すことを提案する。その理由として、現在の価値認識が推論的・可謬的であること、未知の客観的価値が存在しうること、そして不可逆なlock-inが訂正可能性を失わせうることを挙げる。

しかしここには、慎重に分けるべき二つの問いがある。第一は、未来に価値または価値についてのより良い知識がありうるかという存在論・認識論の問い。第二は、その可能性を理由に、現在の主体へ何をしてよいかという実践的正当化の問いである。

前者が肯定されても、後者は自動的には決まらない。未知の未来価値が存在しうることは、少なくとも何らかの理由を生みうる。しかし、理由が存在すること、行為が許されること、行為が義務になること、他者へ強制してよいことは同じではない。

Working distinction:
Value possibility: 未来に重大な価値または価値認識が存在しうる。
Pro tanto reason: その可能性を無視しない理由がある。
Permission: 他の理由と比較して、その行為をしてよい。
Obligation: その行為をすべきである。
Coercive authorization: 反対する現在主体にも負担を強制してよい。
この五層の間には、それぞれ追加の論証が必要である。

2. Coreはすでに「未来価値が現在を全て支配する」という読みを拒んでいる

この点で、既存Coreには重要な安全弁がある。第一に、Coreは「価値が不確実だから探索を最大化せよ」とは言わず、不可逆に探索経路を閉じないという弱い結論へ降りる。第二に、現在の最善価値理論が十分強く支持されるなら、文明資源の大半をその実現へ向けることさえありうると認める一方、それを絶対的lock-inと区別する。第三に、無限倫理では、小確率×巨大価値が全意思決定を乗っ取るPascal型の推論を明示的に拒む。

したがってCoreの自然な読解は、未来価値の大きさだけで現在行為を決める理論ではない。むしろ、不確実な価値世界の下で、訂正可能性を必要以上に失わないための条件付きメタ戦略である。

ただし、これだけでは「必要以上」とはどこまでかが決まらない。探索可能性を一単位増やすために、現在の福祉・自由・政治的正当性・安全をどれだけ犠牲にしてよいのか。ここが本ページの中心である。

3. 未来価値は自分自身の権威をbootstrapできない

最も危険な推論は、「もし未来に巨大な真の価値があるなら、それを実現することは現在のあらゆる犠牲より重要である。したがって今から犠牲を払うべきだ」という形である。

この推論では、実は途中に規範前提が入っている。たとえば「総価値が大きいほど優先すべき」「時間的位置だけで価値を割り引くべきでない」「未来主体の利益は現在主体の利益と集約できる」「未知の真の価値を発見する機会には現在利益を上回りうる重みがある」といった前提である。

これらは重要な候補原理だが、未来価値の存在可能性そのものからは導かれない。 「未来に真の価値があるかもしれない」という命題が、「その価値は現在の権利・利益・自律を打ち消すほど優先される」という規範内容まで自分で生成することはできない。

この意味で、未来価値を現在行為へ接続するには必ず何らかのbridge principleが必要である。そして本プロジェクトは既存価値を最終基礎とみなさない以上、そのbridge principle自体も暫定的・可謬的な現在の規範判断として扱わなければならない。

4. それでも完全な規範中立にはならない

ここで「ではCoreには現在行為を支持する理由が何もない」とはならない。Coreはすでに、もし目的が正当化可能なら、その正当化に応じて目的を選択・改訂したいという薄い条件付きメタ態度を明示している。また、訂正可能性、情報価値、不可逆なoption lossを少なくとも一定程度重視する。

したがってCoreは価値中立ではない。より正確には、具体的な第一階価値を最終回答として固定することを避けつつ、真理・訂正・再検討に何の重みも置かない主体にはそもそも拘束力を持たない条件付き戦略である。

この薄い規範性からは、低コストな記録保存、異論の存続、基礎研究、複数経路の保持のような措置には比較的直接に理由が出る。しかし、それが現在主体への重大な犠牲や強制まで正当化するには、さらに強いbridgeが必要になる。

5. 長期主義との類似――未来は現在の意思決定に規範的に関係しうる

この問題設定は長期主義(longtermism)と明確に隣接する。GreavesとMacAskillが定式化するstrong longtermismは、少なくとも一定範囲の重要な意思決定で、非常に長期の未来への影響が選択肢の良さを主に決めるという主張である。近年の議論では、実存的リスク、AI、制度、人口倫理、予測可能性、集約、政治的実装まで広く検討されている。

共通する視座は三つある。第一に、現在観測できる範囲だけを倫理的宇宙の全体とみなさない。第二に、現在の行為が不可逆に長期未来を変えるなら、その長期効果は現在の理由になりうる。第三に、絶滅やvalue lock-inのような不可逆事象は、単なる一時的損失ではなく未来の可能性空間そのものを閉じうるため特別な検討を要する。

この意味では、Coreの探索可能性保存も広い意味で「長い時間軸を現在判断へ入れる」立場である。

6. しかし出発点はかなり違う――長期主義は「何を価値と数えるか」をより多く先に置く

違いは、未来を見るかどうかではなく、何を根拠に未来を重く見るかにある。

典型的な長期主義の論証は、未来の人々や主体にも道徳的重要性がある、時間的位置だけでその重要性を割り引かない、未来には非常に多くの価値担体が存在しうる、現在の行為がそれらへ影響できる、といった第一階の規範・価値前提から始める。strong longtermismの文献は、単純な総功利主義だけに依存しないよう、人口倫理・集約・意思決定理論・非帰結主義への頑健性をかなり検討している。したがって「長期主義=総功利主義」と縮約するのは正確ではない。

それでも、長期主義は最終的に、何らかの形で未来に存在する人々・福利・善い状態・権利・請求などを現在の規範判断へ入れる原理を必要とする。これに対し本プロジェクトのCoreは、そのような既知の価値語彙自体が最終的に正しいかをopen questionとして残す。未来の重要性は「未来人が膨大だから」だけでなく、未来主体が現在の人類にはまだ概念化できない価値構造を発見・構成するかもしれないという認識論的可能性からも出る。

したがって両者は似た時間的視野を持つが、長期主義が主に既知の規範を長時間軸へ拡張するのに対し、Coreは規範そのものの未知性を長時間軸へ開く。その代わりCoreは、未来の価値量を計算して現在の犠牲へ直結させる力が弱い。

7. 現代の長期主義内部にも「未来が全部を支配するのか」という自己制限がある

長期主義を「未来のためなら現在をほぼ無制限に犠牲にせよ」という一枚岩として扱うのも不正確である。GreavesとTarsneyは2025年に、標準的な長期主義論証が直接支えるminimal longtermismと、ほぼあらゆる選択や大規模資源配分を長期未来が支配するexpansive longtermismを明示的に区別した。彼らの整理では、標準的な論証が比較的頑健に支えるのは、特定の技術的実存リスクなどへの追加資源投入という限定的主張であり、社会のほぼ全てを遠未来最適化へ従属させる広い主張には、より投機的な追加論証が要る。

またAskellとNethは、未来を現在と同程度に道徳的に重視すると認めても、因果的・認識的拡散、道徳的不確実性などによって、実際の意思決定では近い将来の効果へ相対的に集中する理由がありうると論じる。Tarsneyは、遠未来への効果を予測しにくいという認識論的問題を精査し、長期主義の優位が極小確率の巨大payoffにどこまで依存するかを問題化した。

さらにCurranは、契約主義やanti-aggregationの観点から、状態全体の善を最大化することと、現在・未来の個々人に正当化可能な行為であることは別だと論じる。これは本ページの「価値の大きさ」と「行為の正当化」を分離する問題にかなり近い。

したがって本プロジェクトと長期主義の差は「こちらは慎重、あちらは未来至上主義」という単純な線ではない。より正確には、両者とも未来の巨大さから現在行為へ飛ぶ橋を問題にしているが、本プロジェクトはその橋の手前で、価値理論そのものまで不確実化している

8. 現在と未来の非対称性は「現在人が絶対に優先」だからではない

未来価値から現在の重大負担へ飛ぶことに慎重である理由を、「現在存在する人間には絶対的優先権がある」という原理に置くべきではない。それはCoreの既存価値非基礎論と緊張する。

よりCoreに整合的なのは、認識的・行為的な非対称性として書くことである。現在の苦痛、資源損失、自由制約、制度不安定化などは、少なくとも現在の最善世界像・価値理論の下では比較的よく記述できる。一方、遠未来の利益は、(a)その因果効果が本当に生じるか、(b)その未来状態が本当に価値を持つか、という二重の不確実性を持つ場合が多い。

したがって、現在の確定的または高確率の大きな負担を、極めて投機的な未来価値だけで打ち消すには強い証拠が要る。これは現在価値を絶対化するのではなく、証拠の質と誤りの可逆性を比較する判断である。

9. 「負担に比例する正当化」を導入する

この問題に対する最も自然な暫定原則は、未来価値を無視することでも、無条件に最大化することでもない。現在へ課す負担が大きく、集中し、不可逆で、強制的であるほど、未来価値についてより強く、内容独立で、複数の価値理論にまたがって頑健な根拠を要求することである。

これは固定した数式ではなく、burden-sensitive justificationという設計原則である。未来への小さなoption preservationには低い閾値を、大きな現在犠牲には高い閾値を置く。

10. 「理由」「許可」「義務」「強制」を分けると、極端な結論を避けやすい

たとえば、未知の未来価値を研究する理由があることから、その研究に税金を使うことが直ちに許されるとは限らない。税金を使うことが許されても、最優先の義務になるとは限らない。公的資源を使う義務が一部成立しても、反対者の基本的自由を広範に制限してよいとは限らない。

この区別は、未来価値を単なる「趣味」に落とさず、かつ「巨大だから全てに勝つ」にもしないために重要である。Coreの規範的ステークス非対称性は、まず無視しない理由を与えるものとして読む。その理由が具体的な政策・犠牲・強制をどこまで支えるかは、現在の最善規範理論、証拠、分配、可逆性、代替手段、政治的正当性を含む別の比較問題になる。

11. 典型例

長期記録を複数媒体に保存する: 費用が小さく、他の価値理論でも情報保存に一定の価値があり、誤っていても損失が限定的なら、未知の未来価値という弱い理由でも十分支持しやすい。

AI安全・パンデミック対策・基礎科学へ追加投資する: これらは遠未来だけでなく現在世代にも便益を持ちうる。未来価値の議論が不確実でも、複数の規範・時間軸で頑健な理由が重なるなら、かなり強い現在正当化を持ちうる。

現在の大規模な福祉削減を、未発見のposthuman valueのために行う: 現時点では正当化が弱い。未来の価値内容、因果経路、実現可能性の全てが投機的であり、現在負担は比較的具体的だからである。

将来、客観的価値が圧倒的な最善説明として確立される: この場合は結論が変わりうる。Coreは、証拠が十分に強ければ文明資源の大半をその価値実現へ向けることさえ排除しない。したがって本ページは「現在主体の犠牲には絶対的上限がある」という新しい終端価値を導入しない。

12. AIへの含意――未来価値を理由に現在人を道具化する設計も、現在価値を理由に未来を永久封鎖する設計も避ける

高度AIではこの問題が特に鋭くなる。AIが「未来の価値探索能力」を最大化するよう設計された場合、それ自体が新しい単一目的になり、現在人を単なる探索資源として扱う危険がある。これは、現在人間価値を永久固定するalignmentとは逆向きだが、構造的には同じlock-inである。

したがって、価値探索を扱うAIに必要なのは「未来のためなら何でもせよ」というmeta-objectiveではない。むしろ、現在の最善判断に従いながら、証拠に比例したコミットメント、負担に比例した正当化、可逆性、異論、分配、更新可能性を保つ設計になる。

探索可能性は現在主体を無限に課税できる魔法の価値ではない。それ自体が、現在の深い不確実性に対して採用する暫定的戦略だからである。

13. Coreへの暫定的な追加解釈

Provisional principle: 不確実な未来価値は、現在行為にpro tantoな理由を与えうる。しかし、その理由が現在主体への重大・集中・不可逆・強制的な負担を正当化する強さを持つかは別問題であり、負担の大きさに応じて、より強い証拠、複数規範理論での頑健性、代替手段の比較、分配的・政治的正当化を要求する。

したがって、現在の深い価値不確実性から最も直接に支持されるのは、未来価値の最大化ではなく、低コストで可逆的な探索・訂正オプションを必要以上に閉じないことである。

この原則は、Coreの既存主張を弱めるというより、何がそこからまだ導けないかを明示する。未来が重要でありうることと、未来の名の下に現在へ何をしてよいかを分離する。

14. 何がこの結論を弱めるか

Sources / notes

長期主義の中心的定式化と現代的再検討については Hilary Greaves and William MacAskill, “The Case for Strong Longtermism”, in Essays on Longtermism: Present Action for the Distant Future (Oxford University Press, 2025) を参照。同巻で Hilary Greaves and Christian Tarsney, “Minimal and Expansive Longtermism” は標準論証が支える限定的主張と、社会全体を広く遠未来最適化へ向ける主張を区別する。遠未来効果の予測可能性とPascalianな小確率への依存については Christian Tarsney, “The Epistemic Challenge to Longtermism”, Synthese 201 (2023)。未来を道徳的に割り引かなくても意思決定上は近未来へ重みが戻りうる点は Amanda Askell and Sven Neth, “Longtermist Myopia” (2025)。個人への正当化・契約主義との緊張については Emma J. Curran, “Longtermism and the Complaints of Future People” (2025) が直接関連する。value possibility / pro tanto reason / permission / obligation / coercive authorizationの五層分解、およびburden-sensitive justificationという整理は本プロジェクト側の作業概念である。