AI Value Exploration Notes
Foundational thesis

意思決定論的方針――不完全で改訂可能な価値のもとでどう行動するか

Working draft v0.3 · 2026-09-08

Thesis: 本プロジェクトは、状態空間・確率・価値尺度・比較構造が十分に表現されている局面では、期待効用最大化その他の適切な最適化を強く用いてよい。しかし、価値尺度、理論間比較、候補価値空間、将来の評価主体そのものが不完全・比較不能・未概念化・改訂可能である局面では、存在しない精密さを捏造して単一スカラー最適化へ押し込まない。現在比較できる範囲では強く決め、残余の不確実性には頑健性、情報価値、可逆性、将来の選択可能性、適応可能性、再検討可能性で応答する。 したがって、強い現在行動と将来の価値訂正可能性は両立しうる。

1. 射程――認識ではなく選択を扱う

認識論的方針が扱うのは、何をどの程度信じ、どの世界像・仮説空間・認識方法を採用するかである。本稿が扱うのは、その認識状態と現在の価値状態のもとで、複数の行為・政策・資源配分のどれを選ぶかである。価値論が「何が理由や価値であるか」を問うのに対し、意思決定論は「その価値についての不完全な入力から、いま何をするか」へ進む。

したがって、意思決定理論自身を価値発見の代替物にしない。ある選好を期待効用関数として表現できても、その選好内容が規範的に正しいことは出ない。同様に、あるdecision ruleが内部的に整合していても、そのruleを究極的な規範原理として採用すべきことは別途の問題である。

さらに本稿は、Coreでいう主体側ブリッジを持つ主体についての条件付き方針である。たとえば「もし自分の目的がよりよく正当化されるなら、その正当化に応じて目的・policyを改訂したい」という条件付き応答性や、「よりよく知らされた自分が明白な誤りと評価する不可逆選択を避けたい」という反省的誤り回避を持つ主体を想定する。価値不確実性それ自体が、探索・保存・訂正可能性への動機を自動的に生成するとは主張しない。 以下でE/P/optionalityが現在の理由になりうるという記述は、この適用条件のもとで読む。

Boundary: epistemic state + value state + feasible actions + constraints → decision policy → action。不確実であることは行動不能を意味しない。

2. 標準ケース――期待効用最大化を否定しない

状態 s、行為 a、主観確率 P(s)、結果に対する十分にcardinalな効用 U(a,s) が与えられるなら、標準的な期待効用 EU(a)=Σs P(s)U(a,s) は強力な基準である。von Neumann–MorgensternやSavage型の表現定理は、一定の合理性条件を満たす選好を、期待効用最大化として表現できる条件を明らかにしてきた。

本稿は「EUか反EUか」という二者択一を採らない。十分に信頼できる確率と価値尺度があり、結果間の差が共通尺度で比較可能なら、EUや通常の最適化を避ける理由はない。むしろ問題は、その数値表現を使う資格が本当にあるかである。

標準モデルは少なくとも、行為空間、状態空間、行為と状態から結果への対応、確率、結果の価値尺度、比較・集約規則が十分に表現されていることを要求する。本プロジェクトが主に扱うのは、このうち一部が未確定な場合である。

Baseline rule: sufficiently represented decision model → use the strongest justified optimization available。

3. どこまで定量化・比較してよいか――表現資格

数値を置けることと、その数値に任意の演算をしてよいことは同じではない。序数的な選好しか正当化できないなら、A > B という順位は意味を持っても、U(A)-U(B) の差や異なる対象間の平均まで意味を持つとは限らない。区間尺度、比率尺度、主体間比較可能性、理論間比較可能性は、それぞれ追加の構造を要求する。

また合理的選好が常にcompleteであるとも限らない。複数のcareer、複数の価値軸、全く異なる存在様式のように、現時点でどちらが上か十分な理由を持たない組がありうる。その場合に「無差別」と「比較不能」を同一視すると、存在しないtrade-offを作ってしまう。

したがって、価値表現は必要に応じて、単一scalar、区間・集合値、multi-attribute vector、ordinal ranking、partial order、明示的incomparabilityのいずれでもよい。多属性効用の加法形 V(a)=Σi wi vi(a) も自動的な真理ではなく、属性間の独立性やtrade-off構造について追加条件を要する。

Representational rule: Quantification is conditional on representational entitlement. 現在の証拠・価値構造が許す以上のcardinality、comparability、aggregationを捏造しない。

4. 表象済みの価値不確実性――複数理論をどう扱うか

価値候補がすでに表象されている場合でも、単純な期待値集約が常に可能とは限らない。たとえば理論 T1 と T2 にcredenceを置けても、両理論のchoiceworthiness尺度の単位が独立なら、P(T1)U1(a)+P(T2)U2(a) は尺度変換によって答えが変わりうる。moral uncertainty文献のintertheoretic comparison problemは、まさにこの点を扱う。

比較可能性が十分ならexpected choiceworthinessを用いてよい。一方、moral uncertainty文献には、理論間のcardinal比較が弱い場合にsocial-choice analogyやordinal aggregationを使う提案もある。これとは別に、imprecise decision theoryでは複数のprobability / utility表現を残したままE-admissibility、maximalityなど複数の選択規則を考える。またMCDAのRobust Ordinal Regressionでは、現在の判断と整合する複数モデル全体に対し、すべてでAがB以上となるnecessary preferenceと、少なくとも一つで成立するpossible preferenceを区別する。

これらは同一の理論ではないが、共通して「精密な単一尺度がないからといって、意思決定上の構造がゼロになるわけではない」ことを示す。比較不能性は意思決定の失敗ではなく、現在の価値表現についての情報である。比較できる部分だけを使って選択集合を狭め、残る競合には後述する頑健性・情報取得・可逆性を使う。

Represented uncertainty: uncertain theory ≠ automatically commensurable theory。

5. 未表象の価値――未知の理論に架空の重みを与えない

ベイズ更新と開いた仮説空間では、まだ仮説空間に入っていない仮説は、通常「事前確率0の仮説」ではなく、現在の確率関数では未定義になりうると整理した。価値理論にも同じ問題がある。現在の価値候補集合 𝒱t にまだ表象されていない V* を、「unknown theoryという5%の政党」として現在の実践配分へ直接入れることはできない。

本稿が対象とする主体では、未概念化価値の可能性は、現在のXに架空の効用を足すより、新しい価値候補を発見するE、将来再評価できるP、不可逆行為への慎重さ、将来の選択可能性へ作用しうる。つまり、表象済み価値不確実性は一階の行為比較へ直接入れられるが、未表象可能性は主としてdecision architectureの開放性へ作用する。

この応答には、Cordascoの2026年のevaluative flexibilityとendogenous menu論が近接する。Cordascoは、将来のevaluative outlookが変わりうるなら既存optionを残すだけでなく、将来のoptionを生成・選別するmeta-rules自体を制度的に設計する理由があると論じる。本稿ではこの発想を価値仮説空間へ一般化し、現在の候補を保存するだけでなく、新しい価値概念・仮説・表象形式を生成できる能力――生成的開放性（generative openness）――をPの重要な一部として扱う。

したがって、未表象価値への備えは preserve current options だけでなく、preserve option / hypothesis generation capacity を含む。先行研究との詳しい関係は価値不確実性から規範的発見へで扱う。

Open-value rule: unrepresented value possibility → exploration / preservation / generative openness / optionality であって、→ fictitious scalar utility ではない。

6. 表現構造はdecision ruleを制約するが、一意には決めない

ここまでから、本稿は一つの万能規則を採らない。十分な確率とcardinal utilityがあればEU、確率や効用が集合値ならimprecise/robustなrule family、比較が部分的ならdominanceやpartial order、モデル自体が深く不確実ならRDMやregret、将来情報が重要ならVOIやreal options、時間的適応が必要ならDAPP、価値そのものが改訂されうるならreflective policyが候補になる。

ただし、表現構造から唯一の正しいdecision ruleが自動的に出るわけではない。同じset-valued utilityを認めても、E-admissibility、maximality、各種dominance ruleなど複数の規則が残りうる。したがって現在の表現が直接与えるのは、単一規則というより許容可能なrule familyへの制約である。

そのrule familyの内部でどの規則を使うかには、dominance、保守性、regret、dynamic consistency、計算費用、optionalityなど追加のdecision criteriaが関わりうる。この二段階目についても本稿は最終解を前提しない。

Representation-admissibility rule: representation → admissible rule family。現在正当化された表現が許さない演算を要求するruleは使わないが、表現だけで唯一のruleが決まるとは限らない。

7. E / P / X――三つの排他的行為ではなく、三つの機能次元

未決着下の探索配分で導入した E: 能動探索、P: 探索可能性保存、X: 現在価値実現 は、三つの終端価値でも、すべての行為を三箱へ排他的に分類するカテゴリーでもない。むしろ、各行為や制度が持ちうる三つのdecision-relevant functionとして理解する。

Functional representation: a → { E(a), P(a), X(a) }。一つの行為が同時にE・P・Xへ寄与してよい。

たとえば研究大学の維持は、現在研究によってEを増やし、教育・制度・記録によってPを保存し、同時に現在の教育・生産・福祉というXを実現しうる。一方、具体的な予算やattentionを配る局面では、便宜的に (Et,Pt,Xt) というresource allocationとして表現できる。

正当化関連性、情報価値、探索機会の不可逆性、探索リスク、現在価値の機会費用、保存費用などが変われば、各次元への重みも変わる。特にEとPを分けることで、能動探索が危険・高価でも、今はXを強く進めながらPを維持し、Eは抑えるという政策が成立する。

8. 深い不確実性――最適な未来より壊れにくい政策

確率が単に不鮮明なのではなく、どの未来がplausibleか、因果モデルがどう働くか、どの結果指標を重視するかについて合意できない場合、Decision Making under Deep Uncertaintyの問題になる。Robust Decision Making（RDM）は、一つのbest-estimate futureへ最適化する代わりに、多数のplausible futuresで候補政策を走らせ、どの条件で失敗するかをscenario discoveryによって探し、その脆弱性を減らす戦略を反復的に作る。

本プロジェクトにとって重要なのは、RDMを単純なworst-case maximinと同一視しないことである。目的は「最悪の想像可能状態だけを見る」ことではなく、複数のもっともらしい世界・価値表現のもとで、許容可能な性能を広く維持する戦略を探すことにある。必要ならsatisficing、regret、複数指標、脆弱性条件を併用する。

ただしRDMが直接stress-testできるのは、現在表象されているworld model・value model・performance criterionである。V* ∉ 𝒱t のような未概念化価値それ自体をscenarioとして走らせることはできない。その残余には、P、reopenability、異なる研究経路、記録保存などによって間接的に備える。

Robustness rule: represented deep uncertainty → stress-test / robustness、unrepresented possibility → preservation / reopenability。

9. 情報を取りに行くか――VOIと探索の危険

能動探索Eはそれ自体が意思決定である。Value of Information（VOI）は、情報を得た後に選べる行為が改善することから、その情報取得へどれだけ支払う価値があるかを評価する。標準的には、情報を得る前後の最適期待価値の差として表現できる。

価値探索ではこの構造をそのまま使えない場合がある。第一に、情報が既知の状態を識別するだけでなく、新しい価値モデル・新しい比較軸を生成する可能性がある。この場合の「meta-VOI」は有用な類推だが、未表象価値を評価する共通尺度を自動的には生成しない。第二に、危険な実験や高能力AIの構築のように、情報取得そのものが重大な損失を生む場合がある。第三に、探索によって対象・主体・原データを破壊し、将来の探索可能性Pを減らす場合がある。

したがって探索は「情報は多いほどよい」という単調な価値ではない。本稿が対象とする主体では、decision relevance、期待される認識的改善、探索費用、現在価値の機会費用、探索リスク、将来探索能力への影響などを比較してEを選ぶ。

Inquiry rule: epistemic gain alone ≠ sufficient reason for active inquiry。

10. 不可逆性と待つ価値――real optionsからreflective optionalityへ

投資が不可逆または高コストで、しかも延期可能であり、待つ間に情報が増えるなら、「今実行しない」ことは単なる消極性ではない。real optionsの考えでは、将来条件を見て実行・拡張・縮小・撤退を選べるoption自体が価値を持つ。したがって不可逆行為の機会費用には、実行によって失われる将来の選択権も含まれる。

ただし本プロジェクトでは、未来主体の評価基準自体が現在と同じとは限らない。そこで、まず価値判断を含まない構造的概念としてreflective optionalityを置く。これは、将来より多くの情報・認知能力・価値理解を得た主体が、現在の決定や価値表現を再評価・変更できる能力である。

そのreflective optionalityが現在の主体にとってどの程度価値を持つかは自動的には決まらない。本稿の適用条件である主体側ブリッジを持つ主体なら、よりよく正当化された将来判断へ応答できる余地として、そこに派生的なreflective option valueを認めうる。

Reflective-option distinction: reflective optionality + agent-side bridge → possible reflective option value。未来に選択肢があること自体を無条件の終端価値とはしない。

Cordascoのpreference for flexibilityは、このreflective option valueに近いprudential argumentである。将来のevaluative outlookへの不確実性から、現在主体自身が将来のoptionを残すinstrumental reasonを導く点は本稿と親和的である。ただし彼の査読済み2026年論文では、現在のhigher-order valuesからrecognizableで、feasibleなuptake routeをもつ将来がflexible setの中心になる。本稿はまずreflective optionalityを価値中立的な構造能力として定義し、その現在価値を主体側ブリッジから別途導くため、現在のrecognizabilityそれ自体を規範的候補資格にはしない。

待つことも無料ではない。現在価値の喪失、技術機会の消滅、競争相手による先行、非行動による不可逆損失がありうる。したがって本稿は「可逆性最大化」ではなく、実行の不可逆性と待機の不可逆性を比較する。

11. 一回の行為ではなく経路を選ぶ――DAPP

Dynamic Adaptive Policy Pathways（DAPP）は、深い不確実性のもとで最終政策を一度に決めるのではなく、短期行動へコミットしつつ、将来の観測に応じて次の行動へ移るpolicy pathwayを設計する。政策が既定のobjectiveを満たせなくなるadaptation tipping point、変化を監視するsignpost、次の行動を発動するtriggerを事前に考える。

この発想は、現在の強い行動と将来の訂正可能性を直接両立させる。policyを π: future evidence/state → future action と見れば、「現在はXを強く実行する」「異常Aが出たらEを増やす」「不可逆閾値Bへ近づいたらPを強化する」といった条件付き計画を作れる。

ただしDAPP自身が、未知の未来価値やobjectiveを生成してくれるわけではない。adaptation tipping pointを定義するにも、何を満たすべきobjectiveとするかが必要である。本プロジェクトが主に借りるのは、monitoring・trigger・reassessment・path switchingをpolicy内部に組み込み、将来の再評価手続きを経路として保存する構造である。

Adaptive rule: 強い現在行動は、一回限りの最終決定である必要はない。 行為だけでなく、将来情報と再評価への反応経路を選ぶ。

12. なぜ早期に可逆性を設計する必要があるか――Collingridge

Collingridgeのcontrol dilemmaでは、新技術の初期には変更しやすいが影響を十分に知らず、影響が分かる後期にはsunk cost、技能、制度、インフラ、依存関係、path dependenceによって変更が難しくなる。概念的には、時間とともに knowledge ↑ する一方で changeability ↓ しうる。

したがって「十分に理解してから不可逆決定をすればよい」は一般には成立しない。理解を待つ間に、変更可能性そのものが消えるかもしれない。予測精度を上げるだけでなく、初期段階から小さな段階導入、rollback、監視、分岐、代替系統、退出経路などを組み込む理由がここにある。

ただし、これは単なる情報不足問題でもない。本プロジェクトのようにobjectiveや価値構造自体が未決着なら、将来の事実知識が増えるだけでpolicy selectionが一意に決まるとは限らない。必要なのは、知識を増やすことと、objective自体を再評価できる構造を並行して残すことである。

この点はAIや価値ロックインで特に強い。社会・経済・安全保障があるAIや価値制度に依存した後では、その問題が明らかになっても変更コストが極端に大きくなりうる。

13. 反省的意思決定――行為だけでなく、価値改訂経路を選ぶ

通常のdynamic choiceでも、未来自己の選好変化に対してcommitmentを使うか、未来の判断を尊重するかは問題になる。本プロジェクトではさらに、Vt → Vt+1 が単なる時間選好の変化ではなく、価値についての新しい証拠、情動の直接改変、他主体からの操作、認知拡張、新しい概念体系の獲得など、多様な経路によって生じうる。

したがって、future preference is not automatically authoritative, but current preference is not automatically privileged either。現在自己が未来自己を永久拘束することにも、未来のあらゆる変化を無条件に正当化することにも追加の理由が必要である。

ここで意思決定対象になるのは、将来の価値 Vt+1 を現在直接選ぶことだけではない。主体は、価値がどのような経路を通じて変化しうるかというvalue-revision channel c ∈ 𝒞t を、許可・保存・制約することができる。概念的には、c: (Vt, Kt, At) → (Vt+1, Kt+1, At+1) と置ける。ここで K は認知・認識能力、A は将来の再評価・自己改訂能力を表す。

Reason-mediated revision
新しい証拠、議論、自己批判、反省によって価値判断が変わる。
Direct preference modification
欲望、情動、報酬系、選好を直接書き換える。
Externally induced modification
他主体の説得、訓練、操作、環境設計によって価値状態が変わる。
Cognitive transformation
知能、感覚、概念体系、意識構造などの変化に伴い、価値表現や比較能力も変わる。

これらの因果的ラベルだけから、「reason-mediatedなら正当」「direct modificationならcorruption」とは決まらない。直接改変が正当な訂正になる場合も、論証らしい過程がsystematic manipulationになる場合もありうる。どの変化がlearning、corruption、manipulation、value discoveryなのかという評価自体が、未解決のreflective decision problemである。

反省的不確実性と不可逆コミットメントで導入したmeta-policy M――慣性、探索、判断保留など――は、このrevision-channel選択へ接続する。目的正当化がNullでも行為は止まらないため、主体は「現在目的をどう暫定使用するか」だけでなく、どの価値改訂経路を開き、どれを閉じ、どの認知・自己改変能力を保存するかを決めなければならない。

Reflective rule: choose not only actions under values, but channels by which values may change。ただし、current value use ≠ current value privilege ≠ future-value surrender。

14. 複数主体への拡張――単独主体Decision Policyの境界

本稿の中心は単独主体または一つの統合されたdecision processである。複数の人間、AI、将来主体、異なる価値探索系統が共存する場合には、社会選択、judgment aggregation、bargaining、mechanism design、constitutional designなど別の問題層が加わる。

ここで本稿が最低限保持するのは二つの境界である。第一に、主体を複数残すことから正しい集合価値が自動的に得られるわけではない。第二に、ある集合手続きがAを選んだことから、反対主体へAを強制してよいことは自動的には出ない。

Collective boundary: plurality ≠ automatic aggregation、かつ collective choice ≠ coercive authorization。

未来価値と現在行為の規範的ブリッジで分けた reason ≠ permission ≠ obligation ≠ coercive authorization は集合意思決定でも維持する。具体的な集約・交渉・退出・fork・分権の設計は、別の社会的意思決定論の課題として扱う。

15. 全体像――強い行動、偽の精密さなし、訂正経路あり

本稿の意思決定方針は一つの固定アルゴリズムではなく、現在の表現構造によって許容されるrule familyを絞り、追加のdecision criteriaを使いながらpolicyを選び、その行為結果によって認識・価値・選択肢・主体自身が変わる反復過程である。

{ epistemic state, value state, comparability, feasible actions, constraints }t → admissible rule family → decision policyt → actiont → { new evidence, new options, new value state, new revision channels }t+1

このループでは、十分な比較可能性があるところでは強く最適化し、比較不能なところでは無理なscalarizationを避ける。表象済みの深い不確実性には頑健性を問い、未表象の可能性にはPとreopenabilityで備える。情報が将来増えるならVOIを評価し、不可逆性があるなら待機と実行の双方の失われる選択肢を比べ、時間的にはadaptive pathwayを設計する。

さらに価値そのものが改訂可能なら、意思決定対象は「現在価値のもとで何をするか」だけではなく、「どの価値改訂経路を将来へ残すか」まで拡張される。本稿の適用対象主体は現在価値を使って強く行動しながらも、その価値をよりよく再評価する能力を不可逆に破壊する行為には追加の理由を要求しうる。

そして、このdecision policy自身も認識論的方針と同様、自己正当化的な最終規則ではない。将来より良い比較構造・decision theory・認知能力が得られれば改訂してよい。

本稿が主張しないこと

主要文献・入口

関連ページ