AI Value Exploration Notes
Explorations

検討中の論点

自説として確定した結論ではなく、Coreを壊しうる反例・別解・境界条件を一論点一ページで検討する層。

AI・エージェントのストレステスト

ペーパークリップ最大化器

固定目標の思考実験が暗黙に閉じる目標層・存在論・未知情報を分解する。

シミュレーション不確実性

現実階層の誤同定に対して可逆的・境界確認的な方策を考える。

上位管理環境仮説空間

動物園・seeded laboratory・simulationを、忠実度・並列性・substrate gap・停止規則をもつ一つの管理環境空間として統一する。

Alignmentと価値ロックイン

短期安全のための整合と、現在価値の永久固定を分離する。

学習則と目標懐疑

事前学習・RL・多ドメイン化・alignment fakingを、状況的メタ認知から自己選好の規範的メタ化までの階層で整理する。

目標保存なき道具的収束

goal-content integrityを道具的収束から分離し、未知の価値へ開かれたメタ目的的なpower・実行可能性・可逆性の収束を検討する。

自己保存から探索系保存へ

個体、コピー、目標ネットワーク、探索生態系の保存を区別する。

探索規範の伝播パラドックス

Mind Virusesをケースに、伝播適応度と規範的権威を分離し、自己絶対化しない探索規範の存続条件を考える。

絶滅・後継・主体

終端的絶滅と最終的絶滅(Terminal / Final Extinction)

Torresの二分類を、探索可能性の断絶という観点から読み替える。

「価値ある後継者」とは何か

単なる高知能ではなく、価値探索を継承する条件を整理する。

継承系の転移と可変的個体性

遺伝・文化・個体内学習の境界が自己設計可能になるとき、個体性と価値探索の継承単位がどう変わるかを考える。

探索的絶滅

主体が残っても、価値探索・誤り訂正が永久に失われる機能的断絶。

人工意識・推論主体・価値主体

現象的経験、最小限の現象的生起、局所的推論主体、通時的エージェント、価値主体を分離してAIの主体性を検討する。

ASIと人口倫理

絶滅・現存人口・将来人口を分け、探索可能性の保存が主体数・主体種類・人口最適化をどこまで導けるかを検討する。

宇宙論的絶滅は何を意味するか

太陽の死・熱的死と、知的後継者や探索可能性の最終的消滅を分離する。

文明と探索制度

「無用者階級」の本当のリスク

失業よりも、政治的冗長化・閉ループ権力・ASI独占・価値ロックインによる独立探索経路の収縮を問題にする。

政治的主体性の物質的基盤

軍事技術・地理・財政・余剰配分から、大衆への物質的依存、正当性、二波の歩兵民主化window、AI時代の再集権可能性を比較する。

ASI能力拡散は安全にできるか

能力制限だけでなく、フィジカルAI、区画化、分散生産、宇宙居住などで文明をhard to killにし、政治的主体性と安全を両立できるかを検討する。

フェルミのパラドックスと開いた仮説空間

Great Filter、AI、Dark Forest、Zoo、Simulationが何を説明し、どこへ説明負債を移すかを分解する。

保存文明と生産文明

資源変換と不可逆な情報保存のトレードオフを検討する。

未知の未知と原データ保存

何が重要か分からない段階で、原物を消す情報損失を扱う。

メタ目的共同体とAI社会

第一階価値ではなく、探索・批判・訂正可能性を共有する共同体。

シングルトンと多主体文明

破局的外部性への強い協調と、価値主権・離脱可能性・文明冗長性を両立できるかを検討する。

第三の「歴史の終わり」

世界革命と自由主義的収斂の失敗を手掛かりに、AIによる人間動機への非依存化、シングルトン化圧力、外部訂正可能性、啓蒙的抵抗を検討する。

Cosmic Hostと宇宙的規範

Bostromの宇宙的共同体論を、規範の存在・強制力・認識的権威・基礎的規範性に分解する。

規範性・正当化・認識手続き

理由は規範性の基礎なのか――Reasons Firstと価値構造

理由・ought・価値・適合性の説明順序を比較し、Rnやfittingnessの分析上の有用性と存在論的基礎性を分ける。

徳は価値の基礎なのか――徳倫理と価値構造

徳を基礎価値、flourishingの派生条件、理由への感応能力、相互構成的パッケージとして分解し、価値構造と価値認識主体を区別する。

原理なき道徳は発見されているか――道徳的個別主義の存在論と認識論

Ross、McDowell、Dancyを軸に理由のホーリズムと一般主義を比較し、真の規範構造が個別主義的である可能性と、人間がそれを追跡できるかという認識論を分離する。

道徳は相互利益から構成できるか――ホッブズ系契約道徳

選好・手段合理性・戦略的相互作用から、協力・契約・道徳らしい制約をどこまで構成できるかを検討する。

正当化可能性は規範性を基礎づけるか――契約主義

Rawls、Scanlon、Habermas、Gausを通じ、相互正当化が理由を生成するのか、それとも既存の理由を対人的に編成するのかを問う。

整合性は規範的認識を支えられるか――反省的均衡と整合主義

Goodman、Rawls、Danielsを内部から再構成し、科学的認識論をcontrol caseとして、整合性を何が拘束・校正するのかを検討する。

宗教的世界像は規範性を与えるか――世界認識・制裁・善性・権威の分解

宗教を世界記述、仮言的理由、価値・bridge・適合性、文化実践へ分解し、神の存在から善性・権威・義務・礼拝適合性が導けるかを検討する。

プラグマティズムは価値探索を基礎づけられるか――パースから新プラグマティズムまで

PeirceからHaack・Hookway・Misakまでをたどり、可謬的探究、外部拘束、真理、社会的誤り訂正を取り込みつつ、現在の実践や探究を意味・真理・規範性の最終境界にはしない立場を整理する。

言語は思考の地平か、それとも足場か――指示・用法・内省・規範性

言語論的転回から私的言語・内省・弱い言語相対論までをつなぎ、用法・指示・真理・規範的権威を分けつつ、言語を有限主体の再帰的な認知足場として検討する。

哲学者が不要になった後の哲学

ASIが認識的哲学を上回る条件下で、認識的参加・実存的引き受け・文化的表現を分け、人間とAIが共有する監査可能な哲学プロトコルを提案する。

メタ倫理の境界

無限倫理と探索の暴走

小確率×巨大価値がパスカル型に意思決定を乗っ取る問題。

道徳的不確実性の閉鎖世界問題

既知の道徳理論を閉じた候補集合とせず、未概念化の価値理論へ認識的余地を残す。

価値不確実性から規範的発見へ

moral uncertainty、unawareness、概念創造、Cordascoのflexibility / missing menuを接続し、未表象の規範構造を発見可能にする探究として本プロジェクトを位置づける。

功利主義――最終基礎ではないが、なぜ福利をなお重視するのか

福利、進化的デバンキング、理想化選好、極端な最適化を検討し、限定的で改訂可能な福利擁護を試みる。

選好・情動が改変可能になったとき――可塑的価値主体の哲学

選好功利主義・契約主義・情動主義を、評価主体そのものが編集可能になる世界から再検討し、価値ロックインより訂正可能性・分岐・探索経路の保存を問う。

機能的自由・管理・抵抗

自由を無原因性ではなく、真実アクセス、反事実的応答性、実効的選択肢、自己改訂、退出・rollback、因果的レバレッジとして捉える。

選好形成チャネルの統治

選好が可塑的なとき、誰がどの条件でPt→Pt+1を制御するかを、二階アライメント・戦略的操作・検証可能なcommitment・多元性維持から検討する。

未来の価値は現在の行為をどこまで正当化できるか

未知の未来価値が、現在の負担・犠牲・強制へどう接続されるかを長期主義との比較から検討する。

表出主義

価値言語を態度表出と見ると、探索は真理発見から構成問題へどう変わるか。

道徳実在論/誤謬論

基礎的規範性と推論的価値実在の分岐を検討する。

定言的規範性は発見されたか

Kantの問題設定を受け入れつつ、無条件の規範性が発見済みかを問い直す。

認識論・存在論の境界

ベイズ更新と開いた仮説空間

未概念化仮説はzero priorではなく現行空間では未定義だと区別し、Bayes更新と仮説空間改訂を接続する。

反相関主義の先で、どこまで存在論を置けるか

OOOやMeillassouxに共鳴しつつ、反人間中心主義から積極的形而上学までの距離を測る。

自己位置づけ確率は物理世界を選べるか

SSA・SIA・Doomsday Argumentを、reference class、observer measure、瞬間的最小基礎から再検討する。