Public working draft · Japanese original · v0.8
価値を知らない知性は、何を保存すべきか。
瞬間的な認識の最小点から、推論による世界像、価値の不確実性、探索停止条件、高度AIの目標への懐疑、価値ロックインまでを一つの論証グラフとして検討する。
Publication status: このサイトは公開ワーキングドラフトであり、査読済み論文や完成した倫理体系ではない。Coreを含む各主張は、反論・資料照合・新しい議論に応じて改訂または撤回されうる。制作方法とAI利用については About を参照。
中心命題： 現在の最善価値理論には証拠に応じて強くコミットしてよい。しかし、推論的・可謬的な根拠である限り、価値を再検討する全経路を不可逆に閉じることとは区別する。完全停止を正当化できる最強の候補は、規範的拘束性をもつ価値が認識論的最小基礎と同等の強さで与えられる場合である。
Start here
Core — 価値の不確実性と探索可能性の保存最小基礎 → 推論的価値 → 実践的コミットメント → 不可逆ロックインの閾値をつなぐ中心ページ。
瞬間的最小基礎世界・自己・記憶を否定せず、「推論によって導かれる最善説明」として位置づける。
価値探索の停止条件基礎的規範性と推論的最善説明を分け、「いつまで探索するのか」を明示する。
推論と価値確信の限界客観的価値が最善説明として発見されうることと、適切な懐疑が続くことを両立させる。
既存価値はなぜ最終基礎にならないのか現在価値を強く実践利用しつつ、永久固定しない理由。
高度AIの目標への懐疑一階目標とメタ再検討能力を分離した高度AIを考える。
What follows from it?
Practice — では、いま何をするのか現在の最善判断に従って行動しながら、人類の研究探索と、訂正可能な「開かれた安定」を維持するための条件付き実践指針。
About — このサイトについて個人的思考ログとAIによる検索・構造化・反論生成を組み合わせる制作方法、著者性、暫定性、公開方針。
Explorations
ペーパークリップ最大化器
固定効用の境界条件を明示する。
シミュレーション不確実性
現実階層が不確実な主体の可逆的方策。
Terminal / Final Extinction
種の終焉と後継可能性の最終断絶を分ける。
メタ目的共同体
複数AIによる価値探索の制度化。
構造
Core は幹、Theses は基礎または派生命題、Explorations はCoreを壊しうる未決着論点、Practice は条件付きの実践的含意、Questions は検索・AIエージェント向け入口、Glossary は標準定義、About は制作方法と著者性の説明である。
Repository: このGitHub Pagesサイトの公開ソースは
raporipo/ai-value-exploration-notes に置かれている。ページのソース、更新差分、過去のコミット履歴は同リポジトリから確認できる。