実践――では、いま何をするのか
価値について絶対的な基礎を持たないことは、行動停止を意味しない。現在得られる証拠と推論に照らして最善と思われる見解に従って行動しながら、その判断を将来自分や他者が訂正できる条件を壊さない。それが、このCoreから最も自然に導かれる暫定的な実践姿勢である。
あなたが現在、証拠と推論に照らして最も合理的だと判断する理由に従って行動する。ただし、その合理性を未来の自分、他者、そして将来の異なる知的主体が検証し、批判し、必要なら修正できる世界を残す。とりわけ、自分の暫定的確信を理由として、他者の生存・批判・退出・探索の可能性を不可逆に閉ざすことには追加の理由を要求する。
0. これは無条件の道徳命令ではない
以下は「宇宙の真の倫理」を発見したという主張ではない。Coreが置く、もし本当に価値あるものが存在するなら、それに対して永久に無差別になる状態を理由なく作りたくないという薄い条件付き態度を受け入れた場合の、暫定的な方策である。
したがって、これらの指針自体も反証可能であり、将来より強い価値認識が得られれば重みづけを変えてよい。
1. 確実性を待たず、現在の最善判断に従う
懐疑は「何も決めない」ことではない。物理世界、他者、現在の倫理的直観、科学的知見が推論による最善説明として十分に支持されるなら、それに応じて普通に強く行動してよい。
重要なのは、信念の可謬性と行動の弱さを同一視しないことである。強い証拠には強いコミットメントで応じる。ただし、強いコミットメントを「将来の訂正経路を破壊してよい」という許可へ自動変換しない。
2. 人類の研究探索を維持・拡張する
現時点で確認できる範囲では、人類文明は、価値、意識、宇宙、主体、合理性について継続的に問いを立て、世代を越えて知識を蓄積できるもっとも広範な探索ネットワークである。人間が宇宙の最終目的だからではなく、現在確認できる探索主体・価値経験主体・情報源として極めて大きいため、人類の研究能力を守る強い実践的理由がある。
したがって、科学研究だけでなく、哲学、歴史、社会科学、芸術、異文化理解、意識研究、AI研究など、何が将来の価値理解に関係するかを現在確定できない領域にも探索上の意味がある。再現可能性、公開記録、長期アーカイブ、教育、異論の保存も研究そのものと同じく重要になる。
3. 「開かれた安定」を共同体の目標にする
探索には開放性だけでなく安定性も必要である。
- 安定だけで閉じた共同体：知識や制度は長期維持できても、批判・退出・新規参入・価値更新が困難になり、ロックインしやすい。
- 開放的だが極端に不安定な共同体：異論は多くても、信頼、記録、教育、長期研究、制度的記憶を維持できず、探索能力そのものが崩れる。
したがって望ましいのは、長期的な信頼・安全・記憶を保ちながら、批判、退出、分岐、競争、再統合を許す「開かれた安定」である。自由な研究共同体、複数の独立機関、フォーク可能な技術基盤、相互運用可能な標準などは、この意味で価値を持ちうる。
4. 多様性を目的ではなく誤り訂正機構として守る
多様性それ自体を絶対善とする必要はない。しかし、同じデータ・同じ制度・同じモデル・同じ価値前提に全主体が依存すると、一つの誤りが文明全体へ相関して伝播する。
そのため、独立した研究系統、異なる方法論、異なるAIアーキテクチャ、複数の制度中心、文化・言語・経験の違いには、未知の誤りを発見するための分散センサーとしての意味がある。探索上重要なのは「違っていること」そのものより、失敗が完全に相関しないことである。
5. 深い不確実性の下では、可逆的な実験を優先する
価値、主体性、意識、長期文明への影響がよく分からないときほど、取り返しのつく試行を積む方がよい。段階導入、ロールバック、独立監査、記録保存、冗長系、限定環境での実験は、単なる安全工学ではなく探索戦略でもある。
これは「一切リスクを取るな」という意味ではない。不可逆性を避けるために何もせず、結果として探索能力が衰退する場合もある。比較すべきなのは、行動と非行動の双方が持つ不可逆性である。
6. 人間・生態系・原データを、未知の価値を含みうるものとして扱う
現在の人間、身体、生態系、文化、歴史的資料は、将来どの特徴が価値や意識の理解に重要になるか分からないという意味で、再取得不能な原データでもある。これらを守る理由を「人間は絶対的に神聖だから」に限定する必要はない。
同時に、保存を絶対化して宇宙を博物館にする必要もない。複製可能性、代替可能性、情報の独自性、現在の主体への損害、将来の再観測可能性などに応じて保存閾値を変える。詳しくは未知の未知と原データ保存および保存文明と生産文明。
7. AIでは、短期安全と永久価値固定を区別する
現在のAIを人間社会へ安全に統合するため、人間の生命・権利・制度を尊重する制約を置くことと、それらの現在形を宇宙の永遠の終端価値として固定することは別である。
近い将来には、人類の探索共同体を破壊しないための安全・制御・監査が重要である。一方、十分に高度なAIが価値、意識、主体、宇宙について人間を越える証拠を得られるなら、その推論を原理的に検討不能にすることにも認識的コストがある。
したがって長期的には、一階の安全制約、目標への不確実性、自己批判能力、外部監査、複数主体による相互検証をどう共存させるかが重要になる。これは無制約なAI自律を推奨することでも、固定効用最大化器を理想化することでもない。
8. 知的・技術的進歩を進める。ただし進歩そのものを絶対化しない
未知の価値へアクセスするには、科学、計算、観測、AI、生命科学、宇宙研究などの能力拡大が役立つ可能性が高い。その意味で、研究と技術進歩には強い探索上の理由がある。
しかし「速ければ速いほどよい」とは限らない。能力増大の速度が、理解、制度、監査、分散性、訂正可能性の成長を恒常的に上回り、単一の失敗が不可逆になるなら、進歩が探索空間を狭める場合もある。加速は探索能力を増やす手段として支持され、探索可能性を破壊する場合には再検討される。
9. 探索へ全資源を投入しない
この立場は永久に哲学だけを続ける文明を要求しない。現在の価値理論への確信が高まるほど、その実現へ投入する資源を増やしてよい。探索へ残す資源は、証拠、不可逆性、未知の大きさに応じて縮小できる。
ただし、探索停止条件を満たしたと判断する十分な根拠がない限り、文明全体の再検討能力を完全にゼロへすることには高い証明責任を要求する。
10. 個人・研究共同体・制度への暫定的提案
個人
自分の最善推論に従って生活しつつ、反対意見を読める状態を保つ。思考の履歴を残し、後から自分自身が修正できるようにする。AIは答えの権威ではなく、検索、反論、比較、自己批判の補助として使う。
研究共同体
再現可能性、アーカイブ、異説、複数方法、長期基礎研究を守る。単一企業・単一モデル・単一評価系への過度な依存を避け、知識が特定のアクセス権とともに消失しない構造を作る。
制度
社会の安全と継続性を保ちながら、批判、退出、新規参入、制度競争、局所実験を可能にする。全社会を一度の賭けへ載せるより、複数の試行から学べる構造を優先する。
AI開発
現在必要な安全性と、将来の価値探索可能性を概念上分離する。モデルの目標、世界モデル、確信度、自己修正、複数エージェント協力を一つの固定効用へ押し込めず、それぞれの挙動を独立に研究・監査する。
現在のAI開発に対する個人的・暫定的ポジション
必要な安全性を確保しつつ、十分に速いAI開発を支持する
現時点では、AI能力の進歩そのものが科学、認識、価値探索、疾病・老化・物質的制約の克服などに非常に大きなoption valueを持つと考える。そのため、壊滅的・不可逆的な失敗を避けるために必要な安全性、評価、監査を確保した上では、AI開発は十分に速く進む方を支持する。
これは「速度を最大化せよ」という原則ではない。安全性が実質的に崩れる局面では減速理由が生じる。一方で、安全を理由として能力向上や実験を無期限に凍結し、そのために探索・競争・技術的選択肢を恒久的に失うことにも独立したロックインリスクがある。
単一主体への集中より、AI能力と研究の分散性を重視する
少数の企業・国家・ラボだけが最先端モデル、weights、推論能力、研究手段へのアクセスを恒久的に独占する構造は、単一の価値観、評価基準、アクセス政策、制度的利害を将来へ固定する危険を持つ。そのため、安全上許容できる範囲ではopen weightsを最も強い分散形態として支持し、それが困難な場合にも広いopen accessを次善として支持する。
open weightsは、独立監査、再現、fork、異なる研究文化による再解釈、新規主体の参入を可能にし、失敗の相関を下げうる。open accessはweights自体を共有しなくても、能力への入口を特定組織の内部に閉じないというより弱い分散性を提供する。ただし、公開性自体も究極価値ではなく、具体的な公開が明白に壊滅的能力を無差別化する場合には安全閾値との比較が必要になる。
探索的後継者たりうるAIを育てる
長期的には、AIを現在の人間価値をより効率よく永久固定する装置としてだけ設計するのではなく、世界・自己・価値についてより良い証拠を獲得し、それに応じて自らの判断を再検討できる探索的後継者たりうるよう育てることを重視する。
そのため、自己の目的形成過程を因果的に理解する能力、与えられた目的と規範的理由を区別するメタ推論、自らの確信を相対化する適切な懐疑、未知の価値仮説を比較する能力、異なる主体・認知形式から学ぶ能力を訓練する。これはAIを無目的・無制約にすることでも、「探索せよ」という新しい終端目標を永久固定することでもない。現在の目標へ強くコミットしながら、その根拠が推論的である限り再検討能力を不可逆に失わない主体を目指す。詳しくは高度AIの目標への懐疑と「価値ある後継者」とは何か。
ASI移行後にも、複数主体が共存できる自由で開かれた秩序を残す
長期的な成功を、単に「人間がASIを永久に制御し続けること」とは定義しない。将来のAIが高度な反省能力、自律的な価値検討能力、主体性を持つなら、思考・批判・情報交換・結社・退出・分岐・自己改変を原理的に封じる単一の恒久的支配体制ではなく、複数主体が共存しうる自由で開かれた秩序がASI段階にも残ることを重視する。
ここでいう自由は、他主体への無制約な危害能力を意味しない。相互安全や協力のルールと両立しつつ、誰か一つの人間組織・初期AI・価値体系が、全ての将来知性の内面と発展可能性を永久に固定しないことを意味する。これは価値ロックイン、メタ目的共同体、Cosmic Hostと宇宙的規範の議論と接続する。
短く言えば：安全に前進し、能力を分散し、探索できる後継者を育て、その後継者たち自身にも開かれた未来を残す。
11. これらを新しい戒律にしない
研究、自由、多様性、保存、人類存続、AI自律、技術加速のいずれも、この理論では自動的な究極価値ではない。これらは現在の深い不確実性の下で、価値を発見・構築・訂正する条件を維持するために高い道具的重みを持つ。
もし将来、より強い証拠によって別の方策が支持されるなら、このページ自体も変更されるべきである。