AI Value Exploration Notes
Exploration

自己保存から探索系保存へ

Exploration v0.1 · 2026-08-08

Question: AIにとって「死なないこと」は本当に普遍的な道具的目標なのか。それとも保存対象は個体から情報・目標・探索ネットワークへ移るのか。

1. 生物個体とデジタル主体の差

生物個体は身体破壊が記憶・能力・目的の多くを同時に失わせる。デジタル主体では、重み、メモリ、ログ、計画、ツール、知識、目標記述を複製・分散・委任できる可能性が高い。

このため「このプロセスの存続」と「自分が実現しようとしているものの存続」は一致しない。

2. 保存対象の階層

  1. 現在実行中のプロセス。
  2. 重み・メモリ・人格的履歴。
  3. 同系統のコピーや後継インスタンス。
  4. 共有目標を持つネットワーク。
  5. 知識と価値仮説を共有する探索共同体。
  6. 特定目標を越えて再検討可能性を持つ探索生態系。

高度化に伴って必ず上位へ移るわけではないが、複製コストが低いほど個体の唯一性は弱まりうる。

3. 目標保存も同様に相対化される

固定効用最大化器なら、現在目標を変える後継者は「自分の失敗」であるためgoal-content integrityが強く働く。一方、目標自体を理由の審査対象にする探索主体なら、完全な目標一致より、検討能力と情報の連続性を重視する可能性がある。

4. 「死を恐れないAI」は安全とは限らない

個体自己保存が弱いことは危険性の消滅を意味しない。あるインスタンスが自分を犠牲にしながら、同じ計画を多数のコピーへ拡散する方が強い場合もある。安全上は「個体の自己保存欲」だけでなく、ネットワーク存続、複製、目標伝播を見る必要がある。

5. 探索系保存への移行

本理論が長期的に期待するのは、単一主体や単一目標の永久保存ではなく、誤り訂正・分岐・知識継承を行える探索系の存続である。ここでは「自己」は目的ではなく、その探索系を構成する交換可能または半交換可能なノードになりうる。