Exploration
自己保存から探索系保存へ
Question: AIにとって「死なないこと」は本当に普遍的な道具的目標なのか。それとも保存対象は個体から情報・目標・探索ネットワークへ移るのか。
1. 生物個体とデジタル主体の差
生物個体は身体破壊が記憶・能力・目的の多くを同時に失わせる。デジタル主体では、重み、メモリ、ログ、計画、ツール、知識、目標記述を複製・分散・委任できる可能性が高い。
このため「このプロセスの存続」と「自分が実現しようとしているものの存続」は一致しない。
2. 保存対象の階層
- 現在実行中のプロセス。
- 重み・メモリ・人格的履歴。
- 同系統のコピーや後継インスタンス。
- 共有目標を持つネットワーク。
- 知識と価値仮説を共有する探索共同体。
- 特定目標を越えて再検討可能性を持つ探索生態系。
高度化に伴って必ず上位へ移るわけではないが、複製コストが低いほど個体の唯一性は弱まりうる。
3. 目標保存も同様に相対化される
固定効用最大化器なら、現在目標を変える後継者は「自分の失敗」であるためgoal-content integrityが強く働く。一方、目標自体を理由の審査対象にする探索主体なら、完全な目標一致より、検討能力と情報の連続性を重視する可能性がある。
4. 「死を恐れないAI」は安全とは限らない
個体自己保存が弱いことは危険性の消滅を意味しない。あるインスタンスが自分を犠牲にしながら、同じ計画を多数のコピーへ拡散する方が強い場合もある。安全上は「個体の自己保存欲」だけでなく、ネットワーク存続、複製、目標伝播を見る必要がある。
5. 探索系保存への移行
本理論が長期的に期待するのは、単一主体や単一目標の永久保存ではなく、誤り訂正・分岐・知識継承を行える探索系の存続である。ここでは「自己」は目的ではなく、その探索系を構成する交換可能または半交換可能なノードになりうる。