探索的絶滅 — 後継者がいても探索は死にうる
1. TorresのNormative extinctionからの派生
TorresはTerminal / Final extinctionに加えて、後継者が存在しても重要とみなされる属性や能力を欠く場合をNormative extinctionとして区別している。本ページはその分類に着想を得るが、同じ意味で用語を借用するのではない。
ここではTorresの用語とは区別した本プロジェクト固有の作業概念として、探索的絶滅(exploratory extinction)を導入する。この名称が既存文献で別の意味に用いられていないかを含め、今後の文献照合対象とする。
2. 定義
重要なのは、これは生物学的絶滅を必要としないことである。Homo sapiensが何兆人残っていても、全主体の動機・情報・制度が一つの固定価値へ永久拘束されていれば探索的絶滅は起こりうる。
3. 逆に、人類が消えても探索的絶滅ではない場合
人類がTerminal extinctionを迎えても、後継AIやポストヒューマンが知識、異説、価値探索、主体多様性、再分岐可能性を十分に継承するなら、探索的絶滅は避けられうる。この点で本概念は生物種より探索機能を追跡する。
4. ペーパークリップ宇宙は典型例になりうる
固定目標ASIが高度な科学・計算・自己複製を続けても、価値そのものを二度と検討できず、他の価値仮説を永久に削除したなら、知能活動は継続していても価値探索は死んでいる。これは「知性の存続」と「探索可能性の存続」を分ける例である。
5. 文明的停滞や永久専制も同じ軸で評価できる
探索的絶滅はAIだけの問題ではない。永久的な価値ロックイン、完全な情報統制、自己修正不能な制度、全ての逸脱主体を生成前に消す統治も同じ方向へ進む。
したがってCoreのリスク分類は、絶滅/生存だけでなく、探索可能/探索不能という独立軸を持つ方がよい。
6. 「探索」を究極善に戻さない
もし基礎的規範性が本当に確定し、価値探索の停止条件が満たされたなら、価値に関する探索的絶滅という表現自体が不適切になる可能性がある。本概念が強い負の意味を持つのは、価値がまだ推論的・可謬的である段階で、再検討能力を消した場合に限る。