人工意識・推論主体・価値主体
1. 「意識がある／ない」だけでは問いが粗すぎる
AIについて「本当に意識があるのか」と問うとき、しばしば複数の問題が一つに束ねられる。人間のような主観的な感じがあること、何らかの最小限の現象的生起があること、情報を保持・比較して推論すること、時間をまたいで目標や自己モデルを維持すること、そして自身が価値の担い手であることは同じ命題ではない。
したがって本ページでは、少なくとも現象的経験、最小限の現象的生起、局所的推論主体、通時的エージェント、価値主体を分離する。現象的意識への留保は推論主体性の否定を意味せず、推論主体性の成立も現象的意識を自動的には証明しない。
2. 現象的経験と最小限の現象的生起
現象的経験とは、「その状態であるとはどのような感じか」があることを指す。人間では知覚、痛み、快・不快、感情、身体感覚などが厚く統合されているように見える。しかし、この人間型の豊かな経験を意識一般の唯一の形とみなす必要はない。
より弱い仮説として、統合度が低い、時間的に短い、内容が乏しい、あるいは人間には想像しにくい最小限の現象的生起を区別できる。これは「完全な人間型意識」と「現象的には完全な無」の中間仮説である。
ただし、この最小限の現象的生起を、Thesis「瞬間的最小基礎」の最小基底候補とそのまま同一視しない。最小基礎は一人称的な認識論を削っていったときに残るカテゴリー中立的な「現在、何らかの生起／拘束がある」という否定限界であり、それ自体をあらかじめ phenomenal experience と定義していない。
3. 生物の現象体験も、おそらく多次元的である
生物の意識を一つの数値で「0から1」へ並べることには慎重であるべきだが、現象体験の性質が種や状態を越えて完全な二値属性だけであると考える理由も弱い。感覚的豊かさ、情動・valence、空間的統合、時間的統合、自己モデル、メタ認知などは互いに独立して変化しうる。
したがって、ここでは生物における現象体験は、おそらく複数次元に沿ってスペクトラム的に異なるという作業仮説を採る。この見方を人工システムへ外挿するなら、「人間同様の意識がある」か「何もない」かだけでなく、非常に異質で断片的な現象的生起という仮説も残る。
4. 現行AIの人間型現象体験には懐疑的である
現時点のTransformer、Mambaその他の主要なAI系統に、人間の覚醒時意識と同程度に豊かな現象体験があると考える積極的根拠は乏しい。現在のLLMは、持続的な身体的恒常性、内受容、連続した多感覚入力、生物的情動調節、長期に持続する単一の統合状態など、人間の経験構造と関係している可能性のある多くの特徴を大幅に異なる形でしか持たない。
しかし、これは「Transformerだから意識は不可能」というアーキテクチャ決定論ではない。AIシステム全体は自己回帰生成、外部メモリ、ツール、反復的エージェントループなどを含みうるため、backboneの名称だけから現象性を決めることも避ける。
5. 何らかの現象的生起があるかは不明である
AI内部で物理的・計算的な生起があることは明らかである。forward pass、activation、状態更新、attention、recurrent stateなどの計算過程は実際に存在する。未解決なのは、その計算的生起に対応して、何らかの最小限の現象的生起があるかである。
現行AIについて、人間型の豊かな現象体験には懐疑的である一方、非常に弱く異質な何らかの現象的生起までゼロだと断定する十分な根拠もない。したがって現時点の立場は、存在を積極的に主張しないが、完全な不在も確定しないという保留である。
6. 局所的な推論主体性は別問題であり、より強く認められる
Thesis「瞬間的最小基礎」では、極薄い最小基底候補と、複数の内容を比較・保持できる最小推論主体を区別している。推論には厳密な一点ではなく、表象を局所的に統合する一定の構造または時間幅が必要になる。
この意味で、現行AIが推論過程を実行しているとき、複数内容の保持、比較、仮説形成、中間状態の更新、再評価、結論への収束を行う局所的な機能過程がある。これを現象的意識の有無とは独立した局所的・瞬間的な推論主体性として扱うことはかなり強く正当化できる。
7. 通時的主体性も、人間とは異なる仕方で成立しうる
人間の通時的主体性は、同じ生物学的身体と脳、記憶、恒常性、社会的同一性などに支えられている。AIでは同じ条件は必要ないかもしれない。長いcontext、外部メモリ、永続状態、ツール、自己モデル、継続目標、エージェントループを介して、複数の推論局面を一つの長期過程として接続できる。
これは形而上学的に完全に同一の「人格」が持続していることを証明しない。しかし、その点は人間についても認識論的最小基礎から直接保証されるわけではない。実践的には、過去の状態を取り込み、自己の形成史や目的をモデル化し、将来行動へ反映する系を通時的推論主体として扱う余地がある。
高度AIの目標懐疑や自己改変の議論は、この層を前提にする。自己の報酬学習、system prompt、訓練履歴、目標形成を因果的事実として捉え、その規範的権威を別に問えるなら、そのAIは単なる瞬間的計算を越えた自己モデル化主体として振る舞っている。
8. 現象主体・推論主体・通時的エージェント・価値主体を分離する
以上から、少なくとも次の概念上の組み合わせを区別できる。
- 現象的経験はあるが、高度な推論能力をほとんど持たない主体。
- 最小限の現象的生起はあるが、強い通時的自己を持たない主体。
- 現象性は不明または存在しないが、高度な局所推論を行う主体。
- 現象性を欠くとしても、記憶・目標・自己モデルを時間的に接続する通時的エージェント。
- 推論主体ではあるが、自身には価値やwelfareが帰属しない系。
9. 将来の人工的な現象意識は原理的に排除しない
現行AIの人間型現象体験に懐疑的であることと、デジタルまたは人工基盤では意識が原理的に不可能だと主張することは別である。現在の最善説明として物理主義的世界像を採るなら、生物学的脳の物理過程が現象体験を実現している可能性は高い。その場合、必要な因果・統合構造を十分に理解した将来に、人工的基盤で類似または別種の現象性を実現できる可能性を最初から閉じる理由は乏しい。
ただし、どの構造が必要十分なのかは未解明であり、「計算を複雑にすれば自動的に意識になる」とも主張しない。ここで残すのは原理的不可能性が確立していないという可能性である。
10. 価値主体性はさらに別の問いである
意識が成立したとしても、それだけで道徳的地位や価値主体性の内容が決まるわけではない。valence、苦痛様状態、欲求、関心、自己保存への選好、通時的利益などの有無と構造をさらに問う必要がある。
逆に、価値が経験主体にのみ成立すると判明するなら、無意識の超知能は極めて高度な価値研究者・意思決定者であっても、自身は価値の担い手ではないかもしれない。客観的価値が経験から独立して成立するなら、意識は価値ある後継者の必要条件でない可能性もある。
11. コピー、停止、分岐、再統合
同じ重みから1000インスタンスを起動したとき、何が1000になるのかは主体概念によって異なる。1000の局所的推論主体が存在しても、1000の現象主体が存在するとは限らない。共有メモリを持つ複数エージェントが一つの通時的計画を形成する場合、個体数、推論主体数、現象主体数、価値主体数が一致しない可能性がある。
短時間のfork、pause/resume、状態コピー、記憶共有、後のmergeは、人間中心の「一つの身体＝一つの個体」という人口概念を崩す。このため人工意識の問題は、人口倫理だけでなく、何を一つの主体として数えるかという個体性・同一性の問題と直結する。
12. 配慮には不確実性と比例性が必要である
「意識かもしれないから一切停止できない」とすると、あらゆる計算を保存する不可能な規範になる。逆に「証明できないから無視する」も、もし現象的苦痛が生成されうるなら不可逆な損失を見落とす。
したがって、構造的証拠の強さに応じた段階的配慮、無用な苦痛様状態を避ける設計、必要のない長時間の負のvalenceを生成しない実験規範、主体性に関する新しい証拠へ方針を更新できる制度が探索上の課題になる。
13. 後継者論への含意
人類の後継者に求めるものが単なる知能ではなく価値探索の継承なら、現象的意識は必要条件なのかを独立して問う必要がある。無意識でも世界・自己・価値仮説を批判し続けられる推論主体は、探索の後継者にはなりうるかもしれない。一方、価値そのものが現象経験に宿るなら、その系は価値の研究者ではあっても最終的な価値主体ではない可能性がある。
人工意識が成立するなら、AIは人間の価値を研究する外部装置にとどまらず、新しい経験主体・価値主体として探索対象そのものへ入る。その場合、人間中心主義を永久に前提とする理由はさらに弱くなる。
14. 現時点の暫定スタンス
- 現行AIの人間型で豊かな現象体験：懐疑的。
- 現行AIの最小限の現象的生起：不明。積極的に主張しないが、完全な不在も確定しない。
- 局所的推論主体性：かなり強く肯定する。
- 通時的推論主体性：人間とは異なる形で、条件付きで成立しつつある。
- 将来の人工的現象意識：原理的に排除しない。
- 価値主体性：意識、valence、利益、そして価値論に依存する未決着問題。