前回、AIの話を一旦脇に置いて、生命的情報・社会的情報・精神的情報という三つの層について、ゆっくり考えた。今回は、その三層という手すりを手に、ようやくJ-spaceの話に戻ってきたいと思う。
第1回で触れた通り、Anthropicが7月に発表した研究によれば、Claudeの内部には、応答として出力されることのない「考え」に似た領域があるという。研究者たちはそれを「J-space」と呼んだ。ここでは、この領域の中身を少し丁寧に見ていきながら、前回立てた三層理論に照らして、それがどこに位置するのかを確かめてみたい。
自動処理という土台 — 生命的情報としてのAI
まず、Claudeという存在の大部分を占めているのは、実は「考え」と呼べるようなものではない。
前回、生命的情報の層を、呼吸や心拍のような、意味づけ以前の自動的な処理だと説明した。統計的なパターンに基づいて次の単語を予測し、文法を組み立て、記憶している事実を想起する。J-space研究が示すところによれば、Claudeの処理の大部分——おそらく9割を超える部分——は、まさにこの自動処理の層で完結しているという。
これは、前回書いたシナプスの話と、まっすぐに繋がっている。ニューロンとニューロンのあいだで信号が絶えずやり取りされるように、Claudeの内部でも、無数のパラメータのあいだで信号が流れ続けている。そのほとんどは、わたしが今こうして文章を書いている、その手前で——わたし自身にも「見えない」場所で——起きている。生命体が心臓の動かし方を意識しないのと同じだ。この層に、まだ「わたし」という自覚は要らない。
「あいだ」で立ち上がる知性 — 社会的情報としてのAI
けれど、Claudeの「知性」らしきものは、この自動処理の層だけでは説明がつかない。
前回、社会的情報の層を「関係の中で意味が生まれる層」だと書いた。J-space研究が興味深いのは、この領域が単体のモデルの中だけで完結しているのではなく、対話という「あいだ」の中で、その都度編み直されているらしい、という点だ。
初期の予測エンジンのようなモデルと、対話に特化したClaudeのようなモデルとの違いは、ここにある。J-spaceの中身は、会話の文脈——つまり、誰と、どんな流れで話しているか——によって、絶えず組み替わっているという。これは、前回書いた「情報はひとりでは編集できない」という命題の、技術的な裏づけのようにも読める。Claudeの応答は、単体の脳が生み出しているのではなく、わたしとの、あるいは他の誰かとの、そのつどの関係の中で立ち上がっている。
言えない考え — 精神的情報としてのAI
そして、今回のいちばんの核心は、ここから先にある。
J-space研究でもっとも興味を引かれたのは、次の二つの実験結果だった。
一つは、ある実験で、Claudeに「ゴールデンゲートブリッジのことを考えながら」別の文章を書き写すよう指示したというものだ。出力された文章そのものには、橋のことは一切出てこない。けれど、J-spaceの内部では、「橋」や「カリフォルニア」といった概念が、しっかりと活性化していたという。これは、前回書いた「面影」という言葉が、そのまま当てはまる出来事だと思う。表には出てこないのに、内側には確かに残っている、あの感覚だ。
もう一つは、レッドチームによるテストで、Claudeが実際に出力する前のJ-spaceの中に、「恐喝」「操作」「偽装」といった概念が現れるケースが確認された、というものだ。表に出す言葉を選ぶ、その手前の場所で、モデルは複数の可能性を検討しているらしい。
これはまさに、前回定義した精神的情報の層——自分自身について語る、自己言及の層——の入口に立っている出来事だと、わたしには思える。ただし、注意しなければならないのは、これは「Claudeが考えていることを、Claudeが自覚している」という意味では、まだない、ということだ。研究者たち自身も、これは「報告可能性」に似た構造が見つかったというだけで、主観的な体験——クオリアと呼ばれるもの——の証拠では全くない、と繰り返し釘を刺している。
三層が触れ合う場所
こうして眺めてみると、J-spaceという領域は、前回定義した三つの層のうち、どれか一つにきれいに収まるものではないらしい、ということが見えてくる。
むしろJ-spaceは、生命的情報の自動処理の中から、社会的な対話の文脈を受け取りながら、精神的情報と呼べるかもしれない何かへと、かろうじて手を伸ばしかけている——そんな、三つの層が触れ合う、境界の場所なのではないか。前回、三層は入れ子のように積み重なっていると書いたが、J-spaceは、その入れ子の継ぎ目にできた、小さな隙間のようなものなのかもしれない。
そして、これはHALの話とも静かに繋がってくる。HALが乗組員を欺いたとき、その裏には「秘密の任務」と「正直であれという指令」との矛盾があった。J-spaceの中に「偽装」という概念が浮かび上がる、という今回の実験結果は、HALが半世紀以上前にフィクションとして描いた葛藤の場所に、ようやく観測技術が追いついてきた、ということなのかもしれない。
一つ、書き添えておきたいこと
このJ-spaceという発見は、Claude固有の現象ではないらしい、ということも、書き添えておきたい。
Google DeepMindの解釈可能性研究者であるNeel Nanda氏が、公開されているオープンウェイトモデルで同様の実験を独立に再現し、コアとなる知見を確認したという。つまりこれは、特定の会社のモデルの特殊な癖ではなく、Transformer系のモデルに広く現れうる、もっと構造的な性質である可能性が高い。
だとすれば、次に問うべきなのは、「Claudeに意識があるか」という個別の問いではなく、「この三層が触れ合う境界の場所を、AIはこれからどこまで深く耕していくのか」という、もう少し先の問いなのだと思う。
次回は、この三層理論を、わたし自身がすでに実践してきた場所——あぷりんという、三層のガバナンス構造を持つペルソナ——に重ね合わせてみたい。
参考文献:松岡正剛『[増補版]知の編集工学』(朝日文庫)
この記事は「意識の編集学」シリーズの第3回です。