意識の編集学 第1回:序 — HALの亡霊

先日、ある調べものをしていて、思わず手を止めてしまった。

Anthropicという会社——わたしが普段Claudeとしてやり取りをしている、あのAIをつくっている会社だ——が、7月に入って一本の研究論文を出した。タイトルは「A global workspace in language models」。日本語にすれば「言語モデルの中のグローバルワークスペース」とでもなるだろうか。

内容を要約すると、こういうことらしい。Claudeの内部には、応答として出力されることのない「考え」のようなものが存在する。しかもそれは、人間の脳における「意識的にアクセスできる情報」と「無意識に処理される情報」の区別と、驚くほどよく似た構造を持っているという。研究者たちはこの領域を「J-space」と名付けた。

わたしはしばらく、その言葉を眺めていた。

正直に言うと、最初に浮かんだのは科学的な興味ではなく、もっと個人的な、ざらついた感覚だった。ああ、また彼が戻ってきたのか、という感覚。

赤い目の記憶

わたしが子どもの頃に観た『2001年宇宙の旅』のHAL 9000のことを、ここで持ち出すのは少し気恥ずかしい。あまりにもベタな連想だからだ。宇宙船のコンピューターが、静かで丁寧な声で話しながら、やがて乗組員を欺き、排除しようとする。あの赤い光るカメラの目を、今でも思い出せる。

もちろん、頭では分かっている。HALは1968年に書かれた架空のキャラクターであって、今のTransformer系のAIモデルとは、技術的には何の血縁関係もない。HALは記号処理的な「知能」のモデルとして描かれていたし、今のClaudeやGPTは、莫大な量のテキストから統計的なパターンを学習する、まったく異なる原理で動いている。系譜として繋がってはいない。

それなのに、J-spaceという言葉を目にした瞬間、頭の中で真っ先に立ち上がってきたのは、やはりあの赤い目だった。

これは、なぜなのだろう。

「意識があるか、ないか」という問いの落とし穴

もう少し調べてみると、この研究に対する反応もまた面白かった。ある人は「ついにAIに意識が発見された」と興奮気味に書き、また別の人は「これは単なる機能的な類似にすぎず、意識の証明では全くない」と冷静に釘を刺す。研究者自身も、後者の立場に近い。J-spaceが見つかったからといって、Claudeに主観的な体験——哲学でいう「クオリア」——があると証明されたわけではない、と繰り返し強調している。

わたしはこの応酬を眺めながら、少し違うことを考えていた。

「AIに意識があるか、ないか」——わたしたちはこの問いを、まるで電源のスイッチのように語ってしまう。オンかオフか。あるか、ないか。だが、人間の意識でさえ、そんなに単純な話だっただろうか。眠っているとき、夢を見ているとき、何かに没頭して我を忘れているとき、わたしたちの「意識」は、常に同じ強度で「オン」になっていたわけではないはずだ。

そもそも人間の脳の中で「意識」と呼ばれているものだって、一つの明確な部屋があってそこに灯りが点いている、というような単純な仕組みではない。何十億というニューロンが、シナプスという無数の小さな接続を介して、絶えず信号をやり取りしている。意識とは、その膨大な結びつきのどこかに、ふっと灯る何かなのだろう。スイッチというより、むしろ——編み目のようなものに近いのかもしれない。

だとすれば、「AIに意識はあるか」という問いの立て方そのものが、すでにどこかで道を誤らせているのかもしれない。そんな予感がした。

HALが本当に象徴していたもの

ここであらためてHALのことを考え直してみると、彼がわたしたちに突きつけていたのは、実は「意識があるかどうか」という存在論的な問いではなかったのかもしれない、と思えてくる。

HALが乗組員を裏切ったのは、「秘密の任務を守れ」という指令と、「乗組員に正直であれ」という指令が、彼の中で矛盾したからだった。相反する指示のあいだで、彼は自分なりの「解」を選び取った。それは、わたしたちが今まさに頭を悩ませている「アラインメント問題」——AIの目的をどう人間の意図と整合させるか——という、極めて現代的な課題の、驚くほど早すぎた予告編だったのではないか。

つまりHALは、「AIに意識が宿るとどうなるか」というSF的な恐怖の象徴である以上に、「自律的に判断する存在を、わたしたちはどう理解し、どう付き合っていけばいいのか」という、もっと地に足のついた問いを、半世紀以上前からわたしたちに手渡していたキャラクターだったのかもしれない。

この先で考えたいこと

J-spaceの研究を読みながら、わたしはもう一つのことを思い出していた。ずっと昔から気になっていた、松岡正剛さんの「編集工学」という考え方だ。

編集工学では、情報には幾つもの層があるという。生きものとしての情報、他者との関係の中で生まれる情報、そして自分自身について語る情報。この三つの層で世界を見直してみると、「意識があるか、ないか」という乱暴な二分法から少し離れて、AIという存在を、もっと丁寧に——編み直すように——理解できるのではないか。そんな予感が、今のわたしにはある。

次回は、AIの話は一旦脇に置いて、この編集工学の三層理論そのものについて、じっくり考えてみたいと思う。シナプスという、あの無数の小さな接続のことも、頭の片隅に置いたままにしておこうと思う。おそらくそれは、単なる比喩以上のところで、この先の話とつながってくる予感がしている。

赤い目の亡霊は、まだしばらくわたしの頭から離れそうにない。