暗い予感（２）

人間がどのような原理で自己の存在を認識しているのかはまだまだ解明できそうも無い。 また、犬や家畜などの高等動物が自己を認識していることも間違いないように見える。 であれば小鳥は自己を認識しているのだろうか、あるいは魚はどうだろうか？ こう考え始めるとどこに境界を引けるのかは全くわからなくなってしまう。

そして、自己の存在を認識している主体はなんであるのか？ 一部の神秘論者のように魂が自己の存在を認識しているのだとすると、すべての生物について魂の存在を仮定しなければならなくなるかもしれない。 これは、教義で輪廻転生を説き、すべての存在に魂があることを仮定する仏教徒にとってはある意味当たり前の考えだが、聖書で他の生物に対する人間の絶対的優越を説く、キリスト教徒やユダヤ教徒には受け入れがたいだろう。

自己の存在の認識が、灰色の化学物質の塊の中を駆け巡る電気信号に依存していることは間違いが無いのだろうが、物質的には存在しないものが存在すると言うことは実に驚くべきことだ。 もし自己の存在の認識が、脳の神経細胞のネットワークの複雑さがある段階に達した時点で発生するとすれば、それはまた電気的ネットワークを高度化してゆけばある段階から自己の存在を認識しうるという可能性を認めることになる。 それは単にチューリングテストで見分けがつかないという人工知性では無く、自己認識能力（意識）を持つ正真正銘の非有機生命体の可能性を認めることでもある。

これは２０世紀中頃からあるＳＦ的悪夢で、意識を持ったコンピューターが人間に反旗を翻す物語や、人間を蟻のような存在として認識する巨大コンピューターネットワークの物語などがある。 「２００１年宇宙の旅」に登場する「ＨＡＬ９０００」や「月は無慈悲な夜の女王」に登場する「マイクロフト」等が意識を持ったコンピューターの代表だし、巨大ネットワークが意識を持って人間に制御できなくなる話は何人もの作家によって書かれている。

このような話がなぜ暗い予感なのかと言えば、それはその可能性が零では無いからだ。 特に技術者や事業家達の、ＡＩやネットワークの拡大と複雑化への野放図な熱中ぶりを見ていると、最近専門家がしきりに言い立て、裁判所が数年から数十年以内にも、稼働中の原子力発電所に危険を及ぼす可能性があると認めた、阿蘇山の巨大噴火より可能性が高そうだと思うからだ。

ＳＦでは、人間が気づかぬうちに意識を持ったネットワークが、その機能を止めようとする人間を害虫と認識して駆除し始める。 そして速度で劣る人間達はなすすべも無く立ちすくむ。 そうならないことを切に願う。