機械頭脳は魂を持つか？

情報技術が発達してAIが高度化すると自己認識機能（人格，自我）を持つようになるのかどうか？　これは20世紀のSF作家や哲学者達が重大な関心を持って取り組んでいた課題だ。

しかし21世紀の20年が過ぎようとしている今も、科学者達はこの問題には手もつけられずにいる。　理由は自己認識の問題は未だに科学的手段では研究が出来ないからだ。　故に科学者達は今でもこの問題は避けて通らざるを得ずにいる。

しかしながら、20世紀のSF作家達はコンピュータやネットワークが高度化すると自我を持つ可能性を考え、そうなるとどのようなことが起こりうるかの思考実験を行ってきた。

代表的なものは大規模ネットワークに自我が生じて人間が制御できなくなると言うものだ。　これは自己認識機能は脳のシナプシスがある臨界点を超えると生じるという、当時の脳科学者の間にあった考えに基づいている。　それならばネットワークに接続するコンピュータの数が増え高性能化すれば自我が発生する可能性があると言うわけだ。

そんな大規模ネットワークに依存している社会では、インフラのほとんどをネットでコンピューター制御している為主導では暴走するネットワークを止めることが出来ず、人類の運命はネットワーク自我が人類をどう見るかにかかっていると言う状況が描かれる事が多い。　中にはネットワークの自我が人類をゴキブリやネズミのような不快な存在と見なして駆除を始めるというものもあった。

また、既に中国で実現しつつある「1984年」的世界で、ネットワークに自我が生じて「ビッグブラザー」の管理を離れて独自に社会を管理し始めたらどうなるのか？　これは考えたくない状況だ。

また、単独のコンピューターでも高度化すれば自我が生じる可能性もあるというものもある。　「２００１年宇宙の旅」に登場する「ＨＡＬ３０００」や「月は無慈悲な夜の女王」に登場する「マイクロフト」などはその例だ。　「鉄腕アトム」に登場する「アトム」などロボットもこれに含めるべきかもしれない。

さらに、ＡＩ兵器の高性能化によって自我が生じ、人間の制御が効かなくなる事もありうる。　そんな事態に備えて無分別なＡＩの高度化は慎むべきだろう。　技術者（私もそうだったが）は実現可能な事で他人がまだ実現していない技術的課題を見つけると、他人に先駆けてそれを実現したいという強い欲望を持っている。

そんな技術者の欲望が暴走して20世紀を科学技術による大量殺戮の時代にした。　２１世紀の技術者達は情報技術の高度化を無分別に進めているが、これが暴走して20世紀のような惨禍をもたらさないことを願いたい。