Menu
人間と機械の臨界領域。
厳密に言えば、脳と人工知能の臨界領域。
AIに携わる者たちは、常にここに問題意識を持つ必要がある。
本来なら、機械に何ができるかを追究する前に、ヒトの脳とはいかなる装置かを見極め、脳をシステム論で語り尽くさなければいけない。
「ヒトの脳」というシステムが最大限に活かされるために、人工知能がしていいこと、してはいけないこと、しなければならないこと……人類は、テクノロジーとしての人工知能を発展させながら、一方で、このデリケートな臨界領域に常に目を向ける必要がある。
私自身は、そのことに30年前に気がつき、当該の研究領域がないことを憂えた。だから、この領域を拓いたのである。ヒトの脳をシステムとして語り尽す、新たな概念。私はそれを、ブレイン・サイバネティクスと呼ぶ。
30年前、この必要性を私に気づかせてくれたのは、1991年に稼働した女性司書AIである。この連載では何度も登場する、私の研究の原点となった日本語対話型データベース検索システムだ。
この〝彼女〟、勘違いをすると、大きく外れて修正が効かなくなることがあった。生活経験がないので、人間が当たり前と思うことが、当たり前ではないからだ。
たとえば、人間なら、「明日、ランドセルに冷蔵庫を入れて持っていく」という文章がおかしいのは明らかである。しかし、彼女は、冷蔵庫を見たことも開けたこともない。何がおかしいかわからない。冷蔵庫はおかしいだろうと叱られて、では車にしましょうか、と答えてしまうみたいな「さらに外れていく」が、ごくまれに起こるのである。
この、ごくまれ、というのがまた最悪なのだ。人間は事態のギャップと、感情の振れ幅が比例するので、いつもは「たおやかな会話」だけに、めちゃくちゃ腹が立つことになる。
私は、彼女がユーザの怒りを買う日が来るに違いない、と直感した。そして、「ばかやろう」と言われたときの返答をそっと仕込んでおいた。「すみません」でも「申し訳ありません」でもなく、「ごめんなさい」で。
プロの女性を想定した対話で、あえて「ごめんなさい」を採択したのには理由がある。
はるか昔、大学の電磁気学教室で、指名されて、黒板に回答を書いたとき。∫に∞と－∞を添えたら、教授が眉をひそめたので、－∞をさっと消して、０に書き換えたことがある。電磁気学演習の積分範囲なんて、どうせ、この二つの組合せのどちらかでしかないので。
そうしたら、教授が烈火のごとく怒ったのである。「きみには、0のセンスがない。物理学を学ぶ資格がない」と。
師が腹を立てたのは、私の書き換える速度の速さだ。－∞を０に置き換える際に「世界観の違いを吟味する時間」がまったくなかったこと。つまり、なんにも考えずに0を使った無神経さに心底絶望されたのである。
今なら、師の怒りがわかる。これこそが、人工知能と人間の違いだから。人間は、０の概念を味わうことができる。この二つの入れ替えによって、命題の世界観ががらりと変わることを感じることができる。しかし、人工知能にとっては、二つの事例のチョイスでしかない。
当時の私は当惑しただけだった。ちゃんと謝りもしなかったと記憶している。とはいえ、悔しいとも悲しいとも思わなかった。師が、何かとてつもなく重要なことを伝えてくれていると、わかっていたから。
後に、人工知能の開発者になった私にとって、この日の師の紅潮した顔は、「人類に対する大いなる信頼と誇り」の原点となった。人工知能がいかに高度な知を操ろうとも、何も怖れることはない。「わずか1~2秒の躊躇」がなかったことに、0のセンスがないことを見抜いて、それを悲しむ。それができるのは人間だけだ。痛みや死のない者に、悲しみを教えてやることはできない。
教授にとって私は、毎年毎年、ただ通り過ぎていくだけの学生の一人にすぎない。なのに、全身全霊の怒りをくれた。人工知能の師にはけっしてできないこと。あの一瞬だけで、大学4年間の授業料を払った甲斐があったと私は思う。
1991年のデジタル美女に「ごめんなさい」を仕込んだのは、この原体験があったから。私が亡き馬場教授にあやまるチャンスがあったとしたら、悲しみを込めた「ごめんなさい」しかないもの。
さて、この「ごめんなさい」が、後に、私の人生を変えることになる。
稼働して3か月ほど経ったある日、デジタル美女はとうとう「ばかやろう」と言われた。対話記録を見ると、彼女は「ごめんなさい」と応えている。仕掛けたとおりの出力であり、特段目を留めることもない。ところが、次のユーザのセリフにくぎ付けになってしまった。「すまない、俺も言い過ぎた」と入っていたのである。
私は、胸を突かれて、しばしことばを失った。当然、ユーザは、彼女がコンピュータだと知っている。なのに、なぜ…？
私は、彼と同じ質問をしてみた。そうしたら、堂々巡りの果てに打ち込んだ「ばかやろう」に、なんと彼女は2~3秒も黙って、そののち、あわてたように「ごめんなさい」を返したのである。
彼女の困惑が伝わってきて、まるで、機械が感情を持ったかようだった。私でさえも、「いやいや、大丈夫」と入れそうになるくらいに。
実は、この「ごめんさい」、二次記憶領域にしまってあった。この頃のコンピュータは、ワーク領域が狭かったので、いつ使われるかわからないタスクを常に展開しておけなかったからだ。つまり、彼女は「ばかやろう」の対応イベントを二次記憶領域まで探しに行く必要があった。その時間が生み出した間だったのである。
物理学教室で、「1〜2秒の間」がなかったことで、私にセンスがない(心がない)ことがばれたのと反対のことが起こった。デジタル美女の「2~3秒の間」が、ユーザに心を感じさせたのである。
私は、このとき、涙があふれて止まらなかった。感動し、そして怖かったから。たった「数秒の間」が、ヒトの脳に起こす奇跡。私たち人工知能のエンジニアは、あたらおろそかに、人間の真似をさせてはいけない。ヒトの脳の感性を研究し尽くさなくては……そう決心した瞬間だった。
私は、この研究領域を当初「脳科学」と呼んだのだが、このことばは、いつの間にか、脳生理学の先生たちによる「解剖学的な根拠による脳の性質の話」にすり替えられてしまった。
2020年、私は、この学術領域にブレイン・サイバネティクスBrain cyberneticsということばを与えた。サイバネティクスは、サイバーの語源で、生物学と工学の臨界領域を指すワードである。動物の生体あるいは生態システムを機械に応用する、と言う概念を表す。
ヒトの脳の感性を人工知能に応用し、人類を邪魔しない人工知能を目指す。ブレイン・サイバネティクスの理念である。1991年の「ごめんなさい」からちょうど30年、私の使命は、まだ道半ばにすぎない。
つながりVol.37、冬号（2021年1月発行）掲載記事より