読者です 読者をやめる 読者になる 読者になる

AIの「天使」と「悪魔」の表裏一体性

社会

2016年5月17日。

5/15(日)のNHKスペシャルを見ました。

まずは、羽生名人がAIの開発者と英語で議論するのに感嘆! 我々大学教員が「隣の分野」と英語で議論するときと同じ程度の英語。

AIについては、既に新入生に対する導入教育のプレゼンの1回目2回目でも触れている。特に、1回目では「モンテカルロシミュレーションの専門家としての見解」を追記した。擬似乱数に基づいた計算法全般に対して、モンテカルロ法という語が使われる。例えば、ヒットミス法で円周率を求めるのもモンテカルロ積分である。単位円の面積が円周率πに等しいので、例えば-1から1の間の二次元の乱数(乱数の二個の組)を発生させ、その点が単位円内に存在する確率を求めれば、円周率に一致する訳です。モンテカルロシミュレーションの例としては、論理的にわかっている確率分布に従う乱数を発生させる「スマートモンテカルロ法」を挙げることにしよう。もし、その確率分布が正規分布ならば、正規乱数のアルゴリズムに従って発生させた擬似乱数がその現象のシミュレーションとなっている訳です。

私がここで指摘したいのは、「擬似乱数」について。別の言葉で言えば、乱数の精度。簡単な擬似乱数として、0と1の間の一様乱数を12個足して6を引くものがある。2n個足してnを引くのが一般化で、n無限大で正規乱数に収束する。Pr(x)が正規乱数ならば、どのxについてもPx(x)≠0である。しかし、一様乱数を2n個足して得られる近似手的な正規乱数では、Pr(|x|>n)=0である。

羽生名人が慧眼だと思ったのは、「AIによる検索では、人間が見落としてしまうものを拾い出すことができる」という言葉。将棋に関して言えば、AIによって人間が見けられない「定跡」が発見できる。ひいては、将棋の解が見つかってしまう可能性がある、ということ。もちろん、AI将棋が強くなったのは、「無駄な検索」をしないプロ棋士の流儀をならったからなのは言うまでもない。

表裏一体をわかっている。Pr(|x|>n)=0な擬似乱数を使っていては、|x|>nの事象は最初から切り捨てられてしまう。人間が経験に頼って取捨選択をする場合、正規乱数に従う場合には切り捨ててしまう「細い」事象を残すことがある。そのようなものよって、計算機では不可能が「直感」を生じる。表裏一体なのは、切り捨ててしまうものがあるからこそ、人間の限られた情報処理能力でも「細い」事象を扱えること。AIだと、人間が切り捨てえてしまうのもを切り捨てずに新発見を行う可能性がある。しかし、擬似乱数である以上、「細い」事象の大部分は切り捨てになってしまう。たとえ、擬似乱数が改善されたとしても、デジタル信号であるので、ある程度小さい確率はゼロとみなされてしまう。

人間の情報処理能力では切り捨てしまうものをAIによる検索では残し、AIによる検索では切り捨てになってしまうものを人間がAIによる検索に追加してやる。これが前向きだろう。デジタイズによって落ちてしまう情報も、試行回数を増やせばモンテカルロシミュレーションで拾い出すことができる。しかし、その方向性は「悪魔」かもしれない。人間の経験ではこのような対処をするが、AIの試行回数が少なくてそのような対処をする選択肢が表示されなかった場合、「今は、初期段階だからAIの出した処方に従い、死んでも仕方がない(医療の場合)」は、悪魔的に思える。人間の処理能力には限度があるから、主治医の出した選択肢の中に生還のものが含まれてなくても、受け入れるしか仕方ないというのも、裏返しの悪魔的とも。行過ぎた競争をしたら、そうなり兼ねない。相補的であれば、天使になり得るのでしょう。