AI は「意味」も「感情」も理解できない。その対極が「人間力」!

※本稿は、2月22日夜に書いて23日朝に予約投稿し、いったん公開した内容を、26日に加筆修正して再公開したものです。

2月22日の朝、いつもの通り、TBSラジオ『伊集院光とらじおと』を聴いていると、何だかとても可愛らしい声が聞こえてきました。

声の主は、数学者で、国立情報学研究所社会共有知研究センターセンター長を務める新井紀子教授。
「ロボットは東大に入れるか」プロジェクトを率いた方です。

今まで、テキストしか読んだことがなかったので、あのアニメキャラのような声には軽い衝撃を受けましたw
難しい話でも、易しく聞こえるような気がしますw　得ですね。

でも、ご本人は、アニメ声に軽くコンプレックスを抱いているとか。
私も自分の声が嫌いで、取材時の録音を聴き直すのが苦痛だったので、なるべくレコーダーに残らないような声で喋るようにしていたら、すっかり地声が小さくなってしまったものです（苦笑）。

…と、前置きはこの辺までにして本題に入りましょう。

“東ロボくん”はAIを過大評価させないための取り組みだった

ここから先、ラジオで新井教授が話されていたことを、
記憶を頼りに引用させていただきます。

とにかく、最初に驚いたのが下記のくだり。

（前略）
伊集院：東大に、AIというかプログラム、ロボットが東大受験をクリアするってことは、ついに「我々のロボットが、人間に勝ちました！」っていうのを目指してる先生なんだと思ってたんですよ。
新井：あのー、「そうならない」っていうことを示すために、やらなきゃならなかったんですよ。
伊集院・柴田：はーーーーーー！（中略）
新井：つまりですね、今回の第三次AIブームって明らかにアメリカの企業からって思ってたんですよ、GoogleとかAppleとか。企業って自分に都合のいいように、プレスリリースを打つわけですよね。たとえばたとえばAlphaGoが李セドル（九段）に勝ったとか。
そういういい話ばっかり見ると、みんな多分誤解をするだろうなと思ったんですよ。ま、なんか5,000円の羽根布団50万で買っちゃう、みたいな。
（中盤）
そういう状態になるだろうな、日本人はなんかもうホントに騙されるだろうな、と思って。
じゃ、誰か身を切って、「ここまではできるけど、ここからはできません」っていうことを、誰もが分かるように見せてあげるっていうこと。
誰かする。リスクを取らなければいけないなぁと思って。（後略）

　　「伊集院光とらじおと」2018年2月22日放送より抜粋引用

ラジオの中で伊集院光と柴田理恵が驚いているのと同じく、驚きました。

メディアの記事をいろいろ眺めても、ほとんどすべて「2021年には東大入試の突破を目標としていたが、2016年の時点で挫折した」というトーンで紹介されており、「なぜAI（人工知能）は失敗したか」を説明する構成の記事が多かった。

でも、先の発言から振り返れば、「無理だった」ということが証明された時点で新井教授の目的は達しているわけで、「挫折」でも何でもないわけです。

新井教授は約5年間に及ぶ東ロボくんの研究を通し、AIが人間の知能を越すとする「シンギュラリティ（技術的特異点）はこない」と結論づける。数十年の間で急激に発達した最新テクノロジーの勢いを持ってしても、AIの学習能力には限界があり、人工知能が人間の進化を越える日は来ない。

　　ReseMom 2017年6月2日 18:30
　　【NEE2017】シンギュラリティは来ない…東ロボくんの母・NIIセンター長新井紀子教授

上記引用の記事にある通り、シンギュラリティが来ないと断言できた時点で、十分な成果だったのでしょう。

　※補足：（2045年ぐらいには）人工知能が、人間の脳を超えるシンギュラリティが訪れるという説がある。

そもそも新井教授は、なぜAIの限界を世間に示そうと精力を傾けたのか……。
繰り返し引用しますが、↓このコメントは素敵です。

今回の第三次AIブームって明らかにアメリカの企業からって思ってたんですよ、GoogleとかAppleとか。企業って自分に都合のいいように、プレスリリースを打つわけですよね。たとえばたとえばAlphaGoが李セドル（九段）に勝ったとか。
そういういい話ばっかり見ると、みんな多分誤解をするだろうなと思ったんですよ。ま、なんか5000円の羽根布団50万で買っちゃう、みたいな。

　　「伊集院光とらじおと」2018年2月22日放送より抜粋引用

企業側の情報発信をサポートすることが本業の私としてはコメントしにくいところですが、教授が仰られていることは良く分かります。

ただこれ、掘り下げると、企業の発信にばかり責任があるわけではなくて、科学ジャーナリズムが全く浸透していない現状とか、いろんな課題があると実感しています。

企業側としては、ウソをついているわけではなくて「良い側面」に光を当てて強調しているだけですので、特に非があるわけではありません。
問題は、企業から発信される情報が、いかにして消費されていくかという話であったりします。

この間もある講演を聴いていて目の当たりにしたのですが、AIやIoTなど、馴染みのないテクノロジーのついて話を聴く人たちが一番大きく反応するのは、正確な説明ではなくて、派手で分かりやすく、企業広告のようにきれいにまとめてある話なんですよね。
極端に言えば、AIと人間が恋をするかもしれない未来……なんて絵空事の方がウケるんですよ。

だってそうですよね。
皆さん、自分の時間を使って話を聴きに来ているんですから、小難しい専門的な話ではなくて、パッと聞いたら理解できて、「え！　そんなすごいことになってるんだ！」って驚きながら楽しめる方が、心地いいですもん。

IoTなんて、まともに説明を聴いていたら、小難しくてしょうがないんですから。

だから、分かりやすい話ばかりが広まりやすい。

マンガや映画のように、びっくりするぐらい進化した人工知能に支配されて、「人工知能が身の回りのことをすべてやってくれて、目覚ましから朝食の支度、休日のスケジュール作成や切符の手配まで上げ膳据え膳で暮らせる未来」を想像してワクワクしたり、「人間が機械に、家畜や電池のように搾取される未来」を妄想して恐怖を抱いたり。

でも、そんなことはあり得ない、「シンギュラリティは到来しない」と。
数学者である教授は、ラジオの冒頭でこうも言っています。

　新井：（前略）私元々数学者なので、AIは好きじゃない。
伊集院・柴田：：はーーー！
新井：全然好きじゃない。（中略）
コンピュータって全部数学でできてるんですよ。徹頭徹尾数学しか入ってなくて。あの中に小人さんが入ってペッパー君を動かしてくれるわけではないので、全部、原理は数学なんですよね。（中略）

　　「伊集院光とらじおと」2018年2月22日放送より抜粋書き起こし

こうやって明言されると、何だか、非常にスッキリしますよね。
小人なら、人の気持ちを汲み取ることもできるでしょう。
しかし、数学には、人間の感情を理解することはできません。

さらに、東大に合格できないということがいつ頃はっきり分かったのか、と伊集院光に問われる流れで次のように話しています。

　新井：（前略） 1950年代から分かってたことなんですけど、“意味”っていうものを分かる方法が、数学では「ない」ってことなんですよ。
たとえば、「太郎は花子が好きだ」って言ったら、誰でもみんな意味が分かるんですけど、その「好きだ」っていうのはどんなことなんですか、っていうのは、数学で書きようがない。

　　「伊集院光とらじおと」2018年2月22日放送より抜粋書き起こし

人工知能が進化した！と言われると、ついついマンガの世界のように、何でも見通して人間と対話するような、とんでもない性能の人工知能を想像してしまいがちなんですが、数学だけで構築されているものが、人の心を見抜くことはないのです。

“東ロボくん”が偏差値57で終わったことは、一番恐れた展開だった？

では、東ロボくんが「東大合格無理でした！　これで一安心！」となったのか？？？

ここが一番重要なポイントなのだと思いました。
教授は言います。

　（前略）新井：本当言うとね、今だから言えるんですけど、2011年の時点では、高校三年生の平均を超えると「怖いなぁ」と思っていたんですよ。
東大なんか入ったら、「東大入っちゃったんだから、もうベーシックインカムだね」ってことしか考えられない状態になるじゃないですか。全部もう、ガラガラポン！みたいな状況になって。
それはアメリカ企業が持っている場合は、ちょっとどうしたらいいか分からないんですけど……日本に税金が入らなかったらどうするか？みたいな……でも、それはそうなったらみんな国連で考えるのかな？って感じで思っていたんです。
ですけど、一番怖いのが、偏差値 50をちょっと超えたあたりに来るのが本当に怖いな、というイメージがあったんです。
　柴田：それは…何でですか？
　新井：それは…ある一定の人は、ちゃんと生き残って…必要になっちゃうんですよ、能力として。コンピュータは、できないことも結構多いので、優秀な人はすごく必要とされて、それでお給料はガンガン上がって……なんだけれど！　ホワイトカラーになる気満々で、たとえばまぁ、奨学金を、「大学に行くために500万円借りました！」みたいなお子さんが今すごく多いんですけど、その500万の借金があるんだけれど（大学を）出てみたところが、そこまで有能じゃなかった時にですね、それ（借金）が返せない…返せるような職に就けないっていう……。
　伊集院：もう、消滅しちゃったホワイトカラーっていう役割…
　新井：（なくなる仕事は）半分ぐらい！半分ぐらい。効率化で消滅しちゃったので、「貴方は、AIの下で働いてください」っていうと、「時給1,000円！」みたいになっちゃう……。

　　「伊集院光とらじおと」2018年2月22日放送より抜粋書き起こし

確かに大きな問題だと思います。大学進学がハイリスク・ハイリターンな行為になるわけです。そもそも、子どもにかかる学費が非常に高いので、親としては大変なんです。現金で余裕をもって学費を用意出来ればいいんですけどね。
でも、そんな余裕のある家庭って、今の世の中で何割いるんでしょう……。

そうして、「余裕はないけど、不自由なく就職するためには、大学を卒業しなければならない！」と奮起して、わざわざ借金してまで進学した挙句に、時給1,000円の仕事しかなかったら、悲劇です。

そもそも、猫も杓子も大学に行く必要があるのか？
私、実は大学に行ってません。恥ずかしながら、大学に通ってません。
でも、おかげさまで何とか生き残っております。

この間、某私立大学で興味深い話を伺ったのですが、やっぱり入試の出来不出来だけで、学生の能力が分かるわけでもなく……「新卒」採用に躍起になる日本の“就社”事情から変えて行く必要性が、こんな切り口からも見えてきたのかな、と。

人間が、AIに勝るはずの領域で、試験に負けていた！？

さて、ラジオに話を戻します。

　伊集院：東大受験に関して言えば、限界はどこでしたか？
新井：一番、ツラかったのは「英語」ですかね。（中略）前半は大体、文法問題みたいなものが出るんですよ。でも（AIには）文法は一切教えないんです！
そうじゃなくって、すごく大量（150億）の、きちんとした、人が話した、英語の文っていうのを持ってくると、「こういう順番で大体人はしゃべっている」ということは分かるので、そこから文法らしきものってのは、学習する感じ。（後略）

　　「伊集院光とらじおと」2018年2月22日放送より抜粋書き起こし

文法が分からないので、AIは人間の学生よりも不利であったわけです。
さらに教授へのインタビューは盛り上がって続いていきます。

　新井：でも、会話が成立しないんですよ。150億文入れても。
柴田：入れても成立しない。な、何で？
新井：あ、だから、テキトーに相槌うつみたいなことはいいんですけど、ある目的を持ってなんか話そうとすると…なんか相談するとかというと、無理なんですよ。
柴田：はーーーー。
新井：それ、150億って大量にあって、そこから統計を取っただけでは……今ここで……たとえばこのラジオの中で、「次に何を言ったら、ラジオが成立するか？」ということは、（AIには）全然分かんない。

　　「伊集院光とらじおと」2018年2月22日放送より抜粋書き起こし

言葉の意味、会話の機微が理解できないので、文章問題など、最初からAIには難し過ぎるわけです。

AIを使ったチャットボットは人気ですが、教授が言うような「会話」とは程遠いことを、皆さんすでにご存知でしょう。

しかし、そんなAIが、現実に偏差値57を獲得しているわけです。

「計算」や「暗記」に基づく問題だけでAIが高校三年生を圧倒したのであれば、まだ良かったのですが、ここで新井教授が気付いたのが、学生たちの「読解力不足」。

この辺の話は、メディアでも記事になっています。

「文章の意味を理解できない東ロボよりも、得点の低い高校生がいるのは、どういうことだ？」
「この高校生たちは、文章の意味を理解できているのだろうか？」
「義務教育で、教科書の文章を読める力は本当についているのだろうか？」
私たちは、子どもたちが「読める」ことを大前提に話してしまう。
だから「わからない」と言う子に対して、大人たちは「ちゃんと読め」と言う。
「ちゃんと読めばわかるはず」という前提、それだけの読解力は備わっているという前提がある。
しかし、そもそも「読めて」いないのだとしたら？

　　AI研究者が問う　ロボットは文章を読めない　では子どもたちは「読めて」いるのか？
　　湯浅誠　2016/11/14(月) 19:57
　　Yahoo!ニュースより一部引用

非常に興味深い話です。
関連する新井教授の話をログミーで読んだことがあって、その時も考えさせられました。

ラジオでも紹介されていたご著書『AI vs. 教科書が読めない子どもたち』（東洋経済新報社 2018/2/2）を早速読みたい！と思って書店に行ったのですが、売り切れで、取り寄せも受付できない状態だとか。

こういう時、結局 Amazon で注文してしまうのですが、2～5週間後の配送予定だそうです。
届くのが楽しみです。
※ と……最初（22日夜）に書いて投稿したのですが、その後すぐ3刷が出来上がったようで、24日（土）には配送されてきました！それなら書店で買えたのに！！残念！！

帯に書かれたコピーが刺激的です。