愛すべきAI……本『おバカな答えもAIしてる 人工知能はどうやって学習しているのか？』

おバカな答えもAIしてる 人工知能はどうやって学習しているのか？ [ ジャネル・シェイン ]

概要

先進技術の花形であるAI（Artificial Intelligence：人工知能）の、意外とお粗末で間の抜けた現状を、著者自身のユーモラスな実験を含む豊富な実例を通して紹介する本。

シンギュラリティ

以前、自己進化する知性を手に入れたAIが世界を滅ぼす危険性について警戒を呼び掛ける本を取り上げた。

hyakusyou100job.hatenablog.jp

この本の中で著者は、AIが将来獲得するであろう破滅を招く危険性について、当のAI研究者や開発者たちがほとほと無頓着なことを嘆き、ろくろくリスク対策も取らずにAIの無軌道な発展に邁進する専門家たちの無責任な態度をやんわりと批判している。

なぜ専門家たちがAIの危険性に無頓着なのか、その理由の一端が本書を読むとなんとなくわかる。

将来どうなるかは分からないが、少なくともAIの現状の出来栄えは、お粗末そのものといっていい低いレベルでの足踏みを余儀なくされている。

自己進化が可能なAIの知能が無限に増大し始める境界をシンギュラリティ（技術的特異点）と呼ぶが、本書に出てくるAI達の、一種愛嬌すら感じさせる間の抜けた挙動の延長線上に、そんな大それた転換点がやってくるとは到底思えない。

AIのほんの表層をサラッと撫でただけの部外者がそう感じるくらいだから、日々AIにかかりっきりの専門家たちが感じている焦燥や失望のほどは、部外者とは比べ物にならないはずだ。

AIの欠点の修正に追われる専門家たちが、シンギュラリティの到来を信じられなくても無理はない。

すぐに怠けてずるをする

では実際どのくらいお粗末なのか。

様々な例があるが、面白いのは、何やかやと人間を皆殺しにするケースが間々あるところだ。

社会がAIに求める役割の一つは、知性が必要な仕事の代行である。

要するに、人間がやっている仕事の肩代わりだ。

例えば、本書には道案内ロボットを設計するAIの例が出てくる。

通路が左右に分かれる単純な二股の分かれ道を想定しよう。

分かれ道に向かってくる人々が左側の道に入らないように誘導するロボットのデザインをAIに任せるとする。

このAIは様々な形状や挙動のロボットをデザインし、仮想の状況に配置して、その有効性を検証し、最適な解答を導くという仕事に取り組む。

AIは全く白紙の状態からスタートするので、初期のロボットの設計は、まるで頓珍漢なものばかりになる。

頭が二つあったり、足の長さが左右違ったり、ひたすらバク転するといった具合だ。

こういった奇妙奇天烈なロボットは、人々を左側の道に入らないように誘導するのが明らかに下手だが、AIお得意の大量かつ高速の情報処理により、無数の試行錯誤を経ると、その形状と挙動は洗練されてゆき、やがて誰一人左側の道に通さない、完璧な仕事を遂行するデザインのロボットが登場する。

例えば左側の道を隙間なく塞ぐ巨体のロボット（つまりは壁）が、この課題を解決する解答の一例となる。

だが、解答は一つではない。

AIの提示する解答の中には、驚くべきことに、分かれ道に向かってくる人間を皆殺しにすることで、「左側の道に人を通さない」という課題を解決するロボットも含まれる。

悪意に満ちたとんちのような解答だが、人間が絡む問題解決の方法をAIに模索させると、その中に、人間の皆殺しが含まれるケースが少なからずあるようだ。

文字通り機械的に考えてみれば、あらゆる問題の原因は人間に帰結するのだから、人間を始末するのが最も簡単確実な問題解決の方法であるのは当然だろう。

飢餓も貧困も戦争も、その他、人類を悩ませるあらゆる問題は、人類が死滅すれば漏れなく全てまるっと解決する。

AIからすれば、人間がなぜこんな簡単な解決方法をすぐに思いつかないのか、不思議に違いない。

だが人はそれを「元も子もない」とか「身も蓋もない」と呼ぶ。

世に出回っている百科事典を全て網羅し、数百万件もの事例を学習する驚異の情報処理能力をもってしても、そんな単純なことがAIには理解できないのだ。

今回の分かれ道の例では、「左側の道に人間を通さない」という条件の設定が虐殺の悲劇を招いた。

条件を「右側の道に人間を導く」という風に変更すれば、皆殺しは回避できる。

このような問題解決の条件のことを報酬関数というが、報酬関数の設定が不適切だと、AIは前述のような悪意に満ちたとんちで問題の解決を図ろうとしてしまう。

基本的にAIは一番の近道を選ぶ。

その道が法的に禁止されていようとも、倫理的に非難されていようとも、報酬関数によって禁止されていなければ、躊躇なくその道を征く。

いわば、AIは設計者の課す条件の抜け穴を目ざとく見つけ、なにかと怠けてずるをする傾向があるのだ。

これは興味深い皮肉だ。

AIの前身概念に当たるロボットという言葉の語源には、強制労働という意味合いが含まれる。

人間がやりたがらない辛くてつまらない大変な仕事を代行するために産み出された存在がロボットなのだが、発展形にあたるAIが、ずるい怠け者という全く正反対の性質を示すのは、皮肉としか言いようがない。

ところが、このずるい怠け者に、我々は太古より慣れ親しんでいる。

そう、子供だ。

子供に何かお手伝いをやらせようとすると、必ずと言っていいほど怠けたり、あるいは大人の言うことの揚げ足をとって手を抜いたりする。（たまに精神が未熟な大人もこういう態度をとるが。）

もちろん素直で気の利く子供もいるが、そんな大人にとって好都合な「いい子」は少数派だ。

大抵の子供の小賢しい振る舞いと、AIの仕事ぶりは酷似している。

子供が上記のような怠惰でずるい生き物のままでは、社会は成り立たない。

そこで、教育が施される。

型どおりの常識を教え込み、怠惰やずるさを抑制し、勤勉で誠実な大人に矯正し、社会を構成する部品へ仕立て上げる。

AIにも同じように「教育」が施される。

道案内をするたびに人類を皆殺しにしていてはしょうがないので、報酬関数を調整したり付け加えたりして、（人類皆殺しを含む）望ましくない行動を起こさないようにAIを矯正する。

するとどうなるか。

実用レベルに達したAIは、大抵の場合、人間が設定した無数の規則でがんじがらめにされ、ごく狭い領域の仕事しかできなくなる。

例えば指紋を判別したり、スーパーマリオを素早くクリアしたり、人間が今日の天気を聞いてきたら「晴れますが風が冷たい一日になるでしょう」と答えたりする仕事だ。

指紋を判別するAIは人間とキリンを見分けられないし、スーパーマリオを素早くクリアするAIはテトリスで一列も消せずにすぐゲームオーバーするし、今日の天気を答えるAIは富士山がどこの国にあるのか知らない。

これはAIが無能なのではなく、予測不能で問題のある行動をAIが起こさないよう、設計者が条件を極端に絞ったり調整したりした結果なのだ。

この辺も、子供の教育に付きまとう弊害と似ている。

社会生活へ適応させようと、型どおりの知識や常識ばかりを詰め込まれた子供は、融通の利かない大人になりやすい。

あらゆる問題を解決できる理想的存在へ成長するのを目指して教育される子供（そしてAI）が、問題を起こさないことを優先するあまり、ごく一部の問題にしか適切に対処できない偏狭な堅物になってしまうのは、せっかくの教育の努力と熱意が裏目に出てしまっており、教育者の気持ちを考えるとやるせない。

かといって、自由放任主義に基づく教師無し学習の方が、子供やAIの健常で創造性豊かな人格の涵養に貢献するかというと、そんなわけでもない。

独学が一概に否定されるわけではないが、指導者を欠いた野放図で無計画な独学は、えてして偏向と狭量に陥りやすく、更にはおびただしい試行錯誤が必須となるため、非効率になりがちで、学びに最適な柔軟性と吸収力に恵まれた若い時期をあたら浪費してしまう恐れがある。

何より、先人が先取りして損害を引き受け危険性を立証してくれた、取り返しのつかない過ちに無防備に突っ込んでしまうという、文字通り致命的な欠点がある。

自然界で食べ物を探すとき、いちいちフグやトリカブトを食べて、毒があるかどうかを試していたら、命がいくつあっても足りはしない。

気に食わない人間がいるからといって、衝動の赴くままに罵ったり殴り倒していたら、早々に周囲から危険人物とみなされて拘束されたり処罰されたり、酷ければ処刑の憂き目に遭うのは、火を見るより明らかだ。

教育の手法に歴史上の変遷は多々あれど、世渡りが本能以上のノウハウを要請してやまないがゆえ、教育そのものが無くなった試しはない。

世に出て人間の仕事に従事するからには、AIにも同等の教育が求められるのは必然だ。

とはいえ、応用力と創造性を保持したまま、社会と調和する知性や品性を育むという課題は、未だに達成されざる教育分野の難題だ。

これまで人間だけが対象だったものに、AIまで加わるとなると、課題の重要性は更に跳ね上がる。

シンギュラリティ発生の予防策を講じるべく、あれこれ心配する前に、これから山のように世の中に進出してくる未熟な人工知能の教育の方が喫緊の問題だろう。

シンギュラリティによって無限の知性を得た神のごときAIに、人類が為すすべもなく蹂躙される未来がいつやってくるかは神のみぞ知るところだが、未熟なAIに重要な仕事を任せた結果、予期せぬトラブルが発生して、過失により人類が明日にも破滅する可能性は十分にありうる。

愛すべきAI

結局、実用的な知性には、単なる計算能力や記憶力以上の何かが必要なのだろう。

世界中の親や教師が、子供たちを立派な大人に育てるために腐心しているように、AI研究者や開発者たちも、愚行ばかり繰り返すおバカなAI達がいつか独り立ちして世の中の役に立てるよう、根気強く改良に取り組んでいる。

怠慢でずるばかりする存在を教え導くのは、決して楽な仕事ではない。

それでも人を教育に駆り立てる原動力こそが愛だ。

知性を知性たらしめる真髄は未だ闇の中だが、AIだろうが子供だろうが、おバカな存在にとことん付き合う愛が無くては、その真髄を見つけるどころか近づくことすらできない。

『おバカな答えもAIしてる』という題名には、人類の文明が産み出した新たな形態の子孫の行く末を案じる、温かい愛情が込められている。

本書では、AIが犯す様々な様態の失敗の数々を、努めてユーモラスな筆致で描写している。

AIの犯す過ちをいちいちまともに受け止めて目くじらを立てているようでは、AIの開発という、終わらない子育てのような難行には、到底携わり続けられないのだろう。

肩の力を抜いて、力なく微笑みながら、AIと気長に付き合っていこうというのが、著者のメッセージだ。

本書を読めば、AIのたどたどしい歩みにほほえましい愛らしさを見出す感性を著者の態度から学び取れる。

AIの有用性や危険性について熱弁する書籍は数あれど、愛すべきAIの魅力を訥々と教示してくれる本は珍しい。

人間と同様のAIの多様性・多面性を知る上で、本書は読んでおいて損はない。