まだシンギュラリティなんて信じているのですか？ AIと指数関数の限界への無知

　他の優秀な科学者も、過去の経験が通用しないこと、過去の延長では描けない未来を想像する能力をもっていれば、カーツワイル氏の上記引用のような主張には大いに疑問を感じることでしょう。『人類の未来　AI、経済、民主主義』のカーツワイル氏インタビューの前半には、「きみたち読者は指数関数って知らないでしょ？　こんなにすごいんだよ」と言わんばかりに、延々と冗長に、指数関数的に何かが増大した例が列挙されています。

　しかし、私に言わせれば、「はいはい、指数関数が垂直上昇といえるほどの増大なのは誰でも（一部の政治家を除いて？）百も承知。でも、もっと重要なのは、ほぼすべての指数関数現象が『リソースをあっという間に食い尽くして止まる』ということではないですか？　そこに言及しないのは説明不足ですよ」となります。永久に続くねずみ講がないのも、リソース、すなわち、次のカモとなるべき人間の数が有限だからですね。

　また、ウイルスが自らを複製するメカニズムや、核爆弾の連鎖反応、そして半導体製造装置が印刷機の原理で線幅を縮小していくように、単一の単純な仕組みでないと倍々ゲームは起きません。人間のもつ複雑高度な知識の量が、AIによって指数関数的に増えていくというカーツワイル氏の発想自体に、非常に強い違和感を覚えます。

拙著ではカーツワイル氏をどう取り上げたか

　上記のようなことを2015年頃から講演や寄稿で述べてまいりました。拙著『人工知能が変える仕事の未来』（日本経済新聞出版）では、2016年の単行本でも2020年の文庫版でも下記のように書いています。AIの助けを借りてポストヒューマンは指数関数の速度で情報処理能力を拡大できるだろうという主張に対して、生物進化に照らした安易な議論は禁物、と指摘しています。

＜グーグルで未来予測をしているレイ・カーツワイル氏が語るように、仮に、社会全体としての記憶力や創造性を想定しても、それらが幾何級数的に、1年で2倍、10年で1000倍に向上し、変化するとは考えにくいのであります。「生物のように自己を進化させる特異点」をシンギュラリティ（もっと曖昧に「ヒトの能力をAIが超える点」とする定義もあります）とする主張に対しては、「はじめに」で触れたように筆者は否定的です。ディープラーニングの実態、本質を実感していただく後述の説明の後に、改めて、人工知能が人類の生存を脅かすような勝手な進化をなし得るかご判断いただくといたしましょう＞

＜「シンギュラリティ」論への懐疑

上記3軸分類上のいくつかの位置について、どんなAIであるか、いくつか考えてみます。まず、「強いAI」で「汎用的」で、「大規模知識・データ」を備えているAIなら、膨大な常識知識を人間と同等以上に大量に学習し、アレンジし創造的に使いこなせなければなりません。認知、理解、学習も全部できた上で、人間の指示がなくとも、何千種類もの専門家の知識を急速に自分で獲得して、全知全能のようにふるまうという機械となるでしょう。

　このようなAIが、いつか質的にも人間の理解や発想の能力を超えて、超・知性として進化しはじめる特異点がある、と考えるのが先述のレイ・カーツワイルはじめ、「シンギュラリティ（2045年問題）」論者です。しかしながら、実用志向ではなく、生物としての人間に本当にそっくりな強いAIであれば、自分自身を改造して進化させる、ということは行わないはずです。なぜなら、先述のように、定説となっているダーウィンの自然淘汰説によれば、生物は自分の意志で自分を進化させたりはしないからです（ダーウィンの進化論が絶対に正しいとは限りませんが）。稀に起こる突然変異によって大多数の変異個体は死滅してしまいますが、そのごく一部が新しい環境に適応し、旧種をしのぐ生存力を備えて生きながらえます。このような生物の進化の仕組みをそっくり真似た「強いAI」ならば、生物同様に緩慢なプロセスで、偶然、進化していくものでしょう＞