気になっていた本なので読んでみた。人工知能と人間の成り立ちのちがいが実に明確に述べられている。人間は生きるために行動するが、コンピュータに生命が宿るはずがない。カールワイツらが主張している「シンギュラリティ」（AIが人間を超えるとき）が到来しないことが論理的にわかる。それだけでも本書を読み意味があると思う。
大脳の動きをコンピュータが模することができるのは、左脳部分（論理計算）だけである。情動をつかさどる右脳部分は、生命現象が支配している。だから、どんなにビッグデータを駆使しようと、論理回路が緻密に設計されようと、AI（人工知能）の進化にはおのずと限界がある。AIが心を持つことはないだろう。
本書の表現を借りていえば、「脳は独立した論理的な存在ではなく、生きた身体と不可分であり、個々の身体は刻々変化していく生態系のなかに組み込まれている」（P.200）。人間は自律的であるが、コンピュータ（機械）は自分で判断を下すことはない。身体を持たないから、基本は他律的である。
もちろん計算能力と論路的な判断の素早さでは、人工知能は人間の能力をすでに超えている。それは、チェスやアルファ碁で人間のチャンピオンが、機械に太刀打ちできなくなったことでも明らかだ。問題は、人間がAIとどのように関わるかによる。本書で結論は出ている。IA（Intelligence Amplifier：人間の知能を増幅させる）ために、AIは存在すべきだということだろう。
本書でもっとも説得的な記述は、第3章「人工知能が人間を超える？！」である。人間とロボットとのコミュニケーションを説明している部分。一見して感情を持つように見える「ペッパー君」が、実は感情（心）をもつことなどない。コンピュータに人間は同情されることはないのである。
著者のその断言は、わたしたち人間が閉鎖系の存在であることからきている。つまり、相手の意図を推し測ることを自律的にしている人間に対して、ロボットは相手に「共感する」ことはない。ロボットは自律的な存在ではないからだ。
ロボットのような機械は、外からのインプットがなければ、外に対して開かれていなければ、何らかの判断を下すことはない。人間とロボットでは、内側の回路が違っている。目標設定は機械にはできない。たとえば、そのように見えても、存在をコントロールする身体をもっていないから、生存のために悶絶するロボットの存在などは考えにくい。
気になったので、アマゾンの書評（★3つ以下）をチェックしてみた。本書をやや批判的に見ているひとたちは、西垣氏のある見解に対して懸念を表明していることがわかる。それは、カールワイツらのシンギュラリティ理論を熱烈に支持するひとたちの背後に、「ユダヤ・キリストの一神教的な思想が隠れている」という西垣氏の偏見についてである。
一神教を信奉する思想的なグループは、逆にAIを神の存在のように恐れる。それは、なんとなく理解できる。というのは、本書のもうひとつの信念が、神を頂点として、ヒエラルキーの下に存在している人間や動物を絶対者が支配するという世界観との関連で語られているからである。
このことは、西垣氏の米国体験（スタンフォード大学での人工知能研究）と深く関わっているような気がする。なぜなら、わたしも、1980年代の初頭に、米国西海岸（カリフォルニア大学バークレイ校）で研究生活を送った経験があるからである。正直には表現しずらい話だが、原子爆弾を作って集団殺戮をすることをいとわない「功利的な科学者の集団」がそこにいたからだ。しかも、彼らは、世界トップレベルの知的エリート集団である。
自然にその先を読んでしまう。もっと怖いのは、誰かが陰に隠れてAI（人工知能）を後ろから操作するという西垣氏の懸念である。その点でいえば、わたしは西垣氏に組するもののひとりである。新しい概念や技術は、案外と曲がって使われる傾向がある。
ある時代に権力を握っている為政者や一部の学者は、自分たちの利益誘導のために科学的な技術を利用しようとするからである。どこかで大衆（パブリック）は小ばかにされている。
そうした悲劇を繰り返さないためにも、AIやビッグデータの活用をより限定的にとらえるべきだろう。本書は、情報科学の進歩を冷静沈着に見るべき視点を提供している好著と言える。
