人工知能　人類最悪にして最後の発明

2021年8月6日作成

『人工知能　人類最悪にして最後の発明』（ジェイムズ・バラット，ダイヤモンド社，2015年6月18日）を読了。

彼ら*1はみな，こう確信している。未来，人々の生活を左右する重要な決定はすべて，機械か，機械によって知能を強化された人間の手で下されるようになると。それはいつのことなのか？多くの人は，自分が生きているうちにそのときは訪れると考えている。（p. iii）

データを機械が分析し，その結果をもとに重要な決定が下されることが始まっている。まだ，人々の生活を左右する重要な決定（新型コロナウィルスへの対応等）にまでは及んでいないかもしれないが。

18 世紀の数学者で聖職者のトーマス・ベイズにちなんで名づけられたベイズ統計学では，ある言明の確率を計算するうえでまず個人的な信念からスタートする。そして，その言明を裏づける，または否定する新たな証拠が得られたら，その信念を改めていく。（p. 133）

ベイズ統計学は，一度しっかり学んでおいた方がよさそうだ。

もっとも賢い人間のあらゆる知的活動をはるかに凌ぐことのできる機械を，超知能マシンと定義しよう。機械の設計はそのような知的活動の 1 つなので，超知能マシンはさらに優れた機械を設計することができる。そうして疑いようもなく「知能爆発」が起こり，人間の知能は大きく取り残される。したがって最初の超知能マシンは，人類が作るべき最後の発明品となる……。*2（p. 134）

超知能マシンが，さらなる超知能マシンを作るようになれば，人間の知能は不要のものとなってしまう。

ヴィンジが取り上げたシンギュラリティーの概念に，レイ・カーツワイルが，コンピュータのパワーとスピードが指数関数的に上がっていくという劇的な意味をつけ加えた。それによって議論全体が大きく加速し，迫り来る壊滅的な危険によりはっきりと焦点を合わせられるようになったのだ。人間レベルの機械知能は，もし実現できたとしても 1 世紀以上先のことだと主張する人がいるが，コンピュータは指数関数的に進化していくのだから，そういう人には冷ややかな視線を向けるべきだ。（p. 170）

コンピュータは指数関数的に進化しているのに，それを扱う多くの人間の知能は指数関数的には進化していない。コンピュータの指数関数的な進化についていくことができれば，時代を勝ち抜くことができる。