Masassiah Blog

Masassiah のブログです。主に読書で得た気づきをまとめています。

人工知能 人類最悪にして最後の発明

2021年8月6日作成

人工知能 人類最悪にして最後の発明』(ジェイムズ・バラット,ダイヤモンド社,2015年6月18日)を読了。

彼ら*1はみな,こう確信している。 未来,人々の生活を左右する重要な決定はすべて,機械か,機械によって知能を強化された人間の手で下されるようになると。それはいつのことなのか?多くの人は,自分が生きているうちにそのときは訪れると考えている。(p. iii)

データを機械が分析し,その結果をもとに重要な決定が下されることが始まっている。まだ,人々の生活を左右する重要な決定(新型コロナウィルスへの対応等)にまでは及んでいないかもしれないが。

18 世紀の数学者で聖職者のトーマス・ベイズにちなんで名づけられたベイズ統計学では,ある言明の確率を計算するうえでまず個人的な信念からスタートする。そして,その言明を裏づける,または否定する新たな証拠が得られたら,その信念を改めていく。(p. 133)

ベイズ統計学は,一度しっかり学んでおいた方がよさそうだ。

もっとも賢い人間のあらゆる知的活動をはるかに凌ぐことのできる機械を,超知能マシンと定義しよう。機械の設計はそのような知的活動の 1 つなので,超知能マシンはさらに優れた機械を設計することができる。そうして疑いようもなく「知能爆発」が起こり,人間の知能は大きく取り残される。したがって最初の超知能マシンは,人類が作るべき最後の発明品となる……。*2(p. 134)

超知能マシンが,さらなる超知能マシンを作るようになれば,人間の知能は不要のものとなってしまう。

ヴィンジが取り上げたシンギュラリティーの概念に,レイ・カーツワイルが,コンピュータのパワーとスピードが指数関数的に上がっていくという劇的な意味をつけ加えた。それによって議論全体が大きく加速し,迫り来る壊滅的な危険によりはっきりと焦点を合わせられるようになったのだ。人間レベルの機械知能は,もし実現できたとしても 1 世紀以上先のことだと主張する人がいるが,コンピュータは指数関数的に進化していくのだから,そういう人には冷ややかな視線を向けるべきだ。(p. 170)

コンピュータは指数関数的に進化しているのに,それを扱う多くの人間の知能は指数関数的には進化していない。コンピュータの指数関数的な進化についていくことができれば,時代を勝ち抜くことができる。

この時代を生きて過ごすのが何よりも重要であるのは,真に仰天するようなペースでテクノロジーが変化するのを目の当たりにできるからだけでなく,テクノロジーによって永遠に生きる道具が手に入るからでもある。「2 つとない(シンギュラーな)」時代の幕開けなのだ。(p. 175)

加速を続ける未来を想像することは難しい。あと十年,二十年経過したとき,世の中はどれだけ変わっているだろうか。

カーツワイルの見積りによると,2020 年頃には,人間の脳に匹敵する処理能力(知能ではない)を備えたノートパソコンが手に入るだろうという。(p. 185)

ノートパソコンが,人間の脳に匹敵する処理能力を得たのは,2020年よりもはるかに前だろう。

たとえば携帯電話は,2000 年頃のパソコンとほぼ同じ計算パワーを持っているし,1 ドルあたりのパワーは 1960 年代のメインフレームコンピュータの 10 億倍だ。(p. 254)

スマートフォンは計算能力だけでなく,ノインフレームコンピュータにない機能も多く兼ね備えている。

バラットの主張*3の骨子(p. 360)

条件:人間と同等の全般的な知能を持った AI が,自己を認識して自己進化する。

帰結:そのような AI は,人間の助けを借りずに自ら急激に進化して,人間の知能をはるかに上回る。そして自らの目的達成のために,必然的に人類を絶滅に追いやる。

ターミネータの世界観と同じように,人類を絶滅に追いやるのは,やはり AI なのだろうか。

*1:ロボティクス,インターネット検索,データマイニング音声認識や顔認識などへ応用するための人工知能を開発する科学者たち

*2:グッドによる1965年の論文『最初の超知能マシンに関する思索』より

*3:人類は AI に滅ぼされる