けいりう堂日記

_ [新聞を読んで] シンギュラリティー

技術的特異点に向かって世界はどんどんエクスポーネンシャルに加速している。これを脅威と見る一方で、松尾豊・東大准教授は言う

「AIは与えられた目的をいかに効率的に達成するかの手段にはなるが、AIが自ら目的を持つことはない」

だが、ならばヒトが自ら持つ目的とは？ヒトは自ら目的を持って行動しているのだろうか？俺はここに強い懐疑を抱いている。たぶん俺が俺自身の生きている目的を見失って揺らいだ存在となっているためだろう。いや、そもそも目的なんてなかった。生まれてしまった以上生活していくことしか選べない、というだけのことだった。それなのに、生きていること、生きて行くということの大元には生命の誕生から始まっていろいろと稀有な現象の奇跡的な複合作用があるものだから、そこには何か意味があるのだろうという幻想が俺たちの頭には染みついている。稲妻のような驚異の自然現象が神格化されるのと同様に。そんな幻影が自己言及的な予言の実現によって俺たちを生かしている。それは目的なのか？突き詰めると、「すでに生きてしまっているから生きることを目的にする」、ということだけが俺にとっては目的として確実なことと思えるだけで、どう生きるかということは目的ではなく考え方や好みの問題だ。
　松尾先生はもしかしたら衝動的に行動を起こしたことのない人なのかもしれない。彼は人の行動はジーンやミームに支配されているという説を顧みることはないのだろう。「ジーンやミームのために生きる」ことは確かに目的と言えるのだが、それは松尾先生の言う”自ら持つ目的”であるようには俺にはどうしても思えないのだ。遺伝子の存続のために生きる。それは、行動基準を生成するプログラムに書き込まれた評価関数と同じに思える。手段が目的化することは良くあるが、それはやはり本来的な目的ではないのだ。
　また、人の行動は必ずしも合目的的ではない。感情や衝動と関連する内分泌が支配する行動も多くある。ちょっと近くを見まわしてみるといい。松尾先生の周りにはそんな人間はいないのかもしれないが、俺の周りには俺も含めてそんな人間ばかりだ。ただ内分泌物に支配された行動であるというのにヒトはあたかもそれが自分の意志で行われたことのように思い、良い結果を生めば自分の決断は正しいと思い、悪い結果になれば何か別のもののせいではないかと転化先を必死で探したり、あるいは自らの行為を大いに悔やむこととなる。だが、随意に制御することの難しい内分泌の作用に対して責任をとることなど、じつはできないことなのではないのだろうか？そして、行動基準を生み出すための同様のメカニズムは、AIにおいても実現されるであろうことだ。それは内分泌とは異なるメカニズムであるかもしれないが。
　かくして、”ヒトの自ら持つ”と称する、行動の基準となる”目的”と同様のものは、強いAIもまた獲得することができる。その目的がヒトのそれと同じ方向を向いているとは限らないのだ。強いAIの発達はやはり脅威だ。いかに生き延びていくかに大いに工夫を凝らしていくしかない。